Sau khi trốn khỏi nhà ngục, danh sĩ Cao Bá Quát tự xưng là Quốc sư, suy tôn một người tôn thất nhà Lê là Lê Duy Cự làm Minh chủ, cùng với thổ mục Sơn Tây là Đinh Công Mỹ, Bạch Công Trấn kêu gọi dân chúng nổi dậy chống lại triều đình. Quân khởi nghĩa tụ họp ở khu vực các tỉnh Hà Nội, Sơn Tây để quấy rối, đốt cháy liên tiếp phủ lỵ Ứng Hòa và huyện lỵ Thanh Oai, tràn qua đánh phá huyện Yên Sơn thuộc phủ Quốc Oai, tỉnh Sơn Tây, bắt giết quan lại và cường hào. Tổng đốc Sơn - Hưng - Tuyên là Nguyễn Bá Nghi phái quân đi đánh. Quân khởi nghĩa tạm rút sang phủ Vĩnh Tường, đốt phá huyện thành Tam Dương. Sau đó, Cao Bá Quát đưa quân tiến sang huyện Mỹ Lương, liên kết với Suất đội cơ Sơn Dũng là Bạch Công Trấn, làm cho thanh thế của nghĩa quân ngày càng vang dội. Tổng đốc Nguyễn Bá Nghi phải xin triều đình điều động thêm binh lính đàn áp. Vua Tự Đức cho phái 500 quân ở Thanh Hóa đến đóng giữ tại Sơn Tây, đồng thời treo thưởng 500 lạng bạc cho ai bắt sống được Cao Bá Quát, 300 lạng bạc nếu giết được Cao Bá Quát.

Tháng Chạp năm Giáp Dần (18-01 đến 16-02-1855), dưới chân núi Hoàng Xá ở địa phận thôn Hoàng Xá (nay thuộc thị trấn Quốc Oai, huyện Quốc Oai), Cao Bá Quát (1806-1854) chỉ huy quân khởi nghĩa chiến đấu với quân nhà Nguyễn do Lãnh binh Sơn Tây là Lê Thuận chỉ huy. Cao Bá Quát bị thương nặng, chết tại trận. Cuộc khởi nghĩa thất bại.

                                                                                                                       Lê Ngân