Khi nhận trách nhiệm đánh dẹp các toán phản loạn tại Bắc Kỳ, giữa ông và Hoàng Kế Viêm có sự bất đồng về chiến thuật nhưng ông không được vua Tự Đức ủng hộ. Năm Đinh Sửu (1877) ông cáo quan về nghỉ tại quê nhà. Đến tháng 4 năm Tân Tị (1881), vua Tự Đức cho vời ông về kinh và đến đầu năm Nhâm Ngọ (1882) được bổ giữ chức Thượng thư bộ Binh.



Trước khi băng hà, vua Tự Đức đã lập di chiếu giao trách nhiệm cho ông làm phụ chính đại thần cùng với Trần Tiễn Thành, Nguyễn Văn Tường phò giúp vua mới. Trong thời điểm lúc đó, thực dân Pháp đang ngày càng mở rộng hoạt động đánh chiếm Bắc Việt và có dã tâm đánh vào kinh đô Huế.
Nội bộ triều đình Huế chia làm 2 phe tranh cãi gay gắt, Tôn Thất Thuyết thuộc phe chủ chiến. Với vai trò của mình, ông âm thầm chuẩn bị lực lượng, cho đắp đồn lũy ở cửa Thuận An để đối phó với các âm mưu hoạt động của thực dân Pháp.
Sau khi vua Tự Đức mất, Tôn Thất Thuyết cùng phụ chính Nguyễn Văn Tường phế lập các vua Dục Đức, HiệpHòa, Kiến Phúc và thanh trừng phe chủ hòa. Đến tháng 8.1884 ông cùng triều đình đưa Ưng Lịch lên ngôi lấy hiệu là Hàm Nghi.
Thực dân Pháp không công nhận vua mới, dọa dùng vũ lực can thiệp và tìm cách loại trừ ông. Biết không thể nhượng bộ hơn được nữa, đêm 22 rạng 23 tháng 5 năm Ất Dậu (04.7.1885) Tôn Thất Thuyết cho quân nổ súng tấn công quân Pháp ở đồn Mang Cá và tòa Khâm sứ.
Do chênh lệch lực lượng nên cuộc tấn công thất bại, ông cùng hai con là Tôn Thất Đạm và Tôn Thất Thiệp phò vua Hàm Nghi ra căn cứ Tân Sở (Quảng Bình). Tại đây, ông thay mặt vua Hàm Nghi xuống chiếu Cần Vương kêu gọi nhân dân cả nước đứng lên đánh Pháp.
Được ít lâu, khi đến châu Quy Hợp (Tuyên Hóa -Quảng Bình) ông thấy lực lượng ta yếu nên muốn ra Bắc bàn bạc phối hợp hoạt động với các phong trào yêu nước và tìm đường sang Trung Quốc nhờ sự giúp đỡ của nhà Thanh. Trước khi đi, ông giao cho hai con của mình cùng với Đề đốc Lê Trực, Nguyễn Phạm Tuân bảo vệ nhà vua.
Tôn Thất Đạm, con trai trưởng của Tôn Thất Thuyết trở thành người trực tiếp chỉ huy phong trào Cần Vương. Sau đó với cương vị là Khâm sai tán lý quân vụ, ông giao nhiệm vụ bảo vệ vua Hàm Nghi cho em trai là Tôn Thất Thiệp, còn bản thân mình đem một toán quân đóng giữ ở vùng Hà Tĩnh để liên lạc và phối hợp hoạt động với phong trào chống Pháp của Phan Đình Phùng.
Tháng 3 năm 1886 Tôn Thất Thuyết tới Thanh Hóa để gặp gỡ các lãnh tụ Cần Vương. Ông dừng chân ở Cẩm Thủy, bàn bạc với Trần Xuân Soạn lên kế hoạch phát triển phong trào, sau đó đến tổng Trình Vạn thống nhất hành động với Cầm Bá Thước và ở lại đó cho đến ngày 22.4.1886, rồi tìm đường ra Bắc.
Trước khi rời Thanh Hóa, Tôn Thất Thuyết có làm bài thơ gửi Cầm Bá Thước với nội dung rất cảm động:
Vạn lí cao thu Mục mã binh/ Thuận lưu bất hạ tiểu chu khinh.
Thanh sơn lục thủy tương nghịch xứ/ Đại hải trường giang vọng viễn tình.
Bách tính cần vương nhân tự chấn/ Nhất ngu báo quốc khánh do hành.
Thử du nhược đắc thiên tâm trợ/ Qui khứ Nam xa triệt hảo trình.
Nghĩa là:
Mục mã thu cao vạn dặm đường/ Thuyền con chở nhà khói xuôi dòng.
Non sông nước biếc nơi hò hẹn/ Bể rộng sông dài nỗi ước mong!
Trăm họ vì vua còn cố gắng/ Một mình báo nước vẫn long đong.
Phen này ví được lòng trời giúp/ Trở gót về Nam lối hẳn thông.
Vất vả, gian khó lắm Tôn Thất Thuyết mới đến được phương Bắc nhưng triều Mãn Thanh lúc này cũng không có sức để bảo vệ chính mình và cũng đã ký hòa ước với Pháp nên việc cầu viện của Tôn Thất Thuyết thất bại.
Không thể về nước được, ông đành nương náu tại một ngôi nhà nhỏ trên ngọn đồi Long Châu (Quảng Đông, Trung Quốc). Từ khi nghe tin, vào đêm 01.11.1888 tên phản bội Trương Quang Ngọc đưa quân Pháp và dẫn thuộc hạ đến bắt vua Hàm Nghi, giết chết Tôn Thất Thiệp, còn con trai cả Tôn Thất Đạm thì tự sát để tuẫn tiết tỏ ý trung với vua nên Tôn Thất Thuyết rất đau buồn nhưng vẫn không nản chí.
Tôn Thất Thuyết cùng Nguyễn Thiện Thuật và các đồng sự của ông tổ chức liên lạc với các phong trào chống Pháp trong nước; quyên góp tiền bạc mua sắm vũ khí, đạn dược chuyển về cho nghĩa quân. Thậm chí ông còn tổ chức nhiều toán vũ trang hoạt động chống Pháp từ năm 1891 – 1895 ở vùng Đông Triều, Hoành Mô (Móng Cái).
Sau cuộc tấn công vào Cao Bằng do lực lượng của Tôn Thất Thuyết tiến hành tháng 3 năm 1895, thực dân Pháp yêu cầu chính quyền Mãn Thanh quản thúc ông, cấm không được ra khỏi nơi cư trú. Từ đó ngày ngày Tôn Thất Thuyết lên núi, vào vườn nhà vung gươm chém đá để trút nỗi phẫn uất, vì vậy người dân địa phương gọi ông là Trảm thạch hầu (ông quan chém đá) hoặc Đả thạch lão (ông già đánh đá).
Tôn Thất Thuyết sống trong uất hận buồn khổ như thế và qua đời tại Long Châu vào ngày 22.9.1913. Những nhân sĩ Trung Hoa cảm phục nghĩa khí của ông đã đến phúng điếu rất đông, họ có câu đối viếng như sau:
Thù nhung bất cộng đái thiên, vạn cổ phương danh lưu Tượng Quận
Hộ giá biệt tầm tĩnh địa, bách niên tàn cốt ký Long Châu.
Nghĩa là:
Thù Tây không đội trời chung, muôn thuở danh thơm lưu đất Việt.
Giúp vua riêng tìm cõi thác, trăm năm cốt rụi gởi Long Châu.
Ở trong nước, do ông bị coi là “giặc” nên khi Đồng Khánh lên ngôi đã gạch tên Tôn Thất Thuyết khỏi sổ Nguyễn Phước tộc và tịch biên mọi gia sản. Đến năm 1930 tên ông mới được đưa lại vào trong phổ hệ và bài vị của ông được đưa vào thờ ở Phủ Ông Tướng tại thôn Vân Thê, xã Thủy Thanh, huyện Hương Thủy cách thành phố Huế 7 km về phía Đông Nam.
Thực ra đây không phải là phủ thờ riêng của Tôn Thất Thuyết mà là phủ thờ Nguyễn Phúc Hiệp (còn có tên khác là Phúc Thuần) cùng hệ phái. Nguyễn Phúc Hiệp, một danh tướng thời phân tranh Trịnh Nguyễn và là con thứ 4 của chúa Nguyễn Phúc Tần. Nếu tính từ Nguyễn Phúc Hiệp là đời thứ nhất thì đến Tôn Thất Thuyết là đời thứ 6.
Ngày 15.10.1994 Bộ VHTT ra quyết định số 2754 QĐ/BT công nhận Phủ Ông Tướng là di tích lịch sử và ngày 14.12.1994 chính quyền, nhân dân xã Thủy Thanh và con cháu Nguyễn Phước tộc đã tổ chức lễ đón nhận bằng di tích này.

Chuyển thể từ: Chuyện ông quan phẫn uất, lên núi... chém đá