Đầu năm 1925, đồng chí được kết nạp vào Thanh niên Cộng sản Đoàn do Nguyễn Ái Quốc sáng lập. Tháng 6/1925 ông tham gia thành lập Hội Việt Nam Cách mạng Thanh niên và cuối năm 1925 lập “Huệ quần thư điếm” tại Hải Phòng làm nơi liên lạc, tuyển chọn cán bộ sang Quảng Châu (Trung Quốc) huấn luyện. Tháng 3/1926, đồng chí gia nhập Đảng Cộng sản Trung Quốc, hoạt động tại Trung Quốc và Xiêm.
Từ năm 1927 đến 1929 ông nhiều lần bị bắt giam. Năm 1930, đồng chí tham gia chuẩn bị cho Hội nghị hợp nhất các tổ chức Cộng sản tại Hương Cảng do Nguyễn Ái Quốc chủ trì và là một trong những đảng viên lớp đầu của Đảng Cộng sản Việt Nam. Tháng 6/1931, đồng chí bị bắt tại Thượng Hải, giải về Việt Nam giam giữ tại nhiều nhà tù. Dù phải trải qua nhiều nhà lao của đế quốc, chịu cảnh tra tấn dã man nhưng đồng chí vẫn luôn giữ vững khí tiết của người cộng sản, biến nhà tù thành trường học cách mạng. Đồng chí đã trở thành nhà viết kịch, nhà văn, nhà thơ trong tù qua các tác phẩm thơ văn yêu nước và cách mạng.
Tháng 3/1945 đồng chí vượt ngục trở về Nghệ An tiếp tục hoạt động cách mạng. Tháng 8/1945, được điều động tham gia lãnh đạo phong trào cách mạng Trung Kỳ, góp phần vào thắng lợi của Cách mạng Tháng Tám năm 1945.
Sau đó, đồng chí giữ các chức vụ: Chính ủy Liên khu IV; từ cuối năm 1945 – 4/1947 là Giám đốc kiêm Chính ủy Trường Quân chính; từ 12/1946 – 12/1949 là Chủ tịch Ủy ban kháng chiến Khu IV, Ủy viên Thường vụ Liên khu ủy Khu IV.
Cuối năm 1949, đồng chí Hồ Tùng Mậu đến Tuyên Quang nhận nhiệm vụ Tổng Thanh tra Chính phủ theo Sắc lệnh số 138/SL, ngày 18/12/1949 của Chủ tịch Hồ Chí Minh. Trụ sở làm việc của Ban Thanh tra Chính phủ đặt tại Thác Dẫng, thôn Lập Binh, xã Bình Yên, huyện Sơn Dương, tỉnh Tuyên Quang (nay là xã Minh Thanh, tỉnh Tuyên Quang), giáp với nơi ở và làm việc của Văn phòng Chủ tịch Phủ - Thủ tướng phủ.
Do điều kiện kháng chiến Ban Thanh tra Chính phủ hoạt động như một cơ quan chung với Ban Kiểm tra Trung ương Đảng. Đồng chí Hồ Tùng Mậu là Tổng Thanh tra Chính phủ và một thư ký riêng, đồng chí Trần Đăng Ninh (Tổng Thanh tra phó) và các cán bộ khác của Ban Kiểm tra Trung ương Đảng vừa là Ủy viên hay phái viên Ban Kiểm tra Trung ương Đảng, vừa là Ủy viên hay phái viên Thanh tra Chính phủ. Dưới sự chỉ đạo trực tiếp của đồng chí Hồ Tùng Mậu, Ban Thanh tra Chính phủ đã cử nhiều đoàn công tác đến các địa bàn thuộc Liên khu Việt Bắc, Liên khu III, Liên khu IV.
Tháng 02/1950, dưới sự lãnh đạo trực tiếp của đồng chí Hồ Tùng Mậu, Ban Thanh tra Chính phủ đã thành lập đoàn thanh tra kiểm tra tình hình hoạt động mọi mặt ở khu căn cứ địa Việt Bắc. Đoàn đã kiểm tra, xem xét việc xây dựng, củng cố các tổ chức chính quyền, đoàn thể, quần chúng; việc chấp hành đường lối, chủ trương, chính sách của Đảng và Chính phủ; việc xây dựng hậu phương, tình hình sản xuất, dự trữ lương thực, thực phẩm; tình hình xây dựng lực lượng dân quân, du kích; công tác phòng gian, bảo mật... Đây là cuộc thanh tra đầu tiên và toàn diện của Ban Thanh tra Chính phủ. Sau hơn 02 tháng kiểm tra, Đoàn đã biểu dương tinh thần kháng chiến của đồng bào các dân tộc Việt Bắc, đồng thời nhắc nhở, góp nhiều ý kiến cụ thể với các cấp chính quyền về việc tăng cường, củng cố mối quan hệ quân dân, thực hiện tốt chính sách dân tộc...
Trong những năm 1949 - 1950, cùng với công tác thanh tra việc chấp hành đường lối, chủ trương, chính sách của Đảng và Nhà nước, Ban Thanh tra Chính phủ đã phối hợp với Ban Kiểm tra Trung ương và Ban Thanh tra các Bộ làm rõ, xử lý một số vụ tham ô lớn trong và ngoài quân đội, điển hình là vụ Trần Dụ Châu - Cục trưởng Cục Quân nhu và đồng phạm.
Từ ngày 11 đến ngày 19/02/1951, đồng chí Hồ Tùng Mậu dự Đại hội đại biểu toàn quốc lần thứ II của Đảng tại xã Vinh Quang (nay là xã Kim Bình), tỉnh Tuyên Quang, đồng chí được bầu là Ủy viên dự khuyết Ban Chấp hành Trung ương Đảng.
Sau Đại hội đại biểu toàn quốc lần thứ II của Đảng, đồng chí Hồ Tùng Mậu trở lại Ban Thanh tra Chính phủ tại thôn Lập Binh, xã Bình Yên, huyện Sơn Dương, tỉnh Tuyên Quang (nay là thôn Lập Binh, xã Minh Thanh, tỉnh Tuyên Quang) làm việc.
Trong thời gian ở và làm việc tại Tuyên Quang, đồng chí Hồ Tùng Mậu còn giữ chức vụ là Hội trưởng đầu tiên của Hội Việt - Hoa hữu nghị; đồng chí đã có nhiều đóng góp quan trọng phát triển quan hệ Việt - Trung, tạo điều kiện thuận lợi cho việc tranh thủ sự ủng hộ của cách mạng Trung Quốc đối với cuộc kháng chiến chống thực dân Pháp xâm lược của dân tộc ta.
Ngày 23/7/1951, trên đường công tác vào Liên khu IV, đồng chí Hồ Tùng Mậu hy sinh do bị máy bay thực dân Pháp ném bom tại thị trấn Còng (nay thuộc thị xã Nghi Sơn, tỉnh Thanh Hóa). Trong lễ truy điệu đồng chí Hồ Tùng Mậu, Chủ tịch Hồ Chí Minh đã viết Bài điếu văn tỏ lòng thương tiếc đối với đồng chí Hồ Tùng Mậu, trong bài điếu có đoạn “Tôi với chú là đồng chí, lại là thân thiết hơn anh em ruột. Khi hoạt động ở đất khách quê người, khi bị giam ở lao tù đế quốc, khi đấu tranh ở nước nhà, hơn 25 năm, đã bao phen chúng ta đồng cam cộng khổ, như tay với chân” . “Toàn thể đồng sự và đồng chí sẽ cố gắng noi gương đạo đức cách mạng của chú, noi gương chú đã tận trung với nước, tận hiếu với dân”.
Ngày 18 tháng 01 năm 2008, đồng chí Hồ Tùng Mậu được truy tặng Huân chương Sao Vàng, Huân chương cao quý nhất của Nhà nước Việt Nam. Với 55 tuổi đời (1896 - 1951), đồng chí có 31 năm hoạt động cách mạng (1920 - 1951), trong đó hơn 14 năm bị giam cầm, đày ải trong các nhà lao đế quốc, 5 lần bị địch bắt, 2 lần bị kết án tử hình. Dù trong hoàn cảnh nào, đồng chí cũng luôn hoàn thành xuất sắc nhiệm vụ, không màng danh lợi, sẵn sàng hy sinh vì sự nghiệp cách mạng.
Cuộc đời và sự nghiệp của đồng chí Hồ Tùng Mậu là tấm gương sáng về lòng trung thành tuyệt đối với Đảng, tinh thần kiên cường, đức hy sinh và sự tận tụy phục vụ nhân dân. Công lao của đồng chí Hồ Tùng Mậu với sự nghiệp cách mạng của Đảng, của dân tộc, sẽ luôn được khắc ghi và trường tồn cùng non sông, đất nước.


