中共陕北特委遭到破坏后，白色恐怖愈演愈烈。“左”的工作方针，造成了血的教训。从此，陕北地区党团领导的革命活动完全由公开转入地下，工作的重点，也完全由城镇和学校转入农村。马文瑞在这种情况下，奉命离开三民二中，参加地方党团工作。从此，开始了他艰苦漫长的职业革命者的斗争生涯。

    1928年8月间，马文瑞担任了共青团绥德县西区区委书记。

    有一天，文瑞兴冲冲地来到绥德城，准备到团县委汇报请示工作。离开绥德半年多了，城里发生了很大变化。城门口布了岗哨，来往行人都要搜身检査。城墙上，也三步一岗、五步一哨。青天白日满地红的旗帜伴随着枪刺的寒光，格外刺眼。平日繁华热闹的街市，变得冷冷清清。许多店铺关闭了，有开业的，也只是胆颤心惊地开启一两扇铺板，刚能挤进一个人去。街上不时地就有全副武装巡逻的兵士列队走过。几十双皮鞋踏在石板街上，发出的声音，像警笛一样，令人不寒而栗。街上行人很少。连野狗都知趣地夹着尾巴躲在角落里，轻易不敢露头。整个绥德城就好像是井岳秀的一座兵营。不时地就见有人被五花大绑着从街上押过去。按照井岳秀的命令，绥德要在“清党剿共”中给全陕北做出样子。换句话说，就是要把共产党闹革命的策源地和中心区变成他井岳秀反革命的屠场。

    目睹这一切，文瑞心情很沉重。他躲躲闪闪，好不容易找到秘密接头的地点，却没见到要找的人。团县委机关也许已经转移了吧。他只得返回西区，暂时独立开展工作。

    绥德西区，包括苗家坪、周家检一带，是他熟悉的地方。农村中，有许多青年都认识他这个当年的高小学生领袖。在“黄云”肆虐的日子里，能回到故乡一带工作，他感到很亲切，也很欣慰。这一次，人们见到的马文瑞，外貌完全变成了另外一个人。他剃了光头，穿起农民的衣裤鞋袜，说话时也完全是一副受苦人的腔调。白天他悄悄躲在堡垒户的草窑或猫在山野庄稼地里同团支书们研究工作；夜里就在光棍汉或长工住的有一股子汗腥味的窑炕上召集团员开会。别人开完了会，都各自回家睡了，他还兴致勃勃，毫无倦意，便借着豆粒大的油灯光，读一阵子《共产党宣言》。

    这本薄薄的小册子，他不知读过多少遍。他觉得，在革命遭受挫折、斗争处于低潮的时候，读这本书，就像暗夜里走山路，眼前便亮起了一盏灯，心中便不孤独，总能产生一种巨大的自信力。

    就这样，他整天忙着一个村子接着一个村子地下去开展工作。令他烦恼的是，有些团员政治觉悟太低，有的人组织上入了团，思想上其实还是一个落后保守的农民。有时，他同他们开会谈心，说了老半天地主阶级如何剥削农民的道理，人家听着突然冒出一句话：“唉，受穷受苦，只怪咱命不好，不能怨人家财主。咱揭不开锅时，还得求告人家接济哩。”“这倒也是。”那位的论调竟然还有人附和。团区委书记听了，气得脸通红，一时也不知该怎么开导他们。还有的团员，敌人一来，干脆自首。对这样的人，文瑞按照团章办事，坚决主张把他们清除出团组织。这么开除了一些人后，西区团组织的人数当时看着少了，但成分纯洁了，后来又培养、吸收一些优秀青年农民入团……

    文瑞在没有上级组织的指导下坚持独立工作。较短时间内，绥德西区的团组织得到了巩固发展，引起了中共绥德县委的重视。

    一天，马文瑞来到中共绥德县委所在的李银家沟。他听说上级新派来一位很有学问的县委书记，叫白乐亭，公开身分是村平民小学的教书先生。

    白乐亭又名白明善，文瑞早就听说过他的丰富的革命经历。他是绥师首届毕业生。在校期间，就担任进步刊物《陕北青年》主编。1924年加入共青团，来年转为共产党员。

    他在绥德地区的木工、泥瓦工和其他手工业工人中搞过工人运动。后来去上海大学学习，一年后又被党组织派往广州黄埔军校工作。回陕后曾在冯玉祥部队搞过兵运，前不久参加了清涧暴动。白乐亭的到来，使马文瑞很受鼓舞。在独立开展工作的这一段日子里，他心中有许多话要向党组织讲。