土地革命時(shí)期，全國只有陜北革命根據(jù)地的創(chuàng)建是從下到上，先建立各級(jí)黨團(tuán)及群眾組織，在此基礎(chǔ)上創(chuàng)建紅軍游擊隊(duì)，建立根據(jù)地，最后成立正規(guī)紅軍。先建立村、鄉(xiāng)、區(qū)、縣各級(jí)蘇維埃政權(quán)，最后成立陜北省蘇維埃政府。馬文瑞在里面做出了重要的貢獻(xiàn)。

1927年7月，陜北軍閥井岳秀追隨蔣介石開始“清共”，馬文瑞被迫從綏德四師回到周家崄高小，在他和共產(chǎn)黨員劉景向的秘密活動(dòng)下，周家崄高小的黨、團(tuán)組織非但沒有解散、癱瘓，而且發(fā)展了一批黨、團(tuán)員，力量反而加強(qiáng)了。1928年“中秋節(jié)事件”，陜北特委機(jī)關(guān)被敵人發(fā)現(xiàn)并占領(lǐng)，馬文瑞只身闖龍?zhí)痘⒀ǎ踩D(zhuǎn)移特委文件，避免了遭受更大的損失。

1928年8月，他擔(dān)任共青團(tuán)綏德縣西區(qū)區(qū)委書記，把那些政治覺悟太低、喪失對(duì)敵斗爭信心的團(tuán)員清理出去，培養(yǎng)、吸收了一批優(yōu)秀青年農(nóng)民加入組織。在沒有上級(jí)組織領(lǐng)導(dǎo)的情況下，把綏德西區(qū)的團(tuán)組織鞏固和發(fā)展起來，引起中共綏德縣委書記白明善的重視。同年轉(zhuǎn)黨，任綏德縣委常委兼共青團(tuán)縣委書記，綏德農(nóng)村的黨、團(tuán)組織得到健全和較大發(fā)展，團(tuán)員達(dá)三四百人，在校學(xué)生里還有一批少先隊(duì)員和兒童團(tuán)。他還到綏德西川一帶的石匠、窮苦鹽工和炭工中訪貧問苦，秘密發(fā)展黨、團(tuán)員，成立了黨、團(tuán)組織和千余煤炭工和鹽工參加的手工業(yè)聯(lián)合會(huì)，陜北開始有了工人出身的黨、團(tuán)員。

1930年秋，任中共安定縣北區(qū)“行動(dòng)委員會(huì)主任”的馬文瑞，消極抵制立三“左傾”盲動(dòng)錯(cuò)誤，扎扎實(shí)實(shí)地在農(nóng)村開展積蓄革命力量的基礎(chǔ)工作。在立三“左傾”錯(cuò)誤給各地黨、團(tuán)組織和骨干分子帶來嚴(yán)重?fù)p失和站不住腳的情況下，安定北區(qū)的黨、團(tuán)組織和各外圍組織卻完好無損。

1931年初，糾正立三左傾錯(cuò)誤，馬文瑞任陜北特委委員兼安定縣委書記。同年秋，馬文瑞任團(tuán)特委書記，暫留安定繼續(xù)擔(dān)任縣委書記。他清除了一些政治上不堅(jiān)定，甚至動(dòng)搖變節(jié)分子。同時(shí)秘密發(fā)展組織，爭取群眾。到年底，全縣除南區(qū)蟠龍一帶因靠近瓦窯堡敵占中心沒有黨、團(tuán)組織外，其余4個(gè)區(qū)委和12個(gè)黨支部，都有新的發(fā)展和提高，黨、團(tuán)員達(dá)120多名。

1932年初，他回到特委，被任命為特委的南路特派員，負(fù)責(zé)清澗、延川、安定、延長、延安等地黨的工作，巡視了清澗、安定、橫山、榆林、葭縣、吳堡等地。由于立三主義錯(cuò)誤的危害，陜北各縣黨組織都受到不同程度的破壞，延長、延安兩縣黨組織遭敵人破壞后，同特委完全失去了聯(lián)系。他艱苦奔波，先后與延長、延川、綏德等縣的黨、團(tuán)組織聯(lián)絡(luò)上，恢復(fù)了關(guān)系。到特委工作以后，他除了繼續(xù)做部分巡視工作外，更多的是協(xié)助特委代書記馬明方主持陜北特委的日常工作。經(jīng)過他和眾多革命中堅(jiān)分子艱苦卓絕的工作，黨的組織經(jīng)過一段停滯狀態(tài)，又逐漸開始恢復(fù)與發(fā)展，23個(gè)縣中，21個(gè)有了黨、團(tuán)組織，延安北部各縣黨的組織穩(wěn)步發(fā)展，有支部81個(gè)，黨員765人，貧雇農(nóng)黨員占到黨員總數(shù)的80%以上，革命活動(dòng)迅速在農(nóng)村深入發(fā)展。