１９１６年，袁世凱洪憲稱帝，云南蔡鍔首先討袁，繼有廣東、貴州、廣西等省先后響應，袁世凱被迫取消帝制，但仍留戀總統(tǒng)之職。孫中山先生號召全國軍民一致討袁，陳其美在上海積極行動，遭袁世凱之恨，收買兇手暗殺陳于上海租界寓所，于右任深為悲痛，曾作哭陳其美絕句。陳被害后，更激起全國人民的討袁浪潮，在四面楚歌之中，袁于６月６日喪命。但北洋勢力仍布滿全國。孫中山在上海與于右任籌商大計，于鑒于當時時局的迫切，推翻北洋軍閥為刻不容緩之大計。他向孫中山建議，先從北方著手，突破北洋勢力的核心，南北夾攻，以響應西南討逆義師。孫中山對其計劃表示贊同。于右任主動請纓，冒險入北京，轉赴鄭州、開封、洛陽等地，聯(lián)系志士，籌組陜西靖國軍。然后深入西安，秘密邀集革命同志及民軍領袖。他與胡景翼、張鈁、井勿幕等頻頻籌商，密謀舉義。當時陜西督軍陳樹藩，其雖曾一度反袁，參加護國軍，但陳是段祺瑞的學生，因此袁世凱一死，他又復為段的一員大將了。所以，于右任的西安之行，處境非常危險，所負的任務當然沒有如意地達到，但為來日陜西靖國軍的發(fā)展奠定了良好的基礎。當于右任再返回上海時，時局越變越壞。５月２９日，北洋系的督軍團叛變。６月１２日，黎元洪被迫下令解散國會。７月１日，張勛復辟，段祺瑞乘機東山再起，擊敗了張勛的辮子軍，馮國璋入京代理總統(tǒng)。北方一片大亂，國會議員紛紛南下。８月３１日，在廣州舉行非常會議。９月１日，選舉孫中山為中華民國軍政府海陸軍大元帥，孫中山開府廣州，護法戰(zhàn)爭揭開序幕。此時于右任入陜之行播下的革命種子，已經生根發(fā)芽，開花結果。１９１８年１月，胡景翼、曹世英等人在三原成立靖國軍，準備反抗依附于北洋軍閥的陜西督軍陳樹藩，并邀請于右任回陜。于右任頗為振奮，他即日登程，日夜兼程趕赴洛陽后，為確保安全起見，他化裝為傳教士，渡過黃河，借道山西，繞經陜北宜川、洛川、延長、延安、宜君、耀縣，整整走了２０天才到達三原靖國軍總部。到達總部后要做的第一件事就是如何把各靖國軍部隊團結起來，排除分歧，克服松散，消除猜忌，為此他不畏長途跋涉的疲勞，親赴各部隊慰問各軍將領和官兵，宣講孫中山團結一致，共同對敵的革命精神。在他的號召下，各部隊相繼來投，使陜西靖國軍的勢力在數(shù)日之間劇增。８月，他在各軍將領一致?lián)碜o下，正式就任陜西靖國軍總司令。在就職典禮上，他發(fā)表了簡短有力的演講，說，本人以革命黨人的身份，為救國家，救桑梓，和諸位同志共生死，同甘苦而來，并不是為了權力名位。本人帶給諸位同志的，不是金錢，并非械彈，而是一腔熱誠，和中山先生的革命精神。這種革命精神是革命黨人的無價瑰寶，一切都不足與比擬。只要大家確切認識，篤實踐履，那么，我深信革命必成，強權必敗，區(qū)區(qū)陜亂，不難一舉敉平！于右任力統(tǒng)陜西革命軍事力量后，又著手建立一個有權威性的總司令部，他請張鈁擔任副總司令，請英勇善戰(zhàn)的胡景翼擔任作戰(zhàn)總指揮。為了加強領導，他還在總司令部下設了參謀、秘書、軍務、軍需、軍法、副官、財政、教育８個處，并將全軍分為７路，每路各設司令一名。他任命郭堅為第一路司令，下轄１０個支隊，共５千余人，分駐陜西西部的岐山、鳳翔、扶風、武功、興平、干縣。司令部駐扎在鳳翔，掌握川陜交通咽喉，防堵甘肅、青海方面的敵軍來犯。他任命樊鐘秀為第二路司令，下轄２個支隊，共３千余人，大都是黃龍山區(qū)屯墾的河南民軍，驍勇善戰(zhàn)。于右任命令他們扼守陜中最富庶的周至、戶縣一帶，進攻時為直取省城西安的左翼，即使按兵不動，也叫陳樹藩寢食難安。他任命曹世英為第三路司令，下轄３個支隊，共３千余人，駐渭北高陵、淳化、交口、櫟陽等地，力扼關中通往陜北的要道，切斷西安與渭北大平原的聯(lián)絡。他任命胡景翼為第四路司令，下轄８個支隊，共６千人。于右任以這支最大的兵力居中策應，分布在陜西省的心臟地帶，整個遮斷西安和陜北的聯(lián)系。他任命高峻為第五路司令，下轄４個支隊、共２千余人，駐防陜西東北部的白水、澄城、鄰陽、韓城，把守陜東門戶。他任命盧占魁為第六路司令，下轄２個支隊，共３千人，駐三原、雨金鎮(zhèn)等地，于右任把這一路用作機動部隊，隨時可以支援四方。不久，他又任命王玨為第七路司令，下轄３個支隊，共約２千人，駐扎在乾縣一帶。于右任只身入陜，在他崇高威望的召喚下，各路民軍紛紛崛起，競相投效，他在短短的兩個多月中，把這支龐雜而又互相不服氣的部隊組織起來，又安排得妥妥當當，使千軍萬馬為之佩服，七路人馬匯集關中，總兵力超過３萬以上，占領全陜１４個縣，不僅超過陳樹藩、劉鎮(zhèn)華所部的總兵力，是陜西辛亥革命以來革命力量之盛。一介書生，叱咤風云，驟然造成了這么大的聲勢，實為當時很了不起的一個奇跡。因此，孫中山異常高興，乃委任于右任為陜西督軍，命令他逐走陳樹藩、劉鎮(zhèn)華部，攻占全陜西。

但是，由于非常國會被政學系所利用，改組軍政府，實行七總裁制，孫中山雖為七總裁之一，但已辭卸大元帥之職，離開廣州經臺北、日本赴上海。不過孫中山在離開廣州之前，曾經電令滇軍總司令唐繼堯，黔軍總司令王文華，川軍石青田、呂超、黃復生，鄂軍總司令黎天才，令他們合組四省靖國聯(lián)軍，十路援陜。后因廣州局勢變化，各路大軍紛紛折回，使于右任的陜西靖國軍成了一支孤軍。雖然時局對于右任極為不利，但他率領孤軍奮戰(zhàn)，愈戰(zhàn)愈勇。曾一度攻克西安，把陳樹藩、劉鎮(zhèn)華部逼到了渭南數(shù)縣，與之相峙。１９１８年，南北和議開會。１９１９年，許蘭洲領軍入陜，對于右任更為不利，但于不畏強敵，堅持戰(zhàn)斗。在漸感不支時，曾發(fā)函發(fā)電孫中山求援，于在孫中山也無力能支援下，在此期間又連遭不測。胡景翼中陳樹藩之計被俘，于任命井勿幕繼任前敵總指揮，不久井被陳樹藩的部將誘殺。加之北洋各軍也不斷向于右任各部發(fā)起進攻。于右任在極艱苦的條件下，仍堅持與北洋軍苦斗。不久，北洋內訌，直皖戰(zhàn)起，結果是直勝皖敗，段祺瑞下野，曹錕、吳佩孚建立了大權在握的直系中央。吳佩孚開府洛陽，整軍經武，對于近在肘腑的陜西，自屬亟于兼并。

１９２１年春，吳佩孚派二十師師長閻相文率軍大舉侵陜。陳樹藩不服，與閻相文開戰(zhàn)，至７月７日陳被擊敗。８月２３日，馮玉祥又取代了閻相文為陜西督軍。當時馮想收編于右任的靖國軍。如是馮派代表勸說于，代表到達三原后，謁見于右任，但被于方面拒絕。同年９月２１日，胡景翼在三原召開所謂的國民大會，決定取消陜西靖國軍名義，接受直軍改編，并且推舉于右任為陜西自治籌備會會長。于右任明知局勢已無法挽回，唯有付之一笑，對胡景翼等的叩詢意見不置一詞。于右任本人并不愿意接受直軍的改編，更不愿當什么籌備會會長，于是離開了靖國這總司令辦公處。

１９２２年，于右任在武功重新部署，將所部分為三路，他任命李奪為第一路司令，楊虎城為第三路司令。于命楊虎城率部直撲直軍，馮玉祥以十倍的兵力來了一個包圍，楊虎城死戰(zhàn)不退，苦戰(zhàn)半月，于右任親率炮兵增援，誰料到他所派的另一支援軍麻振武輕敵中伏，叛降馮玉祥。４月初楊虎城彈盡糧絕，下令撤防，退到陜北。于右任還想跟直軍作最后的決戰(zhàn)。他由一小支騎兵護衛(wèi)，走岐山，到鳳翔。然而，鳳翔兵力單薄，陳樹藩又已退入四川，再想發(fā)動一次攻擊都很為難，于右任只好在鳳翔城里困守。４月１９日，由于第一次直奉大戰(zhàn)即將爆發(fā)，吳佩孚命馮玉祥率部開往河南，第一次直奉戰(zhàn)爭，直勝奉敗，馮玉祥任河南督軍，陜西督軍即由劉鎮(zhèn)華繼任。而此時陜西境內的靖國軍，只剩下幾支零零星星的部隊。５月３１日，適逢端午佳節(jié)，李奪也投降了劉鎮(zhèn)華。于右任在鳳翔舉行了陜西靖國軍最后一次會議，決定翌日啟程離陜。于右任自１９１８年８月９日就任靖國軍總司令之職以來，率領靖國軍苦戰(zhàn)了３年９個月，獨撐危局，以一隅之地，擋住了北洋軍６省勁旅的進攻，這是令人難以想象的偉大功績。更可貴的是，于在數(shù)年苦戰(zhàn)中，節(jié)約軍費，創(chuàng)辦學校，如渭北中學、渭北師范、三原中學、民治中學、地方自治講習所等都是他一手創(chuàng)辦的。１９２０年，他還延攬我國水利大師李儀祉，創(chuàng)立渭北水利委員會，開筑關中八渠，灌溉萬頃良田，造福桑梓，得到了陜西民眾的衷心擁護和愛戴。