有人給黎元洪進言，何不把國會議員們召喚到天津，議員人數超過法定人數，在天津組織政府就合法了。
黎元洪覺得有道理，于是向銀行抵借十二萬元，用自己的私款在天津成立“國會議員招待所”。只是，沒等議員達到半數，這筆錢很快就用光。黎元洪以“旅費”的名義，給每個議員五百元。有些議員就是為這五百元來的。見黎元洪沒多大油水，從天津的又返回北京了。
即便是這樣，黎元洪仍我行我素，在天津照樣以總統身份，經常有公函送給外交使團的領袖葡萄牙公使符禮德。符禮德開始還把他的公函當回事，隨時照譯照轉。后來見黎的文件越來越多，符禮德不耐煩了，便在外交使團的聯席會議上聲明，黎的文件沒有照轉必要，以后都不轉發了。
在天津的直隸省長王承斌，本就是曹錕的近臣，黎元洪在天津處處受困于他。
正當黎在天津四處碰壁，一籌莫展之際，六月十七日，收到好友章太炎的信，力勸他到上海另圖發展。
信中有言：“公果愿成事者，當與段氏（段祺瑞）切實攜手，外借奉天之力，遠借西南之聲，持之數旬，必當有濟?！?
黎元洪聽了章的話，發布了一道命令：任命段琪瑞為討逆軍總司令兼第一路司令，張作霖為第二路司令，盧永祥為第三路司令，并以自己的同鄉親信陳宦為參謀長。
段祺瑞對黎元洪仍耿耿于懷，見到命令，冷言冷語地說：“討逆我不會自己討，要你姓黎的給我命令？真是笑話?！?
知道了段的態度后，黎不死心，又改任張作霖為討逆軍總司令，閻錫山和盧永祥為副司令。但是張、閻、盧都表現得很冷淡。
再一次受挫后，黎元洪又收到了章太炎六月十七日的信，仍然勸他南下。
信云：“密書已達，數日籌商，仍請我公速成到滬。一、國會議員誓如魂魄，公譬如軀干，有魂魄無軀干，失所憑依，終于散盡。此不能不來者一。二、三百議員到滬，未能過半，非公自來不可。不然，議決之案，無人執行，彼亦無味，非仍被賊人誘去，必則別圖建設以招紊亂。此不能不來者二。三、外人仍認公為總統，則滬可截留關余、鹽余。即不能截留，亦可使之掯住不發，以絕賊人命脈。公若不來，他人無此力量也，此不能不來者三。四、各派對公，容有同異，然商人最信公，不來則歡忱不接。此不能不來者四。以上四因，皆最切要言，來時有元首之資格，而不必具元首之威儀則更善。”
一九二三年八月八日，在滬國會議員劉楚湘等二百八十人，發表了歡迎黎元洪南下的通電。
內言：“公宜早日南下，身先同人，成立政府，號召中外，使外而友邦，內而國人，知正統之所歸，正義之所在，即使各方面意見未趨于一致，而公亦當紆尊降貴，與之周旋，只要為國伸正義，不妨己身受勞怨?！?
黎元洪此前已經派親信金永炎去了次上海，和各路“神仙”有過接觸。金回來說：“盧（盧永祥）未切實歡迎，孫派意見未融”，因此，是否南下，黎還在猶豫。
這時，段祺瑞派親信李思浩等人也來極力動員黎南下，表示段會盡力給予支持?？磥矶我蚕虢枥柙榈牧?，報直系的一箭之仇。
黎元洪終于下決心南下了。
為了安全，一九二三年九月八日，經友人安排，黎元洪秘密搭乘日輪長府丸，偕李根源、陳宦、莊景珂和兩名日本醫生二人踏上行程。于九月十一日抵滬，下榻法租界杜美路二十六號。
當晚即在寓邸邀請唐紹儀、章太炎、李根源、褚輔成、章士釗、陳宦、饒漢祥、鄭萬瞻、焦易堂等進行一番密商。
隨后發出一道通電：“元洪忝受國民付托，待罪公仆，德薄能鮮，致有六月十三日之禍。惟念紀綱不可不立，責任不可不盡，業于九月十一日到滬，勉從國人之后，力圖靖獻，謹此奉聞。”
又有致廣州孫電云：“（上半段與前電同）……我公昔在清季，與元洪共開草昧，休戚與共，惟望共伸正義，解決時局，海天南望，佇候教言?！?
九月十二日，黎元洪在寓所招待新聞記者，發表書面談話如下：
“余在國會未曾有正當解釋任期之前，總統地位，當然存在。余在京因不能自由行使職權而移津，然天津依然為暴力所包圍，乃不得不轉而至滬。上海為輿論中心，政治策源地，故余來深欲征取各方意旨，并將中心所懷，報告于眾，使各方公判，而求妥善解決之道。連年兵禍，國民已創深痛鉅，余素主和平，尋求國是之解決，雅不欲訴諸武力。余對于總統之位，毫無戀棧之意，亦無作下屆總統之野心，惟進退授受，當遵法定手續。
“今法紀蕩然，長此混亂，國何以立？余故不憚跋涉而來滬，求各派人士之合作，以維法律而整綱紀。故余南來之宗旨，一言以蔽之曰：維持法律，整飭紀綱而已。至現在北京之攝閣，毫無法律根據，今合法內閣之總理為唐紹儀，仍有施行政事之權力，滬上之國會，為主張正義而來，彼開會時，余當出席報告，請其維持法紀而固國本。余之行動一遵民意，而以法律為根據，如有能整飭紀綱，維持法律者，余即當按法定手續以政權相授，決不遲疑戀棧也。”
中外各報對黎元洪的南下和他的談話，反應并不熱烈，都沒有成為一件大新聞。這和黎及其身邊人的期望大打折扣。
黎元洪被直系捧上總統位子，并沒有得到奉系、皖系以及國民黨和西南方面的同意，除盧永祥外，其他人當時雖然沒有明確態度，實際上都是反對黎上臺的。特別是南邊，因黎的上位而恢復法統，使其護法失去合法性，可見所謂護法也多半是豎起的一面旗幟而已。
所以，黎元洪此番到滬來尋求各方支持，大家反映冷淡應該也是情理之中的事。
太炎先生看來也是把形勢估計得太過樂觀。
而黎這次到上海，好像也真不是時候，因為此間正盛傳江蘇的齊燮元將與浙江的盧永祥要發生軍事沖突。
江浙兩省對于戰爭的威脅極為敏感，兩省的士紳如張一麐、張謇等發起《江浙和平公約》，分別請蘇浙軍民當局和浙滬護軍使簽字，以資信守。
黎到上海時，這個和平公約剛好簽署，其中規定：“對于兩省境內保持和平，凡足以引起軍事行動之政治運動，雙方須避免之?！?
江浙人士認為黎元洪在上海組織政府，將使和平局勢受到破壞，張謇曾找到黎，力言江浙和平關系重大，希望不要輕舉妄動。言外之意是反對黎在上海活動。
九月十三日，黎在杜美路寓所召集各地應邀而來的代表，舉行全國性的會議。參加者有廣東代表汪兆銘、浙江代表鄧漢祥、奉天代表楊毓珣、云南代表陳維庚、貴州代表李雁賓、四川代表費行簡、趙鐵橋、湖南代表鐘才宏等人，段祺瑞的代表也有參加。
黎元洪是想協商籌組一個全國性的政府。
黎元洪以主席身份首先致詞，他說：“這次南下完全是自動，因為曹錕用金錢和武力攫取總統，眼看就要成功，如果大家坐視其上臺，必定惹起各省兵爭，破壞和平，流禍無已。故不若用拆臺方法，令其不能做總統，即可保全和平；今拆臺只得一半成功，故率然南下，希望和各方通力合作，貫徹拆臺宗旨。盼各方支持，拆臺既竣，建設之事，則非本人所能勝任，惟望天下仁人志士共起擔負?！?
黎的說完后，見會場無人應聲。于是黎又繼續說：“目前拆曹錕大選之臺，即須我方先能搭臺，而搭臺最要在組織政府，俾能號召一切。現在已商請唐少川擔任內閣責任，請各省贊成?！?
各省代表互相看了看，最后由汪兆銘起立致答：“各省對公個人皆極仰佩，去年直系擁公上臺，各省所以不一致贊成者，因法律上所見不同，且灼知直系毫無誠意，故今年六月十三日之事，早在意料之中，今公個人跋涉南來，深感公之為國宣勞。至于組織政府一事，事關重大，各代表事前毫未知情，也未有所準備，自當慎重考慮，電告本省，請示可否？然后奉復?！?
汪的話講完，各省代表一致表示同意，于是黎這次組織政府的談話會以不了了之結束。
接下來的一件事，更讓黎元洪難堪。
就在黎在各省代表那里碰了軟釘子的當天，南下的國會議員在湖北會館召開談話會。黎元洪以大總統身份將已準備好的兩道命令函達國會，請求同意：
一、準李根源辭署閣職；
二、任命唐紹儀為國務總理。
黎同時通知議員們，準備前往報告一切。
在黎看來，南下議員集會不能沒有總統和內閣，否則議員集會失去了意義，這比和各省代表談話要有利得多，他相信議員們一定歡迎他。
但事情的發展大出黎的預料，議員在談話會中，國民黨籍議員張繼竟聲色俱厲地指責黎元洪，認為他誤國，依附軍閥，不顧國家民族大義，只求一己利害。他鄭重宣布，國會中如果再有文電稱黎元洪為大總統，他本人堅決不予承認。現在中華民國已經沒有大總統了。國會中原來設有的大總統席位，亦應立即撤去云云。
張繼的擋駕，使得國會空氣為之一變，議員褚輔成、黃云鵬、吳淵、谷思慎等，見情勢不佳，深怕黎元洪來了之后受到難堪，于是趕快打了電話去通知黎，請他不要來出席國會。