在東路金軍退兵后第三天，即靖康元年二月十三日，宋欽宗與宰執大臣們在延和殿舉行會議。李綱提議，立即派遣大兵北上，護送金人回師。他說道：“澶淵之役，雖與遼人盟約，及其退也，猶遣重兵護送之，蓋恐其無所忌憚，肆行擄掠故也。金人之去已三日矣，初謂其以船栰渡河，今探聞乃系橋濟師，一日而畢。盍遣大兵，用澶淵故事護送之。”
李邦彥、吳敏等對此皆表示反對，他們以為，此時出兵護送還是太早，萬一兩軍在途中發生交戰，金兵很快就會卷土重來，將再次對京師構成嚴重威脅。
李綱堅持己見，毫不妥協，且態度十分堅決。不知是懼怕李綱，還是真的認為李綱所言有道理，宋欽宗竟毫不猶豫地批準了李綱的提議。
當日，宋欽宗即分遣將士，命姚古、種師中、折彥質、馬忠、范瓊等領兵北上，護送金兵回師。
此時姚古、種師中、折彥質都沒到達京城，他們分別還在來京勤王的路上。姚古、折彥質在河東路南部一帶，種師中在河北路滑州一帶，只有馬忠、范瓊等軍駐扎在京城。
宋軍將士們接到軍令后，“踴躍以行”。李綱悄悄告誡馬忠和范瓊：“度便利，可擊，即擊之。金人厚載而歸，輜重既重，驅虜婦人不可勝計，意氣驕甚。擊之，決有可勝之理。”
受命北上的宋軍合計有十余萬人，他們各自出發，“數道并進”，一路北去，追趕金人。
李邦彥罷相僅數日，竟然又復出為宰相。消息傳開后，京城內議論紛紛，“人情震駭”。朝中大臣都保持沉默，敢怒而不敢言。
二月十四日，秘書省校書郎陳公輔打破沉默，上書彈劾太宰李邦彥，及其黨羽中書侍郎王孝迪與尚書左丞蔡懋，指責他們弄權誤國，請求皇上罷去他們的職務。
陳公輔是政和三年上舍及第第一名，即相當于科舉狀元。他性格耿直，崇尚氣節，敢于直言。他在奏疏中說道：“臣竊睹國家強虜入寇，中外震恐。陛下初臨萬幾，曹此擾攘，深軫圣慮。公卿大夫誤國至此，臣不勝痛憤！臣有愚見，輒不避死亡之誅，上干天聽，伏惟陛下少留神焉。
臣聞憲宗用一裴度而平淮西，武宗用一李德裕而平澤潞。自古翦除寇難，興復治功，必至排斥眾議，屏除奸邪，而信任忠勇有為之才，然后可責其成功也。自臣聞邊寇興難，蚤夜危懼，曾詣都堂略陳守御之策，見任宰執大臣皆狐疑不斷，牽制其事今已經月，條畫措置并未就緒。況此數人，事上皇累年，皆阿諛順旨，持祿養交，未嘗建明一事，裨補圣明，致有今日之患。蓋平居無事，尚不足恃，豈可使之當今日之變乎？陛下今日復用之士，論民心莫不嘆息，不惟不足以了今日事，他日亦必誤陛下！臣謂前日奮不顧身，力贊陛下登此寶位，必社稷臣，固當知之矣，胡不且專任，委以軍國大事，不使眾議移之，群邪沮之，使盡其才力，以了天下事？
至于朝士大夫，與昔時慷慨論事，不畏豪強得罪在外，亦不無其人，可以錄用。但宰臣未肯為陛下言之，往往引用皆其親黨。臣竊惟陛下前日積德東宮，謙恭謹畏，退托不能，乃人子之道。今日統御九有，撫臨萬邦，乃人君之權。固當奮乾之剛，繼離之明，興大利，除大害，上以承祖宗無疆之要，下以慰四海生靈之望。不宜拘守常之論，惟不改父之臣與父之政，為難能也。況太上皇剛明勇決，一旦改悔，知為群邪所誤，痛自罪已。陛下誠能慨然有為，罷去昔時用事之人，而委任真賢，敷舉治道，是乃奉承太上皇之志也。帝王盛德，何以加此！
臣疏賤小臣，輒敢言及朝廷大臣，冒犯天威，自知必死，然不敢惜死，愿有說焉。夫宰相大臣非其人，諫官御史可以言之。今臺諫皆宰相門人，不肯言也。侍從之臣可以言之，今侍從皆顧惜名位不敢言也。惟臣小官，無所顧惜，誠知愛國，不知謀身，所以為陛下言之。臣更不言，是陛下終不得聞宰相大臣之過也。宰相大臣天子不之知，何以論天下之治哉！又況陛下當即位之初，以論相擇人為先，不可不謹。此舉愿陛下斷而行之，實為天下幸甚！”
其實，李邦彥早有自知之明，他知道自己已不適合繼續擔任宰相之職。兩天前，他曾上書宋欽宗乞請致仕。
他在奏書中說，上皇退位，將江山社稷交付陛下，自己被委以重任，曾發誓要殫精竭慮，“身屢瀕死，有所不避”。可是，自己的努力與心血，卻一再遭到誤解，以至于“今譊譊之徒，扇惑群聽，喧競倉卒，白黑不分”。
他辯解說，“臣之所急，存宗社、安君上、惜生靈而已，何敢為身謀？”然而，人們卻不理解，不斷進行詆毀，認為自己是奸賊。現在，“眾聽未孚，鑠金可畏，不知引避，何以厭服斯民之心？”
當日，宋欽宗權衡利弊，最終接受了陳公輔的諫言，免去李邦彥、王孝迪和蔡懋在朝廷的職務。李邦彥外任鄧州知州，王孝迪擔任醴泉觀使，蔡懋去往大名府任府尹。
李邦彥請求補足其守孝的時間，宣和五年他父親去世時，他只守孝兩個月就被朝廷召回，根據丁憂守喪制度，他應該守孝三年。宋欽宗準奏，命他前去提舉亳州明道宮。
李邦彥雖然是“浪子宰相”，但宋欽宗對他懷有好感，因為宋欽宗在當太子期間，以及禪位之初，曾得到過他很大的幫助。現在迫于輿論壓力，宋欽宗不得不讓他下臺。為了給他挽回一點顏面，宋欽宗專門下達了一份手詔：“太宰李邦彥任政府累年，屢形憂國愛民之議，以至惜名器，抑冗濫，獻納非一。朕在東宮時，熟聞嘉譽，冊立之際，備罄忠誠。金人犯闕，其所建明，惟知利社稷撫軍民為急，朕一一施行。眾志未能遍諭，乃作弗靖，鼓唱流言，反與前日異議，元惡之人，忽生怨憤，實駭予聽。已依所乞宮祠，播告中外，咸信勿疑。”
就來品耀坊