天祚帝被俘後，在雲中（今山西大同）關押了兩個多月。宣和七年（1125）四月，金太宗令粘罕派人，將天祚帝押往上京。
    為了路上安全，粘罕特派叔父斡魯親自押送。經過四個多月長途跋涉，天祚帝於當年八月到達上京。金太宗下令，先將天祚帝押往太祖廟祭告太祖。
    據《金史》記載，金人建國之初並沒有宗廟。天輔七年(1123)九月，金太祖葬於上京宮城之西南。接著，在太祖陵墓之上修建了一座寧神殿。金人將這座寧神殿稱大祖廟，或稱阿骨打廟。這裏是金太祖初葬地，距離會寧府不足五百米。
    太祖廟是金國第一座大型廟宇，規模宏大，氣勢壯觀，金國一些重大活動都要在陵墓前舉行。包括皇帝即位、出巡或發生戰爭等重大事件，也都要來太祖廟祭告，這就是所謂“告廟”。
    祭告完金太祖之後，天祚帝被押到會寧府皇城大殿，參拜金太宗吳乞買（完顏晟）。天祚帝在此將降書呈上，書曰：
    “遼降臣耶律延禧謹伏斧鉞，躬詣大金國，俯伏待罪。臣聞人不患其勇，患其為暴也。伏念臣祖宗創二百年之基，承天統位，繼子傳孫，郊祀上帝，內外歡慶。豈意微臣骨寒命薄，無德可褒，不能當此！夙夜惶駭，罔知過咎，冒犯忌諱，若曉霜而遇烈日，扁舟而遭怒濤。眾惡競興，譖辭蜂起，故茲慚德，激揚聖怒，轉加兵師，憂懼之極，如坐桁楊。蓋聞軹道之放，荷蒙矜恤，況若新安之歎，例受無辜。念漢皇之仁恩，誕敷濡澤；誚項羽之過惡，奚免終傷。臣所懇者，乞諧軹道之留，免效新安之禍，戰慄之至，仰幹聖聰，昧死謹言。”
    天祚帝這份降書，很顯然出自漢人官員之手筆。書中充滿了大量中原曆史元素，以及漢文化氣息。至於究竟是何人代筆，已無從考證。
    金太宗對此很滿意，隨即下詔，削封天祚帝為海濱王，“送長白山東，築室居之。”
    至此，曾經叱吒草原二百多年的大遼帝國，終於降下了曆史帷幕。
    不久，斡離不專程回到上京，鄭重向金太宗提出建議：出兵伐宋。斡離不說：“我多次向宋朝索要逃亡人戶，宋人就是拖著不給。且聞童貫、郭藥師治軍燕山，若不先下手，恐為後患。”
    金太宗既沒答應，也未否定，而是分別向粘罕、闍母、斡魯等將領征求意見。粘罕等將領的意見很快就反饋回來，他們全都支持伐宋。
    金太宗於是下詔給粘罕與斡離不，令他們挑選善射勇健之士，加緊訓練，以備伐宋。
    斡離不之所以首先提議伐宋，其實與劉彥宗等漢人官員有很大關係。宋朝接管燕京後，實行“換官”政策，將許多原來遼國漢人官員，調至內地任職。這些漢官，先從燕京前往東京報到，然後又從東京回到燕京，接著又從燕京調往太原宣撫司任職。他們困苦於道路行程，前赴而後繼。宋朝地方官吏又處處阻撓他們，以至於使他們累年不能結束流離顛簸之苦。因此，很多人對宋朝有一肚子怨氣。有些人幹脆逃往平州，投靠金人，並將他們所了解到的東京情況，以及宋朝虛實，一一報告劉彥宗。劉彥宗於是又將情況彙報給斡離不，“教金人有窺中國之意。”這是當時住在燕京的宋人許采，在《陷燕紀》中記錄的情況。
    劉彥宗是燕京人，因祖宗墳墓與田園故土皆被宋朝占領，心生憤恨，於是屢勸斡離不出兵，奪取燕京。此時，劉彥宗很受金人重用，他擔任同中書門下平章事、知樞密院事，又加為侍中，輔助斡離不統帥南京路軍隊，並負責治理南京（平州）。斡離不對劉彥宗很信任，大凡州縣地方之事，皆委托劉彥宗裁決。
    此外，據說斡離不的妻子餘裏衍，也時常在夜裏給斡離不吹枕邊風，鼓動斡離不率軍伐宋。這位餘裏衍可不是一般人物，她就是天祚帝的女兒“蜀國公主”。她非常痛恨宋朝，認為宋朝背信棄義不守盟約，也該遭滅國之災。
    此時，金人在宋朝東北部和西北部，分別建有兩個軍政中心，形成兩大軍政集團，這是在追剿天祚帝與張覺過程中自然形成的。
    一個是以南京（平州）為中心，由斡離不擔任都統，控製著關內平、營、灤一帶戰略要地，擁有精兵強將。戰將闍母、撻懶都駐守於此。闍母是金太宗異母弟，時任南京路副都統。撻懶即完顏昌，是金太宗叔父完顏盈哥之子，時任奚六路軍帥，負責經略奚地（今河北與遼寧交界地區）事務。
    另一個是以西京雲中（大同）為中心，由粘罕擔任都統，控製著山西以及西北地區，斡魯、兀室擔任副都統，戰將婁室、銀術可駐紮於此。斡魯是金太宗伯父劾者之子，是撒改之弟，是粘罕的叔父。兀室是貴族歡都之子，是女真文字的實際創製者，一直給粘罕做助手。婁室作戰勇猛，屢建奇功，因擒獲天祚帝而獲金太宗賜“鐵券”：惟叛國罪不赦，餘罪不問。銀術可既有軍事才能，還有政治遠見。
    這兩處軍政中心，這兩大軍事集團，謀士眾多，戰將如雲，可謂人才濟濟。
    當時，金太宗、斜也等金國上京最高決策層，對於出兵南下伐宋，到底有多少勝算，其實心裏並沒有底。為麻痹宋朝，為暗中考察宋朝軍政情況，以及山川地形，為出兵南下做準備，金太宗先後向宋朝派出了三批使者。金太宗這個做法，跟當年金太祖在舉兵攻遼前，向遼國連續派遣使者的做法完全一致，如出一轍。