天祚帝被俘后，在云中（今山西大同）关押了两个多月。宣和七年（1125）四月，金太宗令粘罕派人，将天祚帝押往上京。
    为了路上安全，粘罕特派叔父斡鲁亲自押送。经过四个多月长途跋涉，天祚帝于当年八月到达上京。金太宗下令，先将天祚帝押往太祖庙祭告太祖。
    据《金史》记载，金人建国之初并没有宗庙。天辅七年(1123)九月，金太祖葬于上京宫城之西南。接着，在太祖陵墓之上修建了一座宁神殿。金人将这座宁神殿称大祖庙，或称阿骨打庙。这里是金太祖初葬地，距离会宁府不足五百米。
    太祖庙是金国第一座大型庙宇，规模宏大，气势壮观，金国一些重大活动都要在陵墓前举行。包括皇帝即位、出巡或发生战争等重大事件，也都要来太祖庙祭告，这就是所谓“告庙”。
    祭告完金太祖之后，天祚帝被押到会宁府皇城大殿，参拜金太宗吴乞买（完颜晟）。天祚帝在此将降书呈上，书曰：
    “辽降臣耶律延禧谨伏斧钺，躬诣大金国，俯伏待罪。臣闻人不患其勇，患其为暴也。伏念臣祖宗创二百年之基，承天统位，继子传孙，郊祀上帝，内外欢庆。岂意微臣骨寒命薄，无德可褒，不能当此！夙夜惶骇，罔知过咎，冒犯忌讳，若晓霜而遇烈日，扁舟而遭怒涛。众恶竞兴，谮辞蜂起，故兹惭德，激扬圣怒，转加兵师，忧惧之极，如坐桁杨。盖闻轵道之放，荷蒙矜恤，况若新安之叹，例受无辜。念汉皇之仁恩，诞敷濡泽；诮项羽之过恶，奚免终伤。臣所恳者，乞谐轵道之留，免效新安之祸，战慄之至，仰干圣聪，昧死谨言。”
    天祚帝这份降书，很显然出自汉人官员之手笔。书中充满了大量中原历史元素，以及汉文化气息。至于究竟是何人代笔，已无从考证。
    金太宗对此很满意，随即下诏，削封天祚帝为海滨王，“送长白山东，筑室居之。”
    至此，曾经叱咤草原二百多年的大辽帝国，终于降下了历史帷幕。
    不久，斡离不专程回到上京，郑重向金太宗提出建议：出兵伐宋。斡离不说：“我多次向宋朝索要逃亡人户，宋人就是拖着不给。且闻童贯、郭药师治军燕山，若不先下手，恐为后患。”
    金太宗既没答应，也未否定，而是分别向粘罕、阇母、斡鲁等将领征求意见。粘罕等将领的意见很快就反馈回来，他们全都支持伐宋。
    金太宗于是下诏给粘罕与斡离不，令他们挑选善射勇健之士，加紧训练，以备伐宋。
    斡离不之所以首先提议伐宋，其实与刘彦宗等汉人官员有很大关系。宋朝接管燕京后，实行“换官”政策，将许多原来辽国汉人官员，调至内地任职。这些汉官，先从燕京前往东京报到，然后又从东京回到燕京，接着又从燕京调往太原宣抚司任职。他们困苦于道路行程，前赴而后继。宋朝地方官吏又处处阻挠他们，以至于使他们累年不能结束流离颠簸之苦。因此，很多人对宋朝有一肚子怨气。有些人干脆逃往平州，投靠金人，并将他们所了解到的东京情况，以及宋朝虚实，一一报告刘彦宗。刘彦宗于是又将情况汇报给斡离不，“教金人有窥中国之意。”这是当时住在燕京的宋人许采，在《陷燕纪》中记录的情况。
    刘彦宗是燕京人，因祖宗坟墓与田园故土皆被宋朝占领，心生愤恨，于是屡劝斡离不出兵，夺取燕京。此时，刘彦宗很受金人重用，他担任同中书门下平章事、知枢密院事，又加为侍中，辅助斡离不统帅南京路军队，并负责治理南京（平州）。斡离不对刘彦宗很信任，大凡州县地方之事，皆委托刘彦宗裁决。
    此外，据说斡离不的妻子余里衍，也时常在夜里给斡离不吹枕边风，鼓动斡离不率军伐宋。这位余里衍可不是一般人物，她就是天祚帝的女儿“蜀国公主”。她非常痛恨宋朝，认为宋朝背信弃义不守盟约，也该遭灭国之灾。
    此时，金人在宋朝东北部和西北部，分别建有两个军政中心，形成两大军政集团，这是在追剿天祚帝与张觉过程中自然形成的。
    一个是以南京（平州）为中心，由斡离不担任都统，控制着关内平、营、滦一带战略要地，拥有精兵强将。战将阇母、挞懒都驻守于此。阇母是金太宗异母弟，时任南京路副都统。挞懒即完颜昌，是金太宗叔父完颜盈哥之子，时任奚六路军帅，负责经略奚地（今河北与辽宁交界地区）事务。
    另一个是以西京云中（大同）为中心，由粘罕担任都统，控制着山西以及西北地区，斡鲁、兀室担任副都统，战将娄室、银术可驻扎于此。斡鲁是金太宗伯父劾者之子，是撒改之弟，是粘罕的叔父。兀室是贵族欢都之子，是女真文字的实际创制者，一直给粘罕做助手。娄室作战勇猛，屡建奇功，因擒获天祚帝而获金太宗赐“铁券”：惟叛国罪不赦，余罪不问。银术可既有军事才能，还有政治远见。
    这两处军政中心，这两大军事集团，谋士众多，战将如云，可谓人才济济。
    当时，金太宗、斜也等金国上京最高决策层，对于出兵南下伐宋，到底有多少胜算，其实心里并没有底。为麻痹宋朝，为暗中考察宋朝军政情况，以及山川地形，为出兵南下做准备，金太宗先后向宋朝派出了三批使者。金太宗这个做法，跟当年金太祖在举兵攻辽前，向辽国连续派遣使者的做法完全一致，如出一辙。