李陵觉得没脸再见苏武，就让妻子送给苏武几十头牛羊。过了许久，时光到了公元前87年秋，李陵又匆匆远赴北海，他对苏武说：“边境俘获汉军俘虏说，汉朝官吏、百姓都穿孝服，皇上驾崩了！”苏武听到这个消息，面向南方嚎啕大哭，哭的呕出血来，又每天早晚哭吊。
昭帝即位，几个月后，匈奴又开始与汉朝和亲。朝廷打听苏武的消息，匈奴谎称苏武已死。后来，昭帝又派来使者，常惠暗中买通匈奴看守，才得以在夜间见到汉使，向汉使陈述了他们的遭遇，并教汉使讨要苏武的计策。第二天，汉使见了单于，对单于说：“苏武没有死，我朝天子在上林苑打猎，射中一只大雁，大雁的脚上有一封信，上面写‘苏武住在荒漠的大水泽边’。”单于大吃一惊，以为是苏武的忠义感动了飞鸟，连忙向汉使道歉，把苏武放了。这就是成语“鸿雁传书”的典故。“鸿雁传书”以苏武的忠贞故事为底色，融合自然观察与人文想象，成为中华民族表达思念，坚守信义的经典符号，是中华文化中浪漫主义精神的缩影。
苏武等人就要返回汉朝了，李陵设酒宴为苏武践行。李陵说：“子卿你就要回去了，你在匈奴的事迹将会传颂四海，功绩将会留名青史，光耀于汉廷。即使古代史书所记载的，丹青所描绘的人物，又怎能与你相比！我虽然怯懦、无能，假如朝廷当初宽恕我的罪行，保全我的老母，让我等待机会，像春秋时的曹沫一样，为汉廷再立新功，赎清之前的罪行。可如今我全家已经被杀，成为当世的奇耻大辱，再回去还能留恋什么？算了吧，让你了解我的心罢了！我已成异域之人，今日一别，恐怕再难以相见。”说罢李陵起舞，边舞边歌道：“跋涉万里兮，远渡流沙，为国效死兮，博击胡虏。路已穷尽兮，箭矢全无，将士用命兮，颓势难遏。老母已不在人世！身欲报恩兮，痴心何顾！”歌罢，李陵泪如泉涌，与苏武告别。
昭帝始元六年，公元前81年，苏武回到了阔别已久的长安，自公元前100年壮年出使，在匈奴被禁19年，回来时已须发全白。除了之前投降匈奴及已经死亡的，随同苏武返回汉朝的仅剩下九人。苏武等以太牢礼祭拜武帝陵寝、祠庙，朝廷任命苏武为典属国，俸禄中两千石，赐钱两百万，公田两顷，宅邸一处。常惠、徐圣、赵终跟被任命为中郎，每人赐帛二百匹。其余六人告老还乡，每人赐钱十万，终身免除傜役。
苏武回到汉朝后，本想安安静静地安享晚年，但由于他在民间享有极高的威望，还是不幸地卷入了政治斗争中。当年与苏武同在未央宫做侍从且交情甚笃的霍光、上官桀都已经贵为昭帝的辅政大臣，而且两人争权已进入白热化阶段，上官桀为了打击霍光，上书弹劾霍光专权，说苏武功劳这么大，才做到典属国，而霍光的手下杨敞没什么功劳，却被提升为搜粟都尉。后来上官桀联合燕王刘旦谋反失败被杀，苏武的儿子苏元也参与其中，被处死。廷尉上书请求逮捕苏武，霍光知道苏武这面旗帜对汉朝的重要意义，便把奏章搁置，只免去苏武的官职。
几年后，昭帝驾崩，苏武与其他朝臣一起拥立宣帝，受赐关內侯，食邑三百户。后来张安世向宣帝推荐苏武，称赞他熟悉朝政，出使匈奴不辱使命。宣帝便多次召见苏武咨政，恢复他典属国之职，兼任右曹，随侍在皇帝左右。宣帝认为苏武是德高望重的老臣，让他每月初一、十五上朝即可，号称祭酒，给予极为优宠的对待。苏武把得到的赏赐全部送给族中兄弟及旧故，家中不留多余的财产，皇后的父亲许广汉和其他大臣们对苏武都很敬重。
苏武老了，儿子在之前的谋反案中被处死，宣帝很同情他，就打听苏武在匈奴还有儿子吗？苏武说：“当年在匈奴时，匈奴妻子生有一子，名通国，还有音讯往来，请求朝廷通过使者送去金、帛，把儿子接回来。”宣帝答应了，并派使臣把苏通国接回来，并任命他为郎官，又任命苏武弟弟的儿子为右曹。宣帝神爵二年，苏武因病去世，享年80多岁，他是在荣耀和尊宠中度过了晚年。
宣帝甘露三年，呼韩邪单于入朝拜谒皇帝，宣帝因“戎狄宾服，思股肱之美”，诏令将辅助自己登上帝位，又辅佐自己治理国家的霍光等11位功臣的画像，悬挂在在未央宫的麒麟阁，苏武位列最末。宣帝认为，这些人功勋卓著，堪为勋臣。他们就像周代辅佐周宣王中兴的方叔、召虎、仲山甫一样，应该受到表彰，以彰显他们在汉朝中兴，辅助朝廷的功绩及贡献。
苏武爱国忠贞的节操不仅使其名著当时，对后世也产生了深远影响。班固称赞他“使于四方，不辱君命。”苏武及其故事在历代诗歌、戏曲、小说，美术，音乐、影视等艺术形式中不断被歌咏、演绎。苏武已成为历史长河中一个近似符号的存在，他所象征的，是那份坚毅不屈，誓死不降的气节。苏武的使命感、责任感，对祖国的忠诚和坚贞气节都将使他彪炳史册，获得后世永远的敬仰。