刘邦的使者抵达海岛后，田横立即明白了刘邦的目的。田横不是傻子，他知道若此时归汉，等待着自己的必是斧钺加身的下场。田横向使者婉拒道：“当年因为我一时糊涂，杀掉了贵使骊生，时至今日我仍后悔不已。如今，骊生的亲族是汉朝重臣，我不敢与他同朝为官。希望皇上能恩准我当个普通百姓，我绝不会危害大汉。”

显然，这种说辞是无法说服刘邦的，他怎会放过田横呢？

这次，刘邦干脆软硬兼施，逼迫田横就范，再次派使者前往海岛。使者称，刘邦已安顿好了骊氏族人，他们绝不会为难田横和他的旧部，只要田横能够回到齐地，封王封侯指日可待。倘若田横继续拒绝，汉朝将派大军剿灭海岛上的旧齐势力。迫于刘邦的淫威，田横不得不同意归降。在安顿好了岛上的旧部后，田横与两名部下跟着使者前往洛阳。

在距离洛阳三十里处，田横的心理活动十分复杂。遥想当年，他本是一个呼风唤雨的诸侯，指点江山何等风光？如今却要以俘虏的身份向敌人俯首称臣。田横越想越难过，若自己成为汉臣，在百年之后该如何面对泉下的列祖列宗？又该如何面对那些战死沙场的齐国将士？最终，田横下定决心，以死亡的方式结束这一切。

于是，田横驻足不动，并对使者说道：“原本，我与刘邦分处两地，他是汉王，我是齐王。如今，让我以臣子的身份向刘邦磕头下跪，与我而言这是奇耻大辱。刘邦之所以让我去洛阳，不过是想监视我的动向，担心我号召齐人造反。实际上，我根本没打算造反。既然刘邦不肯相信我，这里距离洛阳仅有三十里，我在刘邦的眼皮下自杀，他总该安心了吧？”

说罢，田横挥剑自刎，以死殉齐。

刘邦看到田横的脑袋后，终于放下心来。为了安抚齐人，刘邦以王侯之礼厚葬了田横。田横的两名随从见田横已死，两人来到田横墓前，挥刀自刎。这件事传回海岛后，岛上的田横旧部顿时失去希望。田横已死，齐国复国无望，海岛上的将士万念俱灰。于是，历史上最悲壮的一幕发生了——五百名齐国旧部携手来到海边，同时投水自尽。

他们生前选择效忠田横，死后他们仍要追随田横。田横与这五百名死士自尽后，齐国彻底消失于史料。