刘琨考虑得很周到，他要把温峤安排到司马睿那里做自己的眼线，替自己说话，同时也让他去化解敌对势力在司马睿那里说的对自己不利的言论。
建武元年（317）六月十五日，温峤等人到达建康，被引荐到晋王司马睿那里，司马睿看温峤一表人才，很是喜欢。温峤向司马睿陈述了刘琨的忠心，献上刘琨和段匹磾等一百八十人的联名上表，恳请司马睿登基。司马睿没有马上答应，但回信给刘琨和段匹磾，对他们的忠心表示肯定和鼓励，让他们团结一心，积蓄力量，等待时机，并要求他们有事要及时禀报。
对于有些人来说，朋友是用来出卖的。尽管刘琨和段匹磾“拜把子”的仪式搞得像模像样，但段匹磾对刘琨始终不放心。建武二年（318）六月，段匹磾找机会把刘琨杀害了，刘琨死时年四十八岁。
在被段匹磾关押的时候，刘琨知道自己必死无疑。他并不怕死，但对于自己的抱负无法施展，他感到深深的遗憾和无奈，他写了一首诗给自己的好友卢谌，诗中说：“何意百炼钢，化为绕指柔。”
