关羽读罢密函，不禁大哭。他当即写了复函，道：“兄长在上：当关羽素知仁义者不负心，忠勇者不畏死。关羽自幼便知礼义，岂有背盟之意？当日我守下邳城，内无积粮，外无援兵，本欲以死殉义，奈何尚有两位嫂嫂在城，关羽有保护重责，因此未敢赴死而已。无奈唯有暂时寄身曹营，希望日后再与兄相见，直到近日，才得知兄的讯息。关羽必定立即向曹操辞别，护送两位嫂嫂归还。我若有二心，人神共戮，我心肝胆，笔墨难荆”刘备派来的使者道：“玄德望关将军之心甚切，何不速行？”
关羽道：“人生于天地，若无始无终，终非君子之为也。
我来时说得明白，去时亦须清楚，烦请先将此私函呈交兄长，关羽辞别曹操，即护送两嫂前来相见。”
使者道：“但若曹操不准你离开，却又如何？”
关羽道：“我届时唯有一死以谢天下。”
使者无奈，唯有先行携复函回去。
使者离开后不久，关羽也不犹豫，即人内堂，告知两位嫂嫂，又立即赶去相府，向曹操辞行。
不料曹操已探悉刘备尚健在，又知关羽来意，便吩咐在相府门前，挂上谢绝访客的回避牌。关公不便硬闯，只好先行返回府中。
第二天早上，关羽又去辞行，但相府的回避牌依然高悬。
一连三日均是如此，关羽知道，这是曹操刻意不允许他离去的表示。心道：我去意已决，岂能再留曹营呢？
关羽当下写了一封辞谢信，道：“丞相台鉴：关羽自小便跟随刘皇叔，誓同生死，皇天后土，当闻我誓。当日下邳失守，我所请三事，蒙丞相恩允。如今关羽已知故主下落，回首昔日之盟，岂容违背旧主情义决难忘记。因此将呈上辞书，伏祈明察。余恩未能回报，日后必定奉还。”
关羽派人，将辞行信送到相府，一面又将曹操多次封赠的金银财物，原封不动，封存库中，又把朝廷封铸的“汉寿亭侯”金印悬挂于堂上。