سلمان در مدائن بیمار شد او ساعات آخر عمر خود را می‏گذراند به همسرش بقیره گفت: منتظر باش که به زودی مرا در بسترم بی‏روح می‏یابی. سپس به اطرافیان خود حذیفه، سعد و قاص و اصبغ بن نباته فرمود: خانه را خلوت کنید، ناگاه امام علی (علیه‏السلام) وارد خانه شد و پرسید حال سلمان چطور است؟ سپس به بالین سلمان آمد و روپوش را به کناری زد سلمان لبخندی زد. امام (علیه‏السلام) به سلمان فرمود: آفرین بر تو ای بنده صالح خدا هنگامی که با رسول خدا صلی الله علیه و آله و سلم ملاقات نمودی چگونگی رفتار این قوم، با برادرش را برایش تعریف کن. سلمان از دنیا رفت. امام علی (علیه‏السلام) جنازه او را غسل داد و کفن کرد و بر کفن او این دو بیعت شعر را نوشت:
‏و فدت علی الکریم بغیر زاد - من الحسنات و القلب السلیم‏
و حمل الزاد اقبح کل شیی - اذا کان الوفود علی الکریم ‏
یعنی: بر شخص کریم و بزرگواری وارد شدم بی‏آنکه توشه نیک و قلب پاک داشته باشم ولی هنگام ورود به محضر شخص بزرگوار بردن توشه نزد او قبیح‏ترین چیز است.(462)