زهده وورعه هم سلمان ببناء بيتا فسأل البناء: (كيف ستبنيه ؟)... وكان البناء ذكيا يعرف زهد سلمان وورعه فأجاب قائلا: (لا تخف، إنها بناية تستظل بها من الحر، وتسكن فيها من البرد، إذا وقفت فيها أصابت رأسك، وإذا اضطجعت فيها أصابت رجلك)... فقال سلمان: (نعم، هكذا فاصنع).
زواجه في ليلة زفافه مشى معه أصحابه حتى أتى بيت امرأته فلما بلغ البيت قال: (ارجعوا آجركم الله)... ولم يُدخلهم عليها كما فعل السفهاء، ثم جاء فجلس عند امرأته، فمسح بناصيتها ودعا بالبركة فقال لها: (هل أنت مطيعتني في شيءٍ أمرك به)... قالت: (جلستَ مجلسَ مَنْ يُطاع)... قال: (فإن خليلي أوصاني إذا اجتمعت إلى أهلي أن أجتمع على طاعة الله)... فقام وقامت إلى المسجد فصلّيا ما بدا لهما، ثم خرجا فقضى منها ما يقضي الرجل من امرأته.
فلمّا أصبح غدا عليه أصحابه فقالوا: (كيف وجدتَ أهلك ؟)... فأعرض عنهم، ثم أعادوا فأعرض عنهم، ثم أعادوا فأعرض عنهم ثم قال: (إنّما جعل الله الستورَ والجُدُرَ والأبواب ليُوارى ما فيها، حسب امرئٍ منكم أن يسأل عمّا ظهر له، فأما ما غاب عنه فلا يسألن عن ذلك، سمعتُ رسول الله -صلى الله عليه وسلم- يقول: (المتحدث عن ذلك كالحمارين يتسافران في الطريق)...
عهده لسعد جاء سعد بن أبي وقاص يعود سلمان في مرضه، فبكى سلمان، فقال سعد: (ما يبكيك يا أبا عبدالله ؟... لقد توفي رسول الله وهو عنك راض)... فأجاب سلمان: (والله ما أبكي جزعا من الموت، ولا حرصا على الدنيا، ولكن رسول الله -صلى الله عليه وسلم- عهد إلينا عهدا، فقال: (ليكن حظ أحدكم من الدنيا مثل زاد الراكب)... وهأنذا حولي هذه الأساود-الأشياء الكثيرة- !)... فنظر سعد فلم ير إلا جفنة ومطهرة... قال سعد: (يا أبا عبد الله اعهد إلينا بعهد نأخذه عنك)... فقال: (يا سعد: اذكر الله عند همك إذا هممت، وعند حكمك إذا حكمت، وعند يدك إذا قسمت).
وفاته كان سلمان يملك شيئا يحرص عليه كثيرا، ائتمن زوجته عليه، وفي صبيحة اليوم الذي قبض فيه ناداها: (هلمي خبيك الذي استخبأتك)... فجاءت بها فإذا هي صرة مسك أصابها يوم فتح جلولاء، احتفظ بها لتكون عطره يوم مماته، ثم دعا بقدح ماء نثر به المسك وقال لزوجته: (انضحيه حولي، فإنه يحضرني الآن خلق من خلق الله، لا يأكلون الطعام وإنما يحبون الطيب).
فلما فعلت قال لها: (اجفئي علي الباب وانزلي)... ففعلت ما أمر، وبعد حين عادت فإذا روحه المباركة قد فارقت جسده، وكان ذلك وهو أمير المدائن في عهد عثمان بن عفان في عام (35 هـ)، وقد اختلف أهل العلم بعدد السنين التي عاشها، ولكن اتفقوا على أنه قد تجاوز المائتين والخمسين.