وتوفي أبو رافع في خلافة عثمان، وقيل: في خلافة علي، وهو الصواب. وكان ابنه عبيد الله كاتباً لعلي، رضي الله عنه. ذكره أبو عمر في أسلم، وأخرجه ابن منده وأبو نعيم هاهنا.