شهيد رجائى در مدت تدريس ، هميشه آموزگارى دلسوز، پركار و شايسته بود و ضمن تدريس ، به فرا گرفتن علوم اسلامى و انجام فعاليتهاى سياسى همت مى گماشت . در سال 1340 به عضويت نهضت آزادى در آمد كه منجر به دستگيرى وى (در ارديبهشت 1342) و پنجاه روز زندان شد. پس ‍ آزادى از زندان با شهيد باهنر به سازماندهى مجدد هيات موتلفه پرداخت و براى پرورش افرادى كه بتوانند نبردى مسلحانه را اداره نمايند به اعزام داوطلبانى به جبهه فلسطين دست زد. در همين رابطه و براى تكميل برنامه مزبور (در سال 1350) خود شخصا به خارج از كشور سفر كرد. ابتدا به فرانسه و تركيه رفت و از آنجا عازم سوريه شد.
شهيد رجايى همگام با فعاليتهاى سياسى لحظه اى نيز از خدمات فرهنگى غافل نبود از آن جمله تدريس در مدارس كمال و رفاه ، همكارى با بنياد رفاه و تعاون اسلامى با همكارى شهيد مظلوم آيت الله دكتر بهشتى و شهيد دكتر باهنر و آيت الله هاشمى رفسنجانى .
ايشان با نهايت شجاعت و شهامت مدت دو سال ، در زندانهاى انفرادى رژيم پهلوى انواع و اقسام شكنجه ها را تحمل نمود و چون كوهى استوار مقاومت كرد. در اثر اين مقاومتها او را به زندان قصر و سپس به اوين فرستادند. او در زندان به ماهيت واقعى منافقين پى برد و از آنها تبرى جست . دوران زندان مجموعا چهار سال به درازا كشيد و شهيد رجائى در سال 1357 با اوج گيرى انقلاب اسلامى همراه ديگر زندانيان سياسى آزاد شد و بلافاصله وارد مبارزات سياسى و فرهنگى گرديد و به اتفاق عده اى از همكارانش براى بسيج و سازماندهى مبارزات مخفى معلمان مسلمان ، تلاش گسترده اى را آغاز كرد و موفق به ايجاد انجمن اسلامى معلمان شد. او در راه پيماييهاى عظيم سال 1357 مخلصانه و با تمام توان كوشيد و نقش ‍ موثرى در فعاليتهاى تبليغاتى آنها داشت .
شهيد رجائى پس از پيروزى انقلاب اسلامى و در سال 1358، مسئوليت وزارت آموزش و پرورش را به عهده گرفت و در زمان وزارت خود موفق به دولتى كردن كليه مدارس شد. سپس به عنوان نماينده مردم تهران در مجلس شوراى اسلامى انتخاب گرديد و به دنبال تمايل مجلس شوراى اسلامى در تاريخ 18/5/1359 به عنوان اولين نخست وزير جمهورى اسلامى ايران به مجلس معرفى و با راى قاطع به نخست وزيرى انتخاب شد. شهيد رجائى در اين مسئوليت خطير، على رغم اين كه به فاصله بسيار كوتاهى با توطئه عظيم استكبار جهانى در ايجاد جنگ تحميلى از سوى رژيم صدام روبرو شد و همچنين كارشكنى هاى بنى صدر و متحدانش و خرابكاريهاى منافقين و ساواكيها را در پيش رو داشت ، اما توانست به بهترين وجه از عهده انجام وظايف و مسئوليتهاى سنگين خود بر آيد.
به دنبال عزل بنى صدر از رياست جمهورى ، شهيد رجائى با راى اكثريت مردم محرومى كه شاهد تلاشهاى صادقانه ((اين فرزند صديق ملت و مقلد با وفاى امام ((ره )) بودند به رياست جمهورى انتخاب شد. دشمنان قسم خورده انقلاب اسلامى كه توان تحمل وجود اين مايه اميد مستضعفان و عنصر ارزشمند و دلسوز را نداشتند در هشتم شهريور ماه 1360 او را به همراه يار قديمى اش شهيد باهنر در انفجار دفتر نخست وزيرى به شهادت رساندند.
انفجار و شهادت
در ساعت سه عصر، صدای انفجار مهیبی از ساختمان نخست‌وزیری برخاست. كاركنان به طرف محل انفجار دویدند. جمعیت زیادی از راه رسید. همه نگران رجایی و باهنر بودند. رجایی از چند روز قبل به فرمان حضرت امام خانواده‌اش را در یكی از واحدهای مسكونی نهاد ریاست‌جمهوری ساكن كرده بود تا دیگر مجبور به رفت‌وآمد به خانه‌اش نباشد. كمال، پسر سیزده ساله رجایی از دور شاهد شعله‌های آتش بود. او با حالی آشفته به مادرش تلفن كرد و ماجرا را با او در میان گذاشت تا همسر شهیدرجایی خودش را برساند. پیكرهای خونین و سوخته رجایی و باهنر را به بیمارستان منتقل كردند. شدت انفجار به حدی بود كه ابتدا هیچ‌كس نتوانست كشته شدگان را شناسایی كند. جنازه‌ها را به بیمارستان انقلاب منتقل كرده و پیكر شهیدرجایی را در سردخانه قراردادند.
هیچ‌كس نمی‌دانست كه این پیكر سوخته، بدن شهیدرجایی است. به فكر یكی از اطرافیان او رسید كه از روی دندان‌ها می‌توان فهمید كه پیكر سوخته، بدن شهیدرجایی است یا خیر؟ اما سوختگی آن‌چنان بود كه دهان رجایی به سادگی باز نمی‌شد. لحظاتی بعد یكی از پزشكان از راه رسید و پس از شستن لب‌ها با آب اكسیژنه، دهان را باز كرد و دندان‌ها دیده‌ شد، اما باز هم كسی او را نشناخت. همسر شهید رجایی به بیمارستان آمد و در سردخانه پیكر سوخته شهید‌رجایی را شناسایی كرد.

شخصيت شهيد رجايي و زندگي خانوادگي

در دوران زندان، بنده با منزل ايشان رفت و آمد داشتم. الحق كه همسر شهيد رجايي در حيات سياسي ايشان بسيار تاثير داشت. بسيار صبورانه مشكلات را مي‌پذيرفت.  يادم هست درهمان ايام سقف اتاق ايشان ريخته بود. خواهش كردم كه بنا بياورم خانم ايشان قاطعانه گفت«نه» اين زن و مرد يعني شهيد رجايي و همسرش، حتي وقتي كه رجايي رئيس‌جمهور شد، با ابلاغ حقوق معلمي زندگي كردند. بسيار جالب است كه سه سال بعداز شهادتش، سال 63 در مكه، رئيس سازمان بازنشستگان كل كشور آقاي كربلايي مرا ديد و به من گفت، شهيد رجايي با حقوق معلمي باز نشسته شده، شما از خانم ايشان اجازه بگيريد تا ما پايه حقوق ايشان را اصلاح كنيم. پس از برگشت،  همسر شهيد رجايي بازهم در جواب ما گفت: خير.

شهيد رجايي خودش را وقف انقلاب كرده بود. بعضي وقتها خدمتش مي‌رسيدم،‌ مي‌ديدم روي موكت دراز كشيده و چشمش را بسته است. مي‌گفت خوشنويسان مطلبت را بگو، بيدارم.

در ملاقاتي كه همراه آقاي رجايي در قم خدمت امام رسيديم، امام بعد از اين كه گزارش ايشان را درباره آموزش و پرورش شنيد، فرمود انشاالله اگر اين گونه كار كنيد(اشاره به نوع كار كردن شهيد رجايي كه از لابه‌لاي گزارش فهميده بود) 20 سال طول مي‌كشد تا به نقطه صفر برسم. اصولا رجايي ارادت عجيبي به امام داشت. آن روز تنفيذ حكم ايشان را همه از تلويزيون ديديم واقعا ارادت مريدانه رجايي به امام تكان‌دهنده است.

قانون گرايي:
  وي دولتمردي قانونگرا بود كه هميشه به پياده كردن اصول قانون اساسي تاكيد داشت و تبليغاتش در زمان انتخابات رياست جمهوري حول همين شعار بود. اصرار وي بر اجراي قانون اساسي و تاكيد وي بر نقش شوراي نگهبان به عنوان مفسر قانون اساسي يكي از اختلافات اساسي وي با "بني صدر" بود.[15] وي راه مبارزه با فرهنگ به ارث رسيده از نظام شاهنشاهي را در پيوند قانون گرايي به انقلابي بودن عنوان مي كرد.