با انتخاب بنی صدر به ریاست جمهوری در بهمن 1358، مسئله انتخاب نخست وزیر و تشکیل دولت مطرح گردید که در این مورد بین رییس جمهور و مجلس شورای اسلامی اختلاف نظر پدید آمد. پس از کشمکش‌هایی سرانجام در شهریور 1359، شهید محمد علی رجایی به عنوان نخست وزیر به مجلس معرفی شد و موفق به کسب رأی اعتماد گردید و دولت خود را تشکیل داد. با این که مسئله مورد اختلاف، ظاهراً حل شده بود، اما کشمکش و اختلاف پنهانی و آشکار بین رییس جمهور و مخالفانش در مجلس و خارج از آن ادامه پیدا کرد. با آغاز جنگ، با این که این مسئله، تمام توان و فکر مسئولان را به خود مشغول کرده بود، اما در عین حال، اختلاف میان سطح بالای کشور ادامه یافت. در عرصه جنگ نیز، بنی صدر در مقام فرماندهی کل قوا، معتقد به جنگیدن به شیوه اشکانیان بود یعنی نیروی دشمن به درون مرز کشیده شده، سپس محاصره و نابود گردد.
این سیاست نظامی، باعث اشغال نقاط وسیعی از اراضی ایران اسلامی توسط ارتش متجاوز بعث شد و بر اثر عدم ارسال مهمات و نیرو به خط مقدم، نیروهای اسلام علی رغم جان‌فشانی ها و حماسه آفرینی‌های مثال زدنی، مجبور به عقب نشینی شدند. در نحوه اداره کشور نیز، کوشش‌های امام که دو طرف را به رفع اختلاف و وحدت و تفاهم دعوت می‌کرد بی ثمر ماند. در نتیجه حضرت امام خمینی، در بیستم خرداد 1360، پس از مشورت با مسئولان متعهد کشور، طی حکم کوتاهی، ابوالحسن بنی صدر را از فرماندهی کل قوا که به نیابت از ولی فقیه در اختیار داشت، عزل کرد و در پی آن، مجلس شورای اسلامی، طرح عدم کفایت سیاسی بنی صدر را با اکثریت آرا در 31 خرداد آن سال، به تصویب رساند.