در سال 1340، کودکی در شهر اهواز چشم به جهان گشود که نامش را علی نهادند. نام پدرش قاسم بود.
کودکی او مصادف با دوران سیاه ستمشاهی بود، و علی هاشمی از همان زمان با افکار سبز و روشن اسلام پیوندی عاشقانه یافت.
مسجد خانه دوم او بود و بیشتر اوقاتش را در آنجا میگذراند. با وجود علاقۀ شدیدی که به فوتبال داشت، زمانیکه هنگام نماز میرسید بازی را رها کرده و به مسجد میرفت. با بچههای همسن و سال و یا کوچکتر از خویش دروس مدرسهشان را مرور و تمرین میکرد. حتی بسیاری از اوقات برای نظافت مسجد به کمک خادم آنجا میرفت.
وی ارتباط تنگاتنگ خویش را با کوثر زلال وحی از همان سنین، حفظ نمود و تفسیر قرآن و درس اخلاق را از برنامههای مهم خویش قرار داده و با علاقه و ارادتی که به نماز داشت، مرید و مؤذن مسجد شد.
سردار علی هاشمی قبل از پیروزی انقلاب در خیابانهای حصیرآباد (اهواز) با رژیم شاه میجنگید و در سال 1357 چند بار دستگیر شد و هر بار به طور معجزهآسایی خود را از دست ساواک نجات داد.
پس از پیروزی انقلاب با تکیه بر مطالعات عمیق و آگاهیهای دینی خود در بحثهای گروهکهای مختلف شرکت کرده و با بحثهای منطقی آنان را به تسلیم در برابر اسلام وامیداشت. وی از همان ابتدا عاشق و دلباختۀ امام (ره) و پیشتاز مبارزه بود و به همین دلیل به قصد خدمت به نظام وارد کمیتۀ انقلاب شد (1358) و سپس به همراه حسین علمالهدی، آقایی و ... برای تشکیل بسیج و سپاه تلاشهای بسیاری نمود.
به سن قانونی که میرسد (1359) مجوز ورود به سپاه را دریافت کرده و به همراه 40 نفر از جوانان بومی اهوازی به حمیدیه میرود. در این هنگام او هنوز به سربازی نرفته بود و با سلاح هم آشنایی نداشت. ابتدا معاون فرهنگی و سپس مسئول سپاه حمیدیه می شود.
او دبیرستان خود را در رشتۀ تجربی گذراند و پس از آن در رشتۀ پزشکی مشهد قبول شد اما به علت مسئولیتهایش از رشتۀ مورد علاقۀ خود دست کشید.
پیش از آغاز تجاوز رژیم بعث به کشور اسلامی ایران، وی در سمت فرماندهی سپاه حمیدیه توانست در مقابله با ضدانقلاب، گروههای تجزیهطلب، اشرار و قاچاقچیان اسلحه و مهمات کارنامۀ خوبی از خود بر جای گذارد.
با حملۀ عراق به پاسگاههای خوزستان پیش از شروع رسمی جنگ، امثال علی فهمیدند که قصد عراق خوزستان است. او مبارزات خود با صدام را از همان زمان آغاز کرد.