ولد روميل في هايدنهايم بألمانيا في 15 نوفمبر 1891 للوالدين البروفيسور إروين روميل وهيلين فون لوز، وتلقى تعليمه محليا، وأظهر درجة عالية من الكفاءة الفنية في سن مبكرة،
وعلى الرغم من اعتقاده أن يصبح مهندسا شجع والده روميل للإنضمام إلى فوج المشاة كضابط متدرب في عام 1910، وأرسل إلى مدرسة الضابط كاديت في دانزيج، وتخرج في العام التالي وتم تكليفه كملازم في 27 يناير 1912 أثناء وجوده في المدرسة، والتقى روميل بزوجته المستقبلية لوسيا مولين التي تزوجها في 27 نوفمبر 1916.
مع بداية الحرب العالمية الثانية رقّي روميل إلى قائد قوة حراسة هتلر الشخصية. شارك في عام 1939 في الغزو النازي لبولندا. وفي عام 1940 تولى روميل منصب قائد التشكيل السابع لقوات البانزر، وشارك في غزو فرنسا وبلجيكا.
في عام 1941، تم تكليف روميل بدعم القوات الإيطالية في شمال أفريقيا حيث حقق روميل أقوى وأعظم انتصاراته. وصلت أنباء انتصارات روميل إلى هتلر في ألمانيا فأمر بترقيته إلى رتبة مشير.
أراد روميل سحب الجيش الألماني من شمال أفريقيا لأنهم لن يستطيعوا أن يواجهوا صيف صحراء شمال أفريقيا ولكن هتلر رفض طلب روميل بل وأمر هتلر بأن يهاجم الجيش الألماني العاصمة المصرية القاهرة وقناة السويس وبالفعل بدأ الجيش الألماني بالأتجاه نحو الإسكندرية حتى أوقفته القوات البريطانية على بعد 200 كيلومتر من الإسكندرية.
كان روميل قد حقق بعض الانتصارات في مصر ولكن هذه الانتصارات كانت هي السبب في نقص السلاح في القوات الألمانية.
خسر معركة العلمين الثانية في مصر على يد الجنرال الإنجليزي مونتغمري قائد الجيش الثامن البريطاني (فئران الصحراء) في أكتوبر 1942 ليس لعدم كفاءته أو لكفاءة خصمه بل لعدم توفر دعم جوي لديه وكذلك نقص حاد في المحروقات بينما كان خصمه يتمتع بتفوق جوي مطلق
في 3 مارس عام 1943 قاد روميل القوات الألمانية والإيطالية في معركة مدنين بالجنوب التونسي التي كانت آخر معاركه في شمال أفريقيا وهي المنطقة التي شهدت أمجاده العسكرية عندما أحدث انقلابا في الفكر العسكري بمناورات شديدة الإبداع أدت إلى تحقيق انتصارات كبيرة على القوات البريطانية وإجبارها على التراجع من مدينة طبرق في ليبيا إلى مصر حتى منطقة العلمين شمال غرب مصر.
أمر هتلر بإعادته إلى ألمانيا خاصة وقد تردّدت أنباء عن انتقادات روميل لقيادة هتلر. في يوليو عام 1944 وقد تعرّضت سيارة روميل إلى هجوم جوي أثناء إحدى غارات الحلفاء لكن روميل استطاع أن يهرب مع بعض الإصابات في رأسه. تم علاج روميل في المستشفى وشفي من جراحه.
بعد عودته إلى ألمانيا ألقي القبض عليه بتهمة التآمر على حياة هتلر بعد أن ثبت ضلوعه في محاولة اغتياله في مقر قيادته في بروسيا الشرقية في 20 يوليو 1944 حيث خيّره الزعيم النازي بين تناول السم والموت منتحرا والإعلان عن وفاته متأثرا بجراحه ليحتفظ بشرفه العسكري أو يقدم إلى محكمة الشعب بتهمة الخيانة فاختار الأولى وانتحر في الرابع عشر من أكتوبر عام 1944 بابتلاع حبة سيانيد سامة. وكان قد أخبر زوجته وابنه بهذا الأمر. تم دفنه ضمن مراسم عسكرية في غاية الأهمية محتفظا بجميع رتبه وأوسمته ضمن أعلى المراتب من الشرف العسكري.
