ليس من السهل كتابة تاريخ اليمن العسكري كون الأحداث الرئيسية، مثل المعارك الخاسرة والرابحة، لا يمكن تحديدها بسهولة. وكما هو الحال في دول عربية أخرى، حدثت مناوشات بين الفصائل القبلية المتنقلة وانقلابات عرضية من حين إلى آخر. إلا أنه لا بد من ذكر الصراعات المسلحة العلنية في تاريخ البلاد.
عام 1962، احتلت القوات الثورية صنعاء، عاصمة اليمن الشمالي، وأعلنت قيام الجمهورية العربية اليمنية. كانت السعودية والأردن تؤيد الحكومة المخلوعة، إلا أن مصر أرسلت بقوات وطائرات مقاتلة لدعم الجمهورية العربية اليمنية. في مصر لا يزال يشار إلى هذا الصراع على أنه “فيتنام مصر”. كما من المعتقد على نطاق واسع أن مصر استخدمت غاز الخرذل ضد القوات الملكية. غادرت القوات المصرية البلاد عام 1967.
كان اليمن الجنوبي يمر في فترة غليان في الستينات من القرن الماضي. كان البريطانيون منشغلين بتنفيذ إستراتيجية إلغاء إمبراطوريتهم شرق السويس. وكانت المعارضة المسلحة، مثل جبهة التحرير الوطنية، تتحين فرصة الاستيلاء على السلطة في حال مغادرة القوات البريطانية. وقد ثبت أنه من المستحيل حدوث انتقال سلمي وسلس. فبعد مغادرة القوات البريطانية العاصمة عدن عام 1967، استولت جبهة التحرير الوطنية على السلطة. عام 1969، استولى فصيل ماركسي من جبهة التحرير الوطنية على السلطة، وأصبح اليمن الجنوبي حليفاً للسوفييت.
عام 1990، تم خلع رئيس وزراء اليمن الجنوبي من قبل قواد آخرين وذلك في معارك غامضة ودموية دامت شهرين، خسر خلالها الآلاف حياتهم. جرت هذه المعارك بين جناحين في الحزب الماركسي، إلا أن تنظميها كان على أسس قبلية إلى حد كبير.
عام 1990، اتحد شطرا اليمن، إلا أن الاتحاد كان يعني عملياً هيمنة الشمال على الجنوب. في أيار/مايو 1994، أعلن زعماء الجنوب الانفصال وأقاموا جمهورية اليمن الديمقراطية. فاندلعت حرب أهلية. وقعت معظم الأعمال القتالية الفعلية عام 1994 في القسم الجنوبي من البلاد، بصرف النظر عن الهجمات الجوية والصاروخية على المدن والمنشآت الرئيسية في الشمال. طلب الجنوبيون دعم الدول المجاورة، وتلقوا مليارات الدولارات من العتاد والدعم المالي، على الأكثر من السعودية التي شعرت بالتهديد من اليمن الموحد.
ودعمت الولايات المتحدة الوحدة اليمنية بقوة، إلا أنها دعت مراراً إلى وقف إطلاق النار والعودة إلى طاولة المفاوضات. لم تنجح محاولات عدة، بما فيها التي قام بها مبعوث الأمم المتحدة الخاص، في الوصول إلى وقف إطلاق للنار. تم الاستيلاء على عدن في 7 تموز/يوليو 1994. وسرعان ما انهارت المقاومات الأخرى وتم نفي الآلاف من الزعماء والعسكريين الجنوبيين. وفي وقت سابق خلال القتال، أعلن الرئيس علي عبد الله صالح عن عفو عام. عاد معظم الجنوبيين إلى اليمن بعد فترة قصيرة من النفي.
اعتباراً من عام 2004، واجهت الحكومة المركزية ثورة تحولت إلى حرب عصابات من قبل الحوثيين – وهم من الجنوبيين المهمشين وأتباع حسين بدر الدين الحوثي. تزايد عنف هذه الحروب وكلفتها، ولم تنتصر فيها الحكومة المركزية على الإطلاق. عام 2009، تدخلت المملكة العربية السعودية وهاجمت مواقع الحوثيين داخل اليمن.
بعد أن هاجم تنظيم القاعدة نيويورك وواشنطن في أيلول/سبتمبر 2001، تلقى اليمن دعماً عسكرياً ومستشارين عسكريين من الولايات المتحدة الأمريكية لمحاربة الحضور الكبير للمجموعة في البلاد.