تأسس الجيش الليبي قبل إنشاء الدولة الليبية ذاتها، أي قبل تحرير البلاد من المستعمر الإيطالي وإعلان الاستقلال، كان ذلك في التاسع من أغسطس ١٩٤٠م، بعد ان اجتمع الأمير إدريس السنوسي بأربعين من زعماء الليبيين المقيمين بمصر لمدة ثلاثة أيام بمنزله في الاسكندرية في ٢٠ أكتوبر ١٩٣٩م، وقد اتخذ المجتمعون قرارا بتفويض السيد إدريس بمفاوضة الحكومة الإنجليزية بشأن تكوين جيش مهمته المشاركة في تحرير ليبيا من الاستعمار الإيطالي، وبالفعل تم إصدار قرار بتكوين الجيش الليبي، وافتتح مكتب لقبول المتطوعين في القاهرة في ١٢ أغسطس ١٩٤٠م، وقد عرف حينها "بجيش التحرير أو الجيش السنوسي". وأقيم أول معسكر تدريب للجيش السنوسي بمنطقة أبو رواش بالإسكندرية.
شارك الجيش الليبي في الحرب العالمية الثانية إلى جانب قوات الحلفاء، وخاض معركته الأولى في منطقة سيدي البراني بالإسكندرية في ديسمبر ١٩٤٠م، واتخذ راية قتالية له مستقلة عن بقية تشكيلات الجيش البريطاني الثامن، راية سوداء يتوسطها نجمة وهلال، واستمرت القوات الليبية في الاندفاع وراء فلول الإيطاليين والألمان المنسحبة حتى دخلت برقة ثم طرابلس التي تحررت فِي يناير ١٩٤٣م. الى أن تم طرد المستعمر الإيطالي من ليبيا، وأعلن الملك إدريس السنوسي من شرفة قصـر المنار في مدينة بنغازي يوم ٢٤ ديسمبر ١٩٥١م استقلال البلاد وتحريرها، وبعد فترة وجيزة من إعلان الاستقلال، احتفل رسمياً بتأسيس "الجيش الليبي" في ٩ أغسطس ١٩٥٢م، معتمداً على النواة الأولى التي تشكلت في مصر، في ٩ أغسطس١٩٤٠م.