Armia antycznego Rzymu podlegała od początku swojego istnienia wielu przeobrażeniom. Wraz z ukształtowaniem się państwa rzymskiego, wojsko tworzone było przez najbogatszych obywateli. Z czasem zaczęło się to zmieniać, bowiem w armii dominować zaczęły najbiedniejsze warstwy Rzymu. Ostatecznie armia ukształtowała się w II wieku p.n.e., kiedy to powołana została armia zawodowa. Obywatele zaczęli traktować służbę wojskową jako zawód.
W I wieku p.n.e. armia stała się jedynym czynnikiem siły w państwie rzymskim. Ambitni wodzowie tacy jak: Sulla, Pompejusz Wielki, Juliusz Cezar, czy Oktawian August przy pomoc legionów zdecydowanie poszerzyli granice państwa rzymskiego. Morze Śródziemne stało się morzem wewnętrznym Imperium.
Nowoczesna armia rzymska w dużym stopniu także zadecydowała o wybuchu wojny domowej w I wieku p.n.e. Profesjonalna armia z czasem zaczęła być uważana przez konsulów za ich gwardię przyboczną. Żołnierze związani ze swoim wodzem zaczęli dostrzegać w nim prawdziwego przywódcę (Pompejusz Wielki, Gajusz Juliusz Cezar). W efekcie doszło do rywalizacji o miano najsilniejszego człowieka w państwie, który będzie decydował o przyszłości „nieudolnej republiki”. Ponadto w pewnym sensie armia zawodowa doprowadziła do wykształcenia się nowej formy rządów, pryncypatu. W okresie cesarstwa całe wojsko rzymskie było w dyspozycji tylko i wyłącznie cesarza.
Właściwym twórcą wojska stałego, opartego na zaciągu, był Oktawian August. Regularną armię rozmieszczono w prowincjach nadgranicznych (głównie nad Renem i Dunajem) i pod koniec rządów Oktawiana Augusta liczyła ona 25 legionów; później liczba legionów wzrosła do 30, a ponadto istniały oddziały pomocnicze (auxilia). Ogólna liczebność armii sięgała około 250.000 żołnierzy. Legiony w okresie dynastii julijsko-klaudyjskiej (27 p.n.e. – 68 n.e.) rekrutowały się z mieszkańców Italii.
Od rządów Wespazjana (lata 69-79 n.e.) rozpoczęła się rekrutacja z mieszkańców prowincji, a od czasów Hadriana (117-138 n.e.) mieszkańcy prowincji służyli na terenie tych prowincji, z których pochodzili. Oddziały pomocnicze rekrutowały się z nieobywateli, którzy po ukończeniu służby wojskowej uzyskiwali prawa obywatelskie. Służba trwała 25-30, czasem nawet 40 lat. W uprzywilejowanej sytuacji znajdowali się stacjonujący w bezpośredniej bliskości Rzymu pretorianie. Specjalne oddziały pełniły służbę porządkową w Rzymie (cohortes urbanae i cohortes vigilum, tj. kohorty miejskie i oddziały straży pożarnej). Po odbyciu służby wojskowej weterani otrzymywali odprawy pieniężne oraz działki ziemi – osiedlali się zazwyczaj w pobliżu miejsca stacjonowania ich legionów.
W okresie cesarstwa armia stała się podstawą władzy cesarzy, równocześnie zaś odgrywała coraz większą rolę jako czynnik polityczny, decydujący często w sprawach wewnętrznych państwa. W wyniku reform Dioklecjana (284-305 n.e.) i Konstantyna Wielkiego (306-337 n.e.) wojsko rzymskie zostało podzielone na wojska graniczne (limitanei), stale znajdujące się w określonym pasie granicznym, oraz polowe (comitatenses), tworzące strategiczny odwód wewnątrz kraju, w razie potrzeby przerzucany z jednej granicy na drugą. Podniesiono stan liczebny armii (znacznie powyżej pół miliona żołnierzy), wprowadzając przymusowy pobór rekrutów. Przyjmowano także do armii barbarzyńców, a nawet całe ich oddziały.
Flota nie odgrywała w wojsku rzymskim większej roli. Pierwszą większą flotę wystawiono w 260 roku p.n.e., podczas I wojny punickiej, następnie rozbudował ją Pompejusz Wielki i Cezar. Stała flota powstała za Oktawiana Augusta. W okresie późniejszym istniały też floty prowincjonalne (classis Pontica, classis Britannica) oraz rzeczne – na Renie, Rodanie, Dunaju i Eufracie. Główną bazę stanowiły porty w Misenum i Rawennie.
Posiłki wojskowe w czasach Imperium Rzymskiego określano jako supplementum („wsparcie”). Wysłużony żołnierz, który po zakończeniu służby w legionach pozostał na służbie, nazywany był emeritus. Z kolei mężczyźni w wieku 17-46 lat, zdolni do służby wojskowej, to iuniores.
