În primele secole ale existenţei sale, Noua Romă se va confrunta şi ea, ca sora sa occidentală, cu migraţiile barbarilor. Constantinopolul trebuie să ia măsuri pentru a-i ţine în frâu mai întâi pe vizigoţi, huni şi ostrogoţi, folosindu-se nu doar de forţa militară, ci şi de o diplomaţie abilă şi concesii materiale.
Invazia hună incită spiritele în Europa, obligând populaţiile nord-pontice să se refugieze la sud de Dunăre. Vizigoţii pătrund în Imperiu în 376, cauzând probleme autorităţilor din Răsărit, culminând cu mare înfrângere a împăratului Valens de la Adrianopol, în 378. Deşi până la urmă li se permite colonizarea zonei dintre Dunăre şi Balcani, vizigoţii nu încetează să prădeze neîncetat provinciile balcanice, unul din motive fiind şi comportamentul abuziv al stăpânitorilor de aici. Vizigoţii se implică şi în intrigile de la curtea imperială, fapt care va stârni o reacţie dură împotriva lor prin anul 400, pericolul fiind eliminat definitiv după ce Alaric pleacă spre Italia, unde va jefui Roma în 410, asta cu acordul tacit al împăratului de la Constantinopol.
Şi armata va fi supusă unei reorganizari menite să indepărteze elementele barbare, iar Noua Romă se consolidează prin ridicarea zidului lui Theodosius al II-lea între anii 408-413. Spre anul 440 se iveşte un nou pericol. După ce îşi valorifică prezenţa în Pannonia prin crearea unui conglomerat politic, hunii invadează provinciile sud-dunărene sub conducerea lui Attila, moment în care Constantinopolul se vede nevoit spre propriul interes să tripleze tributul pentru barbari la 2100 de livre de aur. Moartea lui Atilla urmată de destrămarea formaţiunii sale politice scapă Imperiul de un real pericol. Dar totodată le dă frâu liber ostrogoţilor, care eliberaţi de sub tutela hunică pradă şi ei sudul Dunării şi se amestecă în problemele de la curtea imperială. Aceasta va proceda la fel ca în cazul