東晉十六國時期，偏踞西北的前涼張軌割據(jù)政權(quán)仍積極經(jīng)略西域，在西域發(fā)展史上有舉足輕重的歷史地位，它為中國西北地區(qū)經(jīng)濟(jì)、政治、文化的發(fā)展乃之民族大融合有不可忽視的歷史貢獻(xiàn)。前涼極盛之時，統(tǒng)治范圍包括甘肅、寧夏西部以及新疆大部。阿拉善地區(qū)大部分在前涼統(tǒng)治之下，只有東部沿黃河一線被羯族人建立的后趙政權(quán)短暫控制，鮮卑拓跋部（建代國，北魏前身）游騎出沒于東北部。

 西晉滅亡之后，北方的各族人民（主要是匈奴、鮮卑、羯、氐、羌五個少數(shù)民族）紛紛起義，他們中間的上層分子乘機(jī)起兵建立政權(quán)，前前后后一共出現(xiàn)十六個割據(jù)政權(quán)，歷史上稱為“五胡十六國”。中原北方先是后趙滅前趙，前趙亡于漢人冉魏，冉魏亡于鮮卑人慕容氐建立的前燕。氐族人苻氐建立前秦，在苻堅時期由王猛輔政，得以集權(quán)中央，經(jīng)濟(jì)提升，國勢大盛。370年滅前燕， 371年滅仇池氐楊氏，373年西南夷邛、筰、夜郎皆歸附于秦，376年，滅前涼和代，統(tǒng)一北方。東北、西域各國都遣使和前秦建立關(guān)系，只有東南一隅的東晉與他對峙，當(dāng)時朝鮮半島由高句麗、百濟(jì)、新羅割據(jù)，都接受前秦冊封，北方外族有柔然、庫莫奚、契丹及高車，西有吐谷渾及白蘭。前秦是中國歷史上第一個統(tǒng)一北方的少數(shù)民族政權(quán)。

前秦苻堅淝水兵敗后，原降于前秦的羌人貴族姚萇在渭北叛秦，384年建立后秦，都長安；384年，慕容垂在滎陽(今河南滎陽)自稱燕王，建立后燕；386年，氐族貴族呂光建立后涼，都姑臧(今甘肅武威)。阿拉善大部地區(qū)為后涼統(tǒng)治，東部延黃河一線為后秦控制，東北部鮮卑拓跋魏游騎出沒于東北部。

西涼(400年-421年)：李廣后裔李暠建立，400年在敦煌稱“涼公”，405年遷都酒泉，421年被北涼攻滅。

南涼(397年-414年)：禿發(fā)即“拓跋”的異譯：漢魏之際，拓跋氏的一支由酋長統(tǒng)率，從塞北遷到河西涼州，被稱為河西鮮卑。在此居住約兩個世紀(jì)，至禿發(fā)烏孤時期，建立南涼，都樂都(今屬青海)。414年，被西秦偷襲滅亡。

北涼(397年-460年)：由匈奴支系盧水胡族的首領(lǐng)沮渠蒙遜所建立，都城姑臧（現(xiàn)甘肅武威）。460年柔然攻破高昌，北涼遂亡。

夏（407年-427年），又稱夏國，或赫連夏，由匈奴鐵弗部首領(lǐng)赫連勃勃建立，為別于三代的夏朝，故史稱“大夏”，又其建國者為匈奴人，又稱“胡夏”。

在南北朝北魏時期，阿拉善地區(qū)為涼州鎮(zhèn)所轄，領(lǐng)居延縣。在此期間，北方邊境經(jīng)常受到北方游牧部落柔然的侵?jǐn)_，至使北魏一直無法統(tǒng)一南方。

北魏孝明帝正光二年（521年），居延被柔然婆羅門部占領(lǐng)。

到西魏時期，阿拉善北部邊境為柔然牧地。

到北周時期，阿拉善北部邊境為柔然與突厥牧地。