在中國和蘇俄，以及後來的蘇聯建交之後，蘇聯方面對於中國的軍閥部隊收容白俄流亡者的行為十分不滿，多次對中國各方勢力提出抗議，面對這樣的外交壓力，為了保住寶貴的白俄軍的中國各方勢力紛紛想辦法保留他們，比如大軍閥張宗昌組建了入籍軍，意思是這些白俄自願加入中國國籍，在新疆則出現了所謂的歸化族和歸化軍，成為了當時新疆政治舞台上所有人都無法忽視的一股力量。
駐紮在伊犁的歸化軍
在楊增新軟硬兼施，藉助蘇聯的力量擊敗了伊萬諾夫，安年科夫，巴奇赤等幾支匪軍之後，對於新疆境內殘存的大量白俄，楊增新和金樹仁等人也想加以利用，將他們收編入新疆的政府和武裝部門。
包爾漢在他的《新疆五十年》中，對於歸化族和歸化軍的來歷有過精闢的説明：
巴品古特
所謂的歸化族，是指的遷入新疆的俄羅斯族和其他的歐洲人族羣，這些人都是上個世紀起，從俄國十月革命之後遷入新疆的，他們的居留地主要是伊犁，塔城，烏魯木齊和阿山等地，除了少數人有大量的資財之外，很多人主要是務農，經商，或者給人幫傭，收入僅可餬口，衣食大體可以自給自足，其中一部分人在1920年前後獲得了中國國籍，但是大多數人沒有國籍，處於不受法律保護的狀態。在維族發動的哈密暴動期間，就有人建議金樹仁政府招募曾經參加過軍隊的白俄（因為很多白俄軍人是沙俄時代校尉級別的軍官，有豐富的軍事經驗和較強的戰鬥力），當時金政府的外交官都曾作為代表，和白俄流亡者的代表格米林肯接洽過，認為這些人可資利用，所以格米林肯和帝俄時代的一些舊軍官在1931年下半年就把歸化軍組織了起來。
包爾漢-沙希迪
當然，除了新疆省政府為了防禦蘇俄對新疆的滲透，鎮壓新疆各族人民的起義之外，白俄軍人都希望在中國建立起穩定的根據地和據點，最後有朝一日反攻俄羅斯，恢復羅曼諾夫王朝。所以他們才鋌而走險，和中國的軍閥們合作，新疆的白俄流亡者們也不例外。
而和其他白俄軍單位組織的歷史背景類似，歸化軍誕生於中國的軍閥混戰，具體説是新疆本土勢力聯合甘肅軍閥對抗新疆省政府的戰爭。
儘管民國政府早在1912年已經建立，但是新疆本地的維族土王依舊在延續自己的統治，而且封建統治似乎有加強的趨勢。
西北馬家軍騎兵
1930年3月，沙木胡索特親王病故後，其子聶孜爾繼承了王位。他殘酷的政策使得當地人民要求省主席金樹仁施行改土歸流，廢除親王貴族及統治地位。金樹仁決定放荒和徵收田賦；但由於王府和地方政府的阻撓，使得政策賦税轉到了農民身上。從而導致了所謂的哈密暴動，起事的維族和回民推和加尼牙孜為首領。因起義軍無法抵擋以漢，蒙，哈等族為主力的新疆省軍，和加尼牙孜的部下堯樂博斯前往甘肅，引甘肅的大軍閥馬仲英前來對抗新建省政府。
馬仲英
面對兇悍的馬家軍，新疆省政府感到壓力空前，金樹仁發現境內有很多出身前沙俄軍隊的白俄難民，覺得奇貨可居，於是在多方磋商之後，1931年新疆歸化軍最早的兩個連在哈密組建完成，由沙俄前禁衞軍軍官安東諾夫和巴品古特擔任軍官，在鎮壓新疆其他民族的起義中表現出眾，而且由於白俄軍士兵的待遇相當於中國的低級軍官，所以全疆內的白俄都將加入歸化軍作為不錯的餬口途徑。
眼看投奔者絡繹不絕，1931年末，歸化軍又擴編一個連，到了1933年，歸化軍的規模達到了一個旅，旅部位於烏魯木齊滿城東門外。按照約定，全新疆30歲以下的白俄都有應徵的義務，前沙俄軍官不論年齡都可以加入歸化軍。
此外，1933年，在馬仲英與金樹仁政府在作戰的同時，北方阿山地區回族馬如龍發動武裝暴動，同樣生活在阿山地區的歸化族受到威脅於是組成了一支騎兵自衞隊。包爾漢作為阿山宣慰使前往阿山與哈族首領沙裏福汗·精思汗商談，使其與歐洲裔的歸化族自衞隊組成“阿山歸化軍自衞隊”，共同抵抗馬如龍的襲擾。
由於在哈密暴動之後，漢人軍隊處處吃敗仗，而歸化軍身體健壯，而且還有十月革命期間在沙俄內戰積累的戰鬥經驗，所以很快得到了金樹仁的高度器重。
但是在經過了數年的征戰之後，除了少數歸化軍發財之外，大多數人的生活依舊困苦。由於新疆省府庫空虛，歸化軍的高額軍餉基本上沒有着落，很多人除了戰時搶劫，基本上缺乏收入；金樹仁一方面依仗歸化軍，但是對於軍官和軍隊缺乏基本的尊重和感情聯絡，比如巴品古特低三下四的找金樹仁申請軍餉，但是金樹仁正在卧榻上對着鴉片吞雲吐霧，翹着一隻腳，用一隻手一指讓巴品古特落座，這件事情讓巴非常憤怒不滿，且不説長期欠餉，就連基本的對貴族的尊重都沒有，這就讓巴懷恨在心。
所以在1933年新疆省發生的四一二政變中，新疆省軍參謀處長陳中，飛行員兼機械師李笑天等人準備起事推翻金樹仁政府，他們就找到了長期受氣的巴品古特，和後者一拍即合，在政變者説明來意之後，巴品古特當即破口大罵，將金樹仁不尊重人的行為大加數落，還要求政變成功之後歸化軍中願意解甲歸田者可以自由謀求生路，加入中國國籍，和漢人維人享受同等待遇，歸化軍軍官不願意繼續征戰者可以在新疆省政府內獲得其他職務安排。
歸化軍
將條件談妥之後，白俄歸化軍經過嚴密籌備，在1933年4月12日，200名白俄軍邀請烏魯木齊城防長官白受之參觀軍事操練，但是等白一去就將白拘捕，隨後政變部隊搶佔了各處城門，嚇得金樹仁帶着家眷逃出城外，巴品古特在佔領了烏魯木齊省政府，獲得了金樹仁的印信和關防，最後巴品古特向烏魯木齊全城通電：
歸化軍起事旨在拯救新疆各族人民。新疆變亂已有2年，農村凋敝，看樣子今年春播也無希望。一切皆是因為金主席沒有能力所致；我們希望金主席讓位於更有能力之人，拯救新疆，我們絕無為自己謀求利益之私心。如果金主席願意退位，我們承諾保證金主席及其家人之人身安全。
與此同時，金樹仁的軍隊開始反攻，他們佔領了省城的西門，並佔據了西北城牆的制高點壓制歸化軍，在關鍵時刻，同樣相應政變的黑龍江救國軍第十五旅旅長鄭潤成（九一八事變之後轉到蘇聯和新疆）同意起事，將金樹仁的軍隊擊敗。在新疆臨時維持委員會上，盛世才被推舉為新疆督辦，歸化軍最後成為了盛世才統治新疆的支柱性力量之一。
巴品古特
由於盛世才自己相對親日和親蘇的立場，他隨之對歸化軍進行了改組，比如以巴品古特和格米林肯為代表的白俄將領受到盛世才拘押，為了討好蘇聯，他全部換用了自己的親信。隨後，新疆省駐紮在奇台的國民黨駐軍，在原屬中央系統的張培元舊部姚華亭的指揮下發動叛變，這次叛亂也被由包爾漢和伊萬諾夫牽頭組織的白俄歸化軍一團鎮壓，隨後歸化軍和盛世才自己的嫡系部隊，還有流落到新疆的原東北軍的一部分力量取代了奇台戰役，烏魯木齊戰役和三道河子等戰役的勝利，奠定了盛世才獨裁統治新疆的基礎。
盛世才
到1933年12月，因為統治新疆清除異己的需要，盛世才向蘇聯政府求救，蘇聯紅軍庫米齊將軍和沃爾根團長率兵越境入疆，他們對外宣稱是“阿爾泰歸化軍”和“塔爾巴哈台歸化軍”；1938年，前述由白軍組成的歸化軍多已解散或重組，蘇聯紅軍第八團（紅八團）進入新疆且對外宣稱為“歸化軍騎兵第八團”。該團包括騎兵、步兵、工兵、通訊兵等主要兵種外，還擁有軍用飛機，一個炮兵營，一個坦克連，兵力共計3,000人，團長為烏申科少將。
白俄歸化軍
雖然歸化軍戰功赫赫，在擊敗甘肅軍閥馬仲英，鎮壓各地將領反抗之後，擔心白俄軍尾大不掉，也為了向蘇聯表忠心，於是將鄭潤成，巴品古特還有格米林肯等人關押後殺害，轉而由蘇聯滲透新疆。
新疆歸化軍的歷史就此結束。