宋徽宗崇寧二年二月十五日（1103年3月24日），岳飛生於相州湯陰永和鄉孝悌裏，家中世代務農，是北宋政治家韓琦家的佃農。史載岳飛力量驚人，能開三百斤弓，八石之弩，且拜師於弓術名家周同，能左右開弓。宣和四年（1122年）冬，岳飛從軍，旋因其父嶽和病故，回到家鄉守孝三年。宣和六年（1124年）冬，再次投軍，翌年駐地淪陷於金軍之手，戰敗還鄉。宋欽宗靖康元年（1126年），第三次投軍。宋高宗建炎元年（1127年）年，以越職上書言事，被奪官。對於這三次從軍經歷，各種史書眾説紛紜。
成書於元代的《宋史》記載岳飛冤獄時，法官大理寺寺丞何鑄命岳飛脱衣受審,“飛袒而示之背，背有舊涅‘盡忠報國’四大字”。何鑄為岳飛申訴冤情不得，秦檜改派万俟卨審理。
清代錢彩的歷史評書《説岳全傳》演繹成岳飛在第四度投軍時，岳飛的母親用針在岳飛的背後刺上“精忠報國”，後以醋墨敷彩，於是留下了“岳母刺字”這個故事。
宋高宗建炎元年（1127年）八月，岳飛投奔借通直郎、直龍圖閣、河北西路招撫使張所軍中，受到賞識，借補修武郎、閣門宣贊舍人，充中軍統領；不久，又借補武經郎，充中軍統制[b]。九月，張所命都統制王彥率岳飛等七千人北渡黃河抗金。張所不久被撤職流放，河北西路招撫司隨之撤銷。在進軍途中，岳飛與王彥意見不合，後遂脱離王彥單獨行動，但眾寡不敵，重歸王彥被拒，於是南下投奔延康殿學士、京城留守、兼開封尹宗澤。岳飛以不服主將號令當斬，被宗澤赦免，僅免官待罪。
建炎二年（1128年七月），宗澤病逝，杜充接任東京留守。八月，岳飛再次在汜水關擊敗金軍，升轉武功郎。杜充命令岳飛去消滅張用、曹成、王善等被原宗澤招安但在其死後不受約束的部隊，岳飛以所部八百人死戰，升轉武經大夫。接着，岳飛奉命解救盜匪杜叔五、孫海圍困的東明縣，升轉武略大夫，借補英州刺史。岳飛再救援被王善圍困的淮寧府，升轉武德大夫，實授英州刺史。
建炎三年（1129年）六月，杜充撤往建康府，岳飛苦諫不從，開封失守。不久完顏宗弼率金軍南下建康，杜充所部戰敗，率親兵三千投降。岳飛退屯建康東北的紫金山，後四戰收復常州。宋高宗從海上逃走，金軍從海道追出三百多里，仍然沒能抓住他，隨即在大肆擄掠後北還。
建炎四年（1130年）三月，宋高宗從海上返回越州，任命張俊為浙西路江東路制置使，“諸將並受節度”，命其收復建康。四月，岳飛在清水亭首戰告捷；五月，進屯牛頭山，率三百騎兵、兩千步兵在建康城西北十五里擊敗完顏宗弼，收復建康。六月，岳飛隨張俊討伐淪為盜匪的原統制戚方，以三千人在廣德軍東南約七十里的苦嶺擊敗戚方，戚方投降張俊。
岳飛回到張渚鎮，因為即將離開，在房東張大年的屏風上題詞：
近中原〔板〕蕩，金賊長驅，如入無人之境；將帥無能，不及長城之壯。餘發憤河朔，起自相台，總髮從軍，小大曆二百餘戰。雖未及遠涉夷荒，討曲巢穴，亦且快國讎之萬一。今又提一壘孤軍，振起宜（興），建康之城，一舉而復，賊擁入江，倉皇宵遁，所恨不能匹馬不回耳！ 今且休兵養卒，蓄鋭待敵。如或朝廷見念，賜予器甲，使之完備，頒降功賞，使人蒙恩；即當深入虜庭，縛賊主碟血馬前，盡屠夷種，迎二聖復還京師，取故地再上版籍。他時過此，勒功金石，豈不快哉！此心一發，天地知之，知我者知之。建炎四年六月望日，河朔岳飛書。
張俊回朝後“盛稱岳飛可用”，於是岳飛升轉任武功大夫、昌州防禦使，通州鎮撫使兼知泰州。
完顏宗弼北上後，與完顏昌會師攻打楚州。宋高宗命張俊援救楚州。張俊命並非嫡系的岳飛出戰，又命劉光世為岳飛後援。岳飛於九月趕到承州，但未能解楚州之圍，楚州失陷。岳飛無險可恃，撤軍而還。同年六月，御前五軍改為神武軍，韓世忠所部為神武左軍，張俊所部為神武右軍都統制，兩人均為都統制；辛永宗所部六千人為神武中軍，王燮所部一萬五千人為神武前軍，陳思恭所部萬人為神武后軍，三人均為統制。御營司五軍改為神武副軍，辛企宗所部為神武副軍，辛企宗為都統制；李橫所部為神武左副軍，顏孝恭所部為神武右副軍，兩人均為統制。後神武右副軍統制顏孝恭改任江南東路安撫大使司統制，空缺由岳飛填補。十月，岳飛升轉親衞大夫、建州觀察使。十二月，神武副軍都統制辛企宗因鎮壓福建範汝為之亂不力而被削職[15]，岳飛的“神武右副軍”改名為“神武副軍”，並升遷為都統制。 紹興二年（1132年）正月末，岳飛被任命為知州、兼荊湖東路安撫使、都總管，統率軍馬前往潭州。二月，主戰派頭號人物李綱被起用為荊湖、廣南路宣撫使，岳飛等將領劃入李綱部下[17]，討伐湖東路的盜匪曹成。當時岳家軍的兵力為一萬二千餘人，岳飛以二千人駐守吉州（今江西吉安市），以其餘的一萬多人進攻曹成的部隊。戰鬥中嶽家軍佔盡優勢，但曹成部下悍將楊再興驍勇異常，先是攻入岳家軍第五正將韓順夫的營地，將韓砍折一臂而死，後又殺死了嶽飛的胞弟嶽飜。但楊再興最終被岳家軍俘虜，被岳飛收服而成為日後岳家軍的著名悍將之一。李綱稱讚岳飛“年齒方壯，治軍嚴肅，能立奇功，近來之所少得”，斷言他“異時決為中興名將”。閏六月，岳飛升三官為中衞大夫、武安軍承宣使，仍屬從五品。討伐曹成後，岳家軍兵力增一倍，達二萬三千到四千人左右，與韓世忠、劉光世、張俊等軍相差不多。
紹興三年（1133年）九月，岳飛第二次朝見宋高宗。宋高宗親筆書寫“精忠岳飛”四字，繡成一面戰旗，命岳飛在用兵行師時作為大纛。又任命岳飛任江南西路舒蘄州制置使，將駐守蘄州的統制李山，屯紮江州的統制傅選兩支部隊併入岳家軍[21]，將淮南西路舒州和蘄州的防務併入岳飛的防區。岳家軍的軍號也由“神武副軍”升格為“神武后軍”，但岳飛的官銜卻由都統制改回統制[22]，這是因為他的資歷尚淺，還不能和“神武左軍”都統制韓世忠、“神武右軍”都統制張俊相比。