楊宇霆在辛亥革命的前一年從日本陸軍學校畢業。回國後的他曾擔任東三省陸軍講武堂副官。辛亥革命發生，楊宇霆擔任奉天軍械所所長。由於楊宇霆的聰明才智，還有一批陸軍學校的同學入徐樹錚等人的幫助，很快得到了當時“東北王”張作霖的賞識。
1916年，隨着袁世凱的皇帝夢碎，而緊接着就是這位風雲人物的去世，張作霖和當時的陸軍第二十八師師長馮德麟兩人通過楊宇霆的策劃，成功的趕走了當時袁世凱的親信，東三省彰武上將軍段芝貴，取得了奉天政權，而張作霖本人也爬上了奉軍督軍寶座，馮德麟擔任張作霖的副手。楊宇霆本人也憑着這一功勞平步青雲，由一個小小的中校所長一舉躍升為奉天督軍參謀處長、參謀長。從此，楊宇霆成為張作霖身邊軍事一般的人物，為張作霖出謀劃策，頗得張作霖的信任。
時間很快到了1917年，北洋政府的馮國璋和段祺瑞的爭端加劇，後段祺瑞在徐樹錚的勸解下，將馮國璋購買的一批軍械秘密送給了張作霖，張作霖得到軍械後實力大增。為感謝徐樹錚和中間牽線的楊宇霆，委任徐樹錚為奉軍副總司令，楊宇霆為參謀長。
隨着楊宇霆權勢的增長，他的野心也蠢蠢欲動，楊宇霆與徐樹錚謀劃利用奉軍勢力培養自己的手下實力，為以後自成體系做準備，可惜這個事情很快被張景惠察覺，張景惠密告張作霖，張作霖大為惱火。後用徐樹錚擅殺陝西督軍陸建章的理由撤換了徐樹錚的副司令和楊宇霆的參謀長職位。
離開奉軍的楊宇霆一直沒有得到重用，為生活奔波，而也就是三年後，張作霖又從新啓用了楊宇霆，楊宇霆再次憑着自己左右逢源的手段青雲直上。
第二次直奉戰爭後，楊宇霆得到江蘇督辦職位，而有大功的郭松齡卻一無所得，這讓郭松齡大為憤慨。與郭松齡關係密切的少帥張學良也頗為不平，可結果卻無法改變。楊宇霆與少帥之間第一次的裂痕由此而來。
後郭松齡反奉提出的口號中就有誅楊宇霆這樣的句子，而在奉軍中也有不少人認為楊宇霆嫉賢妒能，後郭松齡戰敗而死，少帥張學良因為楊宇霆等人不僅失去了自己的左膀右臂，更遭到父親的指責，大為憤慨。這是兩人的第二條裂痕。
楊宇霆嚴格説起來是一個比較驕傲自負的人，在奉軍中除了老帥張作霖，其他人他看起來不過爾爾，楊宇霆後來慫恿張作霖出關參加內戰，已然讓很多人不滿，後更是自薦取代當時的第三四方面軍團長韓麟春。與當時的張學良同任軍團長，張學良更是不滿。這是兩人的第三條裂痕。
張作霖被炸死後，接替了張作霖帥位的張學良掌握了東北的軍政大權。而以奉軍元老自居的楊宇霆卻很輕視張學良，動輒稱呼張學良的字“漢卿”，很少稱呼奉軍元帥職位。這讓張學良大為不滿，畢竟那時的張學良就是個青年，後楊宇霆與常蔭槐串通一氣後，張學良爆發了。由此，楊宇霆被張學良派人暗殺不稀奇。