杨宇霆在辛亥革命的前一年从日本陆军学校毕业。回国后的他曾担任东三省陆军讲武堂副官。辛亥革命发生，杨宇霆担任奉天军械所所长。由于杨宇霆的聪明才智，还有一批陆军学校的同学入徐树铮等人的帮助，很快得到了当时“东北王”张作霖的赏识。
1916年，随着袁世凯的皇帝梦碎，而紧接着就是这位风云人物的去世，张作霖和当时的陆军第二十八师师长冯德麟两人通过杨宇霆的策划，成功的赶走了当时袁世凯的亲信，东三省彰武上将军段芝贵，取得了奉天政权，而张作霖本人也爬上了奉军督军宝座，冯德麟担任张作霖的副手。杨宇霆本人也凭着这一功劳平步青云，由一个小小的中校所长一举跃升为奉天督军参谋处长、参谋长。从此，杨宇霆成为张作霖身边军事一般的人物，为张作霖出谋划策，颇得张作霖的信任。
时间很快到了1917年，北洋政府的冯国璋和段祺瑞的争端加剧，后段祺瑞在徐树铮的劝解下，将冯国璋购买的一批军械秘密送给了张作霖，张作霖得到军械后实力大增。为感谢徐树铮和中间牵线的杨宇霆，委任徐树铮为奉军副总司令，杨宇霆为参谋长。
随着杨宇霆权势的增长，他的野心也蠢蠢欲动，杨宇霆与徐树铮谋划利用奉军势力培养自己的手下实力，为以后自成体系做准备，可惜这个事情很快被张景惠察觉，张景惠密告张作霖，张作霖大为恼火。后用徐树铮擅杀陕西督军陆建章的理由撤换了徐树铮的副司令和杨宇霆的参谋长职位。
离开奉军的杨宇霆一直没有得到重用，为生活奔波，而也就是三年后，张作霖又从新启用了杨宇霆，杨宇霆再次凭着自己左右逢源的手段青云直上。
第二次直奉战争后，杨宇霆得到江苏督办职位，而有大功的郭松龄却一无所得，这让郭松龄大为愤慨。与郭松龄关系密切的少帅张学良也颇为不平，可结果却无法改变。杨宇霆与少帅之间第一次的裂痕由此而来。
后郭松龄反奉提出的口号中就有诛杨宇霆这样的句子，而在奉军中也有不少人认为杨宇霆嫉贤妒能，后郭松龄战败而死，少帅张学良因为杨宇霆等人不仅失去了自己的左膀右臂，更遭到父亲的指责，大为愤慨。这是两人的第二条裂痕。
杨宇霆严格说起来是一个比较骄傲自负的人，在奉军中除了老帅张作霖，其他人他看起来不过尔尔，杨宇霆后来怂恿张作霖出关参加内战，已然让很多人不满，后更是自荐取代当时的第三四方面军团长韩麟春。与当时的张学良同任军团长，张学良更是不满。这是两人的第三条裂痕。
张作霖被炸死后，接替了张作霖帅位的张学良掌握了东北的军政大权。而以奉军元老自居的杨宇霆却很轻视张学良，动辄称呼张学良的字“汉卿”，很少称呼奉军元帅职位。这让张学良大为不满，毕竟那时的张学良就是个青年，后杨宇霆与常荫槐串通一气后，张学良爆发了。由此，杨宇霆被张学良派人暗杀不稀奇。