1928年7月17日晚，張作霖在皇姑屯車站遭日本人暗算身亡。

楊宇霆的處境更為復(fù)雜。

12月29日東北易幟，楊宇霆堅決反對，他認(rèn)為不應(yīng)該服從蔣介石，因此與張學(xué)良釀成新的矛盾。對張學(xué)良他儼然以保護(hù)人的身份自居，經(jīng)常以周公輔成王的典故自詡，規(guī)勸張學(xué)良戒毒，批評他不問政事。雖出好心，但年輕氣盛的張學(xué)良卻不買他的賬。日本人也趁機(jī)利用正友本黨和混跡東北的中國流氓處處誹謗楊宇霆，離間張楊關(guān)系。他們送給張學(xué)良一本《日本外傳》，將張學(xué)良比作日皇豐臣繡吉，將楊比作篡位的日相德川。暗示張學(xué)良，楊宇霆是他身邊的隱患，要及早除掉。張學(xué)良中了奸計，但仍猶豫不決，三次擲銀元問卜后才下了殺楊的決心。

1929年1月10日晚，楊宇霆下班回家，聽說有帥府請他去打牌的電話，沒有吃飯便驅(qū)車前往。誰料一進(jìn)帥府，就同黑龍江省長常蔭槐一起人車被扣，以吞扣軍餉，貽誤戎機(jī)，圖謀不軌等莫須有的罪名，被張學(xué)良事先安排好的警務(wù)處長高紀(jì)毅、副官譚海等槍殺在帥府會客廳東大廳(老虎廳)。事后，張學(xué)良對自毀長城之舉悔恨莫及，命統(tǒng)帶劉多荃給楊、常兩家各送去慰問費(fèi)一萬元，并親自給在法國留學(xué)的楊宇霆的長子春元去信，安慰他安心學(xué)習(xí)。楊宇霆是個煙酒不沾，沒有嗜好的正統(tǒng)軍人，一生自負(fù)好勝。年輕時，為練騎術(shù)，半夜偷著騎馬被戰(zhàn)馬咬傷。領(lǐng)兵后，對違例士兵不論親疏，嚴(yán)加處罰。輔佐張作霖時，則以皇帝與宰相自勉，視主不二。他有秘書，卻經(jīng)常親自批閱文件到深夜。但他心胸狹窄，對自己不睦的人從不寬容。他非常迷信，家中常年養(yǎng)著術(shù)士，遇事扶乩問卜。老虎廳事件前，他還曾扶乩，得乩語：“雜亂無章，揚(yáng)長而去。”術(shù)士認(rèn)為乩語不祥，要他多加小心。事有湊巧，不幾天他便死于非命。后來民間這樣傳稱：“炸爛吳(俊升)張(作霖)，楊(宇霆)常(蔭槐)而去?！睏钣铞竹R一生，死后張學(xué)良派兵護(hù)柩葬于遼寧省法庫縣蛇山溝村。