1928年6月17日,得知父亲已被日本人炸死的张学良化装混在兵车中从北京赶回沈阳,制订了东北三省临时保安公约,并就任东三省保安司令一职。国恨家仇使张学良决意易帜,归附南京国民政府。但是,日本不愿看到中国南北统一,阻止东北易帜。
8月9日,蒋介石派方本仁到奉天,劝张“易帜”;与此同时,日本也派林权助以参加张作霖的葬仪为名,对张学良作第二次“劝告”,并鼓动张学良在东北独立,威胁张学良不准挂国民政府的“青天白日”旗帜,只能挂北洋政府的五色旗。张学良见日本政府横行无理,勃然变色,怒斥日本人。这时,北伐军已进踞平津,除东北外,全国大部分地区都统一在“青天白日”旗帜之下。经过两个多月的洽谈,南京政府和张学良于1928年12月29日达成协议:南京政府承认东北三省自治,张学良在沈阳正式通电“改旗易帜”,在东三省和热河省换掉了五色旗,改悬国民党的青天白日党旗和青天白日满地红的国旗。南京政府遂任命张学良为东北边防司令长官。至此,北洋军阀割据局面彻底结束,国民政府实现了形式上的统一。