东北称王
冯德麟被捕后，张作霖就接收了二十八师，自兼师长。随后把原二十八师的旅长汲金纯提升为师长。扫除了冯德麟这个障碍，张作霖便真正地掌握了奉天省的军政实权。在对冯德麟的问题上，张作霖的又打又拉的打拉策略起了重要作用。
张作霖对只掌握奉天省的军政实权，是不满意的。他的政治野心很大。其近期目标是夺取东三省的统治大权，故首先把矛头对准了江省。当时的黑龙江将军是朱庆澜。朱庆澜，字子桥，浙江绍兴人。１８７５年生。曾任职奉天督练公所巡警总局，第十七镇镇统。１９１２年，任黑龙江督署参谋长。１９１４年，加陆军上将衔。同年改署巡阅使并升任黑龙江将军。朱庆澜在奉天时，很看不起张作霖，两人由此结怨。朱庆澜也不会听张作霖指挥，张作霖便想挤走他。
但袁世凯很信任朱庆澜，挤走朱也并非易事。此时驻黑龙江的是陆军第一师，师长是许兰洲。许兰洲，字芝田，河北南宫人。１８７２年生。湖南陆军学堂毕业。袁世凯小站练兵时，因其会武术，曾任职袁世凯卫队，而受袁世凯信任。１９０８年，任黑龙江巡防营第二路统领。１９１４年，任黑龙江省陆军暂编第一师师长。
张作霖侦知许兰洲觊觎黑龙江督军的高位，便有意借许兰洲挤走朱。并答应事成后，保举许兰洲担任此职。许兰洲为了达到这个目的，就有意制造事端，以便从中取利。１９１６年３月１７日晚间，受许兰洲怂恿的江省省城齐齐哈尔的少数旗人到处散发传单，通知所有旗人到八旗工厂开会，讨论旗人生计问题。按规定，开会事先必须呈请警察局批准，而他们并没有请示。
警察看到满地传单，不明所以。警察局便派人到工厂周围警戒，以便了解情况再作处理。翌日清晨，旗人纷纷来到工厂门前，见到有警察戒备，以为警察干涉开会，便跑到许兰洲的师部躲藏起来。这就为许兰洲提供了反对朱庆澜的机会。
许兰洲一面假意出面调解，一面又鼓动旗人代表联名电告北京政府，攻击朱庆澜左右的８个人，揭发他们的种种罪行。这实质是在攻击朱庆澜。因齐齐哈尔的电报局被许兰洲军队控制，朱庆澜便派人到哈尔滨，电告袁世凯许兰洲阴谋挑动旗人闹事。“袁接电后，即电许兰洲不准乱来，言称如果朱庆澜发生意外，则以该师长是问”
许兰洲不敢违命，但双方相持一周有余。袁世凯无法，便调朱庆澜入京，（１９１７年北京政府任命其为广东省省长。）其遗缺暂由许兰洲护理。但袁世凯深知许兰洲不是担任边疆大吏的材料，便于１９１６年６月调毕桂芳任黑龙江将军兼巡阅使，７月改称督军。毕桂芳，河北大兴人，１８６５年生。北京同文馆毕业，后赴俄国留学，曾任俄国公使馆随员，是个俄国通。曾任总统府高等外交顾问。派他到黑龙江省，目的很明确，就是为了处理和俄国的外交关系。
毕桂芳两大特色，一是怕太太，唯太座之命是从；一是万事不打理，绰号“毕不管”。他虽然万事不管，可是他有官运，官运亨通，一步一步爬到了黑龙江省长地位。
“毕督军”在黑龙江趣话甚多，6年3月14日，中德绝交消息传来，黑省人心浮动，这天恰好是“毕督帅夫人”尚氏的华诞，民政厅长先期通知全省各县县长、各金矿局局长、省会各机关首长为夫人祝寿。第一旅旅长巴英额、骑兵第四旅旅长英顺携带大宗礼品进省。省会警察厅传谕全城商民，一致悬旗挂彩祝寿。“毕夫人”在督署花园大宴宾客，且传召妓女侑酒，著名的永安里香巢名妓传召一空，席间妓女以清唱酬客，一位妓女唱托兆碰碑，唱到“宝雕弓射不着空中飞鸟”。另一妓唱刺巴杰，唱到“实指望到山东母子相见”。“督帅夫人”却摆手说：“你们唱错了。改日我教你们，你们以后可以常来玩。”席散后有名伶彩排，“夫人”亲自点戏，命傅宝兰演新安驿。这出戏代洞房一节因剧情猥亵，北京内务部曾下令禁演，可是“夫人”说：“一定要演这全剧最精采的一段”。
在这欢乐的一天，撤职听候查办的泰来县县长张毓华也登门拜寿，这位县长三跪九叩大礼，礼毕长跪不起。“夫人”笑着问：“你为什么不起来？”张伏地不起，用沉重的声调说：“本县士绅诬告卑职，请夫人作主。”“毕督帅”听了，满含笑容站起来用手搀他说：“小事小事，用不着夫人作主，我代夫人给你开恩，你好好回任当差吧！”
许兰洲目的没有达到，很是不甘心。1917年6月，督军团纷纷独立时，黑龙江军务督办许兰洲也宣布独立，他不是对中央，而是对毕督军。毕向他进行商谈，愿以省长相让而留任督军。许的意思也想要督军，以讨价还价，结果许愿任省长兼师长，但又听说毕调兵自卫，马上翻脸，限毕24小时内离省。段内阁对毕、许之争本无所谓，亦无心袒毕，但他不欢喜犯上作乱，所以电召许入京一谈。许回电说：“黑龙江有两个宗社党徒，是毕桂芳和巴英额，职须留此扑灭匪类。”
毕桂芳发表寒电下野，推许代理，电云：“许帮办精明果敢，洞彻边清，实能宏济时艰，为国柱石。”许兰洲这一来不好意思，也通电说：“毕督军虚怀若谷，卸职高蹈，采及轻樗，挽留之术，辞卸未能。只得暂承其乏。”
许赶走了毕桂芳，自己却登不上督军宝座。毕桂芳手下的两旅长英顺，巴英额公然反对许兰洲。张作霖感到许兰洲并不可靠，能力也不济，便弃许保鲍。这个鲍，即是鲍贵卿。鲍贵卿，字霆九，奉天海城人。１９１４年，任陆军第三混成旅旅长。１９１５年，任陆军讲武堂堂长，后升任陆军中将。他是张作霖的儿女亲家。他们既是老乡，又是亲戚。１９１７年７月，北京政府任命鲍贵卿为黑龙江督军，暂行兼署省长，加陆军上将衔。
为了保持江省的稳定，把许兰洲的第一师调到奉天省，放在张作霖的眼皮底下。就这样，张作霖终于控制了黑龙江省。8月，将骑兵第二旅和后路巡防队合编成陆军第二十九师，以吴俊升为师长，力量进一步扩大。
下一个目标就是吉林省。当时吉林督军是孟恩远。孟恩远，字曙春，天津人，１８５９年生。在天津小站入新建陆军。１９１２年，任陆军第二十三师师长。１９０７年任吉林巡防营翼长、记名提督，吉林督办剿防事宜。１９１４年，升任镇安左将军督理吉林军务。１９１６年７月，改任吉林督军。张勋复辟时，于１９１７年７月，任命其为吉林巡抚。可以说，他是个老吉林。在吉林经营有年，根深蒂固。他当然不买张作霖的账，张作霖想把他换掉。
本来张作霖以为赶走孟恩远是件容易的事，但不承想没那么简单。张作霖略施小计，向北京政府密告孟恩远在张勋复辟时，曾接受巡抚任命，与复辟有染，担当巡抚不称职。１９１７年１０月１８日，北京政府便下令调吉林督军孟恩远为诚威将军，派田中玉为吉林督军。将军在当时是个有名无实的空头衔。
段祺瑞对张作霖没有好感，但也不得不利用他。既然你张作霖有密报，我就乘机派一个自己人来调换孟。但是孟恩远也有他的关系网。孟的外甥高士傧是吉林督署的参谋长，又兼师长。女婿陆承武的父亲是直系幕后活动家陆建章。在这种情况下，孟恩远决定不交权。张作霖想武力解决。但在总统黎元洪联合直系军阀的干预下，张作霖没敢有所动作，此事也就暂时搁置了。
张作霖在１９１８年９月７日，经徐世昌总统任命为东三省巡阅使。在此之前，冯国璋当总统、段祺瑞当国务总理时，他们于１９１８年６月２０日任命曹锟为川粤湘赣四省经略使，而且给曹锟特意铸造了一颗银质狮钮大印，重达２斤多，比特任官的印还要大很多。这是在暗示曹锟要高于所有的督军，将来很有可能当上副总统，冯国璋和段祺瑞以此来笼络曹锟。
徐世昌是１９１８年９月４日当上总统的，仅仅过了三天，就任命张作霖为东三省巡阅使。这显示了徐世昌和段祺瑞对张作霖的拉拢。从此，北方就有了两个比督军大的官了，他们之间也有互相牵制的作用。这是内阁总理段祺瑞为了实现他的“武力统一”中国政策的一个策略。
东三省巡阅使比省督军高一级，形同前清的东三省总督，但比总督有更大的实权。这就使张作霖有权建议中央安排东三省的人选。１９１９年６月，张作霖认为驱逐孟恩远时机已经成熟了。于是，张作霖电请徐世昌将孟恩远他调，以黑龙江督军鲍贵卿继任。而黑龙江督军由其嫡系孙烈臣担任。
张作霖的电请，得到徐世昌的批准。１９１９年７月６日，北京政府调孟恩远为惠威将军。此时的孟恩远已是６０岁的老人，而且在吉林搜刮多年，已脑满肠肥，得此消息，本想一走了之，回天津做寓公。但又不太甘心，尤其是他的部下不满。他的部下有两个人反对最烈。一个是参谋长兼师长的高士傧，一个是旅长高夙城。这二高怂恿孟恩远要和张作霖开仗，拒绝调走。孟恩远也就“一任彼等之拥戴，企图侥幸于万一”。
得到这个消息，张作霖立即派孙烈臣为吉林讨伐军总司令，调兵向吉林进发。大兵压境，孟恩远知道自己不是张作霖的对手。他不顾二高的反对，密电张作霖同意交出吉林督军大权，但要保证他的生命财产安全。张作霖当即回电，只要交出吉林督军大权，保证你安全回到天津。８月５日，鲍贵卿和孟恩远同到吉林市，交接了督军大印。就这样，孟恩远携带大批财产回到了天津，做寓公去了。二高也不敢反抗，放弃了部队，身着便装绕道海参崴乘船潜回天津。
障碍扫除了。张作霖下令，将鲍贵卿调到吉林，任吉林督军。同时，孙烈臣调署黑龙江督军。８月，加陆军上将衔，兼署黑龙江省省长。孙烈臣一直是张作霖的部下，对张忠心耿耿，值得信任。因此，张作霖把黑龙江的军政大权交给了他。至此，张作霖终于攫取了东三省的领导权。
张作霖当上了东北王，成为当时国内一支非常重要的政治军事力量，与北洋巨头直系，皖系并称的奉系。但是张作霖的政治野心已经膨胀，他的目光开始瞄准了关内。
段祺瑞是北洋军阀直系的首领，又是北京政府的内阁总理，是袁世凯死后北洋派最有威望最有实力的头目。张作霖为了实现自己更大的人生目标，对段祺瑞采取了阿谀奉承的作法。本来对张作霖这个马贼出身的人，段祺瑞是看不起的。但是，因为张作霖拥有军队和地盘，段也不能小觑他。
１９１８年２月２４日，直系的冯玉祥在南北战争南进的过程中，突然于湖北的武穴发表了“促进南北和局”的通电。这个主和通电对段祺瑞的主战派是一个沉重打击。在武穴发表通电是经过深思熟虑的。武穴处于湖北和江西的交界线上，冯旅在此驻足，对主战派两路军队的南进，造成了重大影响。这就打乱了段祺瑞的整个军事布局。段祺瑞手中没有军队，感到束手无策。在走投无路的情况下，只得求救于张作霖。
于是，段派他的心腹爱将徐树铮以“接洽国防”的名义，到奉天调张作霖出兵。
张作霖表现积极。１９１８年２月２５日，奉军第二十七师第五十三旅进入山海关，开到河北滦州。这里还有一个有趣的插曲。奉天督署参谋长杨宇霆，绰号“小诸葛”的，带兵到达秦皇岛，他是别有所图。他不费吹灰之力，在秦皇岛港口一举截走了２．７万余支步枪。这些步枪是根据段祺瑞同日本的中日军械借款协定第一批运到中国的。不料想，刚一上岸，就成了奉军的囊中之物。
这个消息传到北京，着实让段祺瑞吃惊不小，也十分心疼。因为这是段祺瑞准备用来装备他的私人武装“参战军”的。２６日，段祺瑞给张作霖发一电，让张把军械送回北京。张作霖也会演戏，同一天，张发一通电，说他早已布置南征，只因缺少军火，未便起行。此次“提去”军火，事先未予请示，因为公文来往费时，只得先斩后奏。
２７日，张又给段一答电，称“所练军队，无论对内对外，均属拥护中央，一旦编练成军，悉听政府驱策”，还振振有辞呢！其实，据推测，这批军火是徐树铮为了讨好张作霖，而故意送给张的。因为没有礼物，很难说动张作霖出兵。事先请示段，肯定不准。所以，徐就来了一个“将在外，君命有所不受”。提取军火是要证件的，而这个证件就是徐树铮在任陆军部次长期间私自留下来的空白证件。段对张无法，只得不了了之了①。
３月５日，奉军一部由天津开到廊房，靠近北京。张请北京政府在天坛一带指定营房，让奉军驻扎。张的到来，使人们回想起了张勋的野蛮的辫子兵，由此给北京城造成了极大恐慌。张发表通电，表示自己没有个人野心，“毫无私意。若有虚言，鬼神鉴察”。这才使北京市民稍稍安心。
３月１２日，在距离天津５０里的军粮城组成了关内奉军总司令部。张作霖自兼总司令，徐树铮以副总司令代行总司令职权。此时，段、张勾结，才大白于天下。１６日，徐树铮同杨宇霆到天津，召开北方各省督军代表会议，再次敦促大总统冯国璋让段祺瑞组阁。
３月２３日，段宣布组阁，段从后台走到了前台，又在大力推行他的“武力统一”中国的政策。段上台不久，奉军又在塘沽劫持军火。这是段从日本购进的第三批军火，段只能吞下这颗苦果。
张作霖是想利用徐树铮，借以扩张奉系的势力。但是，徐树铮却企图假借奉军的力量，达到扩展自己势力的目的。在北军南下不利的情况下，徐树铮决定在汉口设立一个奉军前敌总指挥部，把奉军新成立的６个混成旅全部调到湖南战场上。并命令奉军的３个师长孙烈臣、汲金纯、吴俊升速到长沙，布置作战计划。
此举引起张作霖的警觉，他迅速调回３个奉军师长，并要调回摆在前线的奉军。虽然徐树铮信誓旦旦，但张作霖不傻，不想让自己的部队当替死鬼，打头阵。自此，张、徐之间产生了嫌隙。
７月２８日，在天津召开了督军团会议，张作霖第一次参加。关于总统问题，张作霖赞成徐世昌担任大总统。这是很重要的一票。会后，张作霖有意留在天津，查一查徐树铮代行总司令期间的表现。这一查，看出了问题。从３月２３日段内阁复活时起，徐树铮一共代领奉军军费５１５万元，奉军实收只有１８０万元。其余绝大部分都用在编练参战军和新国会的选举上了。这就是说，徐树铮在欺骗张作霖。徐口蜜腹剑，心怀鬼胎。
张作霖岂是好惹的。他当即下令撤掉了徐树铮的副总司令的职务，并向段告状。段十分惊慌，除令徐向张道歉外，还答应在短期内归还徐的欠款。后来欠款没有还清，张作霖不答应。只得从徐树铮编练成的５个混成旅中，拨给张作霖３个旅，此事才算罢休。
不过，从此徐树铮对张作霖怀恨在心，埋下了要杀掉张作霖的阴险的种子。前文提到，徐世昌在当上大总统的第４天，就任命张作霖为东三省巡阅使。这既是徐世昌对张作霖赞成自己当总统的回报，也是对这个具有深厚潜力的东北王的一个拉拢。这是徐世昌的一招妙棋。此一时期，张作霖还没有过多地过问关内事务，他的眼光基本是在东北。在关内经过两年的历练，张作霖具有了关于国家方面的相当的军政经验，他想逐鹿中原了。