按理说，徐彦卓代表大总统命令28师坚决不准撤离半步，冯德麟作为军人应该无条件服从，可是他此时却不想因此而得罪日本人。
说起来，冯德麟和日本人还是颇有渊源的。
冯德麟17岁就投身绿林，虽然当了“胡子”，但盗亦有道，他遵守兔子不吃窝边草的古训，对“势力范围”内的村民还算不坏，也在一定程杨度上起到了保境安民的作用。冯德麟经过数年的闯荡，已经将公正侠勇之名散播开来，辽西辽南各地的百姓都称其为“团总”。而且冯德麟出道早、团伙大、占地广、讲义气，已经确定了绿林和乡勇界前辈的地位。
庚子国变后，沙俄侵入东北，激起东北民众的愤恨，冯德麟的“保安队”在“执行职务”时，多次与沙俄侵略军遭遇，屡有冲突。沙俄侵略军对冯德麟的“骚扰”相当生气，1901年2月，沙俄派马队突袭，将冯逮捕，流放到库页岛。在一次转押途中，沙俄轮船上的司炉是中国人，他很佩服冯德麟的骨气，乘俄军不备，帮助冯逃了出来。1903年，冯德麟返回家乡，重召队伍，在海城、盘山、田庄台、辽中、台安、锦州、彰武一带活动，在为匪的同时，也抗击俄军。
张作霖虽算是冯德麟的绿林晚辈，但两人关系甚为融洽，后来结成了盟兄弟。
1904年，东北上发生了日俄战争。清政府宣布“按照中立之例办理。同时划辽河以东为战区”，要划出自己的一片地方让两个外**队开打。
此时，日俄两军都想把东北的绿林乡团收入自己麾下助己破敌。考虑到单拳难斗两敌。冯德麟权衡利害选择其一，因为跟俄国人早有积怨，日本人对老百姓的态杨度也好过俄国，为了维护自己的利益，以冯德麟为首的乡勇就决意在形式上倾向日本，他本人也愿意担当东亚义勇军统领，协助日本人与俄国开战。
这时的张作霖。在辽河以西并没有参战，利用起政治手段，早就得到了清政府的招抚。变身为正式部队。比冯德麟受招抚早了三年。
这三年中，冯德麟参加的仅针对俄国的大小战役就有32起，特别在辽阳首山战役，更是因为有了冯德麟的部队。日本才得以取得这关键一役的胜利。冯德麟留给日本人的印象是非常实在的。并认为冯德麟“沉着诚实远甚张作霖，刚毅勇武胜过汤玉麟”。
日俄战争结束后，参战的日军总司令多次面晤盛京将军赵尔巽，力劝清政府收复冯德麟。起初赵尔巽害怕受到俄国和其他国家的责备婉拒，但却最终没有抵抗住日军的压力，签署了任冯德麟为新安军统领的委任书。
到了1911年，冯德麟和张作霖分别被任命为左路和前路巡防营统领，从这时起。两人开始并驾齐驱。
1912年，地方武装巡防营改编为正式陆军。9月1日。中央任命张作霖为第27师师长，陆军中将，驻奉天；任命冯德麟为第28师师长，陆军中将，仍驻北镇。他们二人，虽然平起平坐，但由于驻地不同，且兵力差别很大。自恃前辈的冯德麟便甚感不快，由此裂痕渐深。
其实，冯德麟早就对张作霖不服，特别是张作霖做了奉天都督更是让他火冒三丈，他决定主动出招。冯德麟认为，自己之所以在斗争中处于不利的地位，归根结蒂是实力不行。要想成为强势的一方，一是壮大自己，二是削弱敌人，三是既壮大自己又削弱敌人。冯德麟选择了第三种。所谓既壮大自己又削弱敌人，就是把敌人的力量变成自己的力量。于是，他选中了汤玉麟。
这事说来不可思议，汤玉麟是张作霖的老哥们儿，两个人很早就在一想共事，是生死之交。冯德麟怎么会想到啃这块硬骨头呢？原来，在张作霖的堡垒内部，发生了一些变化。
张作霖做了奉天都督之后，他深切地感到治理地方和打仗是两码事儿，地方上的很多问题，有劲儿使不上，两眼抓瞎，唯一的办法，就是聘请专门的人才来管理。
张作霖本人没什么文化，但从来没有瞧不起有文化的人，而且相当重视。他知道，这些人打仗十个不顶一个，但是治理地方，非他们不可。所以，张作霖刚一上任，就高薪诚聘了一大批文化人。其中，王树翰任奉天省财政厅厅长、于冲汉为奉天省公署高等顾问、王永江任奉天警务处处长兼警察厅厅长。
特别是王永江，非同一般。自从当上警务处处长和警察厅厅长后，王永江严格执法，不管涉及到谁，一律严惩不贷。奉天省的治安从此大为好转。但是，王永江也因此得罪了很多人，尤其是张作霖的那些绿林老兄弟。
张作霖手下几个一起混过来的绿林兄弟有时候确实让他头疼。汤玉麟最具有代表性。他很早就投靠了张作霖，同甘苦，共患难，一路走来，其功赫赫。张作霖对他非常倚重，委以第二十七师第五十三旅旅长兼奉天省密探队司令的重任。要说汤玉麟，对张作霖也是忠出不贰，指哪打哪。只不过，他身上有个致命的毛病——无法无天。
张作霖重用王永江，就是想借他的手点拨一下几个老哥们，再这样下去，我要动真的了。
王永江不负重望，上任后雷厉风行，抓了汤玉麟手下好几个贪赃枉法、寻衅滋事的。汤玉麟闻讯，火冒三丈，他没想到这个小小的警察厅长敢太岁头上动土。汤玉麟一拍桌子，告诉手下：“马上到警察局去一趟，提我的名字，叫王永江给我放人！”
没用多