“蒙钧座知遇，辞修有生之年，尽是报德之时！”
随后，陈诚就任第11师副师长。由于该师大部分是蒋介石嫡系部队，其中军官大多为陈诚的熟人，如师参谋长罗卓英、旅长林蔚是陈诚的保定军校同学，旅团级军官如肖乾、关麟征与陈诚有师生关系。陈诚一到11师便开始整顿军纪，严禁嫖赌，以期改变旧军队风气。师长曹万顺自知非嫡系不会得到重用，不过是过渡人物，因而对陈诚所为听之任之。
1929年春，曹万顺被调入新编第1师任师长，陈诚升任第11师师长。登上第11师师长之位后，陈诚即大刀阔斧整肃，将曹万顺旧部官员全部换为黄埔学生。
陈诚公开提出的用人标准是：“不贪财，不怕死，会带兵，能打仗，没有不良嗜好，服从命令。”在此后的蒋桂战争、蒋冯战争、对唐生智的战争以及由冯、阎及桂系军阀等联合发起的中原大战中，第11师都显示出较强的战斗力，为蒋介石屡立战功。
蒋介石称赞陈诚的第11师为：
“马牧集开战守之端，曲阜挽垂危之局，郑州结胜利之果。”
与此同时，陈诚兼并了一些杂牌部队，将两旅六团制的丙种师扩充为三旅九团制的甲种师，实力大大增强，成为了他起家的基本部队。
中原大战结束后，陈诚因战功赫赫，晋升为第18军军长，仍兼第11师师长。时年32岁的陈诚，终于得以与顾祝同、蒋鼎文等战将平起平坐，成为后起的少壮派军人领袖，人以“童子军”相称。