1935年蔣介石為整頓全國軍隊,新設一個陸軍整理處,陳誠為主任。陳誠先派員到附近各省區校閱部隊,在武漢設立軍官團,輪流調訓各部隊的軍官,並選調高級將校為幹部。
同年蔣介石企圖控製四川,並拉攏滇、黔等省的西南軍隊,派陳誠赴四川創辦峨眉軍官訓練團,蔣自兼團長,劉湘為副團長,劉文輝為團附。這次訓練,表麵上看進行還算順利,但川、黔、滇軍人對這種法西斯教育是不滿的,不過當時沒有鬧出什麼問題就是了。陳誠原在宜昌設置“行轅”,後來知道劉湘陰謀對抗,為解除四川將領的疑忌,宜昌行轅撤銷。
1936年,陳濟棠公開“反蔣”,蔣介石派陳誠赴粵設“廣州行營”,以黃慕鬆為廣東省政府主席,由贛南率粵軍回廣東,陳濟棠敗走香港。接著,蔣介石命陳誠去廣西拉攏白崇禧,互談條件,黃紹竑也參與會談,替桂係方麵討價還價。陳對黃很不滿,說他(指黃紹竑)政客氣味太重。但蔣介石對黃還不錯,因為黃在桂係方麵有勢力,囑陳放寬尺度。當時,白崇禧在陳濟棠失敗後,已陷於孤立;在陳誠的威迫之下,隻好就範。兩廣問題解決後,陳誠即回南京。