不过，在孙中山眼中，蒋介石虽然在政治上显得幼稚，但军事上却是块有用之材；而眼下，筹办军校是当务之急容不得拖沓迟延，正需要他这样的人才。
虽然，尚有建国粤军总司令许崇智堪称是谋略勇武兼具的帅才；然而，许崇智这些年来生活上甚不检点，甚至于其手下将士也奢糜成风；致使党内同仁对其颇有微辞，孙中山怎能放心将军校交付予他？
当然，孙中山手下还另有如朱培德、李烈钧等一批久经疆场的战将；但他总觉得，这些战将在战场上率军御敌冲锋陷阵攻城掠地果然了得，但却都不是办军校的料。
因为，筹办军校与临阵杀敌毕竟不是同一码事；既要有武略又要有韬，相较之下还是蒋介石胜人一筹较为合适。
故而，尽管蒋介石耍脾气了，孙中山还是打算用他。
于是，孙中山一面命廖仲恺代理军校筹备委员会委员长之职，一面派遣邓演达赶赴溪口敦促蒋介石回粤复职；而在蒋介石的《辞呈》上却批道：“该委员长务须任劳任怨，勉为其难，从艰苦中去奋斗，百折不回，以贯彻革命党牺牲之主张。所请辞职，碍难照准。”明言拒绝了蒋介石的请辞，且也透出了孙中山对于蒋介石寄予的某种厚望。
其实，回到溪口老家后的蒋介石很快冷静下来，开始觉到自己干了一件蠢事。
因为，蒋介石心中十分明白，筹办军校之事在孙中山心目中是何等重要；自己如此撂挑子甚至于不辞而别，岂不是有点太不负责任而让孙中山寒心了？再，自己虽然在代表大会上没能捞到什么冠冕堂皇的名分；但孙中山能将如此重任交付于他，足见其对自己仍甚器重。
因为，在而今军阀混战、时局如此动荡不安的年代，政治毕竟是要依重于军事实力方能存在的。而所筹建的军校是要为国民党的军队输送大批军官，可想而知随着军校中输出的学员成为各军队中的中坚力量以后，必将能影响并左右国民党的政治乃至是整个中国的政局。所以，自己若是能把军校筹建好，岂不等同于为国民党立了首功；而若能将军校抓在自己手中，其作用则更不可估量了；至少，往后自己在国民党内的政治地位与话语权必定能增强。
蒋介石想到这儿，不再将军校视作无足轻重、受人使唤的工具了；而已是觉到了这是一块可让自己显示才能的场所，甚至于是一个或能助自己一步登天的架梯。至此，蒋介石开始有点自责自己不该那么目光短浅、轻易地一纸《辞呈》把已经到手了的大好机会舍弃了；甚至于有点担心若是孙中山在自己的《辞呈》上大笔一挥批了“准”字，如此的天赐良机一旦擦肩而过后就与自己再无缘了，岂不要悔恨一生？
因此，蒋介石真想马上返回广州，以免这个他人梦寐以求都难得到的差事真的被误弃了。但忽而又觉得，自己既已辞了，如何改得了口而让人嗤笑？又如何能使孙中山不怪罪自己呢？蒋介石因此似有无颜见孙中山之感，也就犹豫不决而仍迟迟难作回粤的决断。
正在蒋介石感到左右为难进退维谷之时，邓演达适时赶到给蒋介石铺台阶来了。邓演达抵达溪口后，即向蒋介石晓以大义地开导一番，力劝其早日返粤以免孙总理久盼。
蒋介石见孙中山并没因此怪罪他，心中的忧虑倒是去了一半；邓演达的到来正是蒋介石求之不得的，蒋介石可以没失体面顺水推舟地返粤了。不过，在返粤前，蒋介石先是给孙中山写了一函，将自己请辞离粤的原因全推在了杨西岩身上。这下却是损了杨西岩，孙中山知晓原委后，即把杨西岩免职。
接着，廖仲恺、胡汉民亦函电蒋介石，劝其回粤复职。蒋介石闻知杨西岩去职后，也觉得该下台阶了。但谁知，此时的蒋介石见筹办军校之事已是非他莫属没了顾虑，反而又不想急于回粤了；觉得这剧戏既然已经演到了此，不若再续上一曲后再收场不迟。
于是，蒋介石又给孙中山写了一封长信，再次表述了自己的委曲及对孙中山的忠诚；然后，笔锋一转指责道：“财政支绌，皆因粤局当政者理事无方所致；若放任不纠，必仍有碍建军？羁绊北伐。故应由干练者，主政粤局；方能固根本，而保大业无虞。”矛头直指现任广东省长杨庶堪。
蒋介石的这封信，看似毫无必要；再，杨庶堪与他并无过节，蒋介石没有必要对他发难。但蒋介石自有他的盘算，其真实意图并不是要对杨庶堪发难，而是想藉此探试一下自己能对孙中山产生多大的影响？
且果然，孙中山从了蒋介石之言，让杨庶堪专事去当他的候补中央监察委员，其广东省长由廖仲恺兼任了。孙中山如此言听计从，这令蒋介石不由得心中暗喜；此时，戴季陶也来函敬告“当适可而止”，蒋介石这才见好收场了。于是，四月十四日，蒋介石终于返回广州，孙中山让其复任原职，一场由蒋介石自导自演的所谓辞职风波才得以平息。
蒋介石复职后即兢兢业业地工作，军校的筹建终于又有条不紊地紧张进行中了。二个月后，陆军军官学校终于落成；因校址位于广州黄埔区的长洲岛上，故而又称其为黄埔陆军军官学校，简称黄埔军官学校或黄埔军校。
黄埔军校建成后，原来打算亲自出任校长的孙中山改了主意；决定自己只兼任总理，而将校长之职位交与蒋介石，廖仲恺则为党代表。
黄埔军校校长之职是实权，孙中山将此给予，也算是对蒋介石的一种补偿与褒奖了。
蒋介石终于得到了这个梦寐以求的权职，心中也暗喜；因为，他深知这个位子非同一般，是他日后可赖以与人讨价还价或另谋发展的资本。从此，蒋介石将它牢牢地把握在自己掌中绝不易手于人；时间长达二十四年之久，几可谓终其一生。
黄埔军校的校本部设有政治、教授、训练、管理、军需、军医等六个部门及一个教导团。戴季陶为政治部主任，何应钦为总教官，王柏龄、叶剑英、李济深、邓演达、钱大钧、邵力子等人先后在各部任职。
此时，率领了一个由包括陆军、空军、海军、炮兵、工程、装备、侦察等各军种专家组成的苏联军事顾问团也抵达了广州；巴甫洛夫为军事总顾问，成员则有乌格尔、萨赫诺夫斯卡娅、斯密尔诺夫、别斯恰斯诺夫、雅科夫列夫、帕洛等二十余人；于是，黄埔军校即以苏联军事顾问团的军事专家为主开课执教，按苏联红军的军事模式教授学员，为国民党培训所需的军官。
接着，苏联援助的首批二百万元卢布的资金及枪炮等军事物资也相继到达，黄埔军官学校的正式开办也就水到渠成了。
一九二四年六月初，由从一千二百名考生中正式录取了三百五十人，作为黄埔军校第一期学员。
于是，六月十六日，黄埔军官学校举行开学典礼；孙中山以黄埔军校总理身份亲自主持开学典礼并致词，勉励学员“学先烈之行为，负救国之责任”
；同时，对师生作了训词：“三民主义，吾党所宗，以建民国，以进大同；咨尔多士，为民前锋，夙夜匪懈，主义是从；矢勤矢勇，必信必忠，一心一德，贯彻始终。”
后来，孙中山的这个《训词》又成了黄埔军校校歌及国民党党歌。
接着，孙中山又手书“亲爱精诚”
四字，作为黄埔军校的校训。
就这样，黄埔军校正式开张了。
然而，就在黄埔军校开学后不到一个月，首任政治部主任戴季陶因国民党内部矛盾而辞职了；于是，由政治部副主任邵元冲接任。邵元冲曾是孙中山大元帅府机要秘书，并作为孙逸仙博士代表团成员与蒋介石一起考察过苏联；然而，因邵元冲是旧派人，只知孔孟之道却不懂得如何做政治工作而难以胜任；因此，不到二个月，即在全校师生的强烈要求下被撤换了。
党代表廖仲恺与校长蒋介石商议后，决定请中＊共＊推荐一位适当人选接任政治部主任。于是，刚从法国归来、时任中＊共＊广东区委军事部长的周恩来，受中＊共＊广东区委的派遣赴黄埔军校接任政治部主任。
周恩来到黄埔军校任职后，凭着他超凡的工作能力很快建立并健全了一套行之有效的政治工作制度，顿时将原来从旧军队中带入的鄙俗陋习陈腐污垢涤除，使黄埔军校内的政治风貌大为改观。
且周恩来博学多才、谦虚恭谨、待人挚诚、平易近人又善于交际，其无与伦比的个人魅力颇受师生的尊崇与爱戴，令蒋介石也为之叹服而刮目相看。
周恩来主管政治部工作后，重新制订教育计划，加授了《社会发展史》、《帝国主义侵略中国史》、《各国革命史》等政治课程，并请来熊雄、恽代英、萧楚女、聂荣臻、张秋人等中＊共＊党员担任教官；一时间，军纪严谨的黄埔军校内顿时涌起了一股热衷政治、关注社会、求索真理的学风思潮，呈现了一种明辨是非、畅所欲言、自由活跃的政治氛围。
此时，黄埔军校内已另有特别官佐徐成章与第一期学员中的陈赓、蒋先云、李汉藩、杨其纲、李之龙等一批**员；周恩来即以此为基础，组织成立了中＊共＊黄埔军校特别支部。
中＊共＊特别支部成立后，第一期学员中的左权、周逸群、刘志丹、周士第、王尔琢等人又相继加入中国**。后来，随着一期又一期的新生入校，中＊共＊党员也增至学员总数的三分之一；且由于中＊共＊党员的学员无论从政治素养、军事技能、组织纪律诸方面均优于别的学员，遂成了黄埔军校中一股不可觑的力量；在后来的北伐战争及其他战役中都成为了中坚力量发挥积极作用，有的还建下了标榜史册的奇勋。
就在黄埔军官学校开办的同时，中＊共＊党员、时任国民党中央农民部秘书彭湃等人倡议，在广州越秀南路的惠州会馆内创办了个农民运动讲习所；后来，迁址于中山四路番禺学宫，由时任国民党中央宣传部代部长毛＊泽＊东任农民运动讲习所所长，萧楚女任教务长，周恩来、瞿秋白、吴玉章、彭湃、邓中夏等人常来讲习所授课。
此后，邓演达、毛＊泽＊东、陈克等人又在武昌黉巷十三号内再创办了个武汉农民运动进习所，韦拔群则在广西东兰县武篆镇的拉甲山上也创办了个广西农民运动进习所。
讲习所讲授有关农民运动的课程，培养了一批从事农民运动的骨干，为开展农民运动作先导。同时，讲习所还组建农民自卫军，为唤起亿万农民投身于中国大革命的洪流做准备。此皆后话，略提不多笔，容后慢叙。
