1927年7月24日中共中央临时政治局常委扩大会议召开，参加会议的有瞿秋白、周恩来、张太雷、李维汉、张国焘及共产国际代表罗明纳兹等。会议确定在南昌举行武装起义，委派周恩来前去主持起义；同时，电告共产国际请求指示。

　　传达共产国际指示阻挠起义

　　可是随后共产国际的复电，却让南昌起义充满了变数。7月26日中央临时政治局常委开会，罗明纳兹传达了共产国际关于南昌起义的复电，内容大致是：如果有成功的把握，暴动可举行；否则让共产党人辞去相应的军事工作来做政治工作。如果中国的同志坚持要发起南昌暴动的话，共产国际、联共（布）派来的加伦将军和其他军事顾问是不允许参加的。会议决定派临时中央政治局常委张国焘以中央代表身份赴南昌，传达共产国际的指示。

　　对这一任务，张国焘后来在回忆录中写道：“我觉得现在要奉命去停止我赞成过的事，究竟有点不合适。”当罗明纳兹在会上提议派张国焘去时，张国焘推辞道：“既然是送封信，那就不必派我去。何况中央扩大会议快要举行，如能不离开中央，还是不离开为好。”瞿秋白、李维汉等劝他：“还是你去好，你去责任不单是送信，还要考察情况参与决定呢！”7月30日晨，张国焘到达南昌，立即与周恩来、李立三等举行会议。张国焘强调“慎重”，主张暴动“应极力拉拢张发奎（武汉国民政府第二方面军总指挥），得到张之同意，否则不可动”。这些主张，受到与会人员的一致反对。31日晨，又开会辩论。最后，张国焘表示服从多数人的意见。于是，前委决定8月1日凌晨四时举行起义。

　　南方局书记之职被更换

　　客观上说，张国焘阻挠南昌起义的发动，不能完全归罪于他的主观故意。共产国际电报内容模棱两可，且暗示不赞成南昌起义，就连共产国际代表罗明纳兹也是这样认为的。但是，张国焘对张发奎确实存有幻想。他主张推迟与张发奎分裂，认为暴动要慎重的态度，客观上阻挠了起义的如期举行（原定于7月31日）。

　　虽然张国焘最终赞成举行南昌起义，但是大家对他阻挠起义的行为颇多微词。起义胜利后，9月下旬部队进驻潮汕。此时，张太雷奉中央之命由香港赶来接洽。原来，中共中央八七会议确定了土地革命和武装反抗国民党反动派的总方针，还选举了新的中共中央临时政治局委员和决定成立南方局，由“恩来、太雷、彭湃、陈权、代英、黄平、国焘为中央之南方局，以国焘为书记……”从张太雷口中，张国焘得知自己被降为中央政治局候补委员。让他更难堪的是，在任命他为南方局书记问题上，同志们普遍表现出异议。最后，大家改选张太雷为南方局书记。

　　起义失败后遭批判和处分

　　10月初，南昌起义主力部队在潮汕地区遭到敌人围攻，很快失利。张国焘与李立三等辗转到达香港，后回到上海。自此，张国焘开始了近8个月的地下生活。这段时期他苦闷难耐，还屡遭批判。10月15日，张太雷在南方局省委联席会议上率先向张国焘发难。谈到南昌起义，张太雷说：“中央派国焘去，意思是要他去鼓动同志更坚决执行中央的政策，不料国焘假传圣旨，说（共产）国际不主张干，他亦极力反对干……故此次国焘的行动，实应受处分。”张国焘立即写信给中央为自己辩护。张国焘认为，从电报内容和会议讨论来看，共产国际代表和中央的倾向是尽量争取张发奎，推迟起义，“若说我假传圣旨，我是不心服的”。

　　1927年11月14日，中央对张国焘作出处分决定：国焘同志应开除临时政治局候补委员、中央执行委员会委员资格。中央完全否定了张国焘的辩解。张国焘对此并非心悦诚服，多次批评指责以瞿秋白为首的中央及各项政策。

　　在“六大”澄清“不白之冤”

　　1928年中共“六大”在莫斯科召开，张国焘作为共产国际直接邀请的代表前往参会。6月14日至15日，共产国际负责人布哈林，召集瞿秋白、周恩来、张国焘等部分代表举行了“政治谈话会”。张国焘一口气讲了3个小时，重申自己在南昌起义中阻止暴动的举动是为了遵守纪律，是在不折不扣地转达共产国际的意旨。他当面问布哈林共产国际究竟有无拍发阻止南昌暴动的电令，还质问瞿秋白为什么说他假传圣旨。

　　6月18日，中共“六大”正式召开。张国焘在分组讨论发言中再次澄清南昌起义中他“反对暴动”一事。张国焘在“六大”上的辩驳，对澄清自己、摆脱“机会主义”的帽子作用不小。会上，张国焘再次当选为中央委员，并在随后召开的六届一中全会上被选为中央政治局委员。这充分说明，张国焘扭转了自己的边缘位置，重新进入了中共中央核心领导层。