但是好景不长，1951年又调他任驻苏联大使，这显然有谪贬、外放之意。因为一个政治局委员任驻外大使这在中国和整个社会主义国家都是空前绝后的。这中间有一件事，1952年刘少奇带中共代表团出席苏共“十九大”，团员有中央委员饶漱石、陈毅、王稼祥，候补委员刘长胜，却没有时为政治局委员的驻苏大使张闻天，这是明显的政治歧视。试想，张以政治局委员身份为几个中央委员、候补委员服务，以大使身份，为代表团跑前跑后，却又上不了桌面，是何心情？这就像当年林则徐被发配新疆，皇上命他勘测荒地。林则徐风餐露宿，车马劳顿，终于完成任务，但最后上呈勘测报告时，却不能署他的名字，因为他是罪臣。这些张闻天都忍了，他向陈云表示，希望回国改行去做经济工作。陈向他透露，毛的意思，不拿下他的政治局委员，不会给他安排工作。周恩来兼外长工作太忙，上面同意周的建议调他回来任常务副部长，但外事活动又不让他多出头。
1956年党的“八大”，他以一个从事外交工作的政治局候补委员要做一个外交方面的发言，不许。这种歧视倒使他远离权力中心，反而旁观者清。他在许多大事上表现得惊人的冷静。1957年反右，他在外交部尽力抵制，保护了一批人。1958年大跃进，全国处在一种躁热之中，浮夸风四起，荒唐事层出。他虽不管经济，却力排众议，到处批评蛮干，在政治局会议上大胆发言。1958年8月北戴河会议是个标志，提出钢铁产量翻一番，全国建人民公社，运动一哄而上。10月他在东北考察，见土高炉遍地开花，就对地方领导说这样不行，回京一看，他自己的外交部大院也垒起了小高炉。他说这是胡来，要求立即下马。1958年10月13日《人民日报》发表张春桥的文章《破除资产阶级的法权思想》，否定按劳分配，宣扬一步跨进共产主义。毛泽东很欣赏此文，亲自加按语。当人们被那些假马列弄得晕头转向时，他轻轻一笑说，这根本不是马列主义，恰恰违背了马列理论的最基本常识。按劳分配是社会主义阶段的分配原则，是唯一平等的分配标准，怎么能破除呢？而毛却认为按劳分配的工资制是资产阶级法权，甚至想恢复战时的供给制。对于“人有多大胆，地有多大产”之类的口号，张说这违背主客观一致的辩证法原则，并且他在这些现象背后已经看到了更可怕的个人崇拜的问题，上面好大喜功，下面就报喜不报忧，他到海南视察，那里都饿死人了也不敢上报。