Литвинов много занимался организационными вопросами, часто замещал наркома. Его отличали спокойная уверенность, целеустремленность, точность, аккуратность. Если заведующий отделом опаздывал к нему на прием в назначенное время, то он его в этот день уже не принимал. Иностранцам импонировала его точность и конкретность. Литвинов уверенно брал на себя ответственность, проявлял уступчивость в ряде спорных вопросов. Однако он, по словам германского посла в Москве Г. фон Дирксена, «не любил около себя никаких других богов».
В ноябре 1927 года Литвинов впервые во главе советской делегации принял участие в IV сессии Подготовительной комиссии Лиги Наций к конференции по разоружению, предложив по поручению советского правительства проект немедленного всеобщего и полного разоружения. К сожалению, проект был отвергнут.
С 1928 года Литвинов фактически возглавлял наркомат. Чичерин находился долгое время на лечении за границей. Это давало Максиму Максимовичу широкие возможности для постепенной переориентации советской внешней политики. Он стремился к улучшению отношений прежде всего с западными странами: Великобританией, Францией и США.
Он считал, что для укрепления своего авторитета СССР должен участвовать в различного рода международных пактах и конференциях. Особенно высоко он ставил вопросы разоружения и уделял много внимания переговорному процессу, проводившемуся при его активном участии в Женеве. Одной из первых подобных акций было подписание Литвиновым с рядом соседних с СССР государств Московского (на Западе его называют Литвиновским) протокола от 9 февраля 1929 года о досрочном введении в действие пакта Бриана – Келлога о запрещении войны в качестве орудия национальной политики.
21 июля 1930 года Литвинов был назначен наркомом иностранных дел СССР.
Расчеты Литвинова на быстрое сближение с Великобританией не оправдались. Но было важно, чтобы она не противодействовала политике сближения СССР с другими странами. Уже в ноябре 1932 года был подписан договор о ненападении между СССР и Францией, аналогичные соглашения были заключены с Польшей и рядом других государств Восточной Европы.
В 1933 году по приглашению большой группы государств СССР вступил в Лигу Наций.
В своем стремлении содействовать сохранению мира советское правительство согласилось на участие в региональных пактах взаимопомощи, заключив в 1935 году соответствующие договоры с Францией и Чехословакией. Литвинов резко возражал против высказываний тех политиков и журналистов, которые позже пытались «изобразить эти пакты как какой-то подарок или благодеяние Советскому Союзу». Эти пакты, указывал он, «помимо оказания помощи в случае войны, имеют также целью предотвращение или уменьшение опасности войны в определенных частях Европы».
Успех сопутствовал Литвинову и в другом важном начинании – установлении дипломатических отношений СССР с Соединенными Штатами Америки. Переговоры Литвинова с Рузвельтом в ноябре 1933 года не были легкими. Потребовалась неделя, чтобы добиться соглашения об установлении дипломатических отношений. Одновременно был произведен обмен нотами о пропаганде, то есть о невмешательстве во внутренние дела друг друга, о правовой защите граждан, о пользовании религиозной свободой для американских граждан, проживающих на территории СССР, о судебных делах, согласно которым СССР отказывался от всех исковых прав и претензий к американским гражданам, включая суммы, которые могли причитаться ему по решению американских судов.
С середины 1930-х годов положение в мире все более осложняется. Литвинов призывает с трибуны Лиги Наций к коллективным действиям против агрессора.
Драматические события 1939 года стали новым поворотным пунктом в судьбе Литвинова. 3ахват Чехословакии и другие акты германской агрессии не встречали должного отпора со стороны Великобритании, Франции и других стран. Советский Союз стремился обеспечить безопасность своих западных рубежей, заключив соглашения с Англией и Францией о взаимопомощи. Однако правительства этих стран, готовя, по словам У. Черчилля, полумеры и юридические компромиссы, всячески затягивали переговоры.
Сообщения телеграфных агентств, известивших об Указе Президиума Верховного Совета СССР от 3 мая 1939 года о назначении В.М. Молотова наркомом иностранных дел, потрясли столицы многих государств своей неожиданностью.
До февраля 1941 года Литвинов оставался членом ЦК ВКП(б). В течение нескольких дней он даже принимал участие в работе комиссии, занимавшейся чисткой Наркоминдела.
10 ноября 1941 года Литвинов был назначен послом СССР в США и одновременно заместителем наркома иностранных дел.