Директор Института языка и мышления с 1935 по 1950 год.

Родился в Петербурге в семье богатого купца. В 1902 г. окончил с золотой медалью классическую гимназию.

Начинал научную деятельность как археолог и специалист по древним цивилизациям Кавказа и Причерноморья, где проводил раскопки; фактически открыл для современников забытую цивилизацию Урарту, исследовав ее культуру и язык. С 1910 по 1923 гг. — заведующий историческим архивом Археологического института, в 1911 году он был избран почетным доктором Археологического института. В 1917 году, занявшись исследованием эламского языка, сблизился с лингвистом Н.Я. Марром, длительное время был его единомышленником, одно время – личным секретарем. По совету Марра в 1919 году начал изучение грузинского, хеттского, Халдейского и ряда семитских языков. Первые печатные работы Мещанинова представляли собой популяризацию идей Марра.

В 1920-е годы работал в Академии истории материальной культуры, Ленинградском институте живых восточных языков, Эрмитаже. В 1925–1933 участвовал (в том числе в качестве руководителя) в археологических экспедициях в Северное Причерноморье и Закавказье. В 1932 году избран академиком АН СССР без пребывания в звании члена-корреспондента. В 1934 стал секретарём Отделения литературы и языка АН СССР. С 1933 по 1937 годы — директор Института антропологии, археологии и этнографии АН СССР. С конца 1920-х годов ученый сосредоточился на лингвистике. После смерти Н.Я. Марра в 1935—1950 годах директор Института языка и мышления АН СССР имени Марра.

Руководил раскопками античных городов Северного Причерноморья, где особенно прославился раскопками города Ольвия (с 1925 по 1930). Также возглавлял результативные археологические экспедиции в Азербайджане (1929, 1931), Армении (1925, 1931), Грузии (1925), Абхазии (1934), Дагестане (1944). После критики идей Н.Я. Марра И.В. Сталиным в 1950 году Мещанинов был снят со всех руководящих постов, но не был репрессирован и продолжил научную деятельность.