Окончил филологический факультет ЛГУ по кафедре русского языка, был учеником Н. А. Мещерского, обучался в аспирантуре Института языкознания АН СССР. В 1973 году защитил кандидатскую диссертацию «Общественно-политическая лексика русского языка XVIII века», в 1984 году защитил в ЛГУ докторскую диссертацию «Переводческое наследие Кирилла и Мефодия и его судьбы в славянской письменности». Участвовал в издании Институтом языкознания Словаря русского языка XVIII века (1970—1989).

С 1989 года работает в Отделе древнерусской литературы Института русской литературы РАН.

В 1996 году А.А. Алексеев принял активное участие в создании Bibliotheca Biblica в СПбГУ и стал читать спецкурс по библеистики на филологическом факультете. В 2006 году возглавил созданную благодаря его стараниям кафедру библеистики СПбГУ, которую возглавлял до 2019 года. Является основателем и главой Славянской Библейской комиссии при Международном комитете славистов (1988), член Патриаршей синодальной Библейской комиссии (1990), Общества исследователей Нового Завета (1996), Содружества православных библейских богословов (Греция, 1997). Лауреат премии им. А. А. Шахматова РАН (2006, за монографию «Текстология славянской Библии»).

С 2013 года — главный редактор Словаря русского языка XVIII века.