Среднее образование Андрей Андреевич Марков получил в 5-й петербургской гимназии. В этой гимназии процветали казенщина и формализм. Гимназистов заставляли выучивать наизусть тексты учебников, совершен, но не обращая внимания на логическую сторону дела и понимание. Вот почему Марков недолюбливал гимназию. По многим предметам учился посредственно, получая иногда неудовлетворительные оценки. Исключением была математика, которую он любил и по которой неизменно получал одни пятерки. Отца Маркова не раз вызывали к директору для объяснения.
— Почему Ваш сын забросил все предметы и увлечен только одной математикой? — укоризненно вопрошал директор.
Но директор и учителя ошибались. Предметом увлечения была еще и публицистическая литература революционных демократов. Андрюша Марков зачитывался статьями Чернышевского, Добролюбова, Писарева. Их «крамольный» дух сказывался в ученических сочинениях Маркова. Так, в одном из сочинений, посвященном «Евгению Онегину», им приводились идеи Писарева. Педагог, проверявший работу, с ехидством написал: «Вы начитались борзописцев, отрицающих чувство прекрасного».
Однако страстью Андрюши Маркова оставалась математика.
В школьные годы он самостоятельно изучил начала высшей математики и изобрел, как ему казалось, новый метод интегрирования обыкновенных нелинейных дифференциальных уравнений с постоянными коэффициентами.
О своем «открытии» он сообщил крупнейшим математикам того времени: академику В. Я. Буняковскому и профессорам Е. И. Золотареву и А. Н. Коркину. Первый не удостоил ответом изобретательного и пытливого гимназиста, а два других отозвались сочувственными письмами. В своих письмах они объяснили гимназисту Маркову, что «открытый» им метод давно известен в науке. Эти письма сыграли большую роль в жизни гимназиста. Они послужили первым звеном тесной дружбы Маркова с профессорами Петербургского университета Золотаревым и Коркиным.
Восемнадцатилетним юношей Андрей Андреевич Марков поступил в Петербургский университет, где слушал лекции П. Л. Чебышева и принимал активное участие в работе студенческих научных кружков под руководством Е. И. Золотарева и А. Н. Коркина.
Двадцати двух лет Марков окончил университет. В год окончания университета за сочинение «Об интегрировании дифференциальных уравнений при помощи непрерывных дробей» А. А. Марков получил золотую медаль и был оставлен при университете для научной и педагогической деятельности. Через два года он защитил свою магистерскую диссертацию «О бинарных квадратичных формах положительного определителя», выдвинувшую его на передний край математической науки и обеспечившую ему славу крупнейшего ученого.
Научные исследования Маркова относятся в основном к области теории вероятностей, теории чисел и математического анализа. В теории вероятностей Марков впервые дал полное и строгое доказательство основной предельной теоремы в общих условиях. Он много занимался вопросами практического применения теории вероятностей и дал общепринятое в настоящее время обоснование метода наименьших квадратов.
А. А. Марков был прогрессивным ученым, смелым борцом против реакционных действий царского правительства, против мракобесия и религиозного дурмана.