Остроградский с головой уходит в научную работу, результаты которой отражены в его собственных исследованиях и открытиях. В Россию он вернулся всемирно известным математиком. В год приезда на родину Остроградский был избран адъюнктом Петербургской академии наук, а через полтора года ее действительным членом. Он был членом многих зарубежных академий и математических обществ.
М. В. Остроградский работал в области математического анализа, теоретической механики, математической физики. Им написан ряд работ по теории чисел, алгебре, теории вероятностей. Ему принадлежит научная теория распространения тепла в твердых телах и жидкости.
Большую научную работу М. В. Остроградский сочетал с интенсивной педагогической деятельностью. Он читал лекции в Морском кадетском корпусе, в Главном педагогическом институте, в Институте корпуса инженеров путей сообщения и других учебных заведениях, в течение 15 лет вел большую работу, направленную на улучшение преподавания математики в военных учебных заведениях России.
Ученик академика Остроградского К. А. Яниш писал: «Центром всей математической деятельности в России вполне можно назвать Остроградского. Его ученые труды, его уроки, его советы, может быть, служат основанием всему, что по части математических наук делается у нас несколько замечательного»[44].
В сферу своей кипучей научно-методической деятельности М. В. Остроградский вовлек виднейших математиков того времени: В. Я. Буняковского, И. И. Сомова, П. Л. Чебышева, Д. М. Перевощикова.
Для военно-учебных заведений М. В. Остроградский написал учебник «Руководство начальной геометрии». Как замечал сам автор, это сочинение отличается от других руководств по той же науке развитием основных начал, порядком теорем и способом доказательств. Автор не склонен был в изложении элементарной геометрии придерживаться какого-нибудь методического трафарета, тем более традиционного следования Евклиду, а старался отыскать новые пути в этом направлении. В своем учебнике М. В. Остроградский выдвинул следующие принципы:
1. Изложение геометрии необходимо начинать с подробных объяснений оснований, на которых она строится (анализ предложений и начальных истин).
2. При рассмотрении каждого вопроса надо исходить из более общей его постановки, из которой он вытекал бы как частный случай.
3. Запрещается подменять доказательство какого бы то ни было предложения ссылкой на чертеж. Всякое доказательство в геометрии должно состоять из логических рассуждений, в которых роль наших наглядных представлений исключительно вспомогательная.
4. Изложение метрической геометрии по возможности должно быть аналитическим (алгебраическим), в котором чертежи не обязательны.
Учебник геометрии М. В. Остроградского и выдвинутые им положения были предметом горячей дискуссии и тем самым способствовали нахождению правильных путей к построению учебника, отвечающего всем необходимым научным и педагогическим требованиям.
«Имея счастье быть его учеником, я не иначе могу вспомнить о его лекциях, как с глубокой признательностью к своему великому учителю. Михаил Васильевич читал лекции так, что увлекал всех; самые сложные и трудные вещи излагал с такой простотой и ясностью, что не понять было невозможно, но, заметив, что и тут могут встретиться некоторые затруднения,??? тотчас приводил другое доказательство, нисколько не задумываясь, как великий мастер своего дела, обладавший необыкновенным талантом совершенствовать и вести его вперед»[45].