Не менее увлекало Декарта и изучение математических дисциплин, к которым он проявил большие способности. Будучи от природы вдумчивым и проницательным, Рене обратил внимание на контраст между математикой и другими предметами, изучаемыми в коллегии. В его душе зародилась неудовлетворенность схоластикой. Все это привело к возникновению у Декарта одной из плодотворнейших идей новой математики — идеи аналитической геометрии. Ученый был первым, кто догадался, что число может быть изображено точкой, а геометрические задачи сведены к алгебраическим. Одновременно с этим у него появилось непреодолимое желание организовать все науки на основе эвристического метода, присущего математике. Его суть была достаточно проста. Декарт считал, что необходимо сосредоточиться на несомненном, а от него сделать логический шаг вперед, затем еще и еще шаг — в итоге начнет раскрываться истина.
Впоследствии Декарт высоко оценивал образование, полученное в школе иезуитов, и с неизменным уважением отзывался о своих преподавателях. Тем не менее по окончании коллегии он пришел к выводу, что знаний недостаточно, и в 1615 г. поступил в университет города Пуатье с целью более глубокого изучения права и медицины. Надо сказать, Декарт использовал любую возможность для обучения. Так, в 1629 г., находясь в Голландии, он записался в университет во Франекере как «студент-философ», а в 1630 г. — в Лейденский университет как «студент-математик». Однако, расширяя багаж знаний, Рене не мог получить того духовного развития, к которому стремился. В университетах того времени преобладали схоластические идеи, концепции и теории. Декарт понимал, что их содержание приходит во все более кричащее несоответствие с запросами жизни. Ученый убедился, что следует искать такую науку, которая постигает истину, погружаясь в «великую книгу мира». Вместе с тем он писал, что будет черпать истину и в самом себе. Тем самым Декарт высказал революционную мысль о том, что, хотя духовная мысль общества и невозможна без Священного писания, истина в деле познания природы, как и самого человека, может быть найдена лишь путем их исследования и самостоятельных размышлений.
«Великую книгу мира» Декарт изучал во время многочисленных путешествий по западноевропейским странам — Германии, Италии, Польше, Дании, Чехии. Везде ученый внимательно присматривался к жизни людей, их нравам и обычаям, служил в голландской, баварской и венгерской армиях.
В 1618 г. Декарт приехал в Голландию, где царила наибольшая по тем временам религиозная веротерпимость, атмосфера которой весьма благоприятствовала и развитию научных знаний. Здесь, например, издавались произведения, вписанные в католических странах в папский «Индекс запрещенных книг» (в частности, труды Коперника и Галилея). Совершенно закономерно, что в Голландии находили убежище невольные изгнанники из других стран, немало было здесь и французов.
В это же время Декарт познакомился с Исааком Бекманом, доктором медицины, весьма осведомленным в математике и других естественных науках. Поводом для знакомства послужило совместное решение трудной математической задачи, с которой ученые блестяще справились. В дальнейшем эта встреча переросла в плодотворную для обоих научную дружбу. И уже в конце того же 1618 г. Декарт написал свое первое произведение «Трактат о музыке», который посвятил Бекману.
Последующие десять лет ученый жил в разных местах Германии, Австрии, Богемии и Венгрии, путешествовал по Франции и Италии, побывал в Риме. Эти годы стали временем окончательного формирования его философских и научных взглядов. В немалой степени этому способствовали и связи Декарта с видными учеными того времени. Особую роль сыграла дружба с Мареном Мерсенном (1588–1668 гг.), завязавшаяся в конце 20-х гг. Мерсенн на два года раньше Декарта окончил Ла Флеш и стал монахом францисканского ордена. Вместе с тем он был преподавателем философии и теологии и написал множество трудов как по этим предметам, так и по математике, механике, физике и музыке. В дальнейшем, во время многолетнего пребывания Декарта в Голландии, Мерсенн стал его основным корреспондентом в Париже. Кружок ученых, образовавшихся вокруг него, спустя много лет превратился во Французскую академию наук.