Один из принципов Аристотеля Хайям принимает за исходный в собственной теории параллельных: «Две сходящиеся прямые линии пересекаются, и невозможно, чтобы две сходящиеся прямые линии расходились в направлении схождения». Каждое из двух утверждений, содержащихся в этом принципе, эквивалентно пятому постулату Евклида.
При помощи нового постулата Омар Хайям доказывает восемь теорем, последняя из которых по формулировке совпадает с пятым постулатом. Центральное место у Хайяма занимает исследование равнобедренного двупрямоугольника (четырехугольника с двумя прямыми углами при основании и равными боковыми сторонами). Равнобедренный двупрямоугольник разделяется своей осью симметрии на два трипрямоугольника. Относительно двух других углов двупрямаугольника, равных между собой, Хайям сначала предполагает, что они острые, затем, что они тупые, и оба допущения приводит к противоречию при помощи своего принципа. После установления существования прямоугольника он довольно просто доказывает пятый постулат.
Работы восточных геометров по теории параллельных, растянувшиеся почти на пятьсот лет и тесно связанные между собой, оказали значительное воздействие на позднейшие исследования. Идеи Хайяма и ат-Туси стали известны в Европе только в XVII веке. Выявленная и обоснованная ими связь пятого постулата Евклида с проблемой суммы углов четырехугольника, или, что равносильно этому, с вопросом о сумме углов треугольника, стала основной в дальнейших работах. Гипотезы и представления математиков Востока о свойствах рассматривавшихся ими четырехугольников в случае острого и тупого угла стали своего рода первыми теоремами неевклидовых геометрий Лобачевского и Римана (в первой из которых обосновывается гипотеза острого угла для этих четырехугольников, а во второй — гипотеза тупого угла). Работы Омара Хайяма стали одним из важных звеньев в цепи исследований, закончившихся созданием неевклидовой геометрии.
Вторая и третья книги «Комментариев к трудностям во введениях книги Евклида» посвящены теории отношений. Хайям подтверждает правильность знаменитого определения тождества двух отношений в пятой книге «Начал», в которой Евклид сравнивает произвольные равнократные первой и третьей и, соответственно, второй и четвертой величин, образующих пропорцию.
Это определение, однако, с его точки зрения, страдает существенным недостатком, ибо не выявляет «истинный смысл пропорции». Хайям считал, что определение Евклида не конкретизирует измерительных аспектов отношений, которые представляли практический интерес для математики мусульманских стран. Поэтому свою задачу он видел в формулировании такого определения равенства отношений, которое непосредственно отражало бы числовую функцию отношения. Хайям намеревался соединить общую теорию отношений пятой книги, пригодную и для непрерывных соизмеримых величин, и теорию отношений чисел седьмой книги. При этом Хайям пошел по новому и оригинальному пути: он доказывает эквивалентность Евклидовых определений тождества и неравенства отношений с новыми.
В основе исходного определения Хайяма лежит процесс отыскания наибольшей общей меры и соответствующий алгоритм Евклида. Доказывая эквивалентность определений Евклида и собственного, Омар Хайям приходит к выводу о наличии существенного пробела в теории отношений — отсутствие общей теории о существовании четвертой пропорциональной к трем данным величинам, которую Евклид доказал в шестой книге только для частного случая отрезков. С точки зрения Хайяма, существует прямая связь этой теоремы с непрерывностью и доказывает ее на основании еще одного из «принципов, заимствованных у философа»: «величины можно делить до бесконечности, то есть они не состоят из неделимых» (кстати, это положение Аристотеля будет играть важную роль и в его философских трактатах). Для обоснования этой теоремы Хайям доказывает, что величина принимает каждое значение, промежуточное между какими-либо двумя ее значениями. Хотя для этого приведенного принципа недостаточно, здесь важна сама принципиальная идея.
Третья книга «Комментариев» посвящена проблеме составления отношений, недостаточно развитых у Евклида. Это учение представляло для математиков стран ислама особую важность в связи с возможными приложениями к теории музыки и, главное, тригонометрии. Здесь Омар Хайям отходит от концепции о числе Аристотеля. Признавая, что число в собственном смысле — это натуральное число, собрание единиц, он предлагает ввести более широкое абстрактное понятие о числе как о действительном положительном числе. При этом Хайям теоретически обосновывает давнюю практику математиков. Ведь «вычислители и землемеры часто говорят: половина единицы или треть ее или какая-нибудь другая доля ее, в то время как единица неделима… предполагают единицу делимой. Они часто говорят: корень из пяти, корень из десяти и т. д. — их слова, действия и измерения изобилуют этими выражениями».