Математические сочинения Омара Хайяма, дошедшие до наших дней, характеризуют его как выдающегося учёного.
В трактате «О доказательствах задач алгебры и алмукабалы» он дал в геометрической форме систематическое изложение решения уравнений до третьей степени включительно.
Трактат «Комментарии к трудным постулатам книги Евклида» содержит оригинальную теорию параллельных.
В трактате «Об искусстве определения количества золота и серебра в состоящем из них теле» рассмотрена известная классическая задача, решенная Архимедом.
Всемирную известность принёс Хайяму как поэту цикл четверостиший («Рубаийат»). Наукой ещё не решен вопрос, какие из приписываемых Омару четверостиший доподлинно принадлежат ему. Более или менее твёрдо можно признать атрибуцию 66 рубай, содержащихся в наиболее древних списках.
Стиль Омара предельно ёмкий, лаконичный, изобразительные средства просты, стих чеканный, ритм гибкий. Основные идеи — страстное бичевание ханжества и лицемерия, призыв к свободе личности.
В средне-вековой персидской и таджикской поэзии Хайям — единственный поэт, в стихах которого лирический герой в значительной мере выступает как автономная личность. Поэт поднялся до отчуждения лирического героя от царя и бога; герой этот, бунтарь и богоборец, противник насилия, подвергает сомнению религиозную догму о божественно-разумном устройстве мира.
