Анри Пуанкаре, со студенческих лет находившийся под большим влиянием идей Брио и Буке, решил воспользоваться их рекомендацией, разработанным ими методом. Приняв в качестве определения искомой функции линейное дифференциальное уравнение с алгебраическими коэффициентами, он пришел к первому важному результату: функция, являющаяся решением такого уравнения, должна оставаться неизменной при дробно-линейных преобразованиях переменной величины, от которой она зависит. Это свойство функции сразу же позволяло отнести ее к разряду особого рода периодических функций, если пересмотреть и расширить понятие периодичности. Обычные периодические функции и двоякопериодические эллиптические функции остаются неизменными при простом прибавлении периода к их переменным величинам. Новая гипотетическая функция должна принимать одинаковые значения при более сложных, более общих операциях, произведенных над ее переменной. Подхватив и продолжив эстафету обобщения понятия периодичности, Анри уже в первых работах продемонстрировал свою склонность к широким научным обобщениям.
Чтобы построить эту трансцендентную периодическую функцию более высокого порядка, нужно было найти порождающую ее группу преобразований. В отличие от обычного словоупотребления математики называют группой не произвольное скопление каких-то объектов, а только такое, которое в некотором смысле аналогично множеству целых чисел. Как известно, сумма любых целых чисел тоже является целым числом, то есть не выходит за пределы их множества. Причем от перестановки любого количества слагаемых результат сложения не меняется. Множество целых чисел включает в себя нуль, прибавление которого к любому числу не изменяет его. И, наконец, у каждого положительного целого числа имеется его антипод — такое отрицательное целое число, что их сложение дает в сумме нуль.
Подобные групповые свойства можно обнаружить не только у различных математических объектов — чисел, векторов, функций и так далее, но и у некоторых однотипных действий, преобразований, совершаемых над такими объектами. Так, совокупность всевозможных переносов периода вдоль оси времени, позволяющая построить простейшую периодическую функцию — синус или косинус, — составляет ее группу преобразований. В самом деле, два последовательных переноса (их сумма) равносильны одному переносу удвоенного периода и не меняют значения функции. Последовательность нескольких переносов можно совершать в любом порядке, функция все равно не изменится. Нулевым элементом этой группы можно считать отсутствие всякого переноса. Наконец, после каждого переноса периода по оси времени всегда можно совершить такой обратный перенос, который полностью его компенсирует, низводит до нуля. Такими же групповыми свойствами для эллиптической функции обладает совокупность переносов параллелограмма периода на плоскости.
Если новая функция относится к периодическим, для нее тоже должна найтись своя группа преобразований, свой «перенос» периода. Но дробно-линейному преобразованию переменной величины, при котором функция не меняет своего значения, соответствует весьма непростой «плоский период»: не параллелограмм, а какой-то криволинейный многоугольник. И это сразу затрудняет проблему нахождения такой группы преобразований. Не представляет труда выложить всю плоскость одинаковыми параллелограммами, плотно укладывая их один к другому, как паркет. Но как заполнить плоскость причудливыми фигурами, ограниченными неправильными криволинейными контурами, не оставляя просветов и обходясь без наползания, накладывания соседних фигур друг на друга? Пока не удастся решить этот вопрос, бессмысленно браться за поиски предполагаемой периодической функции. Сначала нужно убедиться, что существуют преобразования, в совокупности составляющие группу, применяя которые к одному-единственному криволинейному многоугольнику можно получить соседние, плотно к нему примыкающие многоугольники, затем более удаленные, смежные с ними, и так до тех пор, пока вся плоскость не будет покрыта плотно сколоченной причудливой мозаикой без зазоров и без перекрытий. Только тогда можно быть уверенным, что, зная функцию на одном таком многоугольнике, на одном периоде, можно воспроизвести ее на всей плоскости.
На пути решения проблемы встала самостоятельная, сама по себе сложная и интересная задача: построить дискретные группы преобразований, обладающие рассмотренными выше свойствами. Но задачу удобнее было решать в несколько иной формулировке: разбить всю плоскость на бесконечное число плотно прилегающих друг к другу, но неперекрывающихся криволинейных многоугольников. От теории дифференциальных уравнений мысль Анри проделала сложный и прихотливый путь к чисто геометрической задаче. Это умение улавливать связь между, казалось бы, совершенно разнородными и далекими друг от друга вопросами математики, преодолевая разделяющие их огромные мысленные дистанции, пройдет через все творчество Пуанкаре.
Впоследствии Пуанкаре признавался, что возникшие трудности, возможно, остановили бы его, если бы не помощь, которую он нашел в совершенно другой математической теории — в неевклидовой геометрии. Задача была решена смелым и изящным способом.
Если плоскость, заполненную параллелограммами периода эллиптической функции, преобразовать в неевклидову плоскость, где параллельные прямые пересекаются, где царят законы необычной геометрии, то вместо прямых сторон параллелограммов получатся дуги, а вместо самих параллелограммов — криволинейные многоугольники. И эти многоугольники будут так же плотно пристыкованы, как сами параллелограммы. Все теоремы о покрытии обычной плоскости параллелограммами периода можно теперь переформулировать с учетом неевклидовости и получить искомые преобразования новой группы. Эти преобразования тоже оказались простым переносом, только на неевклидовой плоскости. Открытые новые группы, неизвестные до этого времени математикам, Пуанкаре назвал фуксовыми в честь немецкого коллеги, мысль которого оказала на него столь плодотворное влияние.
События теперь разворачивались со скоростью импровизации. Да это и была самая настоящая математическая импровизация, ибо каждая ступень на пути к цели таила в себе неожиданность и требовала мгновенной перестройки мышления на новые методы, изобретения новых, не испробованных еще подходов. Построив фуксовы группы, Анри приступил к следующему, не менее сложному этапу. Нужно было выяснить, существуют ли для этих групп такие функции, которые не изменяются при найденных преобразованиях. Неизвестно почему, но Пуанкаре сначала исходил из ошибочного убеждения, что таких функций быть не может. В течение двух недель тщетно пытался он доказать свой отрицательный вывод. И только одна бессонная ночь разом перевернула все его представления. Но лучше предоставим слово самому Пуанкаре:
