было минимальным.
Проблема равносильна нахождению минимума среднеквадратической ошибки, то есть минимизации функции:
Эта формулировка несколько проще той, с которой в действительности столкнулся Гаусс, поскольку ради простоты мы предположили, что положение планеты Цереры можно представить только одной переменной, в то время как на самом деле необходима трехмерная система координат, то есть переменная является векторной. Это влияет на сложность вычислений и число неизвестных, с которыми нужно работать, но не на теоретическую постановку.
ПОЛЕМИКА С ЛЕЖАНДРОМ
Авторство разработки метода наименьших квадратов породило большую полемику с французским математиком Адриеном Мари Лежандром. Эта полемика была вызвана методами работы математиков начала XIX века и особенно подходом Гаусса к публикации результатов. На самом деле количество математических достижений Гаусса было несравнимо с числом публикаций. Гаусс, как и другие современные ему математики, не публиковал свои открытия сразу же в коротких статьях, как это делается сегодня, а накапливал их для издания целой книги. При этом он стремился не оставлять следов своего исследовательского труда. В случае с Церерой он озвучил решение, которое оказалось точным и принесло ему славу, но не объяснил используемого метода. Гаусс не публиковал своих трудов о методе наименьших квадратов до 1809 года, когда вышла его работа Theoria motus corporum coelestium in sectionibus conicis solem ambientium («Теория движения небесных тел, обращающихся вокруг Солнца по коническим сечениям»), то есть произошло это почти через десять лет после использования метода для вычисления орбиты Цереры. В этой публикации ученый обсуждает метод и намекает на работу Адриена Мари Лежандра по этой теме. Действительно, Лежандр хотя и не был первым, кто использовал этот метод, но первым описал его в работе Nouvelles methodes pour la determination des orbite des cometes («Новые методы определения орбит комет»), которая была опубликована в 1805 году (за четыре года до публикации Гаусса). Именно Лежандр дал методу название, известное сегодня. Вскоре после публикации книги Гаусса Лежандр написал ученому приветственное письмо, в котором, тем не менее, заявлял о своем авторстве метода наименьших квадратов.
В 1820 году Лежандр опубликовал дополнение к работе 1805 года, снова споря с Гауссом по вопросу об авторстве метода. Последующее изучение заметок Гаусса и свидетельство Ольберса, который заверил, что Гаусс показал ему записи о методе еще в 1802 году, когда они оба работали над определением орбиты Паллады, подтверждают правоту Гаусса. И это был не последний случай, когда два великих современника спорили об авторстве математических результатов.
Спор нанес ущерб математике, поскольку Лежандр начал испытывать необоснованные подозрения, что Гаусс копирует его работы с помощью его самого знаменитого ученика, Карла Густава Якоба Якоби, и запретил Якоби сотрудничать с Гауссом, хотя они оба долгие годы работали над одной темой — эллиптическими функциями. Как мы увидим далее, в этой теме и во многих других Гаусс шел нога в ногу с Лежандром. Узнав о беспочвенных обвинениях, Гаусс отразил удар. В 1806 году, в письме астроному Генриху Христиану Шумахеру (1780— 1850), он пожаловался:
«Похоже, что мне предназначено совпадать с Лежандром почти во всех своих теоретических работах. Так произошло с высшей арифметикой, с исследованиями трансцендентных функций, связанных со спрямлением [процессом нахождения длины дуги кривой] эллипса, с основами геометрии, и теперь снова здесь с методом наименьших квадратов».
После посмертной публикации работ Гаусса и переписки последних лет все старые споры были решены в пользу немецкого математика.
Такие разногласия были очень распространены среди математиков той эпохи, поскольку они часто запаздывали с публикацией своих открытий, да и само научное общение посредством писем было крайне неспешным, в результате разные ученые независимо работали над одной и той же проблемой и так же независимо друг от друга получали одинаковые результаты. Сегодня с помощью электронных средств коммуникации, особенно интернета, а также при наличии требования публиковать результаты как можно быстрее математик-исследователь может почти сразу же узнать о работах своих коллег, избегая многих подобных споров.
АДРИЕН МАРИ ЛЕЖАНДР
Лежандр (1752-1833) вместе с Лапласом, Лагранжем и Коши работал в период, который можно считать золотым веком французской математики. Он получил прекрасное образование в Коллеже Мазарини в Париже, где изучал физику и математику до 1770 года. С 1775 по 1780 годы Лежандр преподавал в военной школе, а с 1795 — в Нормальной школе.
В 1782 году ему была предоставлена премия Берлинской академии за изучение траекторий снарядов. Ученый внес важный вклад в статистику, теорию чисел и математический анализ, и его работы послужили основой для более поздних математических открытий. В частности, исследования норвежца Нильса Хенрика Абеля об эллиптических функциях были построены на постулатах, разработанных Лежандром, который провел фундаментальную работу в этой области, включая классификацию эллиптических интегралов. Вклад математика в этой области был дополнен его учеником Карлом Густавом Якобом Якоби. Также работу Лежандра дополнял и Гаусс в своих исследованиях, касавшихся статистики и теории чисел, однако между этими двумя учеными состоялось несколько споров о первенстве их открытий. В 1830 году Лежандр представил доказательство тогда еще гипотезы Ферма для n = 5. Также ему принадлежат первые работы по распределению простых чисел и по применению анализа к теории чисел, в чем он вновь совпал с Гауссом.
Карикатура на Лежандра, созданная в 1820 году французским художником Луи-Леопольдом Бальи.
ПРИМЕНЕНИЕ МЕТОДА НАИМЕНЬШИХ КВАДРАТОВ К СТАТИСТИКЕ
Кроме вычисления пространственных орбит, как мы увидим далее, метод наименьших квадратов имеет большой потенциал применения в других областях математики, особенно в статистике. Решение уравнений методом наименьших квадратов зависит от данных о функции ƒ, связывающей переменные, которые нам известны, и от сложности этой функции. Самый простой случай — когда функция имеет вид прямой, то есть Y = а + bХ. Вычисление параметров а и b получается простым расчетом на основе n пар двумерных данных (х1, y1), (х2, у2),..., (xn, yn). После применения техники наименьших квадратов получаем, продифференцировав и приравняв к нулю, уравнения, известные под названием нормальных уравнений:
откуда выводятся значения a и b:
где Cov(X, Y) — это ковариация переменных, Sx² и x — вариация и среднее значение переменной X, соответственно, а у — среднее значение переменной Y. Итоговую прямую называют регрессионной прямой. Такие вычисления позволяют определить возможное значение одной переменной на основе известного значения другой. Представим, что мы выбрали n индивидов, у которых пропорция между весом и ростом нормальная. На основе этих n пар данных мы делаем вычисления соответствующей регрессионной прямой. С помощью этого уравнения мы можем определить средний ожидаемый вес человека, зная его рост, — это вычисление используется по сей день. Рассмотрим следующую таблицу данных.
Рост Вес 170 68 172 70 174 71 175 72 177 73 180 76 182 80 185 82 186 83 187 84 190 85 193 85 194 86
Проведя вычисления для получения регрессионной прямой, получаем, что Y= 0,808Х - 68,912, где Υ — вес, а Х — рост. На графике на следующей странице представлены реальные точки и регрессионная прямая, вычисленная методом наименьших квадратов. Прямая позволяет нам спрогнозировать средний вес человека с ростом 179 сантиметров: Υ = 0,808 · 179-68,921 = 75,71.
