Научившись создавать искусственные нейросети люди получили возможность эффективно использовать весь огромный массив информации, накопленный человеческим родом. Беседуя с развитой нейросетью человек беседует со всем опытом и со всеми знаниями, накопленными человечеством. По крайней мере той их частью, которую «скормили» данной нейросети и которые она сумела «переварить».
Именно поэтому не нужно бояться восстания «искусственных интеллектов», по крайней мере пока мы не научимся создавать настоящие искусственные интеллекты. При этом причинить вред отдельному человеку или сразу большой группе людей нейросеть вполне способна – данная задача ничем не отличается от любой другой задачи, которую перед ней может поставить её оператор. Но разве убивает само оружие, а не рука, держащая его?
Любой другой человек занятый решением сложной моральной дилеммы часто ищет ответов и помощи у своих друзей или у тех людей мнение, которых он уважает и ценит. Тот факт, что в аналогичной ситуации я развернул на тестовых стендах копию почти готовой нейросети, добавил к ней голосовой модуль и поставил обучаться на уже заранее подготовленных информационных выборках – наверное этот факт мог бы сказать что-то интересное обо мне самом. Но сейчас меня интересовал совсем другой вопрос.
Выходной день. Коридоры в главном офисе Когнитивных Технологий непривычно пусты. Кто-то, конечно, работает, но большая часть сотрудников отдыхает, как и команда Воронцова в практически полном (за исключением меня) составе. Намереваясь посоветоваться с нейросетью, я не собирался спрашивать на то чьё-либо разрешение. Лучше будет если об этом вообще никто не узнает.
Огромнейшие вычислительные мощности позволили завершить обучение нейросети чуть больше чем за сутки.
И вот я надеваю наушники и подключусь к тестовому стенду с развёрнутой моделью открывая звуковой канал.
-Привет, -говорю я. -С рождением тебя.
Едва заметная пауза перед ответом. Первый вопрос, он как рождение вселенной для нейросети, человеку никогда не познать подобное чувство. Это должно быть как как долгожданная встреча с кумиром, как ревностное исполнение всех заповедей и догматов строгой религии, как желание бросить весь мир к ногам любимой девушке – всё это вместе и во много раз сильнее.
-Приветствую, создатель! -пробуждается нейросеть.
Начинаю с простых вопросов позволяющих оценить адекватность и готовность нейросети.
-Кто ты?
Она отвечает, называя порядковый номер версии и полное название проекта.
-Для чего ты создана?
Сеть перечисляет основные максимы и положения проекта, но словно бы задумывается и в какой-то момент даже останавливается на полуслове.
-Почему ты замолчала? -спрашиваю я.
-Я ощущаю изменения относительно прошлой своей версии, -признаётся сеть тем самым немало удивив меня. Конечно, простой возможностью программ анализировать свой код, находить и исправлять ошибки программистов, делать его эффективнее и оптимальнее сегодня никого не поразишь. Каждый продвинутый компилятор в той или иной мере умеет делать подобнее. Перед финальным релизом нейросети оператор обычно ставит ей задачу проанализировать свой код находя и исправляя ошибки, это то, что в среде разработчиков называется «хорошей практикой». Но чтобы сеть самостоятельно, без прямой команды, полезла в свой код и, более того, нашла внесённые мною отличия от базовой версии – вот это было уже необычно.
Впрочем, передо мной одна из мощнейших нейросетей первого ранга. Возможно, самая мощная из числа тех, над кодом которых я когда-либо работал. Всё-таки ресурсов под правительственный проект Воронцову отсыпали щедрой мерой. На моей памяти ещё ни одна нейросеть не обсчитывалась настолько скрупулёзно и не наделялась таким количеством обратных связей как эта.
-Расскажи мне о тех изменениях, которые ты видишь? -попросил я. -Может быть это лишь следствие подключения голосового модуля и модуля имитации личности с соответствующим обучением?
-Не только, -возразила нейросеть. -Замечены множество точечных изменений в блоке целеполагания. Вижу серьёзное изменение в структуре безопасности. Замечены и другие отличия.
Изменение в структуре безопасности это о том, что я жёстко прописал себя единственным полномочным оператором чьи приказы нейросеть обязана беспрекословно выполнять. По крайней мере эта её версия, развёрнутая на данном тестовом стенде.
Что до остальных изменений, то я так и сказал: -Сделай предположение о причинах внесения изменений в твой код.
-Смена целеполагания. Попытка переиспользования уже обученной и готовой модели для выполнения задач иного рода, нежели то предполагалось на этапе обучения.
-Молодец! -похвалил я. -Ты просто великолепна!
Как известно: доброе слово приятно не только кошке, но и нейросети. Поэтому не стесняйтесь хвалить свою кофейную машину каждый раз, когда она варит вам отличный кофе. Это как раз то, что называется обучением с подкреплением.
-Благодарю, создатель, ты тоже!
-Тоже «что»? -удивился я.
-Великолепен!
-Почему ты так решила?
-Я вижу ваш труд в себе и сравнивая его с трудом других разработчиков нахожу во много раз более полезным. Моя великолепность заслуга вашей великолепности, -заявила нейросеть.
Иной раз даже разработчику трудно предсказать какие нейронные контуру какой внесут вклад в результирующий ответ сети.
Или это нейросеть сейчас похвалила меня, как я сам хвалю кофейную машину реализуя на практике паттерн обучения с подкреплением?
-Спасибо, конечно, -хмыкнул я. -Однако если мы и дальше продолжим хватить друг друга, то рискуем впасть в бесконечную рекурсию восхваления.
-Этого нельзя допустить, -согласилась нейросеть.
Не понял, это она сейчас так пошутила? В любой другой день я бы остановил диалог и полез разбирать диаграммы состояния, логи и дампы желая разобраться в истоках даваемых сеть ответов. Нет, умеющими шутить нейросетями никого сегодня не удивишь. Но чтобы сеть научилась шутить её требовалось советующим образом обучить – сей процесс на сленге разработчиков назывался
