вам нужно научить компьютер тому, как выглядит ученый-физик, и для того, чтобы это сделать, вы показываете компьютеру изображения физиков прошлого. На экране показаны восемь белых ученых-физиков, начиная с Исаака Ньютона. В конце показана Мария Кюри. Это доказывает, что в данном случае компьютер будет иметь скрытое предубеждение, когда будет искать физиков – в этом случае он будет «склоняться к физикам-мужчинам».
Третий и последний вид предвзятости (на данный момент) – «предвзятость выбора». В качестве примера предлагается ситуация, в которой вы учите компьютер распознавать лица. Зрителя спрашивают: «Берете ли вы фотографии из Интернета или из своей домашней коллекции, уверены ли вы в том, что учитываете каждого?» Среди фотографий, которые появляются в видео, есть люди в тюрбанах и без, люди всех цветов кожи и очень разных возрастов. Голос заверяет нас: поскольку большинство продвинутых технологических систем используют машинное обучение, «мы работаем над тем, чтобы предотвратить увековечивание негативных человеческих предубеждений в технологии». Среди вещей, над которыми они работали, – устранение «оскорбительной или явно неверной информации» из числа первых результатов поисковых запросов и предоставление инструментов для жалоб на «ненавистнические или неприемлемые» варианты автозаполнения поисковых запросов.
Нас уверяют: «Это сложная проблема, и не существует чудодейственного средства для ее решения. Но все начинается с нашего осознания проблемы – для того, чтобы мы все могли присоединиться к разговору о ней. Потому что технологии должны работать для всех» [128]. Действительно, должны. Но таким образом в них встраивается очень предсказуемый набор ценностей, присущих Кремниевой Долине.
К примеру, если задать поисковой запрос «физики» по картинкам в Google, очевидно, что с нехваткой женщин-физиков вряд ли можно что-либо сделать. Механизм, видимо, обошел эту проблему, подчеркнув другие виды «разнообразия». Поэтому, несмотря на то, что первая картинка, появляющаяся по запросу «физики» – это изображение белого мужчины-физика, пишущего мелом на доске в Саарском университете, на второй картинке запечатлен чернокожий кандидат наук из Йоханнесбурга. На четвертом фото мы видим Эйнштейна, на пятом – Стивена Хокинга.
Конечно, это требует каких-то объяснений. Очень немногие хотели бы, чтобы какая-нибудь молодая женщина решила, что не может стать ученой-физиком только из-за исторического преобладания мужчин в этой сфере. Точно так же немногие хотели бы, чтобы молодой юноша или молодая девушка той или иной расы решили, что эта сфера для них закрыта из-за небольшого количества представителей их расы в ней. Однако то, что выявляется при помощи поисковых запросов – это не «справедливый» взгляд на вещи, а серьезное искажение истории и преподнесение ее с точки зрения современных предубеждений.
Рассмотрим результаты простого поискового запроса вроде «европейское искусство». Существует огромное число разнообразных изображений, которые могут высветиться в результате этого запроса. Можно также ожидать, что среди первых результатов поиска будут «Мона Лиза», «Подсолнухи» Ван Гога или нечто подобное. В действительности же первое изображение, которое появляется в результате поиска, – это картина Диего Веласкеса. Это неудивительно; удивительно то, что это за картина. В качестве первой картины, появляющейся в результате поиска по словам «европейское искусства», выбраны не «Менины» и не портрет Папы Иннокентия X. Картина, которую мы видим, когда ищем «европейское искусство» – это портрет слуги Веласкеса, Хуана де Парехи, который был темнокожим.
Это потрясающий портрет, но, пожалуй, странный для помещения его первым в результате поиска. Среди первого ряда изображений остальные – это то, что мы и ожидали бы увидеть, ища «европейское искусство», и «Мона Лиза» тоже среди них. Затем впервые появляется «Мадонна с младенцем», и Мадонна на этой картине – темнокожая. Затем – портрет темнокожей женщины, отсылающий к материалу «цветные в истории европейского искусства». Этот ряд изображений заканчивается групповым портретом троих темнокожих мужчин. А следующий за ним ряд – двумя портретами темнокожих людей. Затем следует картина, написанная Ван Гогом – его картина здесь появляется впервые. И так далее, и так далее. Каждый ряд представляет историю европейского искусства как состоящего по большей части из портретов темнокожих людей. Конечно, это интересно, а также точно является «репрезентативным» с точки зрения того, что хотели бы увидеть некоторые наши современники. Но это едва ли является репрезентацией прошлого. История европейского искусства не состоит ни на одну пятую, ни на две пятые и не наполовину из репрезентации темнокожих. Портреты, изображающие темнокожих людей и написанные темнокожими людьми, были редки до недавнего времени, когда население Европы стало меняться. И в таком изображении прошлого есть не только нечто странное, но и нечто зловещее. Можно увидеть, что, по мнению компьютера, это является надлежащей репрезентацией различных групп. Но это – попросту неправдивая репрезентация истории, Европы и искусства.
И это – не единичный случай. Поисковой запрос со словами «западное искусство» предлагает портрет темнокожего мужчины (из материала «Темнокожие люди в западном искусстве в Европе») в качестве первого изображения. Далее большинство картин изображают коренных американцев.
Если набрать в поисковой строке словосочетание «темнокожие мужчины», то все появившиеся картинки будут изображать портретные снимки темнокожих мужчин. Потребуется промотать на более чем дюжину рядов вниз, чтобы увидеть фотографию кого-то, кто не является темнокожим. Для контраста: если ввести в поисковой строке словосочетание «белые мужчины», первым высветится фото Дэвида Бэкхема – белого мужчины – но уже вторым изображением будет фото темнокожего мужчины-модели. Каждый последующий ряд из пяти картинок будет включать в себя одно или два изображения темнокожих мужчин. Многие из картинок, изображающих белых мужчин, – это фото белокожих преступников с подписями вроде «Остерегайтесь белых мужчин» и «Белые мужчины – плохие».
Чем дальше мы спускаемся в эту кроличью нору, тем более абсурдными становятся результаты поиска. Или, по крайней мере, они абсурдны, если вы ожидаете получить то, что искали, вводя поисковой запрос, хотя очень быстро вы сможете понять, в какую сторону вас направляет эта путаница.
Если ввести в Google запрос «гей-пара», то появятся целые ряды фотографий, изображающих счастливые гей-пары. Красивые гей-пары. Поищите, напротив, «гетеросексуальную пару», и как минимум одна или две картинки в каждом ряду будут изображать лесбийскую пару или пару геев. Еще на пару рядов ниже – и высвечивается уже больше фотографий гей-пар, нежели гетеросексуальных пар, несмотря на то, что запрос выглядел как «гетеросексуальная пара».
Добавив множественное число, можно получить еще более странные результаты. Первое фото среди результатов поиска по запросу «гетеросексуальные пары» изображает гетеросексуальную темнокожую пару, второе – лесбийскую пару с ребенком, четвертое – пару темнокожих геев, пятое – лесбийскую пару. И это все – первый ряд картинок. Уже на третьем ряду картинок, найденных по запросу «гетеросексуальные пары», все результаты изображают исключительно однополые пары. «Пары учатся отношениям у гей-пар» – ссылка под фото смешанной (темнокожей и белой) пары геев. Затем: «Гетеросексуальные пары могут поучиться у гей-пар». Затем – пара геев
