расовой принадлежности), пока соглашение о сделке не будет заключено. Некоторые платформы, в том числе Amazon и eBay, уже сделали это. Однако для многих других это означает отход от привычных способов ведения бизнеса. Топ-менеджер одной платформы, стоящей миллиарды долларов, сказал нам, что его компания никогда не будет рассматривать возможность скрытия фото или имен пользователей.
Платформы могут выбирать не только то, какую информацию раскрыть, но и как ее преподнести. И есть много доказательств того, что большое значение имеет выделение той или иной информации при представлении на сайте. Например, на некоторых платформах стоимость доставки указана отдельно от базовой цены и менее заметна на странице. Экономисты Дженнифер Браун, Танжим Хоссейн и Джон Морган показали, что в этом случае более низкая базовая цена повышает шансы на продажу товара, даже если стоимость его доставки оказывается выше. Иными словами, на потребителя влияет не только информация как таковая, но и выразительность ее представления.
Чтобы понять, как можно применить это знание, давайте вернемся к сравнению Airbnb, которая показывает фото хозяев на главной странице с результатами поиска, с HomeAway, которая этого не делает. (В сентябре Airbnb заявила, что протестирует альтернативные способы представления фотографий и прочей информации, имеющей отношение к расе, хотя не конкретизировала, как и что именно будет сделано.) Не делая акцента на расовой принадлежности, платформы способны снизить уровень дискриминации.
Решение 2. Можете ли вы еще больше автоматизировать процесс транзакций?
Используя Uber, вы касаетесь экрана смартфона, чтобы заказать машину; только после подтверждения заказа вы можете увидеть, кто именно к вам приедет. Теоретически, после этого вы можете отказаться, если вам не понравился рейтинг или внешний вид водителя. Но для этого нужно потратить дополнительные усилия, и этой небольшой «цены транзакции» обычно оказывается достаточно для того, чтобы не отменять поездку на основе только внешнего впечатления. Uber вполне мог бы позволить пассажирам видеть водителя до того, как они подтвердят или отменят заказ, но решил этого не делать.
Если транзакция происходит до того, как одна из сторон узнает расовую и половую принадлежность другой, риск дискриминации существенно снижается. Возьмем, к примеру, такую услугу Airbnb, как «моментальная бронь», которая призвана сделать бронирование жилья проще и удобнее. Владелец предоставляемой недвижимости разрешает арендаторам бронировать ее без предварительного одобрения с его стороны. Это необязательная услуга – хозяева жилья могут подписаться на нее по своему желанию. Исследования показали, что склонность к использованию варианта по умолчанию очень сильна: большинство хозяев выбирают именно тот вариант, который установлен по умолчанию. Если бы Airbnb сделала моментальную бронь такой опцией, чтобы хозяевам пришлось приложить дополнительные усилия для отказа от нее, скорее всего, дискриминация снизилась бы. Компания могла бы даже предложить хозяевам платить за привилегию подробного изучения данных клиента – например, брать отдельную плату за отказ от услуги моментального бронирования. (В сентябре компания заявила, что хочет продвигать эту услугу, но не пояснила, что именно собирается делать для этого.)
Мы считаем, что повышение автоматизации и правильно применяемые стандартные экономические стимулы способны снижать уровень дискриминации, а также – благодаря исключению ряда шагов из процесса завершения сделки – повысить прибыль на самых разных платформах.
Решение 3. Можете ли вы сделать антидискриминационную политику более приоритетной?
В исследовании 2012 года команда, состоявшая из Лизы Шу, Нины Мазар, Франчески Джино, Дэна Ариэли и Макса Бейзермана, решила проверить, может ли нечто столь примитивное, как расположение подписи на бланке, влиять на честность. Людям часто приходится заполнять различные формы и затем подтверждать верность информации подписью. Ученым стало интересно, станут ли люди реже вносить недостоверную информацию, если им нужно будет ставить подпись в самом верху бланка, то есть до того, как его заполнить. И действительно, оказалось, что в таком случае люди врут реже, как в лабораторных экспериментах, так и в реальной жизни (в полевом эксперименте, проведенном в компании автострахования). Те же результаты были получены и в сфере налоговой отчетности.
Мы можем извлечь из этого полезный урок для маркетплейсов: если вы хотите, чтобы люди что-то сделали, тщательно продумайте, как и когда подтолкнуть их к этому. На большинстве платформ существует некая антидискриминационная политика, но нередко она похоронена под грудой мелкого шрифта. Например, хозяева жилья на Airbnb обязуются не дискриминировать потенциальных арендаторов, но они подписываются под этим при первом же выставлении своей недвижимости на сайте. К тому моменту, когда хозяину придется принимать решение, откликнуться ли на чей-то запрос, он, вероятно, уже забудет о том, что именно подписывал. Площадки должны выставлять свою антидискриминационную политику как нечто более актуальное – и заставлять владельцев недвижимости подписывать антидискриминационное соглашение в процессе реальной транзакции. Конечно, кто-то все равно будет нарушать эти условия, но это уже будет гораздо более осознанный выбор.
Решение 4. Должны ли ваши алгоритмы распознавать дискриминацию?
Степень, в которой алгоритм может стать источником дискриминации, также определяется решениями его разработчиков. До сего момента многие разработчики алгоритмов игнорировали такие факторы, как раса и пол, и просто надеялись на лучшее. Однако во многих случаях вероятность того, что алгоритм случайным образом будет обеспечивать равенство, практически равна нулю; вспомните приведенный выше пример с рекламой в Google.
Если разработчика алгоритма заботит справедливость, он должен проследить, как расовая или половая принадлежность влияет на пользовательский опыт, и установить для себя четкие цели. Хочет ли он гарантировать, чтобы черным клиентам не отказывали чаще, чем белым? Чтобы с женщин брали ту же цену, что и с мужчин?
Google скорректировал свой алгоритм после исследования с рекламой баз данных об арестах, но компании могут и сами проактивно мониторить и реагировать на подобные проблемы. Представьте, к примеру, что Uber заметил, что некоторые пассажиры постоянно ставят низкие оценки черным водителям, в то время как большинство высоко оценивает их. Подсчитывая общий рейтинг таких водителей, компания может снизить значимость оценок, выставленных пассажирами, которые проявили себя расистами.
Урок от симфонических оркестров
Конечно, платформы существуют в более широком общественном контексте; мы не можем создать мир, не обращающий внимания на расу и пол, просто разработав платформы, снижающие склонность к дискриминации. И, конечно, не стоит рассчитывать на то, что каждого разработчика платформы вдохновляет эта высокая цель; иногда дискриминация даже удобна для бизнеса. В таких случаях мы можем лишь взывать к чувству социальной ответственности лидеров бизнеса или надеяться, что вмешается законодательство.
Но во многих случаях принцип «получать выгоду, делая добро» вполне работает – если платформы могут снизить уровень дискриминации, не получив от этого убытков или даже повысив благодаря этому прибыль. Также может быть, что немногочисленные просвещенные компании запустят цикл добра,
