Сценарии будущего. Как жить и работать в мире, захваченном нейросетью и роботами - страница 14

С 2020 года военные перевороты один за другим потрясали Западную Африку от Гвинеи до Буркина-Фасо и Мали. В 2021 году армия пришла к власти в Чаде, в июле 2023 года государственный переворот произошел в Нигере, следом за ним – в Габоне. С начала 2020-х годов значительно повысилась террористическая активность в африканском регионе Сахель – это тысячи километров земель от Атлантического океана до Красного моря, где расположены 12 стран и проживает 300 млн человек. В Нигерии в начале марта 2024 года из школы были похищены 286 учеников, студентов и учителей, за освобождение которых похитители требовали выкуп в миллиард нигерийских найр ($620 тысяч). Предыдущее массовое похищение произошло в 2021 году.

В такой ситуации модерирование материалов с казнями и насилием может быть полностью осознанным выбором, так как иногда это единственная возможность оставаться на плаву. Этот выбор может быть и менее осознанным, потому что человек существует в парадигме, где психологические отклонения нереальны. Для него депрессия – это просто плохое настроение, при котором он все равно идет собирать плоды баобаба и доить коров, а не повод для похода к психотерапевту и саморефлексии. К тому же для жителей развивающихся стран некоторые «шокирующие» нас вещи абсолютно естественны и привычны, а насилие – нормализовано. Например, для них кролик или цыпленок – это не питомец, а источник пищи, из которого они, не особо задумываясь, сварят суп. А в некоторых регионах Индии публичная дефекация является нормой.

Проще говоря, если можно было бы измерить психологическую травму в неких условных единицах, то просмотр картинки с насилием нанес бы миллениалу из среднего класса в Сан-Франциско – Х ущерба, а жителю Ганы, Кении или Уганды – 0.7Х ущерба. Тем не менее, психологический ущерб от просмотра таких материалов неизбежен: после нескольких месяцев подобной работы модераторы выгорают и заменяются другими – без выходного пособия или медицинской страховки для проработки полученных психологических травм.

В числе своих клиентов компания Sama называет Google, Microsoft и Ebay. Полагаю, все они в курсе, как и откуда берутся их датасеты. Та же Microsoft еще в марте 2023 года объявила о роспуске централизованной команды по этике ИИ, сотрудники которой формировали правила в областях, где они еще не сформированы, то есть занимались саморегулированием тех сфер, куда пока не проникло законодательство. Компанию Microsoft можно понять: если соперники не отягощают себя этическими вопросами и дополнительными искусственными ограничениями, то для любой коммерческой организации это означает потерю скорости и конкурентного преимущества. Примечательно, что Microsoft является одним из крупнейших инвесторов в OpenAI, вложив в компанию $13 млрд.

В доденежных сообществах люди были вполне самодостаточны. Они находили, добывали или выращивали себе пищу и производили необходимые для быта вещи. Робинзон Крузо на необитаемом острове размышлял о ценности своих богатств, которые перестали быть таковыми, когда он один и торговать не с кем:

У меня было немного денег – серебра и золота, – всего около 36 фунтов стерлингов. Увы, они лежали, как жалкий, ни на что не годный хлам. Мне было некуда их тратить. С какой радостью отдал бы я пригоршню этого металла за десяток трубок для табака или ручную мельницу, чтобы размалывать зерно. Да что там, я отдал бы все эти деньги за шестипенсовую пачку семян репы и моркови, за горсточку гороха и бобов или за бутылку чернил. Эти деньги не давали мне ни выгод, ни удовольствия. Так и лежали они у меня в шкафу и в дождливую погоду плесневели от сырости в моей пещере. И будь у меня шкаф полон алмазов, они точно так же не имели бы для меня никакой цены.