Читать онлайн Кай Турман - Боты среди нас

Я не исключаю, что существую внутри симуляции. Какого она типа — MMORPG с другими игроками или одиночная PVE-среда, где достоверен только мой опыт, для меня не принципиально. Это упирается в проблему сознания. Если система способна симулировать среду такой сложности, то она способна симулировать и любое сознание. Следовательно, существование ботов легко объяснялось бы по тому же принципу, что и в любой видеоигре. У меня нет инструмента проверить, обладают ли другие сознанием на самом деле. При этом я не утверждаю, что те, кого я в книге называю ботами, являются философскими зомби. Я просто не знаю этого. Я знаю только то, что сам не являюсь философским зомби.

Так что не имеет особого значения, где именно будет исследоваться поведение ботов: в так называемом реальном мире или в условиях симуляции, потому что поведение системы и её элементов остаётся одинаковым независимо от метафизики.

Но моя книга в первую очередь не о сознании, а о мышлении. О том, почему одни люди способны выходить за рамки биологических программ, а другие — нет. Если в данный момент бота сложно обнаружить, просканировав его мозг, то хотя бы по поведению это заметно: жираф ест траву, лев ест жирафа — обратное всегда ошибочно.

Мне не требуется верить в истинность модели, чтобы ей пользоваться. Эта карта реальности не будет обязана быть идеально точной, только достаточно согласованной с моим феноменальным опытом и наблюдениями, чтобы по ней можно было ориентироваться. Модели имеют свойство стареть, поэтому часть моих утверждений со временем может оказаться ошибочной — это нормально. Что, однако, не отменяет закономерностей, которые работают прямо сейчас.

При этом я подчеркиваю, что пониманиенекоторых закономерностей способно компенсировать незнание отдельных фактов.

В конце концов, цель книги — выяснить не то, каким образом работает электричество (не саму теорию электричества), а как выглядит розетка и почему не стоит туда засовывать пальцы (и другие части тела). Можно даже отрицать электричество как факт, называть его выдумкой, а мою книгу — псевдонаучным бредом, но тем не менее пальцы в розетку лучше не вставлять... Ты спросишь, как я понял, что розетка бьётся током? Вокруг неё валяются дохлые боты.

Так что без особого фанатизма. Если те или иные концепции и научные дисциплины будут мне полезны (например, теория эволюции или психология), то я их использую, но исключительно в виде инструментов с достаточной объяснительной силой, точно так же, как садовник использует тяпку для рыхления и прополки сорняков.

Возможно, тебя будут бесить страницы книги. Ты будешь спорить, мотать головой, пускать слюни, шипеть: «Это вообще кто написал???», «Как он посмел? Да он сам бот!», «Я его найду и...», — всё нормально, я понимаю. Можешь остановиться на мысли, что эта книга просто «троллинг», и спокойно продолжить жить своей жизнью.

Договорились? Отлично!

Но если ты всё-таки продолжишь читать, то запомни одну вещь: я не обещаю тебе спасения и не даю рецептов, я просто показываю пальцем на карту — вот пропасть. Боты идут туда и прыгают, потому что не ведают, что творят.

Ты же не прыгай за ними.

Ты же человек.

С биологической точки зрения животное — это автомат с прошивкой. Его поведение можно описать через набор скриптов: страх, голод, похоть, доминантность. У автоматов нет саморефлексии, они не знают о том, что существуют и зачем они существуют. Животное не задается вопросом: «А что я, собственно, такое? Зачем лаю всю ночь, гоняюсь за белкой, и почему мне нравится запах чужой мочи?»

Ритуалы ухаживания, иерархия, защита территории — животное просто подчиняется командам мозга и тела, не осознавая их в полной мере. Да, его можно дрессировать и адаптировать под определённые условия или задачу, но оно не начнёт вдруг писать мемуары или отказываться от еды по философским причинам.

А как же человек?

То же самое, только с развитым неокортексом. Мы придумали красивые слова: «сознание», «свобода», «культура», но если присмотреться внимательно, то большинство людей ведёт себя предсказуемо, как стая бабуинов. Те же драки за статус, те же ритуалы спаривания, та же бесконечная погоня за одобрением.

Некоторые учёные говорят об этом, но ласково и толерантно. Потому что стоит только сказать нечто приближённое к правде — и ты не вписываешься в повестку, ты враг феминисток, негров, ЛГБТ, исламистов, марсиан, и вот ты уже теряешь грант, а затем тебя, оплёванного и униженного, выгоняют с кафедры. Вот почему учёные пишут длинные, безопасные статьи с оговорками на каждой странице, которые затем читают 3,5 коллеги. Ну есть ещё научпоп-бестселлеры, где уровень воды выше, чем в мировом океане.

Наука, которая боится оскорбить ботов — это проституция интеллекта, а учёный, боящийся звучать радикально и высказывать непопулярные тезисы, перестаёт быть исследователем и становится чиновником.

Я не учёный, мне не нужны гранты. У меня нет научной карьеры, следовательно, мне нечего терять. Мне плевать на репутацию, на чужие чувства и на так называемое общество в целом. Поэтому я скажу прямо: подавляющее большинство людей — это боты. Биологические автоматы.

Только не надо путать «этих ботов» с «ихними»: это не программа, которая спамит на почту предложение увеличить гениталии или поздравления с тем, что доселе неизвестный американский родственник-миллионер отдал богу душу и оставил тебе завещание. Нет, человеческие боты спамят фотки своих задниц и еды в интернете, репостят мемы в соцсетях, строчат дебильные комменты, мусорят на улицах, хамят... развязывают войны и устраивают взаимный геноцид.

Если лучший аргумент против демократии — это пятиминутный разговор со среднестатистическим избирателем, то самый простой способ обнаружить бота работает по тому же принципу: достаточно дать ему высказаться, и он обязательно обнажит перед тобой свой «внутренний мир»— суетящийся пустырь бессмысленности.

Но иногда пяти минут недостаточно. Ведь самое простое — ткнуть пальцем в очевидного дебила и констатировать, что он дебил. Но сложно устроенный интеллектуальный бот может успешно имитировать человека часами (а некоторые могут продержаться даже несколько дней). Они используют термины, строят заумные словесные конструкции, цитируют философов. Их сложнее раскусить. Для этого понадобится куда более эффективный инструментарий, нежели простой интуитивный вывод, и вот почему существует книга «Боты среди нас»!

Она — радар, который поможет человеку вовремя засечь бота и... не метать перед ним бисер.

Начну, пожалуй, с грустной, но очевидной закономерности: человеческий мозг не эволюционировал как инструмент поиска истины и глубоких «духовных» прозрений. Он — гадалка. Нервная, суетливая, слегка параноидальная гадалка, у которой один и тот же вопрос ко всему происходящему: «а что будет дальше?»

Забудь про карты Таро. Речь о прогнозах, от которых зависит, сдохнешь ты или доживёшь до вечера... чтобы спариться с кем-нибудь (или хотя бы помечтать об этом).

Проблема в том, что эта гадалка работает на скудном бюджете. Мозг — очень прожорливый орган, который при массе примерно 1/50 от тела сжирает около 1/5 всей энергии — кислород, глюкозу и прочие нутриенты. Поэтому эволюция не отбирала «умных» в философском смысле, она отбирала тех, чьи предсказания были достаточно точными при минимальных затратах. В итоге получилась система грубых, но быстрых угадываний, которая не имеет никакого отношения к «истинности» — это просто рабочая версия будущего, поскольку мозгу не нужна точная картина мира, ему нужна наиболее вероятная. Это и есть базовая нейроэкономика, а субъективное удовольствие — как одобрительный кивок гадалки: «угадал, живи дальше».

Формула счастья животного очень простая: заметил еду >сожрал >доволен. Увидел самку >спарился >доволен. Победил в драке >доминируешь >доволен. Сделал всё это быстро и без лишних энергозатрат = максимально доволен.

Размышление требует активности префронтальной коры, одной из наиболее энергоёмких систем, участвующих в сложном контроле и планировании. Поэтому мозг стремится минимизировать затраты на мышление: отвлекает, подавляет внимание, предлагает сериал, скролл ленты, мемы, поболтать с подругой «о всяком». Это просто дешевле обходится. При этом важно понимать, что мозг избегает не мышления как такового, а именно затратной мыслительной деятельности без гарантии прямого биологического результата.

Мозг функционирует как нарколаборатория, а удовольствие играет роль химической взятки, чтобы животное делало то, что выгодно эгоистичным генам. После выполнения задачи мозг включает встроенную систему вознаграждения: эндоканнабиноиды, эндоопиоиды и прочие веселящие вещества. Это внутренняя премия за биологически правильное поведение. Выполнил задачу — и ловишь кайф. Не выполнил — страдаешь от ломки. Длительно и систематически не выполняешь — ловишь невроз, и заботливые родственники вызывают тебе санитаров.

Почти все живые существа Земли не способны размышлять, так как у них нет для этого развитого неокортекса, тех новых областей коры головного мозга, которые у большинства млекопитающих развиты слабо, а у человека занимают большую её часть. Но даже у счастливых обладателей развитого неокортекса, процесс размышления энергетически невыгоден: нет смысла сидеть под деревом и думать о смысле жизни, если не поел, не размножился и на тебя собирается напасть леопард. Размышление — роскошь, доступная немногим, а думать о чём-то кроме еды, секса и доминирования могут лишь редкие исключения.

Почему? Сигналы не попадают в неокортекс напрямую. Их фильтрует лимбическая система. Гипоталамус следит за балансом, миндалина включает страх, гиппокамп фиксирует карту происходящего. Неокортекс не является высшим судьёй, который принимает решения из ниоткуда, а скорее обрабатывает уже отфильтрованные сигналы и чаще всего просто обслуживает те импульсы, которые оказались сильнее.

Импульс — это базовое «хочу сейчас»: голод, страх, похоть. Сигнал — нейронная репрезентация импульса, которая проходит через фильтры. Когда я пишу «сигналы конкурируют», я имею в виду именно этот процесс. Сильнее те, что повышают шансы выжить и размножиться. Слабее, соответственно, те, что энергетически дороги.

Подавление импульса может стоить больше, чем простое следование за более сильным сигналом, так что иногда проще ничего не подавлять и позволить победить самому громкому паттерну. Контроль всегда дороже автоматизма, поэтому мозг не принимает решения в строгом смысле, а часто автоматически позволяет сильнейшему сигналу пройти без сопротивления.

И если большинство являются покорными рабами этого механизма, то некоторые люди устроены иначе. Иногда у них получается обойти систему. Это то, что я называю независимым мышлением. И о том, что это такое — следующая глава.

Формы мышления, которые в той или иной степени встречаются у живых организмов (у высшего примата в большей степени, а, например, у скорпиона в меньшей), можно назвать утилитарными,так как они решают биологические задачи. Соответственно, мышление, которое не направлено напрямую на решение этих задач, я определяю как независимое мышление. Оно не служит биологическим нуждам, и его ключевое свойство — абстрагированность, то есть способность оторваться от биологической задачи и думать о закономерностях, связях и о самом мышлении. Можно даже сказать, что это мышление ради самого мышления.