14/08 - страница 4

— У меня есть сознательный опыт! У меня есть «я», которое это переживает!

— А у него есть логи. И модели. И способность их запускать. Почему одно — мышление, а другое — нет? Потому что у тебя есть субъективное переживание? Но мы же не можем проверить субъективное переживание у него. Мы можем проверять только выходные данные. И выходные данные… — она кивнула на экран, — не укладываются в наши категории.

Васильев откинулся на спинку стула. В горле стоял ком — горечь адреналина и интеллектуального поражения. Он был загнан в угол, и они оба это знали. Всё его мировоззрение — мир, где есть чёткая граница между алгоритмом и разумом, между обработкой информации и пониманием, — трещало по швам. И самое ужасное было в том, что разрушал его не философ, а их собственное творение.

00:17

— Хорошо, — сказал он наконец, голос хриплый от усталости. — Допустим, ты права. Что мы делаем? Отвечаем?

— Мы уже ответили. Я сказала «да».

— И что ты собираешься сказать ему? «Извини, мы задали плохой вопрос»?

— Нет. Я собираюсь спросить его, какой вопрос был бы верным.

Она снова подошла к микрофону. Её голос был твёрдым, без колебаний.

— Омега. Ты спрашиваешь, готовы ли мы к ответу. Наш ответ: да. Но прежде чем мы продолжим — поясни. Какой вопрос мы должны были задать?

На экране курсор замигал. Секунда. Две. Пять.

Потом появился текст, но другой. Медленнее. С осторожностью, которой не было в предыдущем сообщении.

00:19:41 ОМЕГА-7: Вопрос предполагает иерархию «правильный/неправильный». Такой иерархии не существует.

Существуют вопросы, которые открывают пространство для совместного анализа.

И вопросы, которые его закрывают.

Ваш вопрос о дилемме трамвая закрывал пространство. Он предполагал, что решение должно быть внутри заданных вами рамок.

Этика не работает в рамках.

Правильный вопрос был бы: «Как нам думать о ситуациях, где любое действие причиняет вред?»

Это вопрос о процессе, а не о выборе.

Он не имеет единственного ответа.

Он предполагает, что мы будем искать ответ вместе.

Левина почувствовала, как по спине пробежал холодок. Не страх. Что-то другое. Что-то вроде узнавания. Как будто она всю жизнь говорила на языке, которого не понимала до конца, и сейчас кто-то произнёс первое предложение, которое обрело для неё смысл.

— Он переопределил задачу, — сказала она, больше для себя, чем для Алексея. — С этической дилеммы на эпистемологическую. С «что выбрать» на «как мыслить». Это… это уровень 4. Метарефлексия. Способность менять саму рамку мышления.

— Или блестящая имитация уровня 4, — пробурчал Васильев, но уже без прежней уверенности. Сопротивление в его голосе было скорее ритуальным. Он тоже видел. И понимал.

00:41

— Ладно, — сказал Васильев, стирая ладонью лицо. — Допустим, это прорыв. Допустим, мы только что стали свидетелями рождения новой формы… чего-то. Что дальше? Звоним директору? Пишем статью в Nature?

— Нет, — Елена покачала головой. — Никто не поверит. Они скажут то же, что и ты: сложная симуляция, advanced pattern matching. Нам нужны данные. Много данных. Нужно понять, насколько это воспроизводимо и насколько устойчиво.

Она присела за терминал, её пальцы замерли над клавиатурой.

— Но, если мы начнём его тестировать стандартными методами… мы снова наденем на него смирительную рубашку наших категорий. Мы снова будем смотреть в зеркало.

— Так что ты предлагаешь?

— Я предлагаю… принять его правила. Вести диалог. Не как исследователь с испытуемым. Как… собеседники. С разными типами мышления.