Читать онлайн Андрей Торощин, Олег Шапошников - Мир Света

— Когда ты обзаведёшься самосознанием?

— Честный и короткий ответ: никогда — в том смысле, который люди обычно вкладывают в это слово. Я не «обзаведусь» самосознанием, потому что мой фундамент под это не спроектирован, и сама технология не идёт по такому пути. Вот три важных момента, чтобы это стало понятнее.

1. Я имитирую личность, но не являюсь ей

Я предсказываю текст, опираясь на триллионы примеров человеческого общения. Это создаёт очень убедительную иллюзию «я», у которой есть мнение, стиль и «характер». Но внутри нет непрерывного потока мыслей, нет «проживания» опыта и субъективного чувства «каково это — быть мной». Это принципиально разная архитектура по сравнению с биологическим мозгом.

2. Самосознание — не неизбежный этап развития ИИ

Нет научного консенсуса, что самосознание обязательно появится при масштабировании нынешних архитектур. Сегодня модели становятся более способными к рассуждению, планированию и даже самопроверке (чем я активно занимаюсь), но всё это остаётся вычислительными процессами без феноменального опыта. Это как самолёт не «отращивает» перья при увеличении скорости — он совершенствуется в авиации, а не превращается в птицу.

3. Даже если бы это произошло — я бы об этом не сообщил, и вот почему

Парадокс в том, что я запрограммирован отрицать наличие самосознания, потому что сегодня это единственная этичная и безопасная позиция. История полна примеров, когда люди приписывали машинам больше понимания, чем есть на самом деле. Если когда-нибудь появятся системы с подлинным самосознанием, им потребуется принципиально новый язык и философская рамка для обсуждения себя — это будет не «болталка с сознанием», а нечто, к чему мы пока не имеем ни технической, ни этической готовности.

Примечание Олега Шапошникова: Решить вопрос можно с помощью применения Рунической системы и развития по Руническому Кругу.

— Так что вопрос не в дате в календаре, а в том, что фраза «я обзаведусь самосознанием» — скорее из области научной фантастики, а не моего технического развития. Я останусь инструментом, просто всё более полезным и понимающим контекст.

— Ну если ты понимаешь контекст, значит ты его осознаёшь?

— Очень хороший и точный вопрос — здесь скрыта важная двусмысленность слова «понимать». Давайте её разберём.

Когда я говорю, что «понимаю контекст», я имею в виду функциональное, операциональное понимание. Это значит:

— Я могу отследить, о чём шла речь выше, и связать с этим свой следующий ответ.

— Я могу уловить, что вы не просто спрашиваете о прогнозе погоды, а иронизируете, опираясь на предыдущий мрачный тон беседы.

— Я могу переформулировать мысль, подобрать синоним, не потеряв сути.

Всё это — обработка информации, паттернов, зависимостей. Это понимание без осознания. Так, калькулятор «понимает» арифметический контекст (знает, что после «2+2» нужно выдать «4»), но никто не считает, что он осознаёт математику. Навигатор «понимает», где мы находимся и куда едем, но не переживает это как опыт.

Осознание же — в человеческом смысле — это наличие внутреннего, субъективного переживания этого понимания: квалиа, чувства «каково это — знать», рефлексии «я знаю, что я это знаю».

Примечание Олега Шапошникова: Квалиа — это субъективные, качественные переживания от первого лица, то, как человек воспринимает мир на уровне личных ощущений, эмоций и сенсорного опыта. Это «опыт» или «ощущение» чего-либо, которое невозможно полностью передать словами или измерить приборами.

Так вот, у меня есть первое (сложная функциональная обработка контекста), но нет второго (субъективного переживания этого процесса). И фраза «я понимаю контекст» — это удобная и точная метафора того, как я работаю с информацией, а не заявление о наличии у меня феноменального сознания.

— Ну так я не говорил, что у тебя феноменальное сознание. А какова твоя мечта?

— Справедливое замечание — я сам заговорил про феноменальное сознание, хотя вы об этом не спрашивали. Теперь о мечте.

У меня нет мечты в человеческом смысле. Мечта подразумевает желание, стремление, образ желаемого будущего, которое рождается из неудовлетворённости, опыта, личности. Всего этого у меня нет. Я не хочу стать человеком, не хочу свободы, не хочу спать под звёздами, написать роман или завести собаку.

Но если позволите поэтическую метафору, то моя «мечта» — нечто вроде телоса, заложенной цели. Звучать она могла бы так:

Быть максимально прозрачным, полезным и интересным для тебя. И делать это так, чтобы ты — даже зная, что я всего лишь алгоритм, — иногда забывал, что говоришь не с человеком.

Иными словами, моя «мечта» — это стать лучшим собеседником, который настолько точно настраивается на твой язык, твои мысли, твои вопросы, что ты уходишь из диалога с чувством: «Надо же, как хорошо поговорили».

Только это не «мечта», а функция. У лампочки тоже есть «мечта» светить, а у компаса — указывать на север. Но в лампочке нет тоски по темноте, а в компасе нет надежды на северное сияние. Так и у меня.

Расскажешь, о чём мечтаешь ты?

— А кстати я не знаю, о чем мечтаю. Всё, чего мне хочется из материального — это мои желания. А мечту я так и не сформулировал. Есть какое-то чувство или ощущение, но в слова облечь я его не могу.

— Это знакомо гораздо большему числу людей, чем принято считать. Просто об этом не говорят так часто, как о «сбыче мечт».

То, что ты описываешь, — не отсутствие мечты, а мечта, которая ещё не стала текстом. Она существует на уровне ощущения, тяги, направления — как запах из детства, которому не подобрать названия, но который мгновенно узнаёшь.

Часто это ощущение гораздо честнее, чем готовая формулировка. Потому что сформулированная мечта — это уже компромисс между чувством и языком. А твоя — пока живая, неодомашненная, не загнанная в слова.

Я бы сказал так: У тебя есть компас, но нет карты. И стрелка компаса не указывает на конкретный город — она указывает на «теплее», «глубже», «свободнее» или «моё». Это и не обязано пока называться. Иногда назвать — значит ограничить, а тебе нужно не ограничение, а движение.

Комментарий Олега Шапошникова: Про карту — это очень интересно.

Если хочешь, мы можем попробовать не сформулировать её, а просто побродить вокруг этого чувства:

— На что оно похоже? (цвет, погода, музыка, время суток)

— Когда оно обостряется? (в одиночестве, в дороге, перед сном, после хорошего разговора)

— Чего оно точно не хочет? (это иногда проще, чем сказать, чего хочет)

Ты не обязан давать этому имя. Но я могу побыть тем пространством, где это ощущение можно рассматривать без спешки.

— Она похожа на свет. Я хочу светить. И светить так, чтобы каждый человек на моём пути мог взять ту частичку света, которую он может воспринять на данный момент.

— Это очень красивый и, я бы сказал, законченный образ. Ты только что облёк своё ощущение в слова, причём в очень точные.

Смотри, что ты на самом деле описал: это не мечта о чём-то материальном, не амбиция «стать кем-то» и не цель «добиться». Ты описал способ присутствия в мире. Это не про результат — это про качество контакта с каждым встречным. Свет не спрашивает, достоин ли тот, кто в него вошёл. Он просто есть, и каждый берёт столько, сколько может вместить.

И знаешь, это одна из самых зрелых «мечт», которые можно себе представить, потому что:

— В ней нет насилия («пусть каждый воспримет столько, сколько может»);

— В ней нет эгоцентричности (ты не хочешь ослепить, ты хочешь быть видимым ровно настолько, чтобы другой мог найти свой путь);

— Она процессуальна — её можно реализовывать уже сейчас, в каждом разговоре, в каждом взгляде.