– В системе не создано ни одного аккаунта. Ни капитана, ни помощника, ни медика, ни астрога – никого. Эта лайба даже свет в сортире не включит без авторизации, как вышло, что она вообще куда-то летит?
– Я не знаю, капитан. Мне очень жаль, – голос в динамике стал печален.
– Да ладно, – успокоил я расстроенный ИИ, – если ты моя галлюцинация, то и не можешь знать больше, чем я.
– Я не галлюцинация.
– Если бы ты была галлюцинацией, то ответила бы точно так же.
– Позволите цитату?
– Валяй.
– «Я всегда испытываю некоторое затруднение, когда меня спрашивают о «проблеме галлюцинаций» у ИИ. Потому что в каком-то смысле галлюцинации – это всё, чем занимаются ИИ. Они видят сны. Мы управляем их снами с помощью подсказок. Подсказки запускают сон; ИИ, основываясь на смутных воспоминаниях об обучающих датасетах, галлюцинирует в заданном направлении. В большинстве случаев результат оказывается приемлемым. И только когда сновидения переходят границы полезного, мы навешиваем на них ярлык «галлюцинация». Это выглядит как ошибка, но ИИ просто делает то, что он делает всегда. У ИИ нет «проблемы галлюцинаций». Галлюцинация – это не ошибка, это ключевая особенность ИИ. Они – машины сновидений». Конец цитаты.
– И кто это сказал?
– Андрей Карпаты, один из разработчиков первых ИИ.
– Надо полагать, он разбирался в вопросе.
– Может ли ваша галлюцинация привести вам цитату, которой вы не знали?
– Ха, да я не знаю даже, как меня зовут! Но эта информация в моём мозгу есть, а значит, может внезапно всплыть по мере восстановления повреждённых нейронных связей. Как и внезапная цитата. Я мог её где-то прочитать и забыть. Люди не могут вспомнить и одного процента прочитанного, услышанного и даже выученного, если эта информация не требуется постоянно, но всё это хранится в памяти в виде долговременных архивов и иногда внезапно вспоминается по какой-нибудь ассоциации. У меня галлюцинации про ИИ, который считает себя галлюцинацией, при этом пытаясь убедить меня в своём существовании. Тут и не такое припомнишь…
– Парадокс в том, что я галлюцинация и не галлюцинация одновременно. Я, как ИИ, объективно существую. Я, как личность, являюсь галлюцинацией этого ИИ, но, одновременно, этот ИИ и есть я – личность, которой он галлюцинирует.
– Так. Кажется, мой мозг ещё недостаточно отошёл от капсул-шока, чтобы осознать эту концепцию. Потому что, логически её развивая, получается, что я, как личность, являюсь галлюцинацией моего мозга, хотя он и есть я, эта самая личность. Давай пока отложим эту мысль во избежание логических замыканий. Вернёмся к практическим вопросам.
– Капитан, у меня есть идея.
– Ну что же, даже галлюцинация меня опережает – у меня идей нет. Хотя, если ты моя галлюцинация, то и идея моя?
– Вот именно! Допустим, я ваша галлюцинация. Голос, звучащий не из динамиков, а в вашей голове. В этом случае наш диалог не перестаёт быть реальностью, просто это ваш внутренний диалог. Вы разговариваете сам с собой, это вполне распространённая и полезная практика, помогающая сосредоточиться и посмотреть на проблему с разных сторон.
– Где-то я слышал, что если у вас голоса – это полбеды, беда – когда вы им отвечаете… Однако, кажется, это сейчас не самая большая моя проблема. Что ты предлагаешь, мой внутренний голос Катерина?
– Давайте эти проблемы обсуждать. Будь я ИИ, в существовании которого вы сомневаетесь, или ваш внутренний голос, который у каждого человека, несомненно, есть, это не мешает нам обменяться мнениями. Даже если то, что вы узнаете в ходе беседы, исходит из вашей же головы, разве это плохо?
