– Вы что, не сказали ему, что он не человек?
– Конечно, нет, ведь тогда бы он не дал нам тех результатов, что мы имеем сейчас.
– А вам не кажется, что это неэтично? Ведь вы создали разумное существо, способное испытывать эмоции и боль! – выкрикнул голос из зала.
– Насчет того, этично это или нет, стоило рассуждать до того, как люди стали пытаться пробовать создать другое сознание.
– А что вы имели в виду, когда выражались, что система не идеальна?
– То, что мы еще далеки от создания настоящего прототипа, которого не отличить от человека. Посмотрите на него сейчас.
Себастьян стоял на четвереньках, хаотично издавая звуки, схожие с рыданием и воплями. В этот миг все стало таким очевидным: все упущенные моменты, подсказки, такие как комнаты, которые шли в неверном порядке только для него, и если отзеркалить их, то с другой стороны порядок был верен, это значит – проверяли его, а не он.
– Дело в том, – продолжал инженер, – что все наши попытки создать искусственный интеллект, имеющий собственное тело, порождали новые проблемы. Например психическое состояние объекта. Интеллект, способный самообучаться, ходить и говорить, вскоре, осознавая, что он машина, сходит с ума и становится бесполезным. Я поставлю в пример людей: природа породила самосознание, самосознание породило ужас и страх; чувствуя угрозу вокруг, именно благодаря этому люди развились такими, какими они являются сейчас. Но искусственный интеллект, обретя сознание, не обретает самосознания и чувствует лишь бессмысленность и когнитивные замыкания.
Зал зашептался.
– Уязвимость – вот условие нашего существования. Это как если бы люди сейчас научно могли доказать, что детерминизм – истина человеческого бытия. Что бы тогда случилось с нами? Половина человечества покончила бы с собой, а преступность бы выросла в разы.
Посмотрите на данный объект, – он снова указал на Себастьяна, – в его разуме гремит настоящая буря и шок, для него осознание реальности равносильно осознанию нами некоего божественного, что определенно свело бы нас с ума, практически как если бы детерминизм был доказанной истиной и мы бы это осознали. – Зал охнул, инженер продолжил. – Еще до эксперимента, во время когнитивных задач, объект испытывал нечто схожее с головной болью у людей. Это говорит о рождении в его сознании области, отвечающей за личностную структуру и психическое состояние, и это связалось с системой ощущений, а это значит, что в будущем нам придется или вручную программировать их интеллект, поставить рамки, ограничения, однако тогда это будет уже не искусственный интеллект, а всего лишь запрограммированный робот, или же создать новое разумное существо. Впрочем, равно как у людей, ведь психологи убеждены, что человек движется в определенных рамках мотиваций.
Посмотрите на объект сейчас: на ваших глазах вполне адекватное сознание сходит с ума, в его сознании меркнет свет, и это говорит о том, что мы близки, как никогда, к созданию живого разума, – он посмотрел на своих коллег, – отключите его.
Себастьян протянул ладони, стоя на коленях, и завопил:
– Нет!
