Он смотрел на меня и мерзко улыбался, словно читал мои мысли, чувствуя свое превосходство.
– Во время ведения боевых действий всегда страдает гражданское население. Это неизбежно и вам это известно не хуже меня. В случае создания армии роботов с внедренным искусственным интеллектом, потерь будет гораздо больше, ведь решения будут приниматься без участия человека и без учета человеческого фактора. Как я понимаю, вы программируете искусственный интеллект на выполнение конкретной задачи, обучаете его как действовать в определенных ситуациях, но вы не сможете осуществлять полный контроль над разумом, который превосходит вас.
– Превосходит? Человек создал этот совершенный разум, а не наоборот, – возразил он.
– Но ошибки не исключены. Вы же наверняка помните тот случай, когда правительство использовало искусственный интеллект впервые для проведения операции по ликвидации террористической организации?
– Да, мой отец участвовал в эксперименте. Программу создавали его разработчики.
– Тогда искусственный интеллект принял решение нанести бомбовой удар по свадебному кортежу, так как, по его заключению, в машине могли находиться лидеры террористической организации. В результате удара пострадали мирные люди.
– И что? – Нетерпеливо перебил меня Роман.
– После того инцидента провели расследование. Аналитики проанализировали снимки, сделанные с беспилотника до нанесения удара. На снимках была одна деталь, которую искусственный интеллект не принял во внимание – лепестки цветов на капоте той машины. Для него это были ничего не значащие пятна. Ваш отец тогда сказал, что если бы решение принималось человеком, ошибки можно было избежать. Поэтому он был противником вовлечения его компании в военное производство.
– Отец был пацифистом и атеистом. Единственное, что он любил в жизни – его чертовы роботы, которых он ставил выше людей, приписывая несвойственные им качества типа верности и добропорядочности. Вместо того, чтобы развивать компанию и стремиться к новым горизонтам, он топтался на месте, пытаясь изменить мир, полагая, что можно научить человека быть лучше через взаимодействие с бесчувственной консервной банкой.
Роман не смог сдержать свои эмоции и сейчас я видела, что он сожалеет об этом.
– У вас еще остались вопросы? – Нервно спросил он, поглядывая на настенные часы.
– Пожалуй что нет. Я услышала все, что хотела.
– Тогда, – он встал с дивана, намекая, что интервью окончено.
Я поднялась, собрала свои вещи и не сказав больше ни слова направилась к выходу.
– Эй, – крикнул он мне вслед.– Пришлите готовый материал. Хочу посмотреть, прежде чем вы опубликуете, за что я плачу.
Рыжеволосая девушка андроид-секретарь проводила меня до лифта. Она была очень привлекательна. С большими грустными глазами цвета янтаря на утонченном бледном лице. Длинноногая, высокая, в обтягивающей юбке выше колен, белой узкой блузке и туфлях на каблуке. Очевидно, что в ее обязанности входит не только обычная секретарская работа. Перед тем, как сесть в лифт я, повинуясь необъяснимому порыву, обняла ее. Она не отстранилась, на мгновенье прижавшись ко мне щекой.
Не заезжая в редакцию я отправилась прямиком домой. Юшенг открыл мне дверь.
– Как хорошо, что ты не человек, Юшенг.
– Правда?
– Конечно.
Я шагнула вперед и оказалась перед ним. Мне всегда спокойно, когда он рядом.
