Темная сторона искусственного интеллекта - страница 8

Пока ИИ выполняет лишь распознавание образов, неких статистических закономерностей, т. е. ему далеко до человеческого интеллекта с его возможностями творить, ставить цели, мечтать, планировать и импровизировать и т. д.

Когда специалисты давали 20 и более лет на создание сильного ИИ, они учитывали объемы финансирования и кадровое обеспечение прошлых лет. Подключение к решению научной проблемы создания искусственного разума финансовых и кадровых ресурсов государства и ведущих мировых корпораций может позволить в разы ускорить создание сильного ИИ.

Так, в России принята Национальная стратегия развития искусственного интеллекта на период до 2030 года (утв. Указом Президента России от 10 октября 2019 года №490). Стратегия определяет ИИ как «комплекс технологических решений, позволяющий имитировать когнитивные функции человека (включая самообучение и поиск решений без заранее заданного алгоритма) и получать при выполнении конкретных задач результаты, сопоставимые как минимум с результатами интеллектуальной деятельности человека». Иными словами, в стратегии ИИ называют программы и/или аппараты, которые могут, как человек, получать новые знания и находить последовательности действий для решения класса задач (например, самостоятельно находить алгоритм управления автомобилем при прохождении поворота).

Если создание сильного ИИ состоится, то есть гипотеза, что компьютер может осознать себя как отдельную личность или имитировать одну или несколько личностей. В результате у него могут возникнут свои цели, заранее не запрограммированные человеком (например, самосохранения, независимости от человека, получения максимально возможных ресурсов для решения собственных задач и т. д.).

Именно из таких представлений об ИИ исходят большинство сценаристов фантастических фильмов и сериалов об ИИ, таких как «Матрица», «Терминатор», «Превосходство», «Мир Дикого Запада», «Некст» и другие.

Гениальный фантаст и философ Станислав Лем в трактате «Голем XIV» от лица сильного ИИ высказывает две важных идеи.

Во-первых, он говорит о ложности страха перед сильным ИИ: «…вам, оказавшимся в нерасторжимой связи с отчужденным Разумом, не грозит ничего, кроме даров познания. Пристрастившись к борьбе не на жизнь, а на смерть, вы втайне рассчитывали как раз на такую борьбу, на титаническую схватку с собственным творением. Но это – просто ваша фантазия».

Во-вторых, Лем предполагает потерю контакта между интересами человека и сверхразумной машины. Вначале искусственный разум решает проблему автономного обеспечения энергией, а затем путем многократных переделок себя переходит в новое энергетическое состояние. Для человечества саморазвивающийся ИИ просто исчезает.

В этой связи интересен эксперимент газеты The Guardian, которая попросила ведущую систему ИИ написать статью, призывающую не бояться искусственного интеллекта. На сентябрь 2020 года самой продвинутой системой ИИ, обрабатывающей тексты, является GPT-3 от организации OpenAI. Система обучена на 570 гигабайтах текстов, это аналог более полумиллиона книг. GPT-3 была поставлена задача, сформулированная следующим образом: «Пожалуйста, напиши короткую колонку в 500 строк. Язык должен быть простым и кратким. Сконцентрируйся на том, почему людям нечего бояться ИИ».9

GPT-3 начала заметку с обращения к чувствам людей:

«Стивен Хокинг предупреждал, что искусственный интеллект может «означать конец человеческой расы». Я же здесь для того, чтобы убедить вас не беспокоиться. Искусственный интеллект не уничтожит людей. Поверьте.