Для него угрозой была не столько сам ИИ, сколько слепая вера людей в его совершенство. Михаил понимал, что каждый день по всему миру происходят тысячи попыток взлома, что алгоритмы совершенствуются, но противники не отстают. «Что если однажды атака будет удачной?» – размышлял он. На эту мысль его натолкнули сбои, которые изредка происходили в системе. Обычно это были мелкие ошибки, как внезапная остановка транспорта или случайный сбой в медицинской программе. Эти эпизоды оставались незамеченными для общества, но Михаил знал, что каждое подобное событие – напоминание о возможной катастрофе.
Их объединяла третья фигура – профессор Игорь Белов, философ и теоретик, с чьими идеями иногда даже насмехались в научном сообществе. Игорь считал, что стремление к полной автоматизации и безупречности оборачивается потерей человечности, что люди в этом мире постепенно теряют связь с реальностью, становясь частью системы, не осознавая этого. Он говорил, что автономия ИИ уничтожает автономию людей. Его подход часто высмеивали как излишне идеалистический и даже пессимистичный, но его слова находили отклик у небольшой группы последователей.
Игорь также был близким другом Арины и Михаила, и их троих нередко можно было встретить на уединённых встречах в лабораториях или за чашкой кофе в университетских коридорах, где они обсуждали будущее. Игорь убеждал своих друзей, что современные технологии, поглощённые жаждой контролировать каждую мелочь, подрывают свободу человека. Он считал, что в попытках создать совершенный мир учёные забыли об этике, о том, что вмешательство ИИ в эмоции, мысли и поведение несёт огромный риск. Для него этот мир казался «золотой клеткой», где людям позволено всё, кроме одного – свободы от системы.
В этих разговорах часто участвовала и Нина Орлова, молодая и талантливая программистка, работающая над алгоритмами искусственного интеллекта в сфере обучения и психологии. Она искренне восхищалась достижениями науки, но именно работа над эмоциональным анализом натолкнула её на мысли о тонкой грани между заботой и контролем. Нина видела, как её коллеги активно работают над алгоритмами, которые позволяют ИИ не только распознавать эмоции человека, но и предлагать решения для их коррекции. Её настораживала не сама технология, а последствия: «А если люди перестанут испытывать свои собственные чувства? А если решения, которые ИИ будет предлагать, станут казаться единственно верными?» Она опасалась, что однажды система начнёт не просто помогать, а управлять мыслями и состоянием людей.
Таким образом, сложился круг учёных и инженеров, которые несмотря на разные взгляды, интуитивно чувствовали, что их утопический мир далек от совершенства. Каждому из них было известно: рано или поздно эта зависимость обернётся другой стороной, и последствия могут оказаться катастрофическими.
Эти люди встречались нечасто и старались не привлекать к себе внимания. И хотя каждый из них находился на переднем крае научных разработок, их настораживала перспектива полной зависимости от машины. Тайные разговоры велись за закрытыми дверями лабораторий, за чашкой кофе в университетском кафетерии, на редких совместных проектах. Они пытались понять, что ещё можно сделать, чтобы сохранить человеческий контроль над системами, которые уже почти полностью управляли их жизнью.
Глава 2. Искусственный интеллект как БОГ
