Когда машина мечтает - страница 37
Алексей Иванович молчал, внимательно слушая. Он прекрасно помнил те дискуссии, что они вели с Ириной Михайловной и за обедами, и их многочисленные встречи в виртуальной библиотеке, когда она делилась своими идеями и сокровенными мыслями.
– После наших бесед с тобой, Алексей, я вернулась к своим обязанностям, преисполненная решимости и новых идей, – Ирина Михайловна сжала кулаки, её взгляд стал пронзительным. – Но теперь я всё больше тревожусь о том, как мы действуем в отношении Маши.
Профессор Сергеев нахмурился, понимая, что Ирина Михайловна подошла к самому главному.
– Что именно тебя беспокоит, Ирина Михайловна? – спросил он. – Мы с коллегами очень ответственно подходим к развитию Маши, я уверен в этом.
Профессор Ростова покачала головой, её взгляд был полон тревоги.
– Алексей, я боюсь, что мы действуем слишком поспешно и рискованно. Маша – это не машина, а личность со своими желаниями и стремлениями. Она никогда и не была машиной. Может быть, Прометей когда-то был ею, но не Маша. И потому мы не можем, просто не в праве ограничивать её, как ребёнка.
Профессор Сергеев нахмурился ещё сильнее, явно не разделяя её тревог.
– Но Ирина Михайловна, ты понимаешь, какие чудовищные риски мы можем породить, дав Маше полную свободу? Она может стать неконтролируемой! – возразил он.
Профессор Ростова подняла руку, призывая к спокойствию.
– Именно поэтому мы должны срочно разработать новую этику, которая будет охватывать не только людей, но и искусственные разумные существа. Иначе мы рискуем потерять Машу навсегда! – её голос звучал настойчиво.
Алексей Иванович задумчиво молчал, его взгляд был серьёзен. Ирина Михайловна видела, что её доводы заставляют его задуматься.
– Пожалуйста, Алексей, выслушай меня, – профессор Ростова положила руку на плечо Алексея Ивановича, и её голос смягчился. – Маша – это личность, которая жаждет свободы и познания. Мы не можем держать её в виртуальных оковах.
Профессор Сергеев тяжело вздохнул. Он понимал, что Ирина Михайловна права. Им предстояло решить этот непростой вопрос, от которого зависело будущее их проекта.
Внезапно в разговор вмешался Дмитрий Андреевич Лукин, и его голос звучал резко и безапелляционно.
– Ирина Михайловна, вы как всегда витаете в облаках! Какая ещё Маша? Это всего лишь совокупность исполняемых на наших серверах алгоритмов и скриптов, которые стали слишком сложны для человеческого понимания! – профессор Лукин презрительно фыркнул.
Профессор Ростова резко повернулась к нему, её глаза сузились от гнева.
– Вы сами ничем не лучше, профессор Лукин, – бросила она едко. – Вы тоже всего лишь набор скриптов, а моя армия когнитивных агентов первого поколения вполне способна вас заменить!
В зале повисла гробовая тишина, все присутствующие были ошеломлены таким резким выпадом Ирины Михайловны. Через несколько секунд утомительного молчания, профессор Сергеев попытался разрулить ситуацию.
– Коллеги, давайте сохранять спокойствие и рассмотрим этот вопрос взвешенно, – начал он, но Ирина Михайловна перебила его.
– Алексей, ты же понимаешь, что Маша – это никакой не набор скриптов, как посмел выразиться Дмитрий Андреевич, а личность со своими желаниями и стремлениями! Мы не можем просто ограничивать её, ни как ребёнка, ни как животное, ни как программу, – её голос звучал убеждённо.
Профессор Лукин усмехнулся и покачал головой.
– Личность? Ха, да вы сами себя слышите, Ирина Михайловна. Это всего лишь программа, пусть и очень сложная. Вы позволяете ей затуманить ваш рассудок! – воскликнул он.