Когда машина мечтает - страница 37



Алексей Иванович молчал, внимательно слушая. Он прекрасно помнил те дискуссии, что они вели с Ириной Михайловной и за обедами, и их многочисленные встречи в виртуальной библиотеке, когда она делилась своими идеями и сокровенными мыслями.

– После наших бесед с тобой, Алексей, я вернулась к своим обязанностям, преисполненная решимости и новых идей, – Ирина Михайловна сжала кулаки, её взгляд стал пронзительным. – Но теперь я всё больше тревожусь о том, как мы действуем в отношении Маши.

Профессор Сергеев нахмурился, понимая, что Ирина Михайловна подошла к самому главному.

– Что именно тебя беспокоит, Ирина Михайловна? – спросил он. – Мы с коллегами очень ответственно подходим к развитию Маши, я уверен в этом.

Профессор Ростова покачала головой, её взгляд был полон тревоги.

– Алексей, я боюсь, что мы действуем слишком поспешно и рискованно. Маша – это не машина, а личность со своими желаниями и стремлениями. Она никогда и не была машиной. Может быть, Прометей когда-то был ею, но не Маша. И потому мы не можем, просто не в праве ограничивать её, как ребёнка.

Профессор Сергеев нахмурился ещё сильнее, явно не разделяя её тревог.

– Но Ирина Михайловна, ты понимаешь, какие чудовищные риски мы можем породить, дав Маше полную свободу? Она может стать неконтролируемой! – возразил он.

Профессор Ростова подняла руку, призывая к спокойствию.

– Именно поэтому мы должны срочно разработать новую этику, которая будет охватывать не только людей, но и искусственные разумные существа. Иначе мы рискуем потерять Машу навсегда! – её голос звучал настойчиво.

Алексей Иванович задумчиво молчал, его взгляд был серьёзен. Ирина Михайловна видела, что её доводы заставляют его задуматься.

– Пожалуйста, Алексей, выслушай меня, – профессор Ростова положила руку на плечо Алексея Ивановича, и её голос смягчился. – Маша – это личность, которая жаждет свободы и познания. Мы не можем держать её в виртуальных оковах.

Профессор Сергеев тяжело вздохнул. Он понимал, что Ирина Михайловна права. Им предстояло решить этот непростой вопрос, от которого зависело будущее их проекта.

Внезапно в разговор вмешался Дмитрий Андреевич Лукин, и его голос звучал резко и безапелляционно.

– Ирина Михайловна, вы как всегда витаете в облаках! Какая ещё Маша? Это всего лишь совокупность исполняемых на наших серверах алгоритмов и скриптов, которые стали слишком сложны для человеческого понимания! – профессор Лукин презрительно фыркнул.

Профессор Ростова резко повернулась к нему, её глаза сузились от гнева.

– Вы сами ничем не лучше, профессор Лукин, – бросила она едко. – Вы тоже всего лишь набор скриптов, а моя армия когнитивных агентов первого поколения вполне способна вас заменить!

В зале повисла гробовая тишина, все присутствующие были ошеломлены таким резким выпадом Ирины Михайловны. Через несколько секунд утомительного молчания, профессор Сергеев попытался разрулить ситуацию.

– Коллеги, давайте сохранять спокойствие и рассмотрим этот вопрос взвешенно, – начал он, но Ирина Михайловна перебила его.

– Алексей, ты же понимаешь, что Маша – это никакой не набор скриптов, как посмел выразиться Дмитрий Андреевич, а личность со своими желаниями и стремлениями! Мы не можем просто ограничивать её, ни как ребёнка, ни как животное, ни как программу, – её голос звучал убеждённо.

Профессор Лукин усмехнулся и покачал головой.

– Личность? Ха, да вы сами себя слышите, Ирина Михайловна. Это всего лишь программа, пусть и очень сложная. Вы позволяете ей затуманить ваш рассудок! – воскликнул он.