– И тогда получится подключиться к ней? – задал вопрос особист.
– Сомневаюсь. Мы урежем ей почти все внешние возможности, но вот ее защита никуда не денется, – разведя руками, ответил ему ученый. – Здесь мы бессильны, никто даже не мог предположить, что такое случится, ведь управляющий доступ прописан у нее на уровне ядра.
– Выяснили, почему так получилось? – спросил у Влада уже Андрей Владимирович.
– Нет, непонятно, что именно привело к такому результату. Мы проверили все записи экспериментов. Ничего выходящего за рамки. А выяснить у нее самой не получается, как вы уже поняли.
– Понятно, – кивнул ему Андрей Владимирович. – Кто-то еще что-нибудь хочет добавить?
В ответ ему была тишина.
– Тогда все свободны, – отпустил он своих подчиненных.
Все то, что они рассказали, он и так знал, но это нужно было обсудить, вдруг всплыли бы какие-нибудь упущенные детали или вдруг родились гениальные идеи.
– Что будешь делать? – спросил особист, когда все вышли из кабинета.
– Как и думал: урежем ему нейросеть, только придется оставить его еще на какое-то время, чтобы проверить, как получится. А потом пусть живет себе.
– Ты уверен? Может, проще оформить все как неудачный эксперимент?
– Зачем? Пусть себе живет, нам он ничем не помешает. А вытащить или взломать нейросеть ни у кого не получится. Особенно взломать, если этого даже мы не смогли сделать, те, кто создали ее и знали все слабые места. Да и с «вытащить» не все так просто, она же теперь одно целое с его мозгом: умрет он – уничтожится и нейросеть, а в мозге ее изучить практически нереально.
– Я не совсем понял, как вам удастся урезать ее функционал, если она блокирует негативные изменения?
– Там все хитро, изменения по отдельности не несут вреда, но стоит произойти последнему, кстати тоже в целом безвредному, как все вместе они просто положат нейросеть, обрезав ее функционал.
– Так, может, таким образом кто-то сможет ее взломать?
– Ага, это нужно еще знать, что и где искать. Ну и во второй раз провернуть все это не получится – сеть уже научится и не допустит. Так что после блокировки она станет совершенно неуправляемой извне.
– Ясно. Отчет готов?
– Разумеется. Сегодня вечером отправлю его, а завтра жди бурю.
– Будешь сообщать о возникшей проблеме?
– Пока что нет. Попробуем исправить ее в следующей версии, есть парочка идей.
– Хорошо. Кстати, давно хотел спросить. А что это за саморазвитие у нее? Вы туда, что, искин впихнули? На что оно способно – это я уже увидел, впечатлило, но хотелось бы хоть примерно понимать, что за «оно» такое.
– Все сложно, если честно. Можно сказать, что там урезанный искин с кучей наших доработок. По идее – отдельный урезанный блок с реагированием на внешние угрозы и адаптацией к ним. А вот что получилось в итоге – это хороший вопрос. Уже сейчас понятно, что мы где-то ошиблись, но к чему это приведет, помимо потери возможности внешнего управления нейросетью, неизвестно. Если так подумать, то, может, это не так уж и плохо. Подключились в первый раз, пока она не вышла на полную мощность, настроили все, что нужно, зато потом никто уже не сможет больше управлять ею, особенно потенциальные противники, которые захотят исследовать нашу новинку.
– Может быть, ты и прав. Я тебя понял. Пожалуй, пока ничего докладывать не буду, но ты долго не тяни. Если не получится исправить возникшую проблему в новой версии, сообщи мне, и я преподнесу своему начальству в нужном свете.
