Не искусственный интеллект - страница 8




Коллективные заблуждения – это то, что по своей сути составляет базу обучения искусственного интеллекта и что он воспроизводит в каждом своем ответе. Кстати, именно из-за этого многие активисты борются против внедрения моделей искусственного интеллекта в жизненно важных сферах. Чтобы не дать ему множить расовые и гендерные стереотипы в судебной сфере или опираться на распространенные ошибки врачей при постановке диагнозов. Потому что даже идеально обученный ИИ, который будет точно воспроизводить именно нужные ответы и никогда не станет сбиваться, будет действовать не исходя из объективной реальности (он ничего о ней не знает), а опираясь на некое усредненное коллективное представление о ней.

Потому что во время обучения ИИ не запоминает факты. Это не гигантский поисковик по заложенной в него библиотеке. Это программа, которая выявила общие закономерности в текстах определенного типа или тематики и теперь воспроизводит их, когда запрос пользователя так или иначе касается этой области. Знать она ничего не знает.


Это как если бы вам предложили сыграть в игру. Вам будут задавать вопросы, а вы обязаны на них ответить, при чем отвечать «не знаю» нельзя.

Первый вопрос: объясните суть и принципы квантовой физики. У вас в голове начнет всплывать какая-то информация про мельчайшие частицы, что они существуют по другими законам, не как макро объекты и что-то подобное. Вы даже можете не сказать ничего прямо противоречащего истине. Но у профессионального физика наверняка от вашего объяснения волосы встанут дыбом. Потому что эта тема редкая и информации у вас в жизни по ней было не так уж много.

Если вам понравилась книга, поддержите автора, купив полную версию по ссылке ниже.

Продолжить чтение