Еще одним ограничением ChatGPT, по крайней мере на данный момент, являются частые технические неполадки и иногда приходится очень долго ждать ответа, что сами разработчики модели объясняют тем, что наблюдается большой поток запросов со стороны огромного количества пользователей. И действительно, ChatGPT – это большая и сложная модель с более чем 175 миллиардами параметров. Это может сделать его ресурсоемким в использовании и может ограничить его использование в определенных ситуациях. Например, может быть сложно запустить ChatGPT на устройстве с ограниченной вычислительной мощностью или памятью или в сценариях, где требуется анализ очень большого количества данных.
У ChatGPT могут наблюдаться сложности и с контектстным пониманием. Хотя бот способен понимать контекст слов и фраз в предложении, ему может быть сложно понять более сложные или абстрактные концепции или интерпретировать нюансы человеческого общения. Например, ChatGPT может испытывать трудности с пониманием иронии или сарказма или может создавать выходные данные, не соответствующие предполагаемой аудитории или контексту.
Все эти ограничения текущей версии ChatGPT говорят лишь о том, что он еще находится в своем начальном состоянии, и конечно же будут новые версии и поколения этой модели ИИ. Дайте ей пару лет, и я уверен, она будет выглядеть совсем по-другому. Вспомните первую версию IPhone и посмотрите на последнюю версию, которая доступна сегодня – разница колоссальна. То же самое будет и с 10-й и 100-й версией ChatGPT – он будет намного более мощен, производителен и функционален, чем сейчас. Не забывайте, что чередование поколений в машинах и компьютерах происходит намного быстрее, чем смена поколений у людей.
Экономические ограничения
Возникает резонный вопрос: «Раз ChatGPT такой умный и эффективный, почему он не установлен на всех наших смартфонах?»
И ответ, возможно, кроется в себестоимости.
Согласно некоторым подсчетам, такие масштабные языковые модели в современном их состоянии требуют огромных вычислительных мощностей. Они могут работать на относительно небольших масштабах – несколько миллионов пользователей. Но масштабировать эти модели до объема в несколько миллиардов запросов ежедневно пока еще не имеет экономической и пользовательской целесообразности: серверы станут слишком дорогими, а латентность (время ожидания или время, которое необходимо устройству, чтобы обеспечить выходную реакцию после события на входе. Латентность можно измерить, используя команду ping) станет достаточно высокой.
На данный момент один ответ ИИ стоит примерно от 10 до 100 обычных поисковых запросов в интернете. Согласно Сэму Альтману, CEO OpenAI, стоимость единичного ответа колеблется в одноразрядных цифрах (единицах, т. е. центах)[3]. Если предположим, что это 5 центов, а Google обрабатывает 8.5 миллиардов запросов в день, то это будет означать 425 миллионов долларов в день на обработку Искусственным интеллектом запросов в таком же масштабе, как делает это Google сегодня.
Именно по этим соображения, скорее всего, встраивание поиска с помощью ИИ на каждый смартфон пока не является экономически целесообразным для компаний, их разрабатывающих.
Однако, мы знаем на что способен Искусственный интеллект, и думаю, что в скором времени он сам сможет найти способы как оптимизировать эти массивные языковые модели, чтобы они стали еще более эффективными и экономически выгодными.
