OpenAI только что выпустила свою последнюю модель ИИ, GPT-4, которая демонстрирует производительность на уровне человека в различных профессиональных и академических тестах.
GPT-4 — это большая мультимодальная модель, которая может принимать изображения и текст на вход и генерировать текст на выходе.
В этой статье мы рассмотрим возможности, ограничения и риски использования GPT-4.
В конце вы лучше поймете потенциальное влияние GPT-4 и на что он способен и на что не способен.
Способности
Возможности GPT-4 являются улучшением по сравнению с предыдущей моделью GPT-3.5 с точки зрения надежности, творчества и обработки сложных инструкций.
OpenAI проверил модель на различных тестах, в том числе на пробных экзаменах, разработанных для людей, и обнаружил, что GPT-4 превосходит существующие модели больших языков.
Он также хорошо работает на языках, отличных от английского, включая языки с низким уровнем ресурсов, такие как латышский, валлийский и суахили.
Визуальные входы
GPT-4 может принимать как текст, так и изображения в качестве входных данных, что позволяет генерировать текстовый вывод на основе входных данных, состоящих как из текста, так и из изображений.
Хотя возможности визуального ввода модели все еще находятся на стадии предварительного исследования, она продемонстрировала возможности, аналогичные возможностям ввода только текста.
Управляемость
OpenAI работал над каждым аспектом плана, изложенного в его работа по определению поведения ИИ, включая управляемость.
Теперь разработчики могут предписывать стиль и задачи своего ИИ, описывая инструкции в «системном» сообщении.
Пользователи API могут настраивать работу своих пользователей в определенных пределах, что обеспечивает значительную персонализацию.
Границы
GPT-4 не идеален и имеет те же ограничения, что и предыдущие модели GPT.
Он по-прежнему может «галлюцинировать» факты и делать ошибки в рассуждениях, поэтому следует соблюдать осторожность при использовании выходных данных языковой модели, особенно в условиях высоких ставок.
GPT-4 не знает событий после сентября 2021 года, что может привести к простым ошибкам в рассуждениях и принятию ложных утверждений за истинные.
Он также может потерпеть неудачу при решении сложных проблем, таких как люди, например, при введении проблем безопасности в свой код.
GPT-4 может делать уверенные, но неверные прогнозы и не всегда тщательно проверяет свою работу.
Интересно, что базовая модель хорошо предсказывает точность своих ответов, но после обучения эта способность снижается.
Риски и смягчение
Хотя возможности GPT-4 значительны, они создают новые риски, такие как генерация вредных подсказок, ошибочный код или неточная информация.
OpenAI работал над снижением этих рисков, привлекая более 50 экспертов для состязательного тестирования модели и собирая дополнительные данные, чтобы улучшить способность GPT-4 отклонять опасные запросы.
В результате OpenAI внесла множество улучшений в GPT-4, чтобы сделать его более безопасным, чем GPT-3.5.
GPT-4 на 82% реже предоставляет неприемлемый контент, чем предыдущая версия, и лучше соответствует политикам в отношении деликатных тем, таких как медицинские консультации и членовредительство.
Хотя OpenAI сделал модель более устойчивой к плохому поведению, создание контента, противоречащего правилам использования, по-прежнему возможно.
GPT-4 может быть полезен или вреден для общества, говорит OpenAI, поэтому он работает с другими исследователями, чтобы понять потенциальное воздействие.
Тренировочный процесс
Как и предыдущие модели GPT, базовая модель GPT-4 была обучена предсказывать следующее слово в документе с использованием общедоступных данных и данных лицензии OpenAI.
Точная настройка поведения модели с использованием обучения с подкреплением и обратной связью с человеком (RLHF) приводит его в соответствие с намерениями пользователя в перилах.
Предсказуемое масштабирование
Важной целью проекта GPT-4 было создание стека глубокого обучения, масштабируемого предсказуемым образом.
OpenAI разработал инфраструктуру и оптимизацию с предсказуемым поведением в различных масштабах и может точно предсказать возможную потерю GPT-4 во время обучения.
Доступность
Майкрософт подтвержденный новый интерфейс поиска Bing теперь работает на GPT-4.
Хотя у него есть ограничение на использование, вы также можете получить доступ к GPT-4 с подпиской ChatGPT Plus.
OpenAI может регулировать ограничение использования в зависимости от спроса и производительности системы. Компания планирует добавить еще один уровень подписки, чтобы расширить использование GPT-4.
Чтобы получить доступ к GPT-4 API, вы должны зарегистрироваться на лист ожидания.
Заключение
Создание GPT-4 знаменует собой важный шаг в усилиях OpenAI по развитию глубокого обучения.
Несмотря на несовершенство, он продемонстрировал производительность на уровне человека по различным академическим и профессиональным критериям, что делает его мощным инструментом.
Однако следует соблюдать осторожность при использовании выходных данных языковой модели в контекстах с высокими ставками.
OpenAI работал над снижением рисков и созданием стека глубокого обучения, который развивается предсказуемым образом, что будет иметь важное значение для будущих систем ИИ.
Особенное изображение: Мухаммед S0hail/Shutterstock
Источник: Открытый ИИ
