Interpult Studio

Исследовательские лаборатории искусственного интеллекта Meta создали нового современного чат-бота и позволяют представителям общественности общаться с системой, чтобы собирать отзывы о ее возможностях.

Бот называется BlenderBot 3. и могут быть доступны в Интернете. (Хотя на данный момент кажется, что это могут делать только жители США.) BlenderBot 3 может участвовать в общей болтовне, говорит Мета, но также отвечает на вопросы, которые вы могли бы задать цифровому помощнику, «от разговоров о здоровом от рецептов еды до поиска удобств для детей в городе».

Бот является прототипом и построен на платформе Meta. Предыдущая работа с так называемыми большими языковыми моделями или LLMS — мощным, но несовершенным программным обеспечением для генерации текста, наиболее широко известным примером которого является OpenAI GPT-3. Как и все LLM, BlenderBot изначально обучается на обширных наборах данных текста, из которых он извлекает статистические закономерности для создания языка. Такие системы оказались чрезвычайно гибкими и нашли широкое применение: от генерации кода для программистов до помощи авторам в написании следующего бестселлера. Однако у этих моделей есть и серьезные недостатки: они повторять предубеждения в своих тренировочных данных и часто придумывать ответы на вопросы пользователей (большая проблема, если они будут полезны в качестве цифровых помощников).

Эта последняя проблема — это то, что Мета специально хочет протестировать с помощью BlenderBot. Большой особенностью чат-бота является то, что он может искать в Интернете, чтобы говорить на определенные темы. Что еще более важно, пользователи могут затем щелкнуть его ответы, чтобы увидеть, откуда он получил информацию. Другими словами, BlenderBot 3 может ссылаться на свои источники.

READ  5 лучших стратегий входящего маркетинга для занятых работающих мам

Выпуская чат-бота для широкой публики, Meta хочет собрать отзывы о различных проблемах, с которыми сталкиваются большие языковые модели. Пользователи, общающиеся с BlenderBot, смогут помечать любые подозрительные ответы системы, и Meta говорит, что они усердно работали, чтобы «свести к минимуму использование ботами вульгарных выражений, оскорблений и культурно нечувствительных комментариев». Пользователи должны будут согласиться на сбор своих данных, и если это так, их разговоры и отзывы будут сохранены и позже опубликованы Meta для использования общим исследовательским сообществом ИИ.

«Мы стремимся опубликовать все данные, которые мы собираем в демоверсии, в надежде, что мы сможем улучшить диалоговый ИИ», — сказал Курт Шустер, инженер-исследователь из Meta, который помогал создавать BlenderBot 3. Грань.

Пример диалога с BlenderBot 3 в сети. Пользователи могут оставлять отзывы и реакции на конкретные ответы.
Изображение: Мета

Выпуск прототипов чат-ботов с искусственным интеллектом исторически был рискованным шагом для технологических компаний. В 2016 году Microsoft выпустила в Твиттере чат-бота по имени Tay, который извлек уроки из своего взаимодействия с общественностью. Как и следовало ожидать, пользователи Твиттера вскоре научили Тэя повторять ряд расистских, антисемитских и женоненавистнических заявлений. В ответ Microsoft отключила бота менее чем через 24 часа.

Мета говорит, что мир ИИ сильно изменился после неисправности Тэя, и что у BlenderBot есть все виды защитных ограждений, которые должны помешать Мете повторить ошибки Microsoft.

Важно отметить, что, по словам Мэри Уильямсон, менеджера по исследованиям в Facebook AI Research (FAIR), в то время как Tay был разработан для обучения в режиме реального времени на основе взаимодействия с пользователем, BlenderBot представляет собой статическую модель. Это означает, что он способен запоминать, что говорят пользователи во время разговора (и даже будет сохранять эту информацию через файлы cookie браузера, если пользователь выходит из программы и возвращается позже), но эти данные будут использоваться только для дальнейшего улучшения системы.

«Это всего лишь мое личное мнение, но это [Tay] эпизод относительно неудачный, потому что он создал эту зиму чат-ботов, когда каждое учреждение боялось выпускать общедоступных чат-ботов для исследований», — говорит Уильямсон. Грань.

Уильямсон говорит, что большинство чат-ботов, используемых сегодня, являются узкими и ориентированными на определенные задачи. Подумайте, например, о ботах обслуживания клиентов, которые часто просто представляют пользователям предварительно запрограммированное дерево диалогов, сужая их запрос, прежде чем передать его человеку, который действительно может выполнить работу. Настоящим призом является создание системы, которая может вести разговор так же свободно и естественно, как и человек, и Мета говорит, что единственный способ добиться этого — позволить ботам вести свободный и естественный разговор.

«Это отсутствие терпимости к ботам, говорящим бесполезные вещи, в широком смысле, вызывает сожаление», — говорит Уильямсон. «И то, что мы пытаемся сделать, это очень ответственно опубликовать это и продвинуть исследования вперед».

Помимо размещения BlenderBot 3 в Интернете, Meta также публикация базового кода, обучающего набора данных и меньших вариантов модели. Исследователи могут запросить доступ к самой большой модели, которая имеет 175 миллиардов параметров. через форму здесь.

https://www.theverge.com/2022/8/5/23293281/meta-ai-chatbot-blenderbot-3-web-access-research-safety

от admin

EnglishFrançaisDeutschРусский