Interpult Studio

Google отправил одного из своих инженеров в оплачиваемый административный отпуск за якобы нарушение политики конфиденциальности после того, как он забеспокоился о том, что система чат-ботов с искусственным интеллектом достигла разума. Вашингтон пост отчеты. Инженер Блейк Лемуан, работающий в организации Google Responsible AI, проверял, генерирует ли ее модель LaMDA дискриминационные высказывания или разжигание ненависти.

Сообщается, что опасения инженера выросли из убедительных ответов, которые, как он видел, генерировала система ИИ о своих правах и этике робототехники. В апреле он поделился с руководителями документом под названием «Разумна ли ЛаМДА?», содержащий стенограмму его разговоров с ИИ (после увольнения Лемуан опубликовал стенограмму через его аккаунт на Medium), который, по его словам, показывает, что он утверждает, «что он разумен, потому что у него есть чувства, эмоции и субъективный опыт».

Google считает, что действия Лемуана, связанные с его работой над LaMDA, нарушили его политику конфиденциальности. Вашингтон пост а также Хранитель отчет. Сообщается, что он пригласил юриста представлять систему ИИ и поговорил с представителем судебного комитета Палаты представителей о заявленных неэтичных действиях в Google. В 6 июня Средний постВ день, когда Лемуана отправили в административный отпуск, инженер сказал, что он добивался «минимального количества консультаций со стороны, чтобы помочь мне в моих расследованиях», и что в список людей, с которыми он вел переговоры, входили государственные служащие США.

Поисковый гигант публично анонсировал LaMDA на Google I/O в прошлом году, что, как он надеется, улучшит его диалоговых помощников на основе искусственного интеллекта и сделает общение более естественным. Компания уже использует аналогичную технологию языковой модели для функции Smart Compose в Gmail или для запросов поисковых систем.

READ  Обновленный дизайн Новостей Google с главными новостями, местными новостями и персонализированными статьями.

В заявлении, переданном ВаПо, представитель Google заявил, что «нет никаких доказательств» разумности LaMDA. «Наша команда, включая специалистов по этике и технологов, рассмотрела опасения Блейка в соответствии с нашими принципами искусственного интеллекта и сообщила ему, что доказательства не подтверждают его утверждения. Ему сказали, что нет никаких доказательств того, что LaMDA разумен (и много доказательств против этого)», — сказал пресс-секретарь Брайан Гэбриел.

«Конечно, некоторые в более широком сообществе ИИ рассматривают долгосрочную возможность разумного или общего ИИ, но не имеет смысла делать это, антропоморфизируя сегодняшние разговорные модели, которые не являются разумными», — сказал Габриэль. «Эти системы имитируют обмен репликами, встречающийся в миллионах предложений, и могут затрагивать любую фантастическую тему».

Профессор лингвистики дал интервью ВаПо согласился, что неправильно приравнивать убедительные письменные ответы к разуму. «Теперь у нас есть машины, которые могут бездумно генерировать слова, но мы не научились перестать воображать, что за ними стоит разум», — сказала профессор Вашингтонского университета Эмили М. Бендер.

Тимнит Гебру, известный специалист по этике ИИ, уволенный Google в 2020 году (хотя поисковый гигант утверждает, что она ушла в отставку), сказал, что обсуждение разума ИИ рискует «сорвать» более важные этические разговоры, связанные с использованием искусственного интеллекта. «Вместо того, чтобы обсуждать вред этих компаний, сексизм, расизм, колониализм ИИ, централизацию власти, бремя белого человека (построение хорошего «AGI» [artificial general intelligence] чтобы спасти нас, в то время как то, чем они занимаются, является эксплуатацией), провела все выходные, обсуждая разум», — сказала она. твитнул. «Миссия по спуску с рельсов выполнена».

READ  Приключение Skate Story расскажет историю демона-скейтбордиста из стекла и боли

Несмотря на свои опасения, Лемуан сказал, что намерен продолжить работу над ИИ в будущем. «Я намерен оставаться в ИИ независимо от того, поддерживает ли меня Google или нет», — сказал он. написал в твиттере.


https://www.theverge.com/2022/6/13/23165535/google-suspends-ai-artificial-intelligence-engineer-sentient

от admin