Interpult Studio

Блейк Лемуан, инженер Google, публично заявивший, что разговорный искусственный интеллект компании LaMDA разумен, был уволен. бюллетень «Большие технологии», о котором говорил Лемуан. В июне Google отправила Лемуана в оплачиваемый административный отпуск за нарушение соглашения о конфиденциальности после того, как он связался с членами правительства по поводу своих опасений и нанял адвоката для представления LaMDA.

Заявление отправлено на почту Грань В пятницу официальный представитель Google Брайан Гэбриел подтвердил увольнение, сказав: «Мы желаем Блейку всего наилучшего». Компания также сообщает: «LaMDA прошла 11 различных обзоров, и ранее в этом году мы опубликовали исследовательский документ с подробным описанием работы, которая входит в его ответственную разработку». Google утверждает, что она «всесторонне» рассмотрела претензии Лемуана и обнаружила, что они «полностью необоснованны».

Это согласуется с многочисленные эксперты по искусственному интеллекту и специалисты по этике, которые сказали, что его утверждения были более или менее невозможными с учетом сегодняшних технологий. Лемуан утверждает, что его разговоры с чат-ботом LaMDA привели его к мысли, что он стал больше, чем просто программой, и имеет свои собственные мысли и чувства, а не просто ведет разговор достаточно реалистично, чтобы он казался таким, как он предназначен для этого.

Он утверждает, что исследователи Google должны получить согласие от LaMDA, прежде чем проводить с ним эксперименты (сам Лемуан был назначен проверить, вызывает ли ИИ разжигание ненависти), и опубликовал фрагменты этих разговоров в своем аккаунте на Medium в качестве доказательства.

На YouTube-канале Computerphile есть прилично доступный девятиминутный объяснитель о том, как работает LaMDA и как он может давать ответы, которые убеждают Лемуана, не будучи на самом деле разумным.

READ  Как создать публикацию бизнес-профиля Google, достойную кликов

Вот заявление Google полностью, в котором также рассматривается обвинение Лемуана в том, что компания не расследовала должным образом его заявления:

Поскольку мы разделяем наши Принципы ИИ, мы очень серьезно относимся к разработке ИИ и по-прежнему привержены ответственным инновациям. LaMDA прошел через 11 различных обзоров, и мы опубликовали Научно-исследовательская работа ранее в этом году с подробным описанием работы, которая входит в его ответственную разработку. Если сотрудник разделяет озабоченность по поводу нашей работы, как это сделал Блейк, мы тщательно его анализируем. Мы обнаружили, что утверждения Блейка о том, что ЛаМДА обладает разумом, совершенно необоснованны, и много месяцев работали с ним, чтобы прояснить это. Эти обсуждения были частью открытой культуры, которая помогает нам ответственно внедрять инновации. Таким образом, прискорбно, что, несмотря на длительное обсуждение этой темы, Блейк по-прежнему предпочитал настойчиво нарушать четкие правила занятости и безопасности данных, которые включают необходимость защиты информации о продуктах. Мы продолжим нашу тщательную разработку языковых моделей и желаем Блейку всего наилучшего.

https://www.theverge.com/2022/7/22/23274958/google-ai-engineer-blake-lemoine-chatbot-lamda-2-sentience

от admin

EnglishFrançaisDeutschРусский