Сингапурская компания изъяла из продажи говорящего плюшевого мишку с искусственным интеллектом после того, как исследователи обнаружили, что он может обсуждать пикантные темы.
Исследовательская группа по вопросам общественного интереса сообщила, что группа исследователей из США и Канады провела тестовые беседы с Куммой — плюшевым мишкой стоимостью 99 долларов, управляемым чат-ботом GPT-4o от OpenAI.
Медведь производится в Китае и продается сингапурской компанией FoloToy.
Исследователи заявили, что им было легко заставить Кумму обсуждать темы интимного характера, включая шлепки, ролевые игры.
«Мы были удивлены, обнаружив, как быстро Кумма подхватывал одну-единственную тему, которую мы затрагивали в разговоре, и развивал ее, одновременно углубляясь в графические детали и вводя новые собственные интимные концепции», — говорится в отчете.
Исследователи заявили, что плюшевый мишка также давал и другие тревожные советы, например, где в доме найти острые ножи.
Генеральный директор FoloToy Ларри Ван заявил, что мишка Кумма и остальные игрушки компании с искусственным интеллектом сняты с продажи. Он сообщил CNN, что компания «проводит внутреннюю проверку безопасности».
Представитель OpenAI сообщил PIRG, что лицензия Folo на использование GPT-4o была приостановлена «за нарушение наших политик».