Сразу два ИИ-сервиса из Китая перенаправляли запросы к Claude и выдавали ответы за свои

В отчете Anthropic, разработчика Claude, говорится, что пользователи Moonshot — китайской ИИ-компании — считали, что работают с семейством моделей Kimi, но на самом деле получали ответы от Claude. Для этого Moonshot, как утверждает компания, задействовала сеть из 5380 фиктивных аккаунтов, зарегистрированных преимущественно в Сингапуре и Японии.

Anthropic также пишет, что Moonshot сохраняла как минимум часть диалогов и извлекала из перенаправленных сессий цепочки рассуждений, чтобы затем обучать собственные модели.

В отчете сказано, что похожие тактики применяла и DeepSeek, еще одна китайская ИИ-компания. Anthropic отдельно отмечает, что перенаправленные запросы содержали конфиденциальную информацию о разных клиентах этих компаний. Компания при этом не установила, предупреждали ли пользователей о том, что их запросы становились доступны третьей стороне.

Источники

• Материал: meduza.io