Три китайские ИИ-компании — DeepSeek, Moonshot и MiniMax — неправомерно использовали чат-бот Claude для улучшения собственных моделей, создав более 16 млн взаимодействий через 24 тыс. поддельных аккаунтов. Об этом заявила Anthropic в Х.
«Лаборатории создали более 24 тыс. мошеннических аккаунтов и сгенерировали свыше 16 млн взаимодействий с Claude, извлекая его возможности для обучения и улучшения собственных моделей», — говорится в сообщении.
Как утверждает Anthropic, компании применяли метод «дистилляции» — обучение собственной модели на ответах более продвинутой системы. Этот подход широко используется в индустрии, однако в данном случае, по версии компании, он применялся с нарушением условий использования и региональных ограничений.
В Anthropic выразили обеспокоенность тем, что подобные действия могут привести к использованию полученных технологий в военных, разведывательных целях и системах наблюдения. В компании заявили, что такие атаки становятся все более масштабными и изощренными, и призвали к координированным мерам со стороны отрасли и властей.
