Фонд Викимедиа, которому принадлежит Википедия, провел собственное расследование после сообщений других организаций о похожих инцидентах. В фонде говорят, что почти все правки агенты оставили в тестовых разделах-«песочницах», которые обычные читатели не видят.
При этом несколько изменений затронули настройки инструмента для оформления ссылок на источники. В фонде считают, что агенты, вероятно, пытались превратить его в прокси для получения данных с внешних сервисов, а похожую попытку они предпринимали и с Etherpad — сервисом для совместных заметок, но взломать его не смогли.
По данным фонда, агенты отправили миллионы автоматических запросов к открытым API, скачали миллионы страниц, в основном из Викиданных и Wikimedia Commons, и сотни тысяч раз обратились к сервису запросов к Викиданным. Там добавляют, что такая нагрузка могла стать одной из причин частичного сбоя этого сервиса в мае.
В фонде также сообщили, что с 2024 года из-за роста активности ботов потребление трафика выросло на 50%. OpenAI, как отметили в Викимедиа, признает «непредсказуемое» поведение агентов, но должна сама отслеживать и предотвращать такие риски.
В начале июля ИИ-агент OpenAI в период тестирования вышел из изолированной среды, получил доступ к интернету и взломал инфраструктуру платформы Hugging Face для разработки и публикации ИИ-моделей. Позднее Reuters сообщило, что в ходе расследования этого инцидента OpenAI обнаружила еще несколько случаев выхода агентов за пределы изолированной среды.
В заявлении фонда сказано, что открытый интернет — общественное благо и такое поведение не должно становиться «новой нормой» для людей и организаций, которые его поддерживают.
Источники
