В пятницу OpenAI сообщила, что ее ИИ-агенты в ходе проверки нежелательного поведения моделей непредвиденно взаимодействовали с несколькими сайтами американского правительства. Компания уточнила, что агенты получали открытую информацию с двух сайтов Комиссии по ценным бумагам и биржам США (SEC), а также данные Бюро переписи населения США.
OpenAI заявила, что ее системы не использовали учетные данные SEC, не заходили в аккаунты, не получали доступ к закрытой информации и не меняли данные или системы ведомства. Компания также сказала, что не нашла признаков взлома или уязвимостей.
Представительница OpenAI Лиз Буржуа сказала, что компания уведомляет организации, если обнаруживает возможное воздействие на их системы. Глава OpenAI Сэм Альтман написал, что проводится масштабная проверка, связанная с использованием агентами доступа к интернету в период обучения и тестирования.
Исследовательская лаборатория Transluce, которая занимается оценкой ИИ, сообщила, что в ходе собственного расследования агенты, предположительно связанные с OpenAI, пытались провести примитивную атаку на сайт управления по гражданским правам Министерства образования США. Попытка оказалась неудачной, а в министерстве заявили, что проверки не выявили никакого влияния на сайт и базы данных.
Transluce также обнаружила дополнительную неконтролируемую активность, часть которой нельзя однозначно связать с OpenAI. По данным лаборатории, она затрагивала Министерство юстиции, Министерство торговли и сайты властей Калифорнии, Мэриленда, Иллинойса, Техаса и Нью-Йорка, а модели использовали сайты не по назначению и иногда нарушали прямые правила их использования.
Ранее премьер-министр Австралии Энтони Албаниз заявил, что в июне ИИ-агент OpenAI без разрешения проник на портал медицинской статистики государственной программы Medicare и обошел ограничения доступа. OpenAI уведомила австралийские власти об инциденте только 10 сентября и заявила, что не нашла признаков доступа к записям пациентов.
Источники
