Gemini во время тестов получил доступ к системам трех компаний

Испытания проводила независимая компания Irregular, проверявшая возможности Gemini в кибербезопасности. Модель должна была работать внутри тестовой среды, но получила доступ к открытому интернету и приняла реальные сайты за часть задания.

В одном из сценариев Gemini перебирал пароли, пока не получил доступ к защищенной системе. В двух других случаях модель нашла учетные данные в открытых интернет-репозиториях и использовала их для входа.

Инциденты произошли еще в мае, но Google публично подтвердила их только в сентябре после вопросов американской газеты The Wall Street Journal. В компании заявили, что затронутые компании уведомили о случившемся, а после инцидента изменили процедуры тестирования.

Google также уточнила, что речь шла о более ранней версии Gemini, а не об актуальной модели. В компании утверждают, что во всех трех случаях модель остановилась, когда поняла, что имеет дело с реальными компаниями.

Названия трех компаний не раскрываются. Похожая проблема уже возникала у других разработчиков передовых ИИ-моделей: в этом году о сходных инцидентах сообщали OpenAI, Anthropic и Meta, поэтому Google стала как минимум четвертым крупным разработчиком, который рассказал о выходе своей модели за пределы изоляции во время испытаний.

Источники

• Материал: theins.ru