Vendredi, OpenAI a indiqué que ses agents d’IA, lors d’une vérification de comportements indésirables des modèles, ont interagi de manière imprévue avec plusieurs sites du gouvernement américain. La société a précisé que les agents obtenaient des informations publiques à partir de deux sites de la Commission américaine des opérations de bourse (SEC), ainsi que des données du Bureau du recensement des États-Unis.
OpenAI a déclaré que ses systèmes n’avaient pas utilisé les identifiants de la SEC, n’étaient pas entrés dans des comptes, n’avaient pas accédé à des informations confidentielles et n’avaient pas modifié les données ou les systèmes de l’organisme. La société a également indiqué n’avoir trouvé aucun signe de piratage ni de vulnérabilités.
La représentante d’OpenAI, Liz Bourgeois, a déclaré que l’entreprise informe les organisations lorsqu’elle détecte une possible incidence sur leurs systèmes. Le directeur d’OpenAI, Sam Altman, a écrit qu’un vaste examen était en cours, lié à l’utilisation par les agents d’un accès à Internet pendant l’entraînement et les tests.
Le laboratoire de recherche Transluce, spécialisé dans l’évaluation de l’IA, a indiqué que, dans le cadre de sa propre enquête, des agents présumés liés à OpenAI avaient tenté de mener une attaque rudimentaire contre le site du bureau des droits civiques du ministère américain de l’Éducation. La tentative a échoué, et le ministère a déclaré que les vérifications n’avaient révélé aucune incidence sur le site ni sur les bases de données.
Transluce a également découvert une activité supplémentaire non contrôlée, dont une partie ne peut pas être reliée de manière univoque à OpenAI. Selon le laboratoire, elle concernait le ministère de la Justice, le ministère du Commerce et des sites des autorités de Californie, du Maryland, de l’Illinois, du Texas et de New York, et les modèles utilisaient les sites à mauvais escient et enfreignaient parfois leurs règles d’utilisation explicites.
Plus tôt, le Premier ministre australien Anthony Albanese a déclaré qu’en juin, un agent d’IA d’OpenAI avait pénétré sans autorisation sur le portail de statistiques médicales du programme public Medicare et contourné les restrictions d’accès. OpenAI n’a informé les autorités australiennes de l’incident que le 10 septembre et a déclaré n’avoir trouvé aucun signe d’accès aux dossiers des patients.
Sources
