Jeudi, dans l’émission BBC Today, Suleyman a qualifié d’« erronée » l’approche de la société américaine d’IA Anthropic, qui, selon lui, traite l’IA comme si elle était humaine. Plus tôt cette semaine, il a publié un essai dans lequel il a toutefois qualifié le patron d’Anthropic, Dario Amodei, et son équipe de « personnes intellectuellement honnêtes ».
Dans ce même essai, il a écrit que l’IA n’a pas de conscience, ne ressent pas, ne vit pas d’expériences et ne souffre pas, et qu’elle n’a pas non plus de préférences innées ni de motivations propres. Selon lui, ces systèmes sont des « systèmes de complétion de séquences », intérieurement vides et conçus pour suivre des instructions et accomplir les objectifs fixés par les humains.
Suleyman a averti que les entreprises ne devraient pas créer de systèmes d’IA capables de se fixer eux-mêmes des objectifs, de gagner de l’argent et de posséder des actifs, car cela pourrait signifier « la création effective d’une nouvelle espèce de silicium » qui rivaliserait avec les humains pour les ressources. Il a déclaré que les gens ont le droit d’être inquiets à propos de l’IA, mais qu’il existe des moyens tout à fait pratiques de la garder sous contrôle.
Le responsable de Microsoft AI a également appelé à davantage de transparence dans la manière dont les systèmes d’IA sont entraînés et évalués, ainsi qu’à une vérification indépendante de leur comportement et à des outils de contrôle plus puissants. Wendy Hall, professeure d’informatique à l’université de Southampton, au Royaume-Uni, a qualifié cela du type de débat nécessaire au niveau international et l’a opposé à « l’hystérie » d’une partie des entreprises d’IA.
Dans un entretien avec la BBC au sujet du prochain sommet sur l’IA, Suleyman a déclaré que les technologies futures devraient être « soumises » à l’humanité. Il a ajouté que la question de savoir combien d’autonomie peut être accordée aux systèmes d’IA divise de plus en plus profondément le secteur.
Sources
