Der Leiter von Microsoft AI, Mustafa Suleyman, warnte, dass künstliche Intelligenz ohne ausreichende Beschränkungen eine neue «siliziumbasierte Spezies» hervorbringen könnte, die mit Menschen konkurrieren würde. Er rief außerdem dazu auf, KI nicht mit eigenen Zielen, dem Recht, Geld zu verdienen, und Vermögenswerte zu besitzen, auszustatten.
Am Donnerstag bezeichnete Suleyman in der BBC-Today-Sendung den Ansatz des US-amerikanischen KI-Unternehmens Anthropic als «fehlerhaft», das seiner Aussage nach mit KI so umgeht, als wäre sie ein Mensch. Anfang dieser Woche veröffentlichte er einen Essay, in dem er den Anthropic-Chef Dario Amodei und sein Team zugleich als «intellektuell ehrliche Menschen» bezeichnete.
In demselben Essay schrieb er, dass KI kein Bewusstsein besitzt, nichts fühlt, nichts erlebt und nicht leidet, und auch keine angeborenen Vorlieben oder eigenen Motive hat. Seiner Ansicht nach sind solche Systeme «Systeme zur Vervollständigung von Sequenzen», innerlich leer und dafür geschaffen, Anweisungen zu befolgen und von Menschen vorgegebene Ziele auszuführen.
Suleyman warnte, dass Unternehmen keine KI-Systeme entwickeln sollten, die selbstständig Ziele setzen, Geld verdienen und Vermögenswerte besitzen können, da dies «im Grunde die Schaffung einer neuen siliziumbasierten Spezies» bedeuten könnte, die mit Menschen um Ressourcen konkurriert. Er sagte, dass Menschen berechtigt seien, sich wegen KI Sorgen zu machen, es aber durchaus praktische Wege gebe, sie unter Kontrolle zu halten.
Der Leiter von Microsoft AI rief außerdem zu mehr Transparenz darüber auf, wie KI-Systeme trainiert und bewertet werden, sowie zu einer unabhängigen Überprüfung ihres Verhaltens und zu stärkeren Kontrollinstrumenten. Die Informatikprofessorin Wendy Hall von der University of Southampton in Großbritannien bezeichnete dies als genau die Art von Gespräch, die auf internationaler Ebene nötig sei, und stellte es der «Hysterie» mancher KI-Unternehmen gegenüber.
Im Gespräch mit der BBC über den bevorstehenden KI-Gipfel sagte Suleyman, dass zukünftige Technologien der Menschheit «untergeordnet» sein müssten. Er fügte hinzu, dass die Frage, wie viel Eigenständigkeit man KI-Systemen zugestehen könne, die Branche immer stärker spalte.
Quellen
