В четверг в эфире программы BBC Today Сулейман назвал «ошибочным» подход американской ИИ-компании Anthropic, которая, по его словам, обращается с ИИ так, будто он человек. Ранее на этой неделе он опубликовал эссе, в котором при этом назвал главу Anthropic Дарио Амодеи и его команду «интеллектуально честными людьми».
В том же эссе он написал, что ИИ не обладает сознанием, не чувствует, не переживает и не страдает, а также не имеет врожденных предпочтений или собственных мотивов. По его словам, такие системы — это «системы завершения последовательностей», внутренне пустые и созданные для того, чтобы следовать инструкциям и выполнять цели, заданные людьми.
Сулейман предупредил, что компаниям не следует создавать ИИ-системы, способные самостоятельно ставить цели, зарабатывать деньги и владеть активами, поскольку это может означать «фактически создание нового кремниевого вида», который будет конкурировать с людьми за ресурсы. Он сказал, что люди вправе тревожиться из-за ИИ, но есть вполне практические способы держать его под контролем.
Глава Microsoft AI также призвал к большей прозрачности в том, как ИИ-системы обучают и оценивают, а также к независимой проверке их поведения и более сильным инструментам контроля. Профессор компьютерных наук Саутгемптонского университета, Великобритания, Вэнди Холл назвала это именно тем разговором, который нужен на международном уровне, и противопоставила его «истерике» части ИИ-компаний.
В разговоре с BBC о предстоящем саммите по ИИ Сулейман сказал, что будущие технологии должны быть «подчинены» человечеству. Он добавил, что вопрос о том, сколько самостоятельности можно давать ИИ-системам, все острее раскалывает отрасль.
Источники
