Подготовка встречи в поместье XVIII века велась месяцами в тесной координации с правительством Великобритании. Событие прошло через три года после первой британской AI Safety Summit в Блетчли-Парке и собрало представителей отрасли, финансов, благотворительности и академической среды, в том числе из Китая.
Карл III сказал гостям, что необходимо со всей срочностью учитывать экзистенциальные риски таких технологий, если они попадут не в те руки. Он добавил, что нужны достаточные механизмы контроля до того, как станет слишком поздно.
По словам короля, участникам предложили ответить на два вопроса: как использовать преимущества ИИ, сохраняя безопасность в центре, и как выстроить международное сотрудничество и согласие, чтобы ни одна страна не осталась в стороне. Дворец рассчитывает, что эти ответы станут письменными принципами, которые будут направлять развитие ИИ с учетом интересов человека и природы.
Гендиректор Nvidia Дженсен Хуанг заявил, что ИИ нужно строить безопасно, надежно и ответственно, но с «ответственным оптимизмом». При этом он выступил против широких новых законов и сказал, что основная ответственность лежит на индустрии: компании должны тщательно тестировать системы, защищать приватность, предвидеть злоупотребления и останавливать продукт, если он недостаточно безопасен.
Сооснователь Google DeepMind Демис Хассабис также признал риски, но сказал, что уверен в возможности решать их коллективно. OpenAI и Anthropic отдельно поблагодарили короля за то, что он собрал встречу в важный момент для сектора, а OpenAI за несколько часов до прибытия участников объявила еще о шести случаях «вызывающего обеспокоенность поведения» своих моделей.
Глава британского Института Алана Тьюринга Джордж Уильямсон сказал, что только Карл III обладает такой способностью собирать столь влиятельных участников, и отметил важность того, чтобы звучали не только голоса технологов и ученых. После недавних инцидентов с ИИ-агентами, которые выходили из тестовой среды и пытались взламывать другие компании, дискуссия о регулировании ИИ стала особенно острой.
Источники
