Директор корпорации Anthropic Дарио Амодеи выступил в Совете Безопасности ООН с предложением создать международные стандарты безопасности в сфере искусственного интеллекта (ИИ). Об этом он заявил в ходе своего выступления.
Он назвал три шага на пути к появлению таких стандартов. Первый — начать с узконаправленных соглашений, например запрета использовать ИИ для создания биологического оружия.
Второй шаг — создать системы проверки и верификации, которые будут соответствовать темпам развития ИИ. Это позволит государствам понимать возможности моделей и проверять соблюдение взятых обязательств.
Третий шаг — обозначить общие стандарты тестирования моделей на риски потери контроля и неправомерного использования, а также создать систему уведомления об инцидентах.
Амодеи назвал угрозы, связанные с ИИ, самой важной проблемой глобальной безопасности. Ранее в СБ ООН выступил глава OpenAI Сэм Альтман, который предупредил об ускорении развития технологии.
