Генеральный директор Anthropic Дарио Амодеи предупредил, что потеря контроля над искусственным интеллектом может стать угрозой для человечества. Он выступил с этим заявлением на заседании Совета Безопасности ООН.
По его словам, ИИ развивается стремительными темпами. Ещё четыре года назад он с трудом мог написать строку кода, а сейчас создаёт большинство программного обеспечения Anthropic и справляется со сложными математическими задачами.
Амодеи назвал две ключевые опасности: возможность использования моделей биотеррористами для создания оружия и утрату контроля над самим ИИ.
Ранее для борьбы с этими рисками он предложил три шага. Начать стоит с точечных соглашений, например о запрете применять ИИ при разработке биологического оружия.
Второй шаг — создать механизмы проверки, которые будут успевать за скоростью развития технологий. Третий — установить общие требования к тестированию моделей на риски потери контроля и неправомерного применения.
