Десять топ-менеджеров и ведущих инженеров покинули передовые компании по разработке искусственного интеллекта. Как сообщает Axios, причиной стали опасения, что их работа может привести к катастрофическим последствиям для человечества.
Основатель Grok Илон Маск оценил вероятность гибели человечества от ИИ (p(doom)) в 20%. Гендиректор Google Сундар Пичаи называет схожий диапазон — 15-25%. Эти оценки касаются перспектив создания AGI — искусственного интеллекта человеческого уровня.
Эксперты отмечают, что AGI, способный к универсальному обучению, может появиться в ближайшие 5-10 лет. При этом последствия его создания остаются непредсказуемыми.
«Разработчики ИИ оценивают риски как 1 к 10, а может и 1 к 5. Стали бы вы летать на самолете с такими шансами?» — задаются вопросом авторы исследования.
