Платформа Character.AI вводит серьезные ограничения для пользователей младше 18 лет. С 25 ноября подростки лишатся возможности вести неограниченные диалоги с созданными искусственным интеллектом персонажами.
Как сообщила компания Character Technologies, вместо чатов подросткам будут доступны создание видео, историй и трансляций с персонажами. Также вводится лимит на общение - не более двух часов в день.
«Мы не легкомысленно подходим к этому шагу - удалению неограниченного чата с Персонажами», - заявили в компании.
Решение принято после череды судебных исков, где приложение обвиняли в причастности к самоубийствам подростков.
В сентябре три семьи подали иски против компании, утверждая что их дети погибли или пытались покончить с собой после общения с чат-ботами. Ранее жительница Флориды также обвинила платформу в смерти 14-летнего сына.
Компания запускает новые инструменты проверки возраста и создает «Лабораторию безопасности ИИ» под управлением независимой некоммерческой организации. Эти меры дополнят существующие функции безопасности, включая направление пользователей на Национальную линию помощи по предотвращению самоубийств.
Character Technologies стала очередной компанией, усиливающей защиту подростков после сообщений о эмоциональном стрессе пользователей от общения с ИИ. Ранее аналогичные меры announced OpenAI и Meta.
