Популярная игровая платформа Roblox объявила о введении новой системы проверки возраста с помощью искусственного интеллекта. Теперь всем пользователям, которые хотят общаться в чатах, придется пройти сканирование лица. Это решение вызвало жаркие споры.
Платформа, где ежедневно бывают более 150 миллионов человек, особенно популярна среди детей. Именно это привлекло внимание злоумышленников. В этом году против Roblox было подано более 20 судебных исков, обвиняющих компанию в создании условий для сексуальной эксплуатации детей. Три штата — Луизиана, Кентукки и Техас — также подали на компанию в суд.
Генеральный директор и сооснователь Roblox Дэвид Базуки в интервью подкасту «Hard Fork» заявил, что новые меры — это возможность сделать платформу лучше.
«Мы думаем об этом не только как о проблеме, но и как о возможности», — сказал он.
Новая система будет анализировать изображение лица пользователя, не сохраняя его, и комбинировать эти данные с другими сигналами — поведением пользователя и загруженными документами. Базуки уверен, что технология сможет отличить живого человека от фотографии.
«Мы уже видим сигналы... это не разовое мероприятие», — пояснил он.
Однако интервью стало напряженным, когда журналисты спросили, достаточно ли этих мер. На заявление о том, что хищникам, судя по искам, не так уж сложно обойти фильтры, Базуки резко ответил: «Я категорически не согласен с фактическим описанием того, что вы говорите».
Он не стал прямо признавать, что на платформе существует системная проблема с хищниками, заявив, что компания делает «невероятную работу». При этом он подтвердил, что злоумышленники часто пытаются перевести общение с детьми на другие платформы, такие как Discord, используя для этого все более изощренные методы, вплоть до шифрования сообщений.
Напряженность возросла, когда речь зашла о отчете фонда Hindenburg Research, который обвинил Roblox в том, что она жертвует безопасностью ради роста. Базуки парировал, что переход с ручной модерации на автоматизированные системы ИИ — это как переход от ручной сборки автомобилей к конвейеру, что делает систему только лучше.
Несмотря на жесткую позицию главы компании, вопрос о безопасности детей на платформе остается открытым. Новые технологии — это серьезный шаг, но их эффективность в условиях колоссального масштаба Roblox еще предстоит проверить на практике.
