Roblox использует AI-селфи для определения вашего возраста

Roblox внедряет набор расширенных функций безопасности, специально разработанных для подростков в возрасте от 13 до 17 лет. Они включают в себя новую технологию оценки возраста на основе искусственного интеллекта, которая анализирует видео-селфи, предоставленное пользователем, для подтверждения его возрастной группы.

Новые обновления направлены на усиление протоколов безопасности для подростков и детей младшего возраста на платформе Roblox. Ключевой компонент сосредоточен на предоставлении пользователям в возрасте 13-17 лет большей автономии по сравнению с младшими игроками, но при сохранении большего количества защитных мер, чем для взрослых пользователей. Примечательно, что у подростков теперь появится возможность устанавливать «доверительные связи» с другими пользователями. Разговоры с такими доверенными контактами будут освобождены от действия стандартных фильтров чата. По словам представителей Roblox, эта инициатива призвана способствовать более безопасному и контролируемому общению в самой платформе, отговаривая пользователей переносить беседы в немодерируемые сторонние приложения, где риски выше.

Доверительные связи предназначены для лиц, знакомых друг с другом в реальной жизни. Если подросток хочет назначить кого-то старше 18 лет доверенным контактом, этот процесс требует дополнительной проверки путем сканирования QR-кода или использования инструмента импорта контактов.

Ранее Roblox в основном использовала предоставление государственного удостоверения личности для проверки возраста пользователя (13+ или 18+) и разблокировки определенных функций чата. Теперь платформа предлагает альтернативный метод верификации. Пользователи могут добровольно отправить видео-селфи, которое система ИИ затем анализирует на основе обширного и разнообразного набора данных, чтобы оценить, старше ли человек 13 лет. Аналогичные функции проверки возраста в последние годы тестировались такими компаниями, как Google и Meta.

Наряду с этими функциями Roblox внедряет дополнительные средства контроля для пользователей, включая возможности управления онлайн-статусом, режим «Не беспокоить» и расширенные родительские настройки для аккаунтов, привязанных к подросткам.

Roblox на протяжении многих лет сталкивается с пристальным вниманием к вопросам безопасности детей на своей платформе. В 2018 году появились сообщения о том, что аватар семилетнего ребенка подвергся сексуальному насилию в игре, а шестилетний был завлечен в виртуальную «секс-комнату». Расследование People Make Games в 2021 году утверждало, что бизнес-модель платформы эксплуатирует детский труд. В 2022 году на компанию подали в суд в Сан-Франциско с обвинениями в том, что она способствовала финансовой и сексуальной эксплуатации 10-летней девочки. Дальнейшие судебные иски в 2023 году утверждали, что платформа способствовала созданию нелегальной экосистемы азартных игр и имела недостаточные меры безопасности, приводящие к тому, что дети сталкивались с контентом для взрослых. Расследование Bloomberg в 2023 году также выявило тревожную распространенность педофилов на Roblox. В том же году платформа сообщила властям о более чем 13 000 случаях предполагаемой эксплуатации детей, что привело к 24 арестам.

«Безопасность — это основа всего, что мы делаем в Roblox», — заявил главный руководитель по безопасности Мэтт Кауфман в анонсе новых функций. «Мы стремимся задать глобальный стандарт безопасности и добропорядочности в онлайн-играх. Наша цель — предоставлять глубоко вовлекающий и расширяющий возможности опыт для всех возрастов, постоянно внедряя инновации в способы взаимодействия и общения нашего сообщества».