A Roblox Corporation apresenta o Roblox Sentinel, um sistema de inteligência artificial criado para identificar sinais sutis de possíveis riscos a crianças dentro e fora da sua plataforma. Com o Sentinel, a Roblox consegue detectar cedo comunicações suspeitas e agir rápido, investigando e, quando necessário, acionando as autoridades. Desde o fim de 2024, o sistema já ajudou a Roblox a reportar cerca de 1.200 casos ao National Center for Missing and Exploited Children só na primeira metade de 2025.
Diferente de soluções fechadas, o Sentinel é parte do kit de ferramentas de segurança de código aberto da Roblox, o que significa que outras plataformas digitais podem usar essa tecnologia para fortalecer a segurança em seus próprios ambientes. A Roblox aposta que a proteção online é um desafio global e, por isso, aposta em colaboração com outros líderes da indústria para ampliar o impacto positivo.
O Sentinel não funciona sozinho. Após a detecção inicial da IA, especialistas humanos analisam os casos sinalizados para confirmar possíveis violações. Esse processo cria um ciclo de aprendizado que ajuda o sistema a evoluir, reconhecendo padrões novos e complexos de comportamento mal-intencionado. Essa combinação entre tecnologia e análise humana é essencial para manter o Sentinel atualizado e eficaz contra ameaças digitais.
A Roblox não limita a proteção ao seu próprio universo gamer. A empresa também participa de iniciativas como o ROOST, do qual é membro fundador, e o projeto Lantern, da Tech Coalition. Essas parcerias buscam democratizar o acesso a ferramentas sofisticadas de segurança para todas as plataformas, especialmente para combater ameaças a crianças.
Juliet Shen, Head of Product do ROOST, reforça essa visão: “Muitas plataformas ainda não têm as ferramentas certas para prevenir danos online, especialmente contra crianças. A contribuição da Roblox com ferramentas abertas fortalece todo o setor de Trust & Safety.”
