Google DeepMind e governo de Singapura criam modelo de IA para detecção de golpes

A colaboração entre a Google DeepMind e o governo de Singapura resultou no desenvolvimento de um modelo de IA fine-tuned para detecção de golpes em chats privados. O modelo, chamado Gemma, é leve e pode ser executado diretamente no dispositivo do usuário, sem a necessidade de acesso a dados na nuvem. Isso é particularmente importante em Singapura, onde os golpes, incluindo fraude de investimento, ofertas de emprego falsas e impersonação de funcionários públicos, representam mais da metade dos crimes relatados e resultaram em perdas de mais de S$4 bilhões desde 2019.

O modelo Gemma foi treinado em conversas de golpes locais, incluindo impersonações de instituições públicas, bancos e figuras locais, bem como esquemas regionais em tendência. Isso permite que o modelo distinga entre conversas sociais benignas e manipulação genuína, quando implantado em aplicativos instalados por cidadãos. Além disso, o modelo pode processar dados de conversa diretamente no dispositivo, permitindo uma análise mais rápida de padrões de conversa para detectar intenções manipuladoras e ajudar os cidadãos a agir antes que ocorra uma exposição financeira ou de credenciais.

A implantação do modelo em aplicativos será feita de forma cuidadosa e desenvolvida em parceria com o governo de Singapura. Quando implantado, o modelo só terá acesso a conversas no dispositivo com o consentimento do usuário, de acordo com os termos de uso do aplicativo. Além disso, o modelo executa-se inteiramente no dispositivo, o que significa que nem o governo de Singapura nem a Google terão acesso às conversas dos usuários por meio de sua implantação.

A detecção de golpes não deve significar a perda da privacidade pessoal. Trabalhando com a Google DeepMind, o governo de Singapura está trazendo proteção avançada de IA diretamente para os dispositivos dos cidadãos. Isso permite que eles capturem tentativas de golpe altamente direcionadas e locais em tempo real, mantendo as comunicações pessoais privadas. Quando o modelo detecta padrões de conversa manipuladora, ele dispara um aviso em tempo real diretamente no dispositivo do usuário, aconselhando-o a pausar e exercer cautela antes de compartilhar informações sensíveis ou fundos.

A execução de um modelo de classificador de golpes complexo em smartphones modernos não é uma tarefa fácil, com a eficiência da bateria sendo uma área crítica de preocupação. Para isso, a Google DeepMind está utilizando um pipeline de duas etapas. A colaboração foi apresentada na Semana Internacional de Cibersegurança de Singapura (SICW 2026) e fornece um modelo para plataformas de mensagens que equilibram a proteção do usuário com criptografia de ponta a ponta. Uma governança rigorosa foi mantida ao longo do desenvolvimento.

O projeto demonstra como a IA pode ajudar a combater a criminalidade sem comprometer a segurança ou a privacidade. Ele também mostra como os governos e os provedores de modelos podem trabalhar juntos para construir tecnologia para o bem público. Com esse modelo leve e de detecção de golpes em tempo real, a Google DeepMind provou a capacidade de detecção local de golpes em tempo real, garantindo que as interações de chat permaneçam seguras. A empresa espera compartilhar mais sobre sua colaboração com o governo de Singapura, bem como explorar o potencial para que tecnologia semelhante seja implantada em outros países.