WhatsApp quer usar IA para barrar golpes e proteger usuários

O WhatsApp apresentou uma prévia do Scam Alert (Alerta de Golpe), novo recurso de segurança que usa inteligência artificial para identificar possíveis tentativas de fraude. A ferramenta foi desenvolvida para lidar com golpes que estão ficando mais sofisticados, incluindo casos de personificação e abordagens criadas com ajuda de IA. Por enquanto, o Scam Alert está em beta limitado em algumas regiões.

O sistema usa um modelo de aprendizado de máquina que roda no celular. A tecnologia analisa sinais linguísticos e a estrutura das conversas para identificar padrões associados a golpes. Quando uma mensagem é considerada suspeita, o WhatsApp mostra um alerta somente para quem recebeu a mensagem. A partir daí, o usuário decide o que fazer: bloquear o contato, denunciar a conversa ou continuar normalmente.

O Scam Alert é totalmente opcional e fica sob controle do usuário. A Meta afirma que é possível ativar ou desativar o recurso a qualquer momento pelas configurações do aplicativo. Caso um alerta seja considerado falso, também dá para marcar o chat como confiável. Nesse caso, o aviso atual é removido e o Scam Alert passa a não sinalizar novamente aquela conversa específica.

Para avaliar o funcionamento do recurso, o WhatsApp coleta dados de telemetria de forma agregada e anonimizada. As informações indicam, por exemplo, quantas vezes os alertas foram exibidos e qual decisão o usuário tomou depois de receber um aviso. Esses dados são processados em servidores especializados da AMD e da Nvidia, que utilizam Ambientes de Execução Confiáveis (TEEs) para proteger as informações durante o processamento.

Como fica a criptografia de ponta a ponta? (explicar)

O Scam Alert foi desenvolvido para funcionar sem comprometer a criptografia de ponta a ponta do WhatsApp. Como o modelo analisa os sinais da conversa no celular, o conteúdo das mensagens não é enviado automaticamente para o WhatsApp, a Meta ou outras empresas para ser classificado.

Assim, o sistema consegue procurar indícios de golpe sem que a plataforma precise descriptografar as conversas nos servidores. O envio de conteúdo ocorre apenas quando há uma ação específica do usuário. Isso acontece em situações como:

Denúncia: quando o usuário denuncia uma mensagem ou conversa, o conteúdo é enviado aos servidores para análise, como já acontece nas ferramentas atuais;
Ajuste de precisão: caso um alerta seja considerado falso, o usuário pode marcar o chat como confiável e optar por compartilhar as cinco mensagens recebidas mais recentemente. Essas informações ajudam a aprimorar o modelo;
Telemetria protegida: os dados enviados para análise não incluem o conteúdo das mensagens, a identidade dos participantes ou informações capazes de indicar qual conversa gerou determinado alerta.

Se você gostou do conteúdo, talvez também se interesse por conferir “O WhatsApp é criptografado? Entenda como funciona a proteção do app”.