Gemma : un modèle d’IA détecte les arnaques en local sur smartphone

Un modèle d’IA qui lit vos conversations sans jamais les envoyer à un serveur : Google DeepMind et l’agence gouvernementale singapourienne GovTech ont annoncé le 14 octobre avoir développé un modèle de détection d’arnaques fondé sur Gemma, la famille de modèles légers de Google. Il analyse les échanges directement sur le smartphone et peut avertir l’utilisateur avant un virement ou la saisie d’informations sensibles. Le dispositif a été présenté à la Singapore International Cyber Week.

Il n’est pas disponible en France, mais la méthode concerne tous les utilisateurs de smartphone.

Deux étages pour ne pas vider la batterie

Faire tourner un modèle de langage en continu sur un téléphone épuise vite l’autonomie. Les équipes ont donc découpé le travail en deux temps. Un classificateur léger examine d’abord les messages entrants. Ce filtre surveille le texte en continu, cherche les premiers signes de manipulation et consomme très peu d’énergie.

Le second étage fait appel au modèle Gemma affiné, qui analyse un extrait plus large de la conversation pour confirmer la menace ou écarter une fausse alerte. Si l’arnaque est confirmée, un avertissement s’affiche à l’écran en temps réel et invite l’utilisateur à faire une pause avant de partager de l’argent ou des données sensibles. Le principe ressemble à un videur de boîte de nuit qui ne convoque le directeur que pour les cas litigieux.

Cette architecture colle au mode opératoire des escrocs. Les arnaqueurs peuvent passer des jours à instaurer la confiance par messages, et la technologie cible justement ces manipulations qui s’installent progressivement, comme l’usurpation d’identité et les faux investissements. Un modèle de langage peut examiner le sens d’un message, repérer une demande d’informations sensibles et reconnaître des schémas de manipulation que de simples filtres à mots-clés laissent passer.

Google n’a pas révélé quel modèle sert au premier filtrage, ni ses seuils de déclenchement.

Un modèle entraîné sur les arnaques du terrain

Le Gemma utilisé a été affiné sur des conversations d’arnaque propres au contexte local : usurpations d’institutions publiques, de banques et de figures connues, mais aussi escroqueries régionales récurrentes. D’après le Straits Times, l’entraînement s’appuie sur des données anonymisées issues de signalements et de flux de renseignement, avec des tests sur des conversations synthétiques qui reproduisent les façons de parler locales. Google DeepMind affirme que le système continuera d’être entraîné pour suivre l’évolution des tactiques.

Cette spécialisation pèse sur l’usage hors de Singapour. Rien n’indique qu’un modèle réglé sur les arnaques singapouriennes reconnaîtrait le faux conseiller bancaire ou le faux livreur qui sévissent en France. Le projet montre en revanche qu’un petit modèle, affiné sur des données locales, peut distinguer une discussion banale d’une manipulation. Les médias spécialisés présentent Gemma comme un modèle ouvert de Google, ce qui laisse à d’autres acteurs la possibilité de tenter la même démarche avec leurs propres données.

La confidentialité, argument central du projet

L’analyse se fait sur l’appareil, donc les messages ne partent pas vers un serveur. Le modèle ne peut lire les conversations qu’avec le consentement de l’utilisateur, dans le cadre des conditions d’utilisation de l’application, et ni le gouvernement ni Google ne peuvent les voir.

Le modèle doit arriver chez les utilisateurs au sein d’applications partenaires, dans un déploiement progressif mis au point avec le gouvernement singapourien. Les sources prudentes rappellent les zones d’ombre. Il n’existe pas encore de date de déploiement universelle, de liste complète d’appareils compatibles ni de taux de détection vérifiés de manière indépendante. Les termes de « déploiement national » employés par certains sites ne reposent pas sur la communication officielle de DeepMind.

Aucun taux de fausses alertes n’a été publié pour l’instant.

Ce chiffre manquant compte beaucoup au quotidien. La technologie reste soumise à des contraintes de précision, de matériel mobile, d’autorisations d’accès et au risque de signaler à tort des messages légitimes. Un détecteur qui crie au loup trop souvent finit par être désactivé, ce qui annule son intérêt.

Ce que vous pouvez déjà utiliser sur Android

Sans attendre Singapour, une protection du même genre existe déjà dans Google Messages. Google indique que la détection des arnaques dans les notifications est activée par défaut lorsqu’elle est prise en charge. L’exécution locale de Gemini Nano et les services Android AICore conditionnent la compatibilité, donc tous les téléphones ne sont pas concernés. Pour vérifier, ouvrez les Paramètres et cherchez « Détection des arnaques » avec la recherche intégrée.

Les développeurs indépendants s’emparent aussi de Gemma. Gemma Guard, une application Android disponible sur Google Play, a été conçue pour le hackathon Gemma 4 Good. Elle capture l’écran, en extrait le texte et confie à Gemma 4 le soin de juger messages suspects, pages de connexion et demandes de paiement, puis rend un verdict, un score de confiance et des conseils. Il s’agit d’un projet de concours, que je n’ai pas testé, et non d’un produit validé par un organisme de sécurité.

Autre exemple, Scram, né du défi Gemma 3n. L’application fait tourner un modèle Gemma 3n de 2 milliards de paramètres sur le téléphone, via MediaPipe et LiteRT. L’utilisateur prend une capture d’écran, et l’outil répond dans la langue du message. Ces prototypes montrent que l’analyse locale d’arnaques dépasse le cadre d’un seul pays.

Aucun de ces outils ne dispense de vérifier soi-même. Devant une demande d’argent ou de code, le réflexe reste de raccrocher et de rappeler l’organisme par son numéro officiel. Google teste par ailleurs des protections contre les arnaques par renvoi d’appel, une fraude qui passe par un autre canal que la conversation écrite et que le modèle de GovTech ne traite pas.

Sources : play.google.com | deepmind.google | menow.fr