État au 22 septembre 2026. Le Plan IA360 a été présenté le 21 septembre. Il n'existe ni appel à projets ni bases réglementaires auxquels une entreprise puisse se présenter aujourd'hui, pour aucun des projets du plan. Ce qui suit ne dépend d'aucun de ces projets : c'est un risque qui existe déjà aujourd'hui, avec ou sans plan.
Parmi les projets qu'annonce le plan figure une stratégie d'acculturation à l'IA pour la population adulte qui inclut, parmi ses contenus, « identificación de contenidos sintéticos y de fraudes » (« identification des contenus synthétiques et des fraudes »). Cette phrase décrit bien le problème, mais à l'échelle du pays. À l'échelle d'une entreprise concrète, le contenu synthétique n'est plus une question de culture numérique : c'est une voie de fraude concrète, qui vise des personnes nommément, dirigée contre sa marque ou contre les personnes qui y travaillent.
Une voix clonée qui sonne comme celle du directeur financier, demandant par téléphone un virement urgent. Un e-mail qui imite le style d'écriture de la direction au point que personne ne le remet en question avant de cliquer. Une image générée qui montre un produit avec un défaut qui n'a jamais existé, circulant avant même que l'entreprise ne sache qu'elle existe. Ce sont trois schémas de fraude déjà en circulation, à la différence que l'IA générative en a réduit le coût et augmenté la crédibilité d'exécution.
Pourquoi ce n'est pas seulement un problème de cybersécurité classique
Les filtres de messagerie et les protocoles de vérification traditionnels ont été conçus pour détecter des signaux techniques : un domaine falsifié, un lien suspect, une rédaction truffée d'erreurs qui trahissait la fraude. Le contenu synthétique n'a besoin de rien de tout cela. Un appel avec une voix clonée n'a aucun indicateur technique qu'un filtre puisse lire, parce qu'il arrive par la voix, dans une conversation qui sonne comme la personne réelle. Le problème s'est déplacé de ce qu'un système détecte automatiquement vers ce qu'une personne doit savoir reconnaître.
La véritable défense face à la voix ou à l'e-mail clonés est une question de procédure
Il existe des détecteurs de voix synthétique en temps réel, mais ils sont pensés pour des centres d'appels à grande échelle, pas pour le mobile d'un dirigeant, et il ne convient pas de leur confier seuls la décision d'autoriser un paiement. La défense à la portée de toute entreprise, sans dépendre de cette technologie, relève de la procédure, et coûte peu à mettre en place :
- Double vérification de toute demande inhabituelle — changement de compte bancaire, paiement urgent, saut d'une étape habituelle — avant de l'exécuter.
- Un mot de code interne, convenu à l'avance et connu seulement de qui doit l'utiliser, pour confirmer des instructions sensibles reçues par la voix.
- Un second canal, déjà connu à l'avance, pour confirmer tout paiement ou changement de données bancaires : jamais celui que propose l'appel lui-même ou l'e-mail lui-même.
Ces trois mesures ne dépendent d'aucun fournisseur ni d'aucun budget technologique. Ce sont elles qui réduisent le plus le risque d'une fraude par usurpation vocale, et il convient de les avoir actives avant de regarder ce que la technologie peut apporter sur deux fronts distincts et plus limités.
Deux fronts où la technologie aide bel et bien, chacun dans son domaine
Aucun des deux services suivants n'empêche que quelqu'un clone la voix d'un dirigeant à partir d'un enregistrement public : c'est la procédure ci-dessus qui l'arrête. Ce qu'ils font, en revanche, c'est fermer deux autres portes, chacune sur un terrain différent.
Que le chatbot ou l'agent propre de l'entreprise ne dise pas ce qu'il ne doit pas dire. Un assistant connecté à la marque — le chat de relation client, un agent qui répond sur les réseaux — peut être manipulé avec les techniques d'un jailbreak pour lui faire dire des choses que l'entreprise n'approuverait jamais, avec son nom affiché devant le client. Le vérifier avant qu'un tiers ne le fasse, c'est le travail de l'AI Red Teaming de Summum IA : des attaques contrôlées et reproductibles sur les modèles et agents propres de l'entreprise, avec un rapport de constats hiérarchisé. Parmi les risques qu'il combat figure celui que sa propre page nomme : une réputation endommagée par un jailbreak viral.
Que l'information interne ne sorte pas sans contrôle. L'autre front est la fuite de données vers des outils d'IA que personne n'a autorisés : un contrat, une base de clients, du code source ou de la documentation interne collés dans une IA gratuite sortent du périmètre de l'entreprise sans laisser de trace. Contrôler ce qui peut sortir, et avec quel registre, c'est le terrain de l'AI Gateway d'entreprise de Summum IA : visibilité sur les outils utilisés par l'équipe, filtrage des informations sensibles pouvant sortir par leur biais, et registre de chaque usage.
Signaux qui devraient déclencher une alarme
- Une demande de virement, de changement de compte bancaire ou de paiement urgent par téléphone ou par audio, sans confirmation par le second canal déjà connu à l'avance.
- Un e-mail au style correct de son signataire, qui demande de sauter une étape de vérification qui normalement ne se saute pas.
- Un contenu visuel de l'entreprise (produit, installations, personnel) qui circule sans que personne de l'équipe de communication ne l'ait généré ni autorisé.
- Une urgence inhabituelle comme argument principal : la fraude par contenu synthétique fonctionne mieux quand il n'y a pas le temps de vérifier quoi que ce soit.
Questions fréquentes
Comment distinguer un appel réel d'un appel à la voix clonée ?
Aujourd'hui, la voie fiable consiste à confirmer par un second canal déjà connu à l'avance toute instruction inhabituelle ou urgente reçue par la voix ou par e-mail, jamais par un canal proposé par l'appel lui-même ou par l'e-mail lui-même.
L'AI Red Teaming empêche-t-il qu'un client reçoive un appel avec la voix clonée de mon directeur ?
Non. Le red teaming met à l'épreuve le chatbot ou l'agent propre de l'entreprise, il ne protège pas contre le fait qu'un tiers clone une voix à partir d'un enregistrement public. Face à cela, la défense qui fonctionne est la procédure de double vérification décrite plus haut.
Que faire si quelqu'un a déjà usurpé l'image ou la voix de l'entreprise ?
S'il y a eu un paiement, la première chose à faire est de prévenir la banque pour tenter de le retenir. Ensuite, on documente les preuves disponibles (enregistrement, numéro, e-mails), on signale le contenu à la plateforme où il circule, on dépose la plainte correspondante et on vérifie en interne quel matériel réel a pu servir de base pour le générer. L'INCIBE (l'institut national espagnol de cybersécurité) répond aussi aux entreprises au 017 (numéro espagnol), sa ligne gratuite d'aide en cybersécurité.
Faut-il les deux services, ou un seul suffit-il ?
Ils couvrent des risques différents. L'AI Gateway limite ce qui sort sans contrôle depuis l'intérieur de l'entreprise ; l'AI Red Teaming vérifie si l'assistant propre peut être manipulé de l'extérieur. Lequel est nécessaire en premier dépend de si l'entreprise a déjà un chatbot ou un agent face au public, ou si le risque le plus élevé aujourd'hui est la fuite de matériel interne.
Le reste du Plan IA360 se trouve dans le guide complet du Plan IA360.
Projet moteur 6 (stratégie d'acculturation à l'IA), axe Éducation, Plan IA360, La Moncloa, 21 septembre 2026. Document officiel complet (PDF).
Dernière vérification : 22 septembre 2026.