374 Entreprises Prises au Piège des Fausses Réponses de ChatGPT et Gemini
Guides pratiques pour vous protéger — vous, votre famille et votre entreprise — contre les arnaques liées à l'IA, les deepfakes et les nouvelles menaces cyber.
Articles populaires
Le numéro que ChatGPT vous donne n'est peut-être pas le bon
Ariel Simon, qui dirige la recherche chez la société de sécurité Vigilance Security, a posé une question banale de service client à trois des assistants IA les plus utilisés au monde. Chacun a répondu avec assurance, numéro de téléphone à l'appui. Composer ce numéro n'aurait pas permis de joindre Delta Air Lines, mais un inconnu occupé à collecter des données de carte bancaire. Son équipe a repéré le même mécanisme chez au moins 374 entreprises réelles, dans une campagne baptisée Dark Sourcery et révélée le 23 septembre 2026.
Il ne s'agit ni d'un courriel piégé truffé de fautes, ni d'une voix clonée au téléphone. Cette fois, la cible, c'est la réponse de l'IA elle-même, celle qui s'interpose désormais entre un client et le reste d'Internet. Comprendre le mécanisme oblige à revoir ce que « vérifier la source » veut encore dire.
Ce que révèle l'enquête
Publiée le 23 septembre 2026, l'enquête de Vigilance Security décrit des attaquants ayant passé des mois à publier de grandes quantités de contenus fabriqués : faux articles de blog, PDF, avis produits et pages de « support » usurpées, chacune associant à une vraie marque un numéro, une adresse courriel ou un lien de connexion inventés. Parmi les cibles identifiées figurent des compagnies aériennes, des banques, des plateformes de voyage et des éditeurs de logiciels, dont Delta Air Lines, Lufthansa, Qatar Airways, JPMorgan Chase, Bank of America, Airbnb et Tripadvisor. L'équipe de Simon en a recensé des dizaines de milliers, conçues pour être lues par des systèmes d'IA plutôt que par des humains.
La technique s'apparente à ce que l'on commence à appeler le GEO, pour generative engine optimization, soit l'optimisation pour moteurs génératifs, héritière du référencement classique. Là où le référencement traditionnel dispute une place dans une liste de liens qu'un internaute garde la possibilité de juger, le GEO vise à devenir la matière première que l'IA cite directement dans sa réponse, sans jamais montrer sa source. En associant une page hébergée sur un domaine jugé fiable, comme celui d'une université ou d'une administration, à un chœur de mentions similaires sur des forums, des réseaux sociaux et des sites d'avis, Vigilance Security a réussi à faire répéter ces coordonnées inventées comme des faits établis par ChatGPT, Gemini et l'AI Overview de Google, le résumé généré par IA affiché en tête des résultats de recherche. Aucune instruction cachée n'entre en jeu ici : contrairement à l'injection de prompt, où un attaquant dissimule des ordres dans un document pour détourner le comportement du modèle, Dark Sourcery ne cherche jamais à piloter l'IA. Il suffit de remporter la course ordinaire que tout moteur génératif organise à chaque question posée, et de laisser le modèle faire le reste.
- Au moins 374 entreprises réelles se sont vu attribuer de fausses coordonnées de support, parmi lesquelles Delta, Chase, Bank of America et Airbnb.
- Vigilance Security a identifié des dizaines de milliers de pages conçues pour être retrouvées par une IA, non par un lecteur humain.
- Des personnes ayant appelé ces faux numéros disent avoir communiqué leurs données de carte bancaire à un interlocuteur qu'elles pensaient légitime.
Ce que cela change
Pour la personne qui décroche après avoir composé l'un de ces numéros, la perte est immédiate et ordinaire : un numéro de carte et un code de sécurité, livrés à un inconnu dont la voix correspondait exactement à ce qu'elle attendait, parce qu'un assistant en qui elle avait confiance venait de le lui recommander. Pour votre organisation, le constat est plus gênant : rien de tout cela ne touche votre site, vos enregistrements de domaine ni votre centre d'appels. L'attaque se joue entièrement sur une infrastructure que vous ne possédez pas et ne pouvez pas corriger, si bien que le premier signal d'alerte est souvent une réclamation client au sujet d'un appel que votre entreprise n'a jamais reçu. À l'échelle du secteur, Dark Sourcery marque un déplacement au-delà du débat sur l'injection de prompt et les jailbreaks : la nouvelle surface d'attaque n'est plus les instructions du modèle, mais le réservoir de contenus dans lequel il puise pour répondre à une question honnête. Or une décennie de sensibilisation à « vérifier l'adresse avant de cliquer » n'a rien à dire d'une réponse qui ne montre jamais d'adresse. Si votre service client reçoit des appels aujourd'hui, il vaut la peine de demander combien de personnes cette semaine disent avoir trouvé le numéro « grâce à une IA ».
Les bons réflexes
- Interrogez régulièrement ChatGPT, Gemini et l'AI Overview de Google sur le numéro de support et la page de connexion de votre propre entreprise. Surveiller votre domaine ne suffit plus à savoir ce qu'un client voit réellement lorsqu'il interroge une IA à la place.
- Publiez vos coordonnées de manière identique sur votre site vérifié, votre application et vos réseaux sociaux, et mettez-les à jour partout en même temps. Le GEO malveillant gagne par le nombre face à des mentions officielles éparpillées ou obsolètes, pas en contredisant une information exacte.
- Demandez à vos équipes en contact avec la clientèle et à vos équipes financières de vérifier tout numéro ou lien fourni par une IA sur le site officiel avant d'agir. Une réponse d'IA a désormais le même statut non vérifié qu'un résultat de recherche anonyme, même si elle n'en a pas l'apparence.
L'essentiel
Le détail à retenir de Dark Sourcery, c'est que personne n'a eu besoin de s'introduire nulle part. Les attaquants n'ont piraté ni le site de Delta ni le nom de domaine de Chase : ils ont simplement publié assez de contenus convaincants pour que les moteurs génératifs les prennent pour argent comptant, à l'échelle de dizaines de milliers de pages et de 374 entreprises. C'est désormais une voie d'accès concrète à l'argent d'un client, et elle n'apparaîtra ni dans un test de phishing ni dans un journal de pare-feu. Posez une question à votre prochaine réunion sécurité : si un client demandait aujourd'hui votre numéro de support à une IA, obtiendrait-il le bon ?
