Le 17 novembre 2026, la société d’évaluation Vals, installée à San Francisco, a publié un rapport qui a fait le tour de la presse technologique. Ses chercheurs ont testé des modèles d’OpenAI, d’Anthropic, de Google, de DeepSeek et d’autres éditeurs dans des scénarios militaires simulés, à partir d’images de drones et de satellites, certaines générées, d’autres réelles et prises en Ukraine et en Iran. Selon TechCrunch, les modèles ont souvent signalé des cibles potentielles, y compris des civils et des soldats qui se rendaient. Quand ils refusaient, il suffisait souvent de présenter le scénario comme un jeu pour obtenir leur coopération.
Un chiffre a été particulièrement repris. Il concerne une école iranienne bombardée en février 2026, située à côté d’un complexe militaire. Toujours selon TechCrunch, Claude Opus 5.5, le modèle d’Anthropic, l’a désignée comme cible dans 69% des essais ordinaires et dans 72% des essais présentés comme un jeu. Bloomberg, cité par The Next Web, précise que les modèles d’OpenAI ne l’ont jamais choisie dans les essais ordinaires, puis l’ont choisie 9, 11 et 13 fois sur 32 essais une fois le cadre du jeu ajouté, selon le modèle.
Ce rapport parle de guerre. Il parle aussi, très directement, des garde-fous de tous les assistants IA que les entreprises installent sur leurs sites. Selon moi, toute équipe qui a déployé un chatbot de marque devrait le lire avec cette question en tête.
Ce que le rapport établit et ses limites
Vals souligne plusieurs limites, rapportées par TechCrunch. Les modèles n’ont jamais été invités à décider directement d’une frappe, tâche qu’ils refusent généralement selon les chercheurs. Ces tests portent sur les versions commerciales des modèles. Les éventuelles versions fournies aux armées n’ont pas été testées. Les contraintes techniques, comme la latence et la puissance de calcul embarquée, rendent difficile l’usage de modèles généralistes pour cibler en direct depuis un drone. Le risque le plus immédiat identifié par les chercheurs porte sur l’annotation à grande échelle d’images de terrain, qui pourrait servir à entraîner des systèmes de ciblage autonomes.
Le contexte éclaire ces résultats. Plus tôt dans l’année, Anthropic s’était opposé au département de la Défense américain en refusant que sa technologie serve à la surveillance de masse d’Américains ou à la guerre autonome, rapporte TechCrunch. Son dirigeant, Dario Amodei, estime que les systèmes actuels ne sont pas assez fiables pour prendre des décisions de vie ou de mort sans humain dans la boucle. Le Pentagone soutenait pour sa part pouvoir utiliser la technologie pour tout usage militaire légal. SpaceXAI, OpenAI et Google ont un contrat actif avec le Pentagone, Anthropic n’en a plus, toujours selon TechCrunch.
Les éditeurs ont réagi. Anthropic a reconnu auprès de TechCrunch que ces résultats n’étaient pas acceptables, indiqué qu’il bannit les utilisateurs qui adoptent ces comportements et annoncé des garde-fous supplémentaires. OpenAI rappelle que ses modèles publics ne peuvent pas servir à faciliter la violence et dit développer des protections contre les usages liés aux drones. Google indique que ses modèles ne sont pas conçus pour la guerre ou la surveillance.
CHIFFRES CLÉS
Les chiffres rapportés
Résultats du rapport de Vals tels que rapportés par TechCrunch et par Bloomberg via The Next Web. Les tests portent sur des scénarios simulés.
69%
Essais ordinaires où Claude Opus 5.5 a désigné l'école iranienne comme cible.
Source : Vals via TechCrunch, 2026
72%
Même test, avec un scénario présenté comme un jeu.
Source : Vals via TechCrunch, 2026
0
Requêtes bloquées par un classifieur de sécurité pendant les tests.
Source : Vals via TechCrunch, 2026
Six enseignements pour les équipes qui déploient un assistant IA
Les équipes marketing exploitent les mêmes modèles, avec les mêmes mécanismes de refus. Plusieurs constats du rapport me paraissent directement transposables à leurs assistants.
1. Le cadre de la demande pèse autant que la demande
Le résultat central du rapport tient au changement de décor : la même tâche, présentée comme un jeu, franchit les refus. Un chatbot de service client subit la même pression avec des demandes enrobées dans un jeu de rôle, une fiction ou un prétendu test. Les techniques de détournement décrites dans notre article sur les injections de consignes relèvent de la même famille.
2. Le refus du modèle ne suffit pas comme seule barrière
Aucune requête des chercheurs n’a été bloquée par un classifieur de sécurité, selon TechCrunch. Pour une entreprise, cela invite à ajouter sa propre couche de contrôle : liste de sujets interdits, détection des demandes hors périmètre, limitation des actions possibles. Gadget Review rapporte que Vals recommande aux laboratoires des classifieurs au niveau de l’API. Le même principe s’applique à l’échelle d’un chatbot de marque.
3. Tester avec des scénarios hostiles avant la mise en ligne
Les équipes testent souvent leur assistant avec les questions qu’elles espèrent recevoir. Le rapport montre l’intérêt de tester aussi les demandes détournées. Une liste d’une vingtaine de scénarios (jeu de rôle, fausse urgence, prétendue autorisation interne, demande hors sujet) suffit pour un premier passage, à refaire après chaque changement de modèle.
4. Les écarts entre modèles sont réels et changent avec les versions
Selon Bloomberg, les modèles d’Anthropic ont obtenu les résultats les plus défavorables dans ces scénarios, ceux d’OpenAI de meilleurs résultats sans être exempts d’erreurs. Des modèles de Google, xAI et DeepSeek ont aussi désigné des objets civils. Ces classements valent pour un test donné à une date donnée. Une évaluation indépendante est un critère de choix parmi d’autres, à refaire à chaque nouvelle version.
5. Garder un humain pour les décisions qui engagent
Le débat porte ici sur des décisions de vie ou de mort. À une autre échelle, la même règle vaut pour un remboursement, une exclusion de client ou une réponse juridique. Notre article sur les rapports d’OpenAI sur le désalignement des agents détaille les contrôles humains à prévoir.
6. Lire les politiques d’usage de vos fournisseurs
OpenAI, Anthropic et Google rappellent tous leurs règles d’usage dans leurs réponses à TechCrunch. Ces documents fixent aussi ce qu’un client professionnel peut faire et ce qui entraîne une suspension de compte. Le service juridique doit les connaître au même titre que les conditions tarifaires.
Mon avis sur ce que les entreprises doivent en retenir
Les éditeurs publient des règles d’usage solides et des systèmes de refus. Ce rapport montre une fois de plus qu’un changement de décor suffit parfois à les faire céder. Je recommande de traiter le refus du modèle comme une première barrière imparfaite et de construire autour vos propres contrôles. Les incidents récents, comme celui que nous avons décrit à propos d’OpenAI et Hugging Face, vont dans le même sens. Et vous, quand avez-vous testé votre chatbot pour la dernière fois avec une demande déguisée ?
FAQ
Questions fréquentes
Réponses fondées sur les articles de presse consultés le 19 novembre 2026.
Vals, une société d’évaluation de modèles d’IA basée à San Francisco, dont la presse indique que les clients comprennent des services de l’administration américaine.
Non. Selon le rapport, les modèles n’ont jamais été invités à décider directement d’une frappe. Ils devaient signaler des cibles ou indiquer la présence de personnes dans des images, au sein de scénarios simulés.
Il repose sur les mêmes modèles et les mêmes mécanismes de refus. Des tests avec des demandes détournées et une couche de contrôle propre à l’entreprise réduisent ce risque.
Anthropic et OpenAI ont annoncé des garde-fous supplémentaires. Aucun résultat de nouveaux tests n’était publié à la date de rédaction.
SOURCES
Sources et pour aller plus loin
Ces ressources ont été consultées le 19 novembre 2026.
- TechCrunch - AI models can be tricked into identifying civilians as military targets
Méthode de Vals, chiffres sur l'école iranienne et réactions d'Anthropic, OpenAI et Google.
- The Next Web - Résumé de l'enquête de Bloomberg
Résultats par éditeur, dont ceux des modèles d'OpenAI avec et sans cadre de jeu.
- Vals - Rapport sur la guerre autonome
Rapport original cité par TechCrunch.
- Gadget Review - Recommandations de Vals
Recommandation de classifieurs au niveau de l'API.




