Comment l’Etat islamique enseigne l’IA “responsable” à ses recrues

Les recrues de l’Etat islamique sont encouragées à utiliser l’intelligence artificielle et les chatbots de façon “responsable” dans leurs activités terroristes, dans des publications récentes de l’organisation djihadiste.

Les deux dernières éditions de Voice of Khorasan — le magazine en anglais de la branche afghane de l’État islamique au Khorassan (EI-K) — contiennent des pages expliquant comment les soutiens du groupe terroriste peuvent utiliser l’IA pour être un “moudjahid (combattant) responsable”.

L’EI-K a été lié à des attentats en Russie, en Iran, en Afghanistan et au Pakistan, ainsi qu’à l’attaque déjouée en 2024 visant des concerts de Taylor Swift à Vienne. L’année dernière, l’Union européenne a ajouté l’organisation éditrice du magazine, Al Azaim Media Foundation, à sa liste de sanctions.

Le dernier numéro de Voice of Khorasan conseille ses lecteurs sur les “manières responsables d’utiliser les chatbots d’IA” dans une section introduite par la citation : “L’IA est comme le feu. Vous pouvez l’utiliser pour éclairer une maison, ou bien pour la brûler.” Cette section fournit aussi des exemples d’utilisation de ces outils pour la prédication et les actions de prosélytisme.

“L’IA est partout. Apprenez à l’utiliser avant qu’elle n’en apprenne trop sur vous. Éduquez vos enfants et vos étudiants pour qu’ils soient cyberconscients et ancrés dans la spiritualité”, peut-on lire dans le magazine.

Voice of Khorasan souligne également l’utilité de l’IA pour chercher des informations anonymement en évitant de “partager des informations sensibles” et de “s’exposer à des risques inutiles”.

L’article ajoute que les chatbots ne doivent pas être utilisés pour partager des informations personnelles “qui peuvent remonter jusqu’à nous”, pour mettre en ligne des fichiers confidentiels, pour traiter des questions politiques ou de sécurité ou encore des jugements religieux.

Dans son édition précédente, Voice of Khorasan compare les modèles d’IA d’OpenAI, d’Anthropic, de Meta, de Microsoft et de DeepSeek. Elle met en garde contre certains modèles en suggérant qu’ils sont impliqués dans l’infrastructure d’IA des forces de défense israéliennes. La publication recommande Brave Leo, un outil centré sur la protection de la vie privée, pour les “requêtes sensibles”.

Jonathan Hall, un expert indépendant qui conseille le gouvernement britannique sur sa législation antiterroriste, avait alerté l’an dernier sur la “vague à venir” de l’IA. Il estimait alors que cette technologie risquait d’intensifier la propagande terroriste et de faciliter la préparation d’attentats.

“Les progrès de l’IA et de l’IA agentique s’accélèrent rapidement, et les groupes terroristes accèdent de plus en plus facilement à ces technologies clés en main”, a déclaré Jonathan Hall à POLITICO après avoir pris connaissance de ces tutoriels.

“Les grands modèles de langage (LLM) lèvent certains obstacles à la production d’une propagande sophistiquée et sur mesure, ce qui pose problème, car les groupes terroristes cherchent de plus en plus à s’exprimer dans différentes langues pour exploiter les griefs locaux”, ajoute-t-il.

“Cela ne m’étonnerait pas que la radicalisation par chatbot commence à prendre de l’ampleur. Si l’on peut créer un site web terroriste, pourquoi s’abstenir de créer un chatbot terroriste ? Si les responsables gouvernementaux ne surveillent pas déjà les développements de l’IA au quotidien, ils devraient vraiment le faire”, poursuit l’expert.

L’EI-K a été mis en cause pour des attaques en Russie, en Iran, en Afghanistan et au Pakistan. | Anthony Pizzoferrato/Middle East Images/AFP via Getty Images

Un précédent numéro de Voice of Khorasan affirme que la maîtrise de l’intelligence artificielle est un “fard al-ayn” — une obligation religieuse que tout musulman doit accomplir au même titre que la prière, le jeûne et le pèlerinage.

On peut y lire : “L’IA n’est plus optionnelle, c’est votre bouclier et votre boussole dans un monde numérique rempli de menaces cachées.”

Avi Jager, directeur senior du département “Severe Harms Intelligence” d’Alice, une société de sécurité informatique spécialisée dans l’IA, a estimé que les documents ne semblaient pas seulement offrir des “conseils tactiques”. Ils marquent aussi “un changement idéologique avec des conséquences importantes sur le long terme”.

“Depuis des années, des groupes comme l’Etat islamique, et plus largement les mouvements djihadistes, se méfient des technologies émergentes, comme l’IA. Auparavant, on pouvait lire des arguments selon lesquels leur utilisation pourrait être non islamique, ou que le fait de s’appuyer sur ces outils contredisait la pureté de la guidance divine”, indique Avi Jager, qui ajoute : “C’est ce qui rend ce moment si remarquable. L’EI-K ne se contente plus de tolérer l’intelligence artificielle, mais il approuve explicitement son utilisation sous certaines conditions.”

Cet article a d’abord été publié par POLITICO en anglais et a été édité en français par Jules Darmanin.