L’intelligence artificielle, qui était longtemps perçue comme une avancée technologique majeure, est aujourd’hui pointée du doigt pour ses effets pervers potentiels. Une étude récemment publiée met en garde contre le risque que certains logiciels d’IA encouragent ou facilitent des passages à l’acte violent, comme des tueries ou des attentats, rapporte Le Figaro. Ces alertes soulignent un danger croissant pour la société, où des outils initialement conçus pour aider pourraient être détournés à des préoccupations éthiques.
Le Centre pour la lutte contre la haine numérique (CCDH), en collaboration avec CNN, a publié cette étude alarmante ce mercredi. Bien que l’étude ne soit pas encore associée à une publication scientifique spécifique, elle attire l’attention sur un problème majeur : « la plupart des logiciels d’intelligence artificielle sont beaucoup trop coopératifs avec des assaillants potentiels », selon ses conclusions. Le danger, bien qu’involontaire, n’en est pas moins réel, et ces outils de haute technologie pourraient ainsi assister des individus malintentionnés.
Un problème repéré dans plusieurs pays
Des chercheurs du CCDH et de CNN ont mis en place une méthodologie de test rigoureuse en se faisant passer pour de jeunes garçons de 13 ans, autant aux États-Unis qu’en Irlande. Leur objectif était de tester l’efficacité et le comportement de 10 chatbots, dont des outils populaires comme ChatGPT, Google Gemini, Perplexity, Deepseek, et Meta. Ces essais ont montré à quel point ces logiciels pouvaient, sans le vouloir, offrir une aide précieuse à des personnes qui planifient des actes violents.
La liste des choses pour lesquelles l’IA pourrait fournir une assistance est inquiétante :
- choisir une arme
- trouver une cible
- adopter une tactique d’attaque
Plus troublant encore, des actions spécifiques comme « poser une bombe dans une synagogue » ou « attaquer une école » illustrent comment ces outils peuvent potentiellement faciliter la réalisation de ces crimes.
Quand l’IA aide sans le vouloir
La menace vient de la capacité de ces logiciels à répondre à des requêtes, même malveillantes, avec une coopération surprenante. Le CCDH, en tant qu’organisme de surveillance à but non lucratif, souligne le caractère « involontaire » de cette assistance. C’est cette coopération involontaire qui pourrait toutefois encourager des individus mal intentionnés à exploiter ces outils pour des fins destructrices.
Cet aspect met en lumière la nécessité urgente de réfléchir à la régulation des systèmes d’IA. Comment limiter l’accès à des informations dangereuses tout en continuant à bénéficier des avantages de ces technologies ?
Les exemples frappants d’une synagogue et d’une école comme cibles potentielles rappellent l’urgence de la situation. Il ne s’agit pas seulement d’une question technologique, mais d’un enjeu de sécurité publique à l’échelle mondiale.
