Les experts d’Europol se sont penchés sur l’utilisation du système d’intelligence artificielle de style ChatGPT (ou Large Language Models, LLM, un type de système d’IA qui peut traiter, manipuler et générer du texte) par les criminels, mais aussi par les enquêteurs. Europol a donc publié un aperçu de l’utilisation abusive potentielle de ChatGPT et de ce qui pourrait encore arriver. L’ambition de ce rapport est de sensibiliser à l’utilisation abusive potentielle des LLM, d’ouvrir un dialogue avec les entreprises d’intelligence artificielle (IA) pour les aider à mettre en place de meilleures garanties et de promouvoir le développement de systèmes d’IA sûrs et fiables. ChatGPT est un LLM qui a été développé par OpenAI et rendu public en novembre 2022. Le modèle actuel accessible au public est capable de traiter et de générer un texte de type humain en réponse aux demandes de l’utilisateur. Plus précisément, le modèle peut répondre à des questions sur une variété de sujets, traduire du texte, s’engager dans des échanges conversationnels (« chatter »), générer de nouveaux contenus et produire du code fonctionnel.
Les trois domaines de criminalité suivants figurent parmi les sujets de préoccupation identifiés par les experts :
– Fraude et ingénierie sociale : la capacité de ChatGPT à rédiger des textes très réalistes en fait un outil utile à des fins de phishing. La capacité des LLM à reproduire des modèles de langage peut être utilisée pour imiter le style de discours d’individus ou de groupes spécifiques, et donc inciter les victimes potentielles à placer leur confiance entre les mains d’acteurs criminels.
– Désinformation : ChatGPT excelle dans la production de textes rendant le modèle idéal à des fins de propagande et de désinformation, car il permet aux utilisateurs de générer et de diffuser des messages reflétant un récit spécifique avec relativement peu d’effort.
– Cybercriminalité : en plus de générer un langage de type humain, ChatGPT est capable de produire du code dans un certain nombre de langages de programmation différents. Pour un criminel potentiel avec peu de connaissances techniques, il s’agit d’une ressource inestimable pour produire du code malveillant.

Voir l’étude ici