Dans son dernier rapport, Europol a fait part de son inquiétude quant à l'usage des modèles de langage IA pour booster un bon nombre d'activités criminelles. Europol est même allé jusqu'à affirmer que des criminels se servent déjà de ChatGPT à des fins plus ou moins néfastes ! Selon l'organisme européen, il fallait s'y attendre. En effet, comme l'industrie du X (exemple qui n'a aucun rapport avec la news, mais tient absolument la route), les criminels sont généralement aussi parmi les premiers à exploiter concrètement les nouvelles technologies pour leurs activités. L'agence européenne a même déjà plusieurs exemples à donner.
Bien que ChatGPT dispose d'une certaine capacité à refuser de répondre à une requête potentiellement douteuse, beaucoup d'utilisateurs ont déjà réussi à contourner le système de filtrage mis en place par OpenAI. Ainsi, certains (pas forcement des criminels, mais aussi des journalistes) auraient déjà pu faire énoncer à ChatGPT la recette de création d'une bombe artisanale ou pour du crack, et même des conseils étape par étape et des informations clés pour commettre certains crimes. Autrement dit, Europol craint que ChatGPT puisse être utilisé pour accélérer le processus d'« éducation » sur un grand nombre de potentiels domaines de la criminalité, comme l'effraction d'une maison, le terrorisme, la cybercriminalité, les abus sexuels, la fraude, le phishing, la propagande, la désinformation, etc. Europol estime aussi que la capacité de génération de code augmente le risque de cybercriminalité en rendant la création de logiciels malveillants plus accessible.
L'agence européenne reconnaît que toutes ces informations sont évidemment déjà relativement facilement disponibles en ligne, mais souligne que des outils tels que ChatGPT peuvent faciliter et accélérer la recherche, le rassemblement des informations, l'apprentissage et la compréhension. En somme, pour un criminel potentiel avec peu ou pas de compétences techniques, mais étant un tant soit peu imaginatif, cette technologie pourrait être une ressource précieuse. Bien entendu, elle pourrait également faciliter le travail et les capacités de l'utilisateur plus avancé.
Enfin, selon Europol, les futures évolutions et futures améliorations des modèles de langage IA continueront forcément à ouvrir de nouvelles avenues aux activités illégales, quel quelles soient, et des versions clandestines sans filtres et formées différemment pourraient éventuellement aussi émerger sur le Dark Web. La question se pose désormais aussi quant à la manière dont ce type de service traitera à l'avenir les données des utilisateurs. Seront-elles toutes stockées, avec le risque que cela implique ? Faudra-t-il signaler automatiquement aux autorités les utilisateurs ayant généré des contenus particulièrement douteux ? Quoi qu'il arrive, il est évident que les forces de l'ordre en Europe et ailleurs vont devoir continuer à s'adapter à un environnement du crime ayant généralement déjà systématiquement une longueur d'avance et étant continuellement en mutation grâce aux nouvelles technologies.
Bon, cependant, vu la capacité de ChatGPT à inventer (avec brio, certes) de l'information de A à Z, et son accès limité aux dernières informations, il n'y a peut-être pas trop lieu de s’inquiéter plus que de raison dans l'immédiat. On suppose qu'Europol s'inquiète surtout pour la suite et ça, ça peut tout de même se comprendre ! C'est tout dans leur intérêt de prendre de l'avance dans leur retard assez inévitable, et la législation suivra forcément aussi le pas. Bref, wait and see... (Source : The Register)
"Si l'outil peut être utilisé à des fins malveillantes, soyez sûr qu'il le sera"
Si les précautions nécessaires ne sont pas prisent, faut pas s'étonner d'une telle utilisation, avec cette course à celui qui aura la plus grosse (d'IA hein ;), normal que ces IA soit perfectible, voir buguée.
L'Italie (oui, bon) vient d'interdire ChatGPT pour non respect du RGPD, pas forcément la meilleure solution, mais ça montre la crainte que de tels outils peuvent générer. Comme vous dites, wait & see, je sors le pop-corn ^^
Oui, ça semble évident 😄
Je te rejoins avec le pop-corn ^^
Au delà des tutos pour les criminels, ça doit surtout être une aubaine pour falsifier à grande échelle des documents, créer en masse des mails/sites/etc réalistes et sans fautes pour le phishing, bref on risque de ne plus pouvoir faire la différence entre les mails/sites officiels et les arnaques 😨
C'est l'éternel bagarre de la cuirasse contre l'obus, mais la technologie nous permettant de reconnaitre les courriels frauduleux évolue aussi très rapidement.
Perso je fais actuellement mes débuts comme admin / technicien de niveau 1, et quand tu regardes les métadonnées associés aux courriels, ça reste encore assez facile d'identifier leur provenance, et potentiellement leur contrefaçon. Après, les pirates s'ajusteront c'est sûr, mais quoi qu'il en soit on va effectivement vers un environnement web de moins en moins sécuritaire...D'où l'importance de l'éducation et de la formation contre les pratiques frauduleuses.
De moins en moins sécuritaire ?
Qu'est-ce qui te fais dire ça ?
Perso je penche plus vers le fait que tout cela va encourager un environnement d'autant plus sécuritaire, càd toujours plus contrôlé et où la vie privée n'est vraiment plus qu'un lointain souvenir pour notre bien à tous 👀
Ben faut avouer que le contrôle ne sort pas de nulle part, et qu'il n'est pas nécessairement synonyme de sécurité également 😏
Blague à part, je me suis peut être mal exprimé, mais pour moi sans qu'on en soit à la menace d'un internet Far-West, la technologie actuelle laisse quand même place pour des malversations assez croquignolettes...Malgré l'environnement de plus en plus contrôlé.
Faut avouer aussi que je réside à Montréal, et on a actuellement un réel problème avec ça, en cause un environnement collégial et universitaire très propice au développement IT lié à une législation plutôt souple et à un manque de moyen chronique du service de police municipale...Ce qui j'en conviens peut influencer mon jugement. Parce que des arnaques d'hameçonnage sophistiqué, j'en vois passer tout les jours en abondance.