La vérité à l'ère de l'IA (ou une autre menace interne accidentelle pour la réalité)

Supt. Denis Desnoyers (retraité)

Directeur des partenariats et instructeur associé, CdEC GRIn

Selon un dicton populaire, l'histoire est écrite par les vainqueurs. Il est généralement admis que la « vérité historique » a été tempérée par ceux qui détenaient le pouvoir, ceux qui ont survécu et ceux qui savaient lire et écrire. Les sources dont disposent les historiens pour établir la vérité historique sont limitées par ce qui a été transmis par les générations précédentes.

Avec l'augmentation du taux d'alphabétisation au cours des XXe et XXIe siècles et l'avènement d'Internet, un changement de paradigme s'est opéré quant aux personnes et aux informations transmises. Un gigantesque flux de données a été mis en place et fonctionne à plein régime 24 heures sur 24, 7 jours sur 7, 365 jours par an. Notre capacité à rechercher des informations dans le bruit du flux de données omniprésent a également évolué. Les bibliothèques, les encyclopédies, les journaux papier, les magazines, les publications spécialisées et les registres (pour n'en citer que quelques-uns) ont cédé la place à Internet, qui est aujourd'hui en train de céder la place à l'intelligence artificielle (IA). Désormais, pour effectuer une recherche dans votre navigateur, il vous suffit de saisir votre requête sous forme de question et vous obtiendrez « une » réponse qui vous évitera de passer des heures à parcourir des pages web.

Pour ceux qui ont lu mon précédent blog, vous savez que je suis un ancien enquêteur de la Gendarmerie royale du Canada spécialisé dans la criminalité en col blanc. J'ai également travaillé dans le domaine du renseignement. J'y ai appris la nature circulaire du renseignement, ou en bref, « garbage in, garbage out » (si l'on entre des données erronées, on obtient des résultats erronés).

Les forces de l'ordre passent beaucoup de temps à saisir dans des bases de données les informations recueillies lors de leurs différentes enquêtes. Les « analystes criminels » qui travaillent dans les forces de l'ordre à travers le pays exploitent ces bases de données dans le but de découvrir des liens qui feront avancer les enquêtes en cours. En revanche, les « analystes stratégiques » utilisent les mêmes bases de données pour rechercher des informations que les décideurs de haut niveau peuvent utiliser pour déterminer où allouer au mieux des ressources limitées. Ils le font dans le but d'être guidés par le renseignement, c'est-à-dire d'obtenir le meilleur rendement possible.

Pour paraphraser une déclaration du secrétaire américain à la Défense Donald Rumsfeld (vers 2002), le renseignement nous aide à déterminer les « choses connues connues ». Bien que les commentaires de Donald Rumsfeld aient été associés à la guerre en Irak, une grande partie de ce qu'il a dit s'applique au renseignement criminel et, par extension, à l'IA. Lorsqu'un ensemble de données ou une enquête devient trop vaste pour être pleinement compris par une seule personne, il devient trop complexe pour relier les détails pertinents. C'est un domaine dans lequel l'IA peut présenter d'énormes avantages. Les outils d'IA de reconnaissance de formes peuvent aider un analyste à trouver des liens qui auraient autrement pu être manqués, le tout dans un monde de connaissances connues. À mon avis, la reconnaissance de formes dans une base de données est peut-être l'avantage le plus significatif de l'IA. La citation complète de Donald Rumsfeld était : « Il y a des choses connues connues. Il y a des choses que nous savons que nous savons. Nous savons également qu'il existe des inconnues connues, c'est-à-dire que nous savons qu'il y a des choses que nous ne savons pas. Mais il existe aussi des inconnues inconnues, celles dont nous ne savons pas que nous ne les savons pas. »

Il n'est pas surprenant que les bases de données des services de renseignement ne puissent nous éclairer sur les inconnues inconnues, principalement parce que rien de ce que nous ignorons n'a jamais été intégré dans la base de données. Cependant, ce qui se trouve dans les bases de données des services de renseignement a été y intégré par des analystes qui ont obtenu leurs données auprès d'agents des forces de l'ordre assermentés. En ce qui concerne la fiabilité, si un membre des forces de l'ordre est malhonnête, il est licencié, peut faire l'objet de sanctions financières et, dans certains cas, peut même être poursuivi au pénal. Pourquoi ces normes éthiques élevées ? Parce que la vérité est importante. Les forces de l'ordre ont pour mission d'envoyer les délinquants en prison. Toutes les preuves présentées au procès doivent être véridiques à 100 % et leur source doit être vérifiable. Il est donc essentiel que les informations contenues dans ces bases de données soient exactes.

Considérez le concept d'une base de données de renseignements des forces de l'ordre, avec tous ses contrôles et vérifications de la véracité, de l'exactitude et de la source, et étendez-le à l'Internet. Lorsque vous remplacez les analystes criminels et stratégiques par l'IA, au lieu d'avoir des professionnels assermentés qui génèrent des rapports et administrent la base de données, qui englobe désormais le World Wide Web, vous avez n'importe quel « Tom, Dick ou Sally » qui a déjà eu une opinion ou un préjugé sur quoi que ce soit (indépendamment de ses convictions politiques, religieuses, de genre ou éthiques) et qui a imputé quelque chose sur Internet. Non seulement les informations publiées sur Internet sont discutables, mais le remplaçant des analystes criminels et stratégiques, l'agent IA, est une entité étrangère dont on ignore l'allégeance. Il faut garder à l'esprit que, quelle que soit l'allégeance de l'IA, elle a été incubée dans un environnement capitaliste ou axé sur le profit, et non dans un environnement altruiste.

À ce stade, nous commençons à apprécier la nature de la vérité à l'ère de l'IA. L'expression « garbage in, garbage out » (si l'on entre des données erronées, on obtient des résultats erronés) prend un nouveau sens. C'est la même chose qu'une base de données, mais multipliée par un facteur exponentiel d'un milliard. Pour reprendre une expression du droit commun, « buyer beware » (acheteur, méfiez-vous), qui est un principe juridique qui impose à l'acheteur la responsabilité d'examiner minutieusement un achat avant de conclure une transaction. Si vous comptez utiliser l'IA, vous feriez mieux de savoir ce que vous achetez comme « vérité ». Voici quelques anecdotes pour illustrer cette question. Tout d'abord, si je parviens à publier ce blog sur le site web du Centre d'excellence canadien pour la gestion des risques internes, on me demandera sans doute de produire une version française pour nos amis francophones. Pour produire ma version française, je me rendrai probablement sur DeepL, mon site de traduction préféré et l'un des premiers exemples de modèle linguistique basé sur l'IA. Bien que mon contenu soit déjà rédigé en anglais, DeepL m'aidera à trouver l'orthographe et la conjugaison correctes et me permettra de choisir les tournures de phrases qui me semblent les plus appropriées. Dans ce cas, l'IA est un atout considérable.

À titre d'aparté sur la gestion des risques internes, je ne sais pas exactement où vont les informations que je saisis dans DeepL. Heureusement, ce blog n'est pas de nature sensible. S'il s'agissait de données sensibles, j'hésiterais à les partager ouvertement sur un site non-propriétaire. Si je traduisais des données sensibles, j'utiliserais un logiciel installé sur mon ordinateur plutôt que dans le cloud. Il en va de même pour Google Translate, ChatGPT, Google Gemini, Microsoft Copilot et d'autres sites d'IA basés dans le cloud.

Une utilisation plus récente de l'IA a été mes efforts pour améliorer l'apparence du diaporama que j'ai créé pour mon cours des enquêteurs pour le CdE . Bien que j'étais confiant quant au contenu, je trouvais que mon diaporama était trop familier et manquait de finesse visuelle. Grâce aux outils d'IA, j'ai pu modifier certains graphiques et images réalistes de manière à les adapter à mon contenu. Le résultat est élégant et professionnel. Dans ce cas, l'IA s'est à nouveau avérée bénéfique. Par ailleurs, je serai transparent quant à mon utilisation de l'IA lorsque je dispenserai mes cours, conformément à la politique du CdE sur l'utilisation de l'IA.

Enfin, il y a l'histoire vraie que m'a racontée un de mes amis proches, à propos d'une personne avec laquelle il travaillait et qui avait été embauchée pour s'occuper des questions de ressources humaines. Au bout de quelques mois, cette personne a dû être licenciée car son travail n'était pas à la hauteur. Son supérieur hiérarchique et mon ami proche ont dû reprendre ses fonctions et réparer les dégâts qu'il avait causés. En examinant son travail, ils se sont rendu compte que son ordinateur professionnel contenait un certain nombre de comptes IA gratuits, couramment utilisés et non autorisés, tels que ChatGPT. Il y avait également un certain nombre de sites de streaming qui suggéraient que cette personne regardait des émissions de divertissement alors qu'elle aurait dû travailler. Il semblait que les produits de son travail avaient été générés par l'IA avec peu ou pas de processus de filtrage. Cela expliquait pourquoi son travail était si insatisfaisant. Le « smoke and mirrors » (écran de fumée) est un autre concept que j'ai rencontré en travaillant dans le domaine de la criminalité en col blanc. Apparemment, le « smoke and mirrors » ne vous mènera pas loin avant que quelqu'un ne se rende compte que ce que vous essayez de vendre n'est qu'un ramassis d'absurdités.

La leçon à retenir, je pense, est de souligner la nécessité d'avoir un humain dans la boucle qui puisse juger au mieux ce qui est pertinent et ce qui ne l'est pas. Si vous utilisez l'IA, la personne dans la boucle ne doit l'utiliser que pour aider cette personne, et non pour la remplacer. Soyez franc sur votre utilisation de l'IA et sur la manière dont vous l'avez utilisée. Personnalisez votre contenu, assurez-vous de la source et de l'exactitude des informations. En fin de compte, l'IA ne peut rivaliser avec la formation, l'expérience professionnelle et personnelle, la créativité, la recherche et le bon sens d'un individu.