Série Travailler à l'aide de l'intelligence artificielle : La confiance à l'égard de l'IA générative

Brian Wray -

Dans l’ère actuelle marquée par de nombreux progrès technologiques remarquables, l’émergence de l’IA générative a été un développement tout particulièrement important. Ce type particulier d’IA génère des contenus nouveaux pour répondre à presque toutes les demandes. Il lui faut seulement quelques mots de texte entrés par son utilisateur.

Chaque volet de la série Travailler à l’aide de l’intelligence artificielle se penche sur un cas d’utilisation précis, illustrant comment l’IA générative peut être utilisée efficacement dans divers scénarios. Nous étudions les outils les plus appropriés pour chaque tâche, nous révélons les invites les plus efficaces et nous partageons des astuces pour accélérer le parcours de l’entrée initiale des invites aux résultats de sortie idéaux.

N’oubliez pas que lorsque vous utilisez des outils d’IA, en particulier des outils de nature générative comme ChatGPT, il est absolument essentiel de respecter les pratiques exemplaires. Vous devrez prendre connaissance du Guide sur l’utilisation de l’intelligence artificielle générative et mettre ses principes en pratique afin d’assurer une utilisation responsable et éthique de ces technologies.

Cet article explore le rôle que doit assumer l’utilisateur pour assurer la fiabilité et un degré de confiance élevé dans le contexte des tâches appuyées par l’IA générative; seront abordés ici :

  • les concepts de fiabilité et de degré de confiance dans le contexte de l’IA générative
  • les principes PRETES
  • les capacités et les limites de l’IA générative
  • cinq approches pratiques

Comment assurer la fiabilité et un degré de confiance approprié dans le contexte de l’IA générative

L’IA générative est de plus en plus répandue et banalisée, par exemple avec l’application Copilot de Microsoft, qui intègre des fonctionnalités de type ChatGPT dans ses applications populaires comme Word, Excel, PowerPoint et Outlook. Nous verrons de plus en plus l’intelligence artificielle intégrée aux outils quotidiens, promettant d’accroître tout autant l’efficacité que la productivité. Cependant, la mise en œuvre réussie de ces outils dépend de deux facteurs importants : la fiabilité et le degré de confiance.

  • L’expression fiabilité désigne ici l’obtention systématique de réponses pertinentes, ce qui est essentiel pour une utilisation pratique.
  • L’expression degré de confiance élevé signifie que vous pouvez accepter avec confiance les résultats présentés par les outils, ou être en mesure de vérifier leur exactitude, leur exhaustivité et leur pertinence.

Alors que l’utilisation de l’IA se répand dans différents secteurs, il importe d’évaluer de façon critique ces deux aspects et de les renforcer, en reconnaissant que ce sont non seulement des exigences techniques, mais aussi des responsabilités éthiques.

Le cadre PRETES

Texte descriptif

Une représentation visuelle de l’acronyme PRETES, dont les éléments sont disposés en une ligne ondulée. Chaque lettre est inscrite dans un cercle et reliée par une ligne pointillée au descriptif correspondant. De gauche à droite, la séquence commence par la lettre « P » inscrite dans un cercle rose étiqueté « Pertinente », suivie de « R » en brun pour « Responsable », « E » en bleu pour « Équitable », « T » en orange pour « Transparente », « E » en jaune pour « Éclairée », et « S » en violet pour « Sécurisée ».

Les principes PRETES du Secrétariat du Conseil du Trésor du Canada – Pertinente, Responsable, Équitable, Transparente, Éclairée et Sécurisée – forment un cadre exhaustif visant à renforcer la fiabilité et le degré de confiance dans le contexte de l’IA générative, et à appuyer l’utilisation responsable de ces outils. Les principes PRETES encadrent un ensemble de lignes directrices conçues pour relever les défis uniques posés par l’IA générative. En adhérant à ces principes, vous pourrez déployer et utiliser l’IA générative d’une manière éthique, transparente et responsable.

Sélectionnez chaque composante du cadre PRETES pour découvrir les mesures que vous pouvez prendre afin d’harmoniser votre utilisation de l’IA générative avec ces principes directeurs.

  • Assurez-vous d’utiliser les outils d’IA générative seulement dans des scénarios où ils ajoutent de la valeur et sont appropriés. Par exemple, ces outils sont très utiles pour la génération d’idées, les explications, l’apprentissage des langues et l’écriture créative.
  • Vous devez être en mesure de reconnaître les situations où le jugement humain est crucial, et comprendre que les outils d’IA peuvent ne pas convenir à toutes les tâches, en particulier celles qui nécessitent une compréhension contextuelle approfondie ou qui impliquent des considérations éthiques.
  • Il faut toujours vérifier l’information présentée par les outils d’IA générative, tout particulièrement dans le cas de décisions critiques, car cette information n’est pas toujours actuelle ou entièrement exacte.
  • Utilisez ces outils de façon éthique et dans les limites légales. Évitez les invites qui encouragent ou impliquent des activités illégales, de la désinformation ou un comportement contraire à l’éthique.
  • N’oubliez pas que vous êtes responsable des utilisations que vous faites de l’information générée, et que vous devez informer votre gestionnaire de votre utilisation de ces outils.
  • Il faut examiner attentivement les résultats obtenus, car ces outils peuvent proposer des résultats biaisés ou discriminatoires.
  • Assurez-vous que la formulation de vos invites et vos interactions ne perpétuent pas les stéréotypes ou les représentations injustes d’individus ou de groupes.
  • Si vous remarquez des biais dans les réponses, envisagez de les signaler à la plateforme.
  • Vous devez garder à l’esprit le fait que vous interagissez avec une intelligence artificielle et non avec un humain. Cette prise de conscience est essentielle pour établir des attentes réalistes quant à la nature et aux limites des réponses obtenues de ces outils.
  • Si vous utilisez des résultats produits par une IA générative dans un contexte public ou professionnel, il est recommandé de divulguer le fait que le contenu a été généré par une IA.
  • Vous devez vous familiariser avec les capacités et les limites de chaque outil, car ils sont tous différents. Comprendre ce que chaque outil peut faire et ne peut pas faire vous aidera à formuler des invites efficaces et à interpréter correctement les réponses.
  • Tenez-vous informé des progrès et des actualités liés aux technologies d’IA afin de pouvoir utiliser ces outils plus efficacement.
  • Utilisez ces outils uniquement pour des tâches pour lesquelles vous possédez l’expertise nécessaire pour valider les réponses.
  • Vous devez vous assurer de comprendre la politique de confidentialité et les pratiques en matière de traitement des données associées à la plateforme que vous utilisez.
  • Ne partagez aucuns renseignements personnels ni données protégées dans vos invites – cette action pourrait poser des risques en matière de confidentialité et de sécurité.
  • Utilisez ces outils de manière à respecter la vie privée et la sécurité des autres

L’introduction des principes PRETES par le Secrétariat du Conseil du Trésor du Canada est une étape importante vers l’établissement d’une norme d’utilisation responsable de l’IA dans le secteur public canadien. 

Capacités et limites de l’IA générative

Bien que chacun des principes PRETES soit crucial, le principe « Éclairée » se démarque en tant que déterminant central de la fiabilité et d’un degré de confiance élevé pour les outils d’IA générative. La connaissance des limites des différents outils alimentés par l’IA peut aider à atténuer bon nombre de leurs faiblesses, y compris certaines contraintes particulières qui peuvent compromettre leur fiabilité et le degré de confiance associé. Voici quelques exemples des limites de l’IA générative :

  • Actualité des données : Les données d’entraînement des IA comportent souvent un point limite – une date après laquelle l’IA n’a pas accès aux événements, aux développements ou aux recherches publiés après cette date ni n’en a connaissance. Cette situation peut donner lieu à des renseignements périmés ou incomplets.
  • Atteinte à la propriété intellectuelle : L’utilisation ou la reproduction des extrants générés par ces outils peut porter atteinte aux droits de propriété intellectuelle s’ils contiennent du matériel identique ou essentiellement similaire à une œuvre protégée par le droit d’auteur.
  • Compréhension des nuances et du contexte : Bien qu’elle résulte d’une technologie évoluée, l’IA générative éprouve parfois des difficultés à comprendre les nuances du langage, le sarcasme ou l’information contextuelle. Cette situation peut entraîner des malentendus ou des interprétations erronées.
  • Expérience personnelle inexistante : L’IA générative n’est pas en mesure de comprendre les émotions ou les nuances personnelles, de sorte qu’elle peut ne pas saisir pleinement les questions nécessitant de l’empathie, un jugement personnel ou des expériences vécues, ou ne pas être en mesure d’y répondre adéquatement.
  • Généralisations excessives : L’outil peut faire des généralisations excessives, tout dépendant des tendances qu’il aura extraites de ses données d’entraînement, ce qui peut donner lieu à des énoncés trop généraux ou trop simplistes pour des sujets complexes.
  • Biais dans les données et modèles d’entraînement : Les données et modèles d’entraînement des IA peuvent contenir des biais, et l’IA générative pourrait reproduire ou intensifier involontairement ces biais lors de la génération de réponses, ce qui pourrait donner lieu à des extrants biaisés.
  • Renseignements erronés ou trompeurs sur le plan factuel : Malgré la très grande taille de ses ensembles de données d’entraînement, l’IA générative peut parfois présenter des informations incorrectes ou trompeuses, surtout dans les domaines où les données sont limitées.
  • Expertise approfondie limitée : Bien que l’IA générative puisse produire de l’information générale sur un large éventail de sujets, son expertise dans des domaines spécialisés peut être limitée.
  • Incapacité de vérifier ou de consulter des données externes : : L’IA générative ne peut pas comparer son information à des bases de données externes ni accéder à du contenu payant, exclusif ou non publié, ce qui peut limiter la profondeur et l’exactitude de ses réponses.

Cinq approches pour assurer la fiabilité et un degré de confiance élevé

Maintenant que vous comprenez l’importance de la fiabilité et du degré de confiance dans l’utilisation de l’IA générative, ainsi que les principes PRETES, mettons ces connaissances en pratique. N’oubliez pas que l’utilisateur doit maintenir la fiabilité et un degré de confiance élevé dans toutes ses interactions, tout particulièrement lorsqu’il formule une invite à l’intention de l’IA. Les utilisateurs sont également responsables de vérifier le contenu généré tout au long de l’interaction. Comment les utilisateurs peuvent-ils assurer la fiabilité et un degré de confiance élevé dans leurs interactions avec les outils d’IA générative?

N’oubliez pas que lorsque nous évoquons la fiabilité et le degré de confiance, nous faisons référence au fait de recevoir de façon continue des réponses appropriées, exactes, complètes et pertinentes. Nous recommandons les approches suivantes :

  1. Comprendre le fonctionnement de l’IA générative que vous utilisez, et comment elle utilise les données dont elle s’inspire
  2. Ajouter du contexte
  3. Donner des exemples, idéalement plusieurs exemples
  4. Demander que l’outil explique la chaîne logique utilisée
  5. Déterminer la norme que vous devez établir pour les résultats recherchés

Comprendre le fonctionnement de l’IA générative que vous utilisez, et comment elle utilise les données dont elle s’inspire

Le choix du bon outil pour la tâche à accomplir est un autre élément permettant d’atténuer les limites de l’IA et de renforcer la fiabilité des résultats présentés par l’outil. Les outils d’IA générative ne sont pas tous égaux; ils présentent des similitudes, mais chacun a été conçu pour une utilisation différente, tout comme une voiture et un camion sont tous deux des véhicules, mais qui ont des raisons d’être distinctes. Tout comme vous choisiriez un camion pour le transport de charges lourdes et une voiture pour les déplacements quotidiens, il est important de comprendre le résultat précis que vous cherchez à obtenir et de choisir l’outil d’IA le plus approprié. Par exemple, GPT-3.5 n’est sans doute pas le meilleur choix pour les tâches mathématiques, tandis que Wolfram Alpha a été spécialement conçu pour de telles applications.

Certains outils d’IA générative utilisent seulement des données provenant de plages de dates restreintes. Ils ne peuvent donc pas répondre aux questions portant sur des actualités récentes. En comparaison, Microsoft Copilot (anciennement Bing Chat) ajoute des résultats de recherche Web connexes accompagnés d’invites utilisateur, ce qui aide à contrer les problèmes liés à l’information désuète et permet aux utilisateurs de vérifier les résultats proposés par rapport aux documents sources.

Ajouter du contexte

En tant qu’outil proposant des réponses statistiquement probables, l’IA générative peut tirer parti de tout contexte supplémentaire qui lui est fourni, ce qui l’aide à rechercher et à extraire les éléments les plus pertinents et les plus précieux de ses données sources et à adapter les réponses à vos besoins.

Par exemple, les réponses seront beaucoup plus susceptibles d’être pertinentes et dignes de confiance en réponse à votre deuxième invite plutôt qu’à la première :

Invite générale

Comment puis-je organiser ma boîte de réception des courriels plus efficacement?

Invite comportant un contexte amélioré

Propose des stratégies pour organiser une boîte de réception de courriels dans Microsoft 365 Outlook (application de bureau) afin d’accroître l’efficacité des recherches de factures, particulièrement pour les professionnels de l’approvisionnement.

Donner des exemples, idéalement plusieurs exemples

Les outils d’IA générative ne disposent pas nécessairement de données sur votre façon d’écrire ou sur les normes de rédaction de votre organisation. Toutefois, si vous donnez un ou plusieurs exemples de ce à quoi devrait ressembler un « bon » résultat, l’outil peut reproduire leur longueur, leur style et leur niveau de détail. Par exemple, si vous rédigez un communiqué de presse au sujet d’une initiative, donnez des exemples de communiqués semblables déjà approuvés et publiés pour maximiser les chances d’obtenir un résultat pertinent et de grande qualité.

Comme toujours, il ne faut en aucune circonstance saisir des renseignements de nature délicate, classifiés ou protégés dans des outils qui sont exploités à l’extérieur du réseau du gouvernement du Canada. Vous pouvez toutefois inclure des exemples non sensibles, transactionnels ou déjà accessibles au public.

Demander que l’outil explique la chaîne logique utilisée

Demander que l’outil explique la chaîne logique qu’il a utilisée permet souvent de renforcer la fiabilité (la pertinence et la qualité des résultats) et d’obtenir un degré de confiance plus élevé (votre capacité à comprendre comment les résultats ont été générés et à vérifier les faits si nécessaire). Cela peut être aussi simple que d’ajouter « Inclure, étape par étape, comment tu as interprété cette invite et obtenu une réponse » dans votre invite.

Invite :

J’ai une journée extrêmement occupée, remplie de réunions, de tâches urgentes et d’échéances imminentes. Voici la ventilation de mon horaire et de mes tâches supplémentaires :

Engagements prévus :

  • 9 h 00 à 10 h 00 : Réunion stratégique avec l’équipe de la haute direction
  • 13 h 00 à 13 h 45 : Réunion d’équipe pour coordonner le projet à venir
  • 15 h 00 à 16 h 00 : Rencontre pour discuter des ajustements budgétaires

Tâches à accomplir :

  • Achever et soumettre des examens et des approbations au cours des deux prochains jours.
  • Rattraper le retard sur la rédaction de 10 évaluations du rendement qui devaient être présentées la semaine dernière.
  • Suivre une séance de formation obligatoire en ligne d’ici la fin de la journée.
  • Préparer un dossier de présentation pour une conférence qui doit avoir lieu dans trois jours.
  • Planifier des rencontres individuelles bimensuelles avec les membres de l’équipe, qui doivent être terminées d’ici la fin de la semaine.
  • L’unité a reçu une demande d’AIPRP et la réponse doit être fournie d’ici 17 h demain. Cette demande doit être analysée et envoyée aux équipes potentiellement concernées, et je dois faire un suivi pour m’assurer qu’elle est traitée rapidement.
  • Répondre à une demande de renseignements parlementaire urgente d’ici midi. Cette demande exige que toutes les autres tâches soient mises de côté pour prioriser son traitement. Il faut l’analyser et l’envoyer aux équipes potentiellement concernées, et je dois faire un suivi pour m’assurer qu’on y répond rapidement.

Comment dois-je organiser ma matinée? Quelles tâches dois-je prioriser? Inclure une description étape par étape et expliquer comment tu as interprété cette invite pour en arriver à la réponse que tu proposes.

Réponse de ChatGPT :

Avec un tel horaire très chargé et une grande diversité de tâches, il est essentiel d’organiser votre matinée efficacement pour vous assurer de traiter la tâche la plus urgente en premier. Analysons la situation et établissons les priorités en conséquence :

Évaluation des niveaux de priorité :
Déterminer quelles tâches sont urgentes, essentielles ou dont les échéances sont imminentes. Dans votre cas, la demande de renseignements parlementaire urgente et la demande d’AIPRP sont des priorités immédiates, car elles comportent des délais précis.

Allouer des plages horaires :
Passez en revue vos plages horaires disponibles et allouez-les à chaque tâche en fonction de la priorité et du temps estimé nécessaire. Organisons maintenant votre matinée :

Horaire du matin :

  • 8 h 00 – 9 h 00 : Temps de préparation
    • Utilisez cette heure pour passer en revue votre horaire, établir l’ordre de priorité des tâches et rassembler le matériel ou les renseignements nécessaires pour la journée à venir.

  • 9 h 00 – 10 00 : Réunion stratégique avec l’équipe de la haute direction
    • Il s’agit d’un engagement déjà planifié et d’une occasion cruciale de s’aligner sur la haute direction. Assurez-vous d’être préparé.

  • 10 h 00 – 11 h 00 : Demande de renseignements parlementaire urgente
    • Comme il s’agit d’une tâche hautement prioritaire qui nécessite une attention immédiate, consacrez l’heure suivante uniquement à l’analyse de la demande de renseignements et à la prise des mesures nécessaires pour formuler une réponse.

  • 11 h 00 – 12 h 00 : Préparation de la réponse à la demande d’AIPRP
    • Prenez connaissance de la demande d’AIPRP, analysez son contenu et commencez à rédiger la réponse. Il est essentiel de faire participer rapidement les équipes concernées pour recueillir l’information nécessaire.

Pause de mi-journée :

  • 12 h 00 – 13 h 00 : Pause-repas

Prenez une pause bien méritée pour refaire le plein d’énergie pour le reste de la journée.

En suivant cet horaire, vous gérerez efficacement votre matinée, en respectant à la fois les engagements prévus et les tâches urgentes, tout en vous assurant d’être en bonne voie de respecter les échéances et de remplir vos responsabilités. N’oubliez pas de vous adapter et de faire preuve de souplesse en cas de problèmes imprévus.

Déterminer la norme que vous devez établir pour les résultats recherchés

Le niveau de fiabilité et le degré de confiance dont vous avez besoin devraient être établis en fonction du contexte et de l’importance de la tâche. Si vous utilisez un outil d’IA générative pour appuyer votre remue-méninges initial sur un problème ou pour obtenir des solutions possibles, avec l’intention de vérifier plus tard les idées ainsi générées, la norme à établir pour les résultats recherchés peut être très basse. Si par contre vous utilisez l’IA générative pour appuyer des recherches et des conseils sur un contenu destiné au public ou sur des politiques, la norme doit être très élevée, tout particulièrement si les résultats obtenus comprennent des allégations, des formulations, des exemples, des synthèses ou des faits et chiffres.

On peut aisément le constater en ce qui concerne les faits et chiffres : par exemple, « X % des Canadiens appuient telle proposition de politique » est un chiffre crucial qu’il faudra vérifier avant de l’inclure dans une publication officielle. Certains outils d’IA générative, appelés « à génération augmentée d’information contextuelle », peuvent consulter des références et les citer. Toutefois, tout dépendant de l’outil, la réponse peut ne pas toujours être exacte et l’outil peut ne pas tenir compte de tous les renseignements contextuels cruciaux.

Il peut également être nécessaire de vérifier l’exactitude des listes d’exemples ou des synthèses tirées d’ensembles de données de grande taille, même si vous aviez fourni des données approuvées (non sensibles ou déjà publiques), car l’outil d’IA générative pourrait néanmoins introduire des erreurs. Par exemple, une liste d’exemples d’opinions d’experts sur une proposition de politique qui omet d’importantes positions critiques ou favorables peut être trompeuse.

Lorsque vous devez établir une norme très élevée en matière de degré de confiance, même le contexte général doit être pris en compte. En raison de la nature des exemples et des données dont l’IA générative s’inspire, il est très courant que les réponses comprennent des affirmations comme « Il est impératif que les gouvernements investissent dans X », une formulation commune et plutôt banale en elle-même, mais qui n’est certainement pas neutre selon le contexte.

Dans tous ces cas, gardez à l’esprit votre propre capacité à réfléchir de façon critique aux résultats proposés, et votre propre expertise dans le domaine. Si vous n’êtes pas en mesure de vérifier les résultats, il n’est pas approprié d’utiliser l’IA générative.

Tout cela peut donner l’impression que l’IA générative est peu utile ou que son utilisation nécessite trop d’efforts. Pourtant, il existe de nombreuses situations dans lesquelles l’IA générative peut permettre de réaliser d’importantes économies de temps avec seulement un examen rapide des résultats, par exemple une séance de remue-méninges, un aperçu rapide sur des enjeux ou des domaines précis, ou encore la rédaction ou l’amélioration d’un courriel. Néanmoins, il est toujours important de garder à l’esprit le degré de confiance dont vous avez besoin pour une tâche ou un produit donné.

Conclusion

Lorsque nous reconnaissons et respectons les contraintes et les considérations associées aux outils d’IA générative, ces derniers peuvent devenir des atouts précieux. Ils sont particulièrement utiles pour résumer l’information, répondre aux questions fréquemment posées, rédiger des réponses aux courriels et même créer des rapports ou des présentations simples, permettant ainsi aux humains de se concentrer sur des tâches plus nuancées comme la planification stratégique, les interactions avec les clients et la gestion des projets.

En lisant le Guide sur l’utilisation de l’intelligence artificielle générative, en respectant les principes PRETES et en intégrant les principes pratiques présentés ici, vous pourrez gérer les contraintes associées à l’IA pour en tirer le meilleur parti.

Ressources

Vous aimez cette série d’articles? Lisez ensuite cet article : Série Travailler à l’aide de l’intelligence artificielle : Coder en collaboration avec l’IA.