Mensonges de l’intelligence artificielle : protocole de chasse et de vérification des hallucinations
Cela arrivera à tout éditeur travaillant avec l’intelligence artificielle : vous posez à l’intelligence artificielle une question sur un sujet historique. Il vous présente une citation avec une grande fluidité, dans un langage extrêmement académique, et vous donne même le numéro de page et l'année de publication du livre dans ses notes de bas de page. Vous serez étonné. Mais lorsque vous trouvez ce livre dans la bibliothèque et ouvrez cette page, vous découvrez une vérité terrifiante : une telle phrase n’a jamais été écrite dans ce livre ; Parfois même un tel livre n’a jamais existé ! L'intelligence artificielle a inventé un mensonge fictif, c'est-à-dire qu'elle a eu une « hallucination ». Un éditeur qui fait confiance à l’intelligence artificielle et ne vérifie pas transformera son magazine en un cimetière de fausses informations.
Ce que vous apprendrez dans cette leçon
- Comprendre la nature probabiliste et le mécanisme « d'hallucination » dans l'architecture des grands modèles linguistiques
- Utiliser un « protocole de vérification » qui vérifie chaque nom, date, numéro, citation et source donnés par l'IA à partir de documents d'archives primaires
- Institutionnaliser que la responsabilité juridique et morale de toutes les informations publiées dans la revue appartient aux humains et non à l'intelligence artificielle.
Pourquoi l’Intelligence Artificielle invente-t-elle ? (Illusion de probabilité)
L'intelligence artificielle n'est pas un moteur de vérité, mais un « moteur de prédiction de mots ». Il calcule mathématiquement ce que devrait être le mot suivant dans le contexte donné. Par conséquent, ce qui est important pour lui n’est pas la vérité, mais la force de la phrase.
S'il n'a pas cette information en mémoire, il inventera un mensonge très convaincant et confiant au lieu de dire qu'il ne connaît pas la réponse. Les mensonges les plus dangereux sont ces 10 % de fabrications empoisonnées prises en sandwich entre 90 % d’informations vraies.
Protocole de vérification à trois facteurs
Chaque texte basé sur l'intelligence artificielle doit être passé au scalpel en 3 étapes suivant dans la cuisine : 1. Vérification de la citation : il doit être physiquement visible que la phrase citée existe réellement dans le livre ou l'article original.
2. Vérification croisée des dates et des noms : les événements historiques et les noms personnels spécifiés doivent être confirmés par au moins deux encyclopédies universitaires indépendantes et fiables (TDV Islamique Encyclopédie, Britannica, etc.). 3. Confirmation numérique et statistique : le lien du rapport officiel original des statistiques présentées doit être trouvé et vérifié.
À qui appartient la responsabilité juridique et professionnelle ?
Lorsqu'un article publié dans un magazine contient une insulte, une calomnie infondée ou une déformation historique, vous ne pouvez pas dire devant un tribunal : « L'intelligence artificielle nous a dit cela ». Face au droit, l’intelligence artificielle n’est pas un sujet, mais un outil ; tout comme une machine à écrire ou un stylo.
S'il y a une erreur, ce sont le rédacteur en chef et l'écrivain qui sont tenus responsables et punis. Cette réalité juridique nécessite un mécanisme de vérification paranoïaque et méticuleux des résultats de l’intelligence artificielle.
Perspectives d'experts et sources
Le guide de l'AP sur l'intelligence artificielle indique que ces outils peuvent aider à des étapes telles que la génération d'idées ou la rédaction ; Il souligne toutefois que toute information publiée doit être soumise à un examen humain.
Point clé pour cette leçon : Traitez les résultats de l’IA comme un brouillon et non comme une source ; Vérifiez toujours les noms, les dates et les faits auprès de sources indépendantes.
Code de déontologie de la Société des journalistes professionnels ; Elle repose sur les principes de recherche et de transmission de la vérité, de minimisation des préjudices, d’action indépendante et de responsabilité. La citation et la correction font partie de cette responsabilité.
Point clé pour cette leçon : Indiquez clairement la source de la citation et de l’image utilisée ; Lorsque des erreurs sont commises, corrigez-les sans distraire le lecteur.
Développer une publication existante et bien établie ne signifie pas effacer son histoire et son identité. Véritable développement éditorial ; Notre objectif est d'éliminer les aspérités du langage, de rafraîchir la mise en page et de rester dans l'air du temps, sans offenser le lecteur fidèle.
Point clé pour cette leçon : Lorsque vous apportez des innovations (refonte ou mise à jour du contenu) dans un magazine, respectez la mémoire du magazine et les habitudes des lecteurs.
Application pratique et cas d'étude
Les directives de l'Associated Press (AP) et de Reuters en matière d'IA incluent cette règle stricte : « Aucune actualité ou analyse de l'AP ne peut être basée sur des informations dont la source est uniquement un outil d'IA. "Chaque affirmation formulée par l'intelligence artificielle doit être vérifiée personnellement par un journaliste à partir de sources primaires indépendantes."
Remarque : Les exemples non cités sont des scénarios pédagogiques pour illustrer la méthodologie éditoriale ; les noms et chiffres sont illustratifs.
Avertissements éditoriaux critiques et pièges
- N’ajoutez jamais au texte des notes de bas de page académiques et des numéros de page fournis par l’intelligence artificielle sans les vérifier.
- 'Es-tu sûr?' Ne demandez pas ; Il peut inventer un deuxième mensonge pour défendre le mensonge qu'il a inventé.
- Ne mettez pas d’analyse IA non confirmée sur la page sans surveillance, dans la précipitation de l’impression.
Résumé de la leçon et points clés
- L’intelligence artificielle n’est pas une machine à vérité ; comporte le risque d’une fabrication confiante (hallucination).
- Les cotations, dates et statistiques doivent être physiquement confirmées à partir de sources primaires.
- La responsabilité juridique et morale n’incombe pas à l’outil ; La personne qui utilise cet outil appartient à l'éditeur.
Avez-vous terminé cette leçon ?
Vous pouvez passer directement à la leçon suivante. Les marque-pages, quiz et certificats sont accessibles aux étudiants inscrits à notre programme 100% gratuit.