Mentiras de la inteligencia artificial: caza de alucinaciones y protocolo de verificación
Le sucederá a todo editor que trabaje con inteligencia artificial: le haces una pregunta a la inteligencia artificial sobre un tema histórico. Te presenta una cita con gran fluidez, en un lenguaje sumamente académico, e incluso te da el número de página y el año de publicación del libro en sus notas a pie de página. Te sorprenderá. Pero cuando encuentras ese libro en la biblioteca y abres esa página, te encuentras con una verdad aterradora: una frase así nunca estuvo escrita en ese libro; ¡A veces ni siquiera un libro así existió! La inteligencia artificial inventó una mentira ficticia, es decir, tuvo una 'alucinación'. Un editor que confíe en la inteligencia artificial y no verifique convertirá su revista en un cementerio de información falsa.
Lo que aprenderás en esta lección
- Comprender la naturaleza probabilística y el mecanismo de 'alucinación' en la arquitectura de modelos de lenguaje grandes
- Operar un 'Protocolo de verificación' que verifique cada nombre, fecha, número, cita y fuente proporcionada por AI a partir de documentos de archivo primarios.
- Institucionalizando que la responsabilidad legal y moral de toda la información publicada en la revista es de los humanos, no de la inteligencia artificial.
¿Por qué se maquilla la inteligencia artificial? (Ilusión de probabilidad)
La inteligencia artificial no es un motor de verdad, sino un "motor de predicción de palabras". Calcula matemáticamente cuál debería ser la siguiente palabra en el contexto dado. Por lo tanto, lo importante para él no es cuál es la verdad, sino qué tan convincente suene la frase.
Si no tiene esa información en su memoria, inventará una mentira muy convincente y segura en lugar de decir que no sabe la respuesta. Las mentiras más peligrosas son esas invenciones venenosas en un 10% intercaladas entre un 90% de información verdadera.
Protocolo de verificación de tres factores
Todo texto apoyado en inteligencia artificial debe pasar por el siguiente bisturí de 3 etapas en la cocina: 1. Verificación de la cita: Se debe comprobar físicamente que la frase citada realmente existe en el libro o artículo original.
2. Verificación cruzada de fecha y nombre: Los eventos históricos y nombres personales especificados deben ser confirmados por al menos dos enciclopedias académicas independientes y confiables (TDV Islamic Encyclopedia, Britannica, etc.). 3. Confirmación numérica y estadística: se debe buscar y verificar el enlace del informe oficial original de las estadísticas presentadas.
¿A quién corresponde la responsabilidad legal y profesional?
Cuando un artículo publicado en una revista contiene un insulto, una calumnia infundada o una distorsión histórica, no se puede decir ante el tribunal: "Esto nos lo dijo la inteligencia artificial". Frente a la ley, la inteligencia artificial no es un sujeto, sino una herramienta; como una máquina de escribir o un bolígrafo.
Si hay un error, son el editor jefe y el escritor quienes deben rendir cuentas y ser castigados. Esta realidad legal requiere un mecanismo de verificación meticuloso y paranoico contra los resultados de la inteligencia artificial.
Perspectivas de expertos y fuentes
La guía de AP sobre inteligencia artificial afirma que estas herramientas pueden ayudar en etapas como generar ideas o redactar; Sin embargo, enfatiza que toda la información publicada debe estar sujeta a revisión humana.
Conclusión clave para esta lección: Trate los resultados de la IA como un borrador, no como una fuente; Siempre verifique nombres, fechas y hechos de fuentes independientes.
Código de ética de la Sociedad de Periodistas Profesionales; Se basa en los principios de buscar y transmitir la verdad, minimizar el daño, actuar con independencia y rendir cuentas. La citación y corrección son parte de esta responsabilidad.
Conclusión clave para esta lección: Indique claramente la fuente de la cita y la imagen utilizada; Cuando se cometan errores, corríjalos sin distraer al lector.
Desarrollar una publicación existente y bien establecida no significa borrar su historia e identidad. Desarrollo editorial real; Nuestro objetivo es eliminar las asperezas del lenguaje, actualizar el diseño de la página y mantenernos al día, sin ofender al lector leal.
Conclusión clave para esta lección: Al realizar innovaciones (rediseño o actualización de contenidos) en una revista, respetar la memoria y los hábitos de lectura de la revista.
Aplicación práctica y caso real
Las directrices de IA de Associated Press (AP) y Reuters incluyen esta regla estricta: 'Ninguna noticia o análisis de AP puede basarse en información cuya fuente sea únicamente una herramienta de IA. "Cada afirmación hecha por la inteligencia artificial debe ser verificada personalmente por un periodista a partir de fuentes primarias independientes".
Nota: Los ejemplos sin citar son modelos pedagógicos para ilustrar la metodología editorial; nombres y cifras son ilustrativos.
Advertencias editoriales críticas y errores comunes
- Nunca agregue notas académicas a pie de página y números de página proporcionados por inteligencia artificial al texto sin verificarlos.
- '¿Está seguro?' No preguntes; Puede inventar una segunda mentira para defender la mentira que inventó.
- No coloque ningún análisis de IA no confirmado en la página sin supervisión en un apuro por imprimir.
Resumen de la lección y puntos clave
- La inteligencia artificial no es una máquina de la verdad; conlleva el riesgo de una fabricación de confianza en sí mismo (alucinación).
- Las citas, fechas y estadísticas deben ser confirmadas físicamente a partir de fuentes primarias.
- La responsabilidad legal y moral no recae en la herramienta; La persona que utiliza esa herramienta pertenece al editor.
¿Has terminado esta lección?
Puedes pasar directamente a la siguiente lección. Los marcadores, cuestionarios y certificados se desbloquean para los estudiantes inscritos en nuestro programa 100% gratuito.