人工智能的谎言:幻觉追捕与核实协议
每一位与人工智能共事的编辑迟早都会遇到这一幕:你向人工智能提出一个历史问题。它以极其流畅、极其学术的语言给你一段引文,甚至在脚注中给出书籍的页码和出版年份。你为之赞叹。然而当你在图书馆找到那本书并翻开那一页时,却遇到了令人毛骨悚然的事实:那本书里根本没有写过那样的句子;有时那本书甚至根本不曾存在过!人工智能编造了一个虚构的谎言,也就是出现了'幻觉'。一位信任人工智能却不加以核实的编辑,会把自己的杂志变成虚假信息的坟场。
本课您将学到什么
- 理解大语言模型架构中的概率性本质以及'幻觉'(编造)机制
- 对人工智能给出的每一个人名、日期、数字、引语和来源,运用从原始档案文献核实的'核实协议'
- 确立杂志上发表的每一条信息,其法律和道德责任属于人,而非人工智能
人工智能为何会编造?(概率幻觉)
人工智能不是一台真理机器,而是一台'词语预测引擎'。它根据给定的上下文,计算下一个词在数学上应该是什么。因此对它而言,重要的不是什么是真实的,而是这句话听起来有多可信。
如果它的记忆中没有那条信息,它不会说自己不知道答案,而是会编造一个极具说服力、极具自信的谎言。最危险的谎言,正是夹杂在百分之九十正确信息之中的那百分之十带毒的编造。
三层核实协议
任何由人工智能辅助生成的文本,在编辑部都必须经过这三层手术刀式的检验:第一,引语核实:必须亲眼确认被引用的句子确实存在于原书或原文章中。
第二,日期与姓名交叉核对:提及的历史事件日期和人物姓名,必须从至少两个独立且可靠的学术百科全书(如权威的专业百科全书、大英百科全书等)中核实。第三,数字与统计核实:所提出的统计数据,必须找到原始官方报告链接并加以审查。
法律与职业责任归于谁?
当杂志发表的一篇文章中出现诽谤、无端中伤或历史歪曲时,你不能在法庭上说'这是人工智能告诉我们的'。在法律面前,人工智能不是一个主体,而是一件工具;就像打字机或笔一样。
如果出现错误,承担责任、接受惩罚的是主编和作者。这一法律现实要求对人工智能产出建立近乎偏执般严谨的核实机制。
专家观点与基础资料
AP's guide to artificial intelligence states that these tools can help in stages such as generating ideas or drafting; However, he emphasizes that all published information must be subject to human review.
本课要点： Treat AI output as a draft, not a source; Always verify names, dates and facts from independent sources.
Society of Professional Journalists code of ethics; It is based on the principles of seeking and conveying the truth, minimizing harm, acting independently and accountability. Citation and correction are part of this responsibility.
本课要点： Clearly state the source of the quote and image used; When mistakes are made, correct them without distracting the reader.
Developing an existing and well-established publication does not mean erasing its history and identity. Real editorial development; Our aim is to remove the rough edges of the language, refresh the page layout and keep up with the times, without offending the loyal reader.
本课要点： When making innovations (redesign or content update) in a magazine, respect the magazine's memory and reader habits.
实践应用与实地案例
美联社(AP)和路透社的人工智能使用准则中有这样一条严格规定:'任何美联社的新闻或分析,都不能仅以人工智能工具作为来源。人工智能所指出的每一项论断,都必须由记者本人从独立的一手来源进行核实。'
注：未明确标注来源的示例均为阐释编辑方法论而设计的教学情景模型；人名及数据均为示例性质。
重要编辑警示与常见陷阱
- 绝不要在未经核实的情况下,把人工智能给出的学术脚注和页码直接加入正文。
- 不要问人工智能'你确定吗?';它可能会为了维护自己编造的谎言而再编造第二个谎言。
- 不要在紧急付印的仓促中,把未经核实的人工智能分析不加监督地放上页面。
课程总结与核心要点
- 人工智能不是真理机器;它带有以自信编造(幻觉)的风险。
- 引语、日期和统计数据必须从一手来源亲自核实。
- 法律和道德责任不属于工具,而属于使用该工具的人类编辑。
核心原则
怀疑是一位精明编辑最锋利的剑;在把人工智能呈现的迷人语句交付于版面之前,务必先在真理的铁砧上将其反复锤炼。