锚点｜别被骗了！大模型会一本正经地胡说八道,锚点的用法

在人工智能加速渗透信息获取与内容创作的今天，大模型“一本正经地胡说”——即所谓“幻觉”问题，正成为公众使用中的隐性风险。更值得警惕的是，为提升对话的流畅性与趣味性，模型常通过调节“温度”等超参数，有意引入随机性——这意味着即使面对相同问题，它也可能给出不同答案，其中不乏看似合理却完全虚构的内容。专家指出，这种机制在闲聊中或许“有趣”，但在事实核查、学术研究或新闻采编等场景中却极具误导性。有趣的是，大模型的准确性并非与问题难度成正比。恰恰相反，越是高难度、结构清晰的问题（如奥数题），因训练数据中干扰少、答案唯一，反而表现优异；而看似简单的常识性问题（如人名、作品、日期），却因同名混淆、数据噪声多、上下文模糊，错误率显著升高。因此，合理使用AI的关键在于建立“人机协同”工作流：以大模型快速生成线索与初稿，再通过传统搜索引擎、权威数据库或原始信源进行交叉验证。唯有保持审慎与批判性思维，才能在享受智能红利的同时，避免被算法编织的“可信谎言”所误导。

《锚点》特别策划，在云巅之上展开一场科技与人文的跨界对话。大模型为何会“说谎”？面对大模型不可避免的幻觉，我们又该如何有效应对？敬请关注东方卫视每周三22点《锚点》。

编辑: 王易帆

责编: 刘俊