特别声明：以上文章内容仅代表作者本人观点，不代表新浪网观点或立场。如有关于作品内容、版权或其它问题请于作品发表后的30日内与新浪网联系。
□刘昊成（文华学院）据中国青年报报道，持证在岗记者手持合规记者证，却被AI判定为伪造证件；当事人提出质疑后，AI又瞬间全盘推翻结论、致歉纠错。一场正常的采访工作就此泡汤，真实合法的官方资质，败给了机器一本正经的虚假论断。这桩荒诞个案并非偶然技术故障，而是AI大模型的结构性乱象：AI幻觉早已突破娱乐创作边界，深度介入现实公共判断，而行业规则缺位、平台责任松弛，最终让普通人为技术失控买单。此前百度AI捏造律师“获刑三年”诋毁他人声誉，此次大模型误判正规记者证造假，接连案例打破了公众对AI的权威滤镜。当下，不少人将AI视作真伪判定、信息核查的专业标尺，在资质核验、司法查询、身份甄别等严肃场景中全权依赖机器输出。但大模型的核心逻辑从不是“求真辨伪”，而是“概率猜词”，仅依托海量数据拼接流畅文本，不具备真实核查、事实求证的核心能力。当AI检索不到权威精准信息时，不会如实告知“无法判定”，反而会主动虚构细节、补齐逻辑，生成条理清晰、话术专业的“标准答案”。这类AI幻觉自带专业外衣，迷惑性远强于普通谣言，普通人很难甄别辨别，极易被虚假结论误导、裹挟。AI盲目自信、不懂装懂的乱象，根源是畸形的行业评测体系与逐利的产品逻辑。当前大模型训练考核沿用二元应试规则：给出确定答案即可得分，留白存疑、坦言未知则不得分。这套机制倒逼AI陷入永久“应试状态”，即便信息缺失、认知空白，也必须强行编造完整结论，从底层催生了机器的虚假笃定与武断判定。比技术失控更致命的，是公众思辨能力的被动退化。上海交大调研显示，近七成国人对AI幻觉感知极低，仅有少数人能精准识别机器虚假内容。AI秒级输出看似严谨的虚假论据，彻底颠覆了传统谣言传播规律，普通人的查证自证速度，永远追赶不上机器造假的传播速度。长期依赖AI包办判断，会逐步钝化人的独立思考、求证质疑能力。从业四年的资深记者尚且被AI虚假结论困扰、遭遇他人质疑，普通民众面对AI的“权威定论”，更是难以自证清白。机器一句无根无据的谎言，就能轻易摧毁人际信任、抹黑个人声誉、扰乱正常工作生活秩序。行业长期将AI幻觉包装为“不可避免的技术局限”，以此充当免责遮羞布，这一逻辑根本站不住脚。AI技术存在短板可以理解，但技术局限绝不等于可以放任机器伤人、随意妄断是非。娱乐创作场景的微小瑕疵可以包容，但在资质核验、司法舆情、个人征信等高敏感、高严谨领域，平台绝无放任自流的理由。反观行业现状，多数平台一味追求输出效率、内容完整性和用户体验，舍弃了最核心的审慎性与真实性。面对证件真伪、个人奖惩、资质合规等关键核查需求，大模型不对接官方权威数据库、不做交叉事实核验、不标注信息风险，反而随意给出“伪造”“违法”等定性结论，肆意制造虚假公共信息，侵害公众合法权益。整治AI幻觉乱象，无需苛责普通用户提升辨别能力，核心是压实平台责任、补齐规则短板、重构行业逻辑。首先，彻底摒弃应试式评测体系，优化大模型训练规则，允许AI对存疑、未知信息留白致歉，从根源杜绝强行编造、盲目定论的问题。其次，划定AI应用红线，严禁大模型在高敏感领域自主定性判真伪，强制对接官方查询渠道，以权威数据兜底核验。同时，平台需建立AI虚假内容溯源、纠错与追责机制，打破“技术无责”的行业惯性，对误导公众、损害权益的模型输出承担对应责任。社会层面也需重塑认知，打破对AI的权威迷信，坚守独立思考、主动求证的理性底线。技术的本质是服务人、守护人，而非误导人、伤害人。AI可以有认知局限、可以存空白未知，但绝不能不懂装懂、睁眼造假、随意评判对错。坚决杜绝AI幻觉肆意伤人，不让普通人为行业技术惰性与监管漏洞买单。本文为红辣椒评论原创文章，仅系作者个人观点，不代表红网立场。转载请附原文出处链接和本声明。
