有网友用豆包搜民国人物黎元洪,结果蹦出来一张范伟的PS照。这个乌龙看着挺搞笑,但其实暴露了AI在识别图像和抓信息时的一个硬伤:真实性不够稳。不少人吐槽AI太不严谨,搜个严肃历史人物都能跑偏到娱乐方向,影响查资料的准确度。



官方后来也回应了,说这事儿源头其实是网络传错图。黎元洪和范伟长得确实有点像,早些年《建党伟业》选角的时候有人恶搞P了图,结果这张图在网上传得比黎元洪的真实照片还火,一些图库和百科也不小心收进去了,AI一搜,自然优先推了那张热度高的合成照。

AI出这种错,说白了就是典型的信息幻觉。

专家解释,大模型主要靠网上的数据来学东西,自己不会判断真假。如果某个错误信息在网上反复出现,AI就很容易把它当正确答案丢出来,搞得一本正经胡说八道。

目前技术想完全杜绝幻觉还挺难,只能说尽量优化数据来源、加强检索和校验,把错误率降下来。

这波操作也引发不少网友开始讨论AI到底可不可靠。有人调侃说要不要试试搜别的历史人物会不会也翻车,还有人分享自己被AI带偏的真实经历,呼吁平台尽快提升内容的准确性。

现在相关平台已经在优化搜索逻辑,优先推权威的史料和图像,尽量减少网络误传信息带来的干扰。