周鸿祎评李彦宏“大模型已基本解决幻觉问题”:幻觉不可消除 | 直击乌镇
2024-11-21 11:03:53 新浪科技 业界
新浪科技讯 11月21日上午消息,2024世界互联网大会乌镇峰会期间。周鸿祎对近日百度李彦宏在百度世界大会上提到的“大模型已基本解决幻觉问题”提出了自己的观点,他表示:我对李总很尊敬的,我就不好意思再批评他了。幻觉是不可消除的,幻觉如果真的做大模型的人就了解,幻觉是大模型与生俱来的一种特点,不能叫做缺点,它是一种特点。如果没有幻觉的大模型就没有智能性了。《未来简史》里讲,人和很多动物智力上的差别就是人能描绘不存在的事情,这就叫做现实扭曲力,就叫做幻觉和杜撰的能力。因为有了杜撰的能力人才能创新,因为有了创新就是把不存在的事情想象出来。
周鸿祎认为,大模型幻觉在有些地方是要发挥出来的,在有些地方它会出错。“比如诊断报告,金融给你做方案建议,所以,消除幻觉在某些垂直领域通过外部知识库的校准可以一定程度的校准,用知识来消除幻觉,但是,如果你要追求它自己的推理很智能,要求它有一定的发散性,幻觉不可消除。”