
如何消除AI幻觉?我们做了个实验
如何消除AI幻觉?我们做了个实验“让AI帮忙推荐楼盘,它说得有理有据,连户型都帮我选好了,我都心动了,结果它推荐的楼盘根本不存在……”然而,大家对AI的信任有时也会悄悄动摇:文中附上的引用链接变成失效的乱码,严谨的学术术语下包裹着虚构的参考文献,回答内容中的统计数据从未在标注信源中出现……
“让AI帮忙推荐楼盘,它说得有理有据,连户型都帮我选好了,我都心动了,结果它推荐的楼盘根本不存在……”然而,大家对AI的信任有时也会悄悄动摇:文中附上的引用链接变成失效的乱码,严谨的学术术语下包裹着虚构的参考文献,回答内容中的统计数据从未在标注信源中出现……
2025年2月,如果不是长期从事人口研究的中国人民大学教授李婷的公开辟谣,很多人都真诚地相信了一组数据——“中国80后累计死亡率为5.20%”。
近些日子,老詹突然“爱”上了DeepSeeK,简直有点相见恨晚的感觉!几乎每天都摆弄这玩意儿。然而,处着处着,我发现,这家伙有点靠不住!最大的问题是,说假话!
两个星期前,Google 在今年的 I/O 大会中高调介绍了自家的 AI 搜索功能 AI Overview,并在当周宣布对美国用户开放。我们尚且没能等来预热了好久的 ChatGPT Search,全球市占率超过 9 成的搜索引擎巨头 Google 却无预警地在美国开放了 AI 搜索,一副“为了提升用户体验舍我其谁”的架势。
谷歌AI又闯大祸!
人工智能系统的“幻觉”是由于其工作原理和结构决定的,它们并非大脑模型,无法准确地描述事实。然而,人们使用人工智能系统通常是为了完成创造性的任务,而创造力涉及某种启发式的搜索过程。
大模型就是「造梦机」!幻觉是LLM与生俱来的特性,而非缺陷。OpenAI科学家Andrej Karpathy独特视角在AI社区掀起了激烈的讨论。