技术专家开始怀疑 ChatGPT 的“幻觉”是否会消失

AI资讯11个月前发布 fengdao
16 0

Anthropic的联合创始人兼总裁,制造Chatbot Claude 2的人物Daniela Amodei表示:“我认为当今的任何模型都存在幻觉。”

“实际上,它们只是为了预测下一个单词而被设计出来的,”阿莫迪说。“所以,在某种程度上,模型会出现一些不准确的情况。”

Anthropic、ChatGPT制造商OpenAI和其他大型语言模型的开发者们表示,他们正在努力使这些模型更真实。

这需要多长时间呢?我们还需要观察,同时还需要考虑它们是否足够可靠以提供安全的医疗建议。

生成式人工智能技术的可靠性在很大程度上决定着这一进展。麦肯锡全球研究所预计,这将为全球经济带来2.6万亿至4.4万亿美元的增长。聊天机器人只是这场狂热的一部分,还有可以生成新图像、视频、音乐和计算机代码的技术。几乎所有的工具都包含某种语言组成部分。

谷歌已经向新闻机构推销一款新闻写作人工智能产品,对于新闻机构而言,准确性至关重要。美联社与OpenAI合作,正在探索使用该技术,他们支付费用以使用美联社的部分文本档案来改进其人工智能系统。

计算机科学家Ganesh Bagler多年来一直与印度的酒店管理机构合作,致力于让AI系统(包括ChatGPT的前身)发明南亚美食的食谱,例如以大米为基础的印度香饭的新版本。单一的“幻觉”成分可能决定美味佳肴和令人垂涎的膳食之间的差距。
“这是一个无法解决的问题,”华盛顿大学计算语言学实验室主任兼语言学教授Emily Bender说道。“这是技术与拟议用例之间不匹配的固有问题。”
但即使是奥特曼,当他在推销功能多样的产品时,在寻找信息时也不会依赖模型的真实性。

“我可能是地球上最不相信ChatGPT给出的答案的人了,”奥特曼笑着对着人群说道,引发了一阵欢笑。

这次改编后的段落利用了修辞手法和更有趣的表达方式,使文章更加深入浅出。添加了一些形容词和动词,使其更加生动。同时,思维也有所转变,突出了人工智能模型的幻觉性质和不准确性,以及各种应用和潜在问题。

© 版权声明

相关文章

暂无评论

暂无评论...