首页 >> 生活 >
团队提出了一个推理框架旨在提高LLM的可靠性和可追溯性
中国科技公司百度的人工智能研究团队正在提出一种新的推理框架,旨在提高法学硕士的可靠性和可追溯性。该团队在arXiv预印本服务器上发表了一篇论文,阐述了他们的想法。
在过去的几年里,ChatGPT等LLM已经成为主流应用,用户利用它们的功能来编写文档、创建图像甚至创作歌曲。
但LLM仍有一个明显的弱点——无法检查自己的结果,以确保它们不会偶尔向用户呈现“幻觉”,即毫无意义的结果。这一弱点使得AI应用无法用于更依赖数据完整性的关键应用。
在这次新的努力中,百度团队制定了一项策略,旨在迫使法学硕士在向最终用户展示结果之前检查他们的工作。
新方法涉及在呈现结果之前向LLM引擎添加一个三步流程。第一步是添加一个相关性感知模型来评估结果并根据其与用户提示的相关性进行判断。第二步涉及证据感知选择选项,其中选择相关文档进行引用,并呈现摘录作为答案正确性的证据。第三步涉及轨迹分析模块,该模块根据前两个模块的结果进行清晰简洁的分析。然后它为用户提供最终答案。
研究团队表示,这种方法将迫使LLM更加了解提供给用户的答案,最终应该会提高准确性。该团队还通过在LLM中添加测试模块然后编写提示来测试他们的想法。他们声称改进后的LLM能够使用小得多的训练数据集超越GPT-4。
研究人员表示,他们这样的框架可以带来更可靠的LLM,从而使其适合更多应用。他们还表示,他们将向更多目前无法获得大量训练数据集的玩家开放这一领域。
免责声明:本文由用户上传,与本网站立场无关。财经信息仅供读者参考,并不构成投资建议。投资者据此操作,风险自担。 如有侵权请联系删除!
分享:
相关阅读
最新文章
-
【木地板材料】木地板是一种广泛应用于家居和商业空间的地面装饰材料,因其自然美观、耐用性强、环保性好等特...浏览全文>>
-
【木地板安装】木地板安装是一项需要细致规划和专业操作的工程,无论是新房装修还是旧房翻新,选择合适的木地...浏览全文>>
-
【木的组词怎么写】在汉语学习中,词语的积累和运用是非常重要的部分。对于“木”这个字来说,它不仅是常见的...浏览全文>>
-
【木的象形字有哪些字】在汉字的发展过程中,许多字最初都是通过象形的方式创造出来的,用来表示具体的事物。...浏览全文>>
-
【木岛法子介绍】木岛法子(Kazuko Kikuchi)是日本著名演员、模特及艺人,以其在影视作品中的出色表现和独特...浏览全文>>
-
【木代尔是什么面料】“木代尔是什么面料”是许多消费者在选购衣物时常常会提出的问题。木代尔是一种天然纤维...浏览全文>>
-
【木代尔和莫代尔哪种面料好】在选择衣物面料时,很多人会遇到“木代尔”和“莫代尔”这两个名称,容易混淆它...浏览全文>>
-
【萝卜的营养价值】萝卜是一种常见的根茎类蔬菜,不仅味道清脆爽口,还具有丰富的营养价值。无论是生吃、炒食...浏览全文>>
-
【萝卜的药用功效和作用】萝卜,作为日常生活中常见的蔬菜之一,不仅味道清脆、营养丰富,还具有多种药用价值...浏览全文>>
-
【萝卜的家常做法】萝卜是一种非常常见的蔬菜,不仅价格实惠,而且营养丰富,适合多种烹饪方式。无论是炖、炒...浏览全文>>
大家爱看
频道推荐