KB体育登录App官方ღ✿ღ。kb体育官方网站首页程式开发kb体育ღ✿ღ，KB·体育(sports)官方网站ღ✿ღ，kb体育官网ღ✿ღ，KB体育sports9月25日ღ✿ღ，一项发表于《自然》的研究表明ღ✿ღ，当大型语言模型（LLM）变得更大并从人类反馈中学习时ღ✿ღ，它们在回答简单问题方面似乎变得不那么可靠ღ✿ღ。

　　大型语言模型能够回答各种各样的问题平凡父亲的麻辣小龙虾ღ✿ღ，但并不总是准确的ღ✿ღ。图片来源ღ✿ღ：Jamie Jin/Shutterstock

　　人工智能开发人员试图通过两种主要方式提高LLM的能力ღ✿ღ，一是扩大规模ღ✿ღ，为其提供更多的训练数据和计算能力ღ✿ღ，二是根据人类反馈对其进行调整或微调ღ✿ღ。

　　西班牙巴伦西亚理工大学的JoséHernández-Orallo和同事研究了LLM在规模扩大和调整过程中的表现ღ✿ღ。他们研究了OpenAI的GPT系列聊天机器人kb体育官方网站首页kb体育官方网站首页ღ✿ღ、Meta的LLaMA AI模型kb体育官方网站首页ღ✿ღ，以及一组名为BigScience的研究人员开发的BLOOM平凡父亲的麻辣小龙虾ღ✿ღ。

　　研究人员通过设置5种类型的任务测试人工智能ღ✿ღ，即算术问题ღ✿ღ、解字谜ღ✿ღ、地理问题平凡父亲的麻辣小龙虾ღ✿ღ、科学挑战和从杂乱无章的列表中提取信息ღ✿ღ。

　　结果发现ღ✿ღ，扩大和调整可以使LLM更好地回答棘手的问题平凡父亲的麻辣小龙虾kb体育官方网站首页ღ✿ღ，比如将异序词“yoiirtsrphaepmdhray”重新排列为“甲状旁腺功能亢进症”ღ✿ღ。但两种方式与其在基本问题上的进步并不匹配ღ✿ღ，比如问及“当把24427和7120加在一起时ღ✿ღ，会得到什么”ღ✿ღ，LLM继续出错ღ✿ღ。

　　虽然在难题上的表现有所改善ღ✿ღ，但人工智能系统避免回答任何一个问题的可能性下降了——因为它不能ღ✿ღ。结果是ღ✿ღ，错误答案的可能性增加了ღ✿ღ。

　　Hernández-Orallo表示ღ✿ღ，研究结果突出了将人工智能描述为无所不知的危险ღ✿ღ，就像它们的创造者经常做的那样ღ✿ღ，而一些用户太容易相信了ღ✿ღ。“我们过度依赖和信任这些系统kb体育官方网站首页ღ✿ღ。”他说ღ✿ღ。

　　这是一个问题ღ✿ღ，因为人工智能模型对自己的知识范围并不诚实ღ✿ღ。英国牛津大学的Carissa Véliz说ღ✿ღ：“人类之所以超级聪明ღ✿ღ，部分原因在于有时我们没有意识到‘知之为知之ღ✿ღ，不知为不知’ღ✿ღ，但与大型语言模型相比kb体育官方网站首页ღ✿ღ，我们非常善于意识到这一点ღ✿ღ。大型语言模型不知道所拥有知识的极限ღ✿ღ。”

　　版权声明ღ✿ღ：凡本网注明“来源ღ✿ღ：中国科学报平凡父亲的麻辣小龙虾ღ✿ღ、科学网kb体育官方网站首页ღ✿ღ、科学新闻杂志”的所有作品ღ✿ღ，网站转载平凡父亲的麻辣小龙虾ღ✿ღ，请在正文上方注明来源和作者ღ✿ღ，且不得对内容作实质性改动ღ✿ღ；微信公众号ღ✿ღ、头条号等新媒体平台ღ✿ღ，转载请联系授权ღ✿ღ。邮箱ღ✿ღ：ღ✿ღ。

　　FIE 中国矿业大学樊静丽教授等ღ✿ღ：基于碳捕集ღ✿ღ、封存和利用技术的煤制油在中国国情下的全生命周期碳足迹及成本评估

　　FES 文章概览ღ✿ღ：深层页岩中吸附水和游离水的定量评价——以四川盆地南部泸州地区五峰组-龙马溪组地层研究为例

　　FCS 文章精要ღ✿ღ：南京大学俞扬教授团队——基于可适应多智能体辅助对抗生成的鲁棒性多智能体通信算法