盖世汽车讯 当前大多数人工智能（AI）系统通过机器学习和深度学习来学习完成任务。机器学习是一种计算方法，使模型能够发现数据中可用于预测的模式。而深度学习则是机器学习的一个子集，利用多层神经网络，能够自主地从非结构化数据中提取特征并学习复杂的模式，有时甚至无需人工监督。
许多采用这些方法训练的AI系统还会为其预测结果生成置信度评分。这些评分本质上是对特定预测准确概率的估计。以往的研究表明，在多数情况下，AI系统过于自信，会给错误的答案赋予过高的置信度评分，甚至将不准确的信息当作事实呈现。这限制了其可靠性，尤其是在高风险应用中，因为错误的预测可能会造成严重的后果。
据外媒报道，韩国科学技术院（Korea Advanced Institute of Science and Technology，KAIST）的研究人员提出了一种受大脑启发的新型训练方法，有望生成更贴近实际的AI置信度估计。该策略使用随机噪声（即不包含任何有意义模式的数据）和任意输出对人工神经网络进行短期训练，使其在学习特定任务之前，能够学会生成更贴近实际的置信度估计。相关研究发表于期刊《Nature Machine Intelligence》。
图片来源：期刊《Nature Machine Intelligence》
研究人员Jeonghwan Cheon和Se-Bum Paik在论文中写道：“不确定性校准，即预测置信度与准确度的匹配，对于机器学习系统在实际应用中的可靠部署至关重要。然而，目前的模型往往无法实现这一目标，产生的响应要么过于自信，要么不准确，甚至可能是捏造的。研究表明，深度学习中广泛采用的初始化方法——长期以来被视为标准做法——实际上是过度自信的主要来源。”
*特别声明：本文为技术类文章，禁止转载或大篇幅摘录！违规转载，法律必究。
本文地址：https://auto.gasgoo.com/news/202605/12I70457337C409.shtml
联系邮箱：info@gasgoo.com
求职应聘：021-39197800-8035
简历投递：zhaopin@gasgoo.com
客服微信：gasgoo12 (豆豆)
新闻热线：021-39586122
商务合作：021-39586681
市场合作：021-39197800-8032
研究院项目咨询：021-39197921
—— 全球视野·中国声音 ——
