新算法实现人工智能多模态信息“去伪存真”

发布时间:2024-12-25 07:32:43 来源: sp20241225

原标题:新算法实现人工智能  多模态信息“去伪存真”

记者5月18日从西安电子科技大学获悉,由该校计算机科学与技术学院教授赵伟领衔的智能媒体计算机团队,通过数据可信重建以及弱监督深度学习框架,破解了数据质量低及标注数据稀缺难题,进一步揭示了神经网络的决策机制,有效提升了现有可信人工智能方法的鲁棒性、可解释性和安全性。相关论文《可信冲突多模态学习算法》日前获国际人工智能领域顶级学术会议AAAI 2024杰出论文奖。

人工智能已经日益深入人们生活。在医疗、自动驾驶等复杂场景中,人工智能对决策任务的误判可能造成重大损失。传统可信人工智能多关注单模态数据,无法满足实际场景中多模态数据分析决策需求,单模态数据有限的信息量导致单模态智能可信度存在瓶颈。

为此,团队打破单模态数据思路,提出冲突多模态学习算法,并通过数据可信重建以及弱监督深度学习框架算法,实现了证据层面的冲突多模态数据可信融合。这能在提升人工智能决策性能的同时,可靠地度量决策置信度。此外,团队从理论上证明,该方法能够量化冲突模态带来的负面影响。这有利于解决当前研究面临的数据质量低、决策不可信等难题,为后续研究提供了重要的理论基础和技术支撑。

团队成员徐偲副教授解释,这种算法在给出置信度的同时,还会给出多模态数据的冲突度,实现了多模态信息的“去伪存真”。若置信度不高且冲突度较高时,人工智能的决策便明显不太可信。

 (记者史俊斌)

(责编:郝孟佳、李昉)