设为首页
当前日期:2023年 2月 5日    安全退出
首  页
重要通知
创新动态
科技成果(省校合作)
政策法规
企业需求
数椐中心
您的位置: 首页 >> 创新动态
创新动态
【科技前沿】领域内首次报道:将大脑的抉择机制成功运用于人工智能 | 连线脑智卓越中心杨天明
 
    发布时间:2022-08-16 08:45:55    访问次数:0     返回
    

 “人工智能近年来在许多方面取得了许多重大突破,然而人工智能与大脑之间仍旧存在巨大差异,缺乏自主学习能力,无法灵活适应环境。这些方面的突破,我认为还是要从‘生物脑’的研究中来。”

无论是人脸解锁还是自动驾驶AI算法都在背后默默发力驾护航

,谁来守护AI的安全性呢?

一旦人工智能出错,轻则使用不便重则可能会引发车毁人亡等严重后果

 

 

近日,中国科学院脑科学与智能技术卓越创新中心(神经科学研究所)杨天明研究组在类脑算法助力人工智能的安全方面取得进展。上海科技独家连线脑智卓越中心神经机制研究组组长杨天明,听他讲述这项研究背后的故事。

领域内首次报道:将大脑的抉择机制成功运用于人工智能人每天会做出许多决定每做出一个决定都存在许多干扰大脑是如何排除各种干扰最终做出合理抉择的呢

据杨天明介绍,在认知科学领域,有一个经典模型 “漂移扩散模型”(DDM),用于解释大脑是如何在信息存在许多噪音或者不确定性的情况下进行抉择:大脑通过积累带有干扰的证据,在达到一定阈值时做出最终决定。大量心理物理实验发现人和动物在抉择过程中的行为能被DDM模型很好的解释。同时,在大脑中的前额叶、后顶叶等脑区均发现了神经元编码并表征了抉择中的证据累积过程。

 

漂移扩散模型示意图

 

受到这一系列研究的启发,杨天明研究组针对人工智能的安全性问题,设计了名为 Dropout-based Drift-Diffusion Model(DDDM)的防御算法。

“我们团队过去多年的工作也一直关注大脑中相应的神经机制。然而,过去的研究把噪音仅仅放在一个被动处理的地位,作为一个有害的东西采用DDM算法进行消除。”在接受上海科技采访时,杨天明介绍道。

近年来,人工智能领域发现,人工添加的噪音可以在一定程度上提高神经网络的鲁棒性和安全性能,但是如果添加的噪音过大则会对性能产生损害。“于是我们想到,将DDM这一算法加入到神经网络中去,应该能大大降低噪音带来的性能损失,这样我们可以在不损失性能的前提下,人为加入更大的噪音来提升网络的鲁棒性。”

经过大量实验发现,新型的DDDM模型在网络鲁棒性和网络性能之间取得了很好的平衡,在各种攻击手段下都能取得较高的准确率。相对于之前的防御算法,新型模型不依赖于针对特定攻击的预训练,更为通用、有效。

 

左)生物脑中的抉择过程;(右)DDDM中的抉择过程

“这项研究是领域内首次报道将大脑的抉择机制成功运用于人工智能。然而我们这项工作目前还是比较初步,只是阐明了一个框架性的原理。”杨天明表示,希望这项工作能够给目前的人工智能领域带来一些启发,激励人工智能的研究者们能更多地将神经科学的发现真正融入到他们的领域中。

“人工脑”最终能完全模拟甚至替代人脑吗?

据杨天明介绍,抉择的神经机制研究在国际上是一个成熟而且非常活跃的研究领域。然而由于其交叉学科的属性,在我国则是一个较为年轻的领域。近十年内,国内院校成立了一批优秀的实验室和研究团队,在一些点上取得了国际水平的突破,但在整体上仍需要追赶国际先进水平,亟需各方面扶持与关心。

“这项交叉领域的研究成果离不开神经科学与人工智能领域两个领域的研究人员的通力合作。”在接受采访时,杨天明表示,在研究过程中,他们遇到了不少问题,这些问题最终在上海脑科学与类脑研究中心的人工智能领域专家周熠的帮助下一一解决。“术业有专攻,但是通过这个研究经历我体会到,在专攻之外还需要相互之间顺畅的交流和默契的合作才能真正在类脑智能这样的交叉领域取得成果。”杨天明说。

尽管人工智能近年来在许多方面取得了重大突破,但人工智能与大脑之间仍旧存在着巨大差异,例如缺乏自主学习能力,无法灵活适应环境等。杨天明认为:“这些方面的突破,我认为还是要从‘生物脑’的研究中来。而这个研究的难点在于如何真正地把大脑中的机制融入到人工智能技术中去,这需要一批交叉学科的人才投身到这个领域中去。”

“就像汽车比人腿跑得快,望远镜比人眼看得远,我相信未来的“人工脑”能够达到甚至超过人脑的智能水平。在完善的人工智能伦理的约束之下,人工智能能够成为人类智能的翅膀,帮助我们去探索新的未知世界。”杨天明说道。

来源:“上海科技”公众号

 



附件下载地址:

----友情链接----
国家          高校          省内         
承办单位:吉林省经济技术发展中心(版权所有)
主管单位:吉林省工业和信息化厅
电话:0431-88959403    吉ICP备05003692号