加拿大AI专家国大演讲 呼吁警惕借安全之名控制AI

0
2

然而,当天萨顿的演讲重点并不是强化学习的发展过程。他告诉4600多名现场和线上观众,很多人以安全为由呼吁停止AI研究,但这些人其实是要通过造成恐慌,对AI取得中心化控制。

延伸阅读

我国推出全新入门测试工具 助企业更安全部署生成式AI应用 “计算机安全教母”宋晓冬:AI安全是为创新系上“安全带”

萨顿还认为,人工智能的未来发展将会造福人类。他的这个观点,和2024年诺贝尔物理学奖获得者加拿大多伦多大学的辛顿(Geoffrey Hinton)的,完全相左。辛顿被誉为人工智能(AI)教父,也是2018年图灵奖获得者,近年来一直提醒人们,AI可能威胁人类生存。两年前,他从谷歌离职,主要为了可以“公开地谈论AI的危险”。

“那些要对人工智能系统采取中心化控制的呼声,和那些对人进行中心化控制的,简直是如出一辙。”

他解释,人工智能旨在满足人们的不同诉求,不能实行统一的中心化管理,应遵循去中心化的合作理念。为了让AI技术“去中心化”,他还参与创办了Openmind Research Institute人工智能研究院,目前已在加拿大设立了实验室,计划进一步扩大成一个国际研究机构。

加拿大阿尔伯塔大学计算机科学教授萨顿(Richard Sutton,67岁)星期五(6月6日)应邀到新加坡国立大学发表120周年校庆主旨演讲,他说人工智能(AI)应该满足不同人的不同需求,要警惕一些人通过政治手段将新技术“中心化”。

加拿大阿尔伯塔大学计算机科学教授萨顿,6月6日在新加坡国立大学演讲,现场观众近600名,另有4000多人在线上收看。(张俊摄)

萨顿和他曾在马萨诸塞大学的导师巴尔托(Andrew Barto,76岁),凭借在强化学习研究领域所做的突出贡献,共同获得2024年图灵奖。此奖由美国计算机协会颁发,素有“计算机领域的诺贝尔奖”之称。

上世纪70年代末,两位科学家将人类大脑“热爱享乐,讨厌受苦”的特质,通过数码手段,应用到人工智能系统,从而创造出了强化学习(reinforcement learning)。如今,从战胜全球第一围棋高手的谷歌AlphaGo,到如日中天的ChatGPT,都少不了强化学习的“功劳”。

荣获计算机领域著名的图灵奖的萨顿教授提醒,人工智能是人类社会发展的趋势,不应被一些人以安全为由中心化控制。

文章评论