新闻资讯

快评丨获诺贝尔物理学奖的“AI教父”,为何后悔研究AI?

让AI最大程度地造福社会,最小程度地伤害社会

快评丨获诺贝尔物理学奖的“AI教父”,为何后悔研究AI?
(图侵删)

近日,瑞典皇家科学院宣布,将2024年诺贝尔物理学奖授予美国普林斯顿大学的约翰·霍普菲尔德和加拿大多伦多大学的杰弗里·辛顿,以表彰他们“为推动利用人工神经网络进行机器学习做出的基础性发现和发明”。

↑美国普林斯顿大学的约翰·霍普菲尔德和加拿大多伦多大学的杰弗里·辛顿

诺贝尔奖评奖委员会表示:“今年物理学奖得主取得的突破建立在物理科学的基础上。他们为我们展示了一种全新的方式,让我们能够利用计算机来帮助和指导我们,应对社会面临的许多挑战。”

的确,两位科学家的研究领域和成果,看上去有些“不物理”。比如,辛顿被视为由ChatGPT掀起的本轮AI技术跃进背后的奠基性科学家,被誉为“AI教父”。而关注“AI教父”获诺贝尔物理学奖之时,辛顿的“AI威胁论”或许更值得关注。

辛顿曾在谷歌工作十年,2023年5月,他从谷歌离职后,便持续公开呼吁谨慎对待AI技术,成为旨在引导AI系统、使其行为符合设计者利益和预期目标的“AI对齐派”的代表。他在社交平台上发文表示,自己离开谷歌是为了可以“公开地谈论AI的危险”。辛顿曾直言,“我用平常的借口来安慰自己:就算我没做,别人也会做的……很难想象,你能如何阻止坏人利用它(AI)来做坏事。”

这样的言论并非危言耸听,现已发生多起AI造假和骗局事件,而且AI风险涉及到社会和个人生活的方方面面。正如有专家所言,“当新闻、图像、音频、视频——任何事情都可以伪造时,那么在那个世界里,就没有什么是真实的”。

对于AI的危险和人们使用AI的安全性,国际社会已有共识。2021年,联合国教科文组织通过首份人工智能伦理问题全球性协议——《人工智能伦理问题建议书》。其中提出,发展和应用人工智能要体现出四大价值,即尊重、保护和提升人权及人类尊严,促进环境与生态系统的发展,保证多样性和包容性,构建和平、公正与相互依存的人类社会。该建议书还包含了规范人工智能发展应遵循的原则,以及在原则指导下人工智能应用的领域等。

研发和应用AI,要遵循适宜性(相称性)、安全、公平、透明、保护隐私和公正等原则。比如,从适宜性,也即相称性和合理性来看,任何一项AI产品的研究和使用,都应证明选择使用人工智能系统和选用哪种人工智能方法具有合理性。正如当下生物医学研究和医院治疗病人,在涉及生命和安全时要经过伦理委员会的讨论和批准,AI产品的发展也需经历必要的程序和步骤,避免造成社会恐慌、伤害、损失甚至灾难。

未来,任何研究AI并推出AI产品的机构和个人,都应当以《人工智能伦理问题建议书》进行评估,而且在推向社会后,各国也需要有相应AI伦理指南的法律进行监管。如此,才能让AI最大程度地造福社会,最小程度地伤害社会。

红星新闻特约评论员 张田勘

编辑 赵瑜

红星评论投稿邮箱:hxpl2020@qq.com

(下载红星新闻,报料有奖!)

  • 硬核!多方携手打造“5G云课堂”,连接两地全景高清教学
  • 吉林省昨日新增3076例本土确诊病例 991例本土无症状感染者
  • 以防长会见美中央司令部司令 讨论应对伊朗可能发动的袭击
  • 红星寻人|61岁母亲寻子:两儿子被前夫接走后失踪35年,前夫生前未透露孩子去向
  • 四川省新型冠状病毒肺炎疫情最新情况(2月28日发布)
  • 撤出8个公路检疫点 成都交通运输执法人员转战成都市内车站航站
  • 轿车没电男子被困金沙江,消防出动3车1舟1艇紧急救援……
  • 男子预估女友怀孕日期不对要分手,女友多次上门要赔偿
  • 2019年成都中心城区指标到校生市级统分指标分配情况出炉
  • 韩警方对刘亚仁住处进行搜查取证,获取其吸毒证据
  • 中国建设银行股份有限公司攀枝花分行高级副经理杨述良 接受纪律审查和监察调查
  • 12岁女孩获李白诗歌奖金奖 6岁写的诗就能征服众人
  • 快评丨获诺贝尔物理学奖的“AI教父”,为何后悔研究AI?的相关内容

    关键词: