随着ChatGPT的横空出世,人工智能目前几乎一天一个台阶,向着人类不可预测的方向发展。

近日,加拿大蒙特利尔大学教授约书亚·本吉奥(Yoshua Bengio)嗅觉到了一丝来自人工智能的危险,作为2018年图灵奖(计算机领域的国际最高奖项)得主的他,发表公开信,强烈呼吁暂停所有比GPT4先进的AI系统暂停研发6个月。如今,这一建议已在网上获得了来自各领域超1000人的公开支持。

公开信中,约书亚·本吉奥表示:大量研究证实,能与人在智力方面竞争的AI系统可能对社会和人类构成深远的风险,高级AI虽然可能带来世界生命史上的深刻变化,但也理应受到相应的管理。不幸的是,目前与AI发展相应的规划与管理并不存在,最近几个月,世界各地陷入了无序的AI竞赛。没有人,哪怕创造出这些系统的人也没办法预测甚至有效的实施控制。

目前,人工智能在一般工作上已经变得与人具有同等的竞争力,但我们是否也应该先扪心自问:我们是否应该让它们生产的谎言来充斥我们的信息渠道,我们是否应该自动化所有的工作?我们应该冒着失去我们对文明控制的风险来发展它们吗?

因此,我们呼吁要求所有比GPT4先进的AI系统暂停研发6个月,然后制定对这种超过人类能力东西的对策,并建议,如果不暂停,应该由政府强制暂停。

最后,约书亚·本吉奥还认为AI开发者必须要与监管者合作,开发强大的AI管理系统。比如要有专门负责AI监管的机构,监督并跟踪AI系统的大量计算;以及对AI产出的内容进行水印等标记,帮助人类识别真假;甚至还要为AI的安全研究提供充足的资金,来应对AI可能造成的经济或政治破坏。

目前,约书亚·本吉奥的公开信已经有超过1000多人的公开签名与支持,其中也不乏一些知名人士,如其他计算机领域的专家以及世界数一数二的富豪马斯克,还有苹果公司的联合创始人斯蒂夫·盖瑞·沃兹尼亚克。

友情提示

本站部分转载文章,皆来自互联网,仅供参考及分享,并不用于任何商业用途;版权归原作者所有,如涉及作品内容、版权和其他问题,请与本网联系,我们将在第一时间删除内容!

联系邮箱:1042463605@qq.com