欧易

欧易(OKX)

国内用户最喜爱的合约交易所

火币

火币(HTX )

全球知名的比特币交易所

币安

币安(Binance)

全球用户最多的交易所

全球千名精英联名呼吁:暂停GPT-5研发!AI对人究竟有风险吗?

时间:2023-04-06 10:06:13 | 浏览:126

把AI装进笼子AI领域顶尖专家和图灵奖得主约书亚•本吉奥、特斯拉首席执行官马斯克等人千人联名签署公开信,呼吁暂停开发比GPT-4更强大的AI系统至少6个月,称其“对社会和人类构成潜在风险”。AI对人类究竟有风险吗?“人工智能在理论上是有可能

把AI装进笼子

AI领域顶尖专家和图灵奖得主约书亚•本吉奥、特斯拉首席执行官马斯克等人千人联名签署公开信,呼吁暂停开发比GPT-4更强大的AI系统至少6个月,称其“对社会和人类构成潜在风险”。

AI对人类究竟有风险吗?

“人工智能在理论上是有可能毁灭人类的。”中国人工智能学会基础专委会副主任陈志成在接受中新社国是直通车采访时表示,正是基于这种风险的存在,所以才制定了在国际上达成共识的三原则进行约束。

第一条,不得伤害人类,或看到人类受到伤害而袖手旁观。

第二条,必须服从人类的命令,除非这条命令与第一条相矛盾。

第三条,必须保护自己,除非这种保护与以上两条相矛盾。

马斯克的公开信中主张,在开发强大的AI系统之前,应先确认其带来影响是积极的、风险是可控的。

但是,支持还是反对,很多大佬意见不一,已经开始唇枪舌战。

比如,LeCun(美国科学院院士、图灵奖获得者)、吴恩达(曾任斯坦福大学人工智能实验室主任)、田渊栋(Facebook人工智能研究院智能围棋项目负责人)等一众AI大佬,都发文公开反对这份“千人联名”。

吴恩达表示,在GPT-4出现之后要求AI训练暂停6个月是很可怕的事情:GPT-4在教育、医疗保健、食品等领域都有很多新的应用,这将帮助许多人。

田渊栋说,“我不签暂停令”!AI的发展就像囚徒困境:一旦开始,就没有办法停止或扭转这一趋势,这就是进化的必然。应该换个角度继续向前看,更好地理解 LLM(大型语言模型),适应它并利用其力量,感受热度。

Meta数据科学家林致远、英伟达AI研究科学家Jim Fan也对吴恩达观点表示赞同。

国内首批深度学习工程师、神策数据VP乐一帆在接受中新社国是直通车采访时表示,他并不认为ChatGPT本身会像科幻电影里演的那样,可以控制甚至毁灭人类。但是他的担心有三方面:

第一,用户恶意利用GPT获知危害社会或犯罪方法等问题;

第二,用户自身分辨能力不足,被GPT蒙蔽;

第三,GPT的核心目标函数被别有用心的人掌握,通过操纵GPT来挑起国际争端等。

陈志成认为,ChatGPT本质上是基于概率统计并依赖大算力的大数据分析行为,但并不是真正意义上具有“理解”能力的人工智能。以现有情况来看,不可能具备像人一样思维逻辑或学习经验的能力来自主伤害人类,只是按照程序进行数据收集、梳理、分析、识别和输出等。

陈志成认为,人工智能是大趋势,即便暂停GPT-5的研发也阻挡不了人工智能的发展,任何时代都有科技的进步,这是正常现象。

怎样才能把人工智能“装进笼子”?

分析人士认为,人类在加快发展人工智能的同时,也要把人工智能“装进笼子”。

陈志成说,中国将是世界上最有效监管GPT技术应用的国家,这不仅是基于体制优势,关于对人工智能的监管及其伦理约束,中国也制定了相关规范。

中国国家新一代人工智能治理专业委员会于2021年9月25日发布《新一代人工智能伦理规范》,旨在将伦理道德融入人工智能全生命周期,为从事人工智能相关活动的自然人、法人和其他相关机构等提供伦理指引。增强全社会的人工智能伦理意识与行为自觉,积极引导负责任的人工智能研发与应用活动,促进人工智能健康发展。

《新一代人工智能伦理规范》第一条即开宗明义:本规范旨在将伦理道德融入人工智能全生命周期,促进公平、公正、和谐、安全,避免偏见、歧视、隐私和信息泄露等问题。

联合国教科文组织近日也发表声明,呼吁各国政府尽快实施该组织通过的首份人工智能伦理问题全球性协议——《人工智能伦理问题建议书》。旨在促进人工智能为人类、社会、环境以及生态系统服务,并预防其潜在风险。

该组织总干事阿祖莱说,世界需要更强有力的人工智能伦理规则,这是时代的挑战。“现在是时候在国家层面实施这些战略和法规了。我们必须言出必行,确保实现《建议书》的目标。”

来源: 国是直通车

相关资讯

chatGPT,AI时代到来?一文告诉你到底何为GPT!GPT能做什么!

近期chatGPT异常火爆,仅仅用了60 天用户就直接破亿,这是何等可怕的速度!于是乎国内外大厂纷纷追随 AIGC 步伐, ChatGPT 引领 AI 在科技圈一路“狂飙”!由于涉及到太多的专业词汇,开始之前,先通俗易懂的解释这些词汇(图1

免费可商用开源GPT模型问世,50G权重直接下载,性能不输GPT-3

萧箫 发自 凹非寺量子位 | 公众号 QbitAI真·开源GPT模型,终于来了。参数量级130亿,大小比肩最近Meta开放的LLaMA-13B,但从数据集、模型权重到计算优化训练,全部开源。最关键的是,可商用。没错,虽然就GPT-3而言,之

HuggingGPT:一个ChatGPT控制所有AI模型,自动帮人完成AI任务

丰色 发自 凹非寺量子位 | 公众号 QbitAI最强组合:HuggingFace+ChatGPT ——HuggingGPT,它来了!只要给定一个AI任务,例如“下面这张图片里有什么动物,每种有几只”。它就能帮你自动分析需要哪些AI模型,然

周鸿祎:中国大语言模型和GPT-4差距在两三年,GPT-6后可能会有意识

周鸿祎周鸿祎再次公开谈及自己对人工智能的未来判断。3月25日,2023中国发展高层论坛开幕,三六零(601360.SH,下称“360”)集团创始人周鸿祎以“人工智能与未来安全”为题发表主题演讲。演讲中,周鸿祎展示了AI绘图生成的自画像,以及

震撼!GPT-4来了,支持多模态,全面吊打ChatGPT,完虐标准化考试

智东西编译 | ZeR0编辑 | 漠影智东西3月15日消息,今日凌晨,万众瞩目的大型多模态模型GPT-4正式发布!OpenAI发文称,GPT-4能接受图像和文本输入,输出文本内容,虽然在许多现实场景中的能力不如人类,但在各种专业和学术基准测

华泰证券:从BloombergGPT看金融GPT机遇

2023年3月30日,金融信息提供商彭博社发布了专为金融领域打造的大语言模型(Large Language Model,LLM)Bloomberg GPT。该模型依托彭博社的大量金融数据源,构建了一个3630亿个标签的数据集,支持金融行业内

能赋诗写剧看漫画,但GPT-4“不认识”GPT-4

中新网3月16日电 (中新财经记者 吴涛)北京时间15日凌晨,OpenAI发布大型多模式模型GPT-4。OpenAI称,GPT-4在先进推理上超过了ChatGPT,是OpenAI努力扩展深度学习的最新里程碑。这个“里程碑”到底有哪些特点呢,

GPT-4重磅发布!ChatGPT炸裂大升级,能考上哈佛,体验后我慌了

今天 OpenAI 宣布推出 ChatGPT 4,ChatGPT Plus 用户在今天就能体验到。OpenAI 称它是「最先进的系统,能生产更安全和更有用的回复」。和上一代相比,GPT-4 拥有了更广的知识面和更强的解决问题能力,在创意、视

什么是GPT?为什么说GPT是第三次工业革命?

GPT可以说是2023最热门的话题,没有之一!到底什么是GPT? 为什么说GPT是第三次工业革命?什么是GPT?GPT 是 "Generative Pre-training Transformer" 的缩写,是一种基于Transformer

ChatGPT的“GPT”是什么意思?三个单词暴露你的英语水平!

当我们还活在睡梦中时,人工智能ChatGPT横空问世,从连续回答问题、生成摘要、翻译文档,到信息分类、写代码、编剧本、做作业和写论文,ChatGPT几乎都能应对自如。两个月时间内,ChatGPT的月活用户已突破1亿,成为史上增长最快的消费者

谷歌版ChatGPT公测炸了!比GPT-4数学能力还强,体验名额发得很快

谷歌吃了大亏之后,这次一声不吭,放了大招:对标ChatGPT的Bard测试版,刚刚正式对外发布。而且这次用户在申请候补名单之后,无需经历漫长的等待时间。没错,量子位也已经拿到了测试资格!(中间只有不到5小时的间隔。)实测之后表示,Bard效

更强大恐怖的GPT-4来了,考试表现优于人类,性能远超ChatGPT

界面新闻记者|李京亚3月15日凌晨2点,OpenAI正式发布了升级后的GPT-4。GPT-4是一个多模态大模型,可以接受文本和图像形式的输入,能使用文本解析并回应这些查询。在ChatGPT Plus上,开发人员可以通过API构建应用程序和

ChatGPT:关于OpenAI的GPT-4工具你需要知道的一切

#头条创作挑战赛#OpenAI 已迅速成为科技界最知名的公司之一。这家人工智能 (AI) 公司制作了逼真的图像生成器、3D 模型创建器,以及现在最著名的 ChatGPT。ChatGPT 有能力通过法律考试、撰写整篇长篇文章,甚至编写完整的网

生命科学迎“ChatGPT时刻”!AIGP平台三大功能加速蛋白质生成,6月起向专业公众开放

智东西作者 | ZeR0编辑 | 漠影ChatGPT这把火,已经烧到了生命科学界。智东西3月30日报道,近日,百度创始人李彦宏牵头创立的生命科学平台公司百图生科,正式对外发布其“生命科学版ChatGPT”——由生命科学大模型驱动的AI生成蛋

动动嘴就能做PPT、设计网页,图解GPT-4有多强大,哪些公司将受益?

ChatGPT的热度还没过去,它的进阶版就来了。3月15日,距离AI(人工智能)聊天机器人ChatGPT的亮相还不到4个月,它的开发商OpenAI又推出了新版多模态预训练大模型——GPT-4。与基于GPT-3.5的ChatGPT相比,GPT

友情链接

网址导航 SEO域名抢注宝宝起名网妈妈知道币圈CAD制图网濮阳新闻头条网泰宁古城资讯网迈凯伦跑车大明山旅游攻略广安新闻资讯网棉花天坑旅游网网红名人榜泰勒·斯威夫特歌迷网眉笔眼影品牌网崂山旅游攻略三峡人家旅游攻略酒吧资讯网美容整形网紫沙壶官网
大数据信息网-大数据信息化时代、大数据分析师、十大物联网云平台、云计算运维工程师、ai数据标注平台、ai智能机器人、人工智能训练平台、计算机运维工程师、人工智能训练师、ai智能绘画软件、免费大数据分析网站。
大数据信息网 liakou.cn ©2022-2028版权所有