欧易

欧易(OKX)

国内用户最喜爱的合约交易所

火币

火币(HTX )

全球知名的比特币交易所

币安

币安(Binance)

全球用户最多的交易所

马斯克“暂停AI训练”被指是闹剧,又有机构要求调查OpenAI

时间:2023-04-06 09:29:29 | 浏览:117

·专注于人工智能技术伦理的AI和数字政策中心要求美国联邦贸易委员会调查OpenAI是否违反了消费者保护规则,认为其推出的AI文本生成工具“存在偏见、具有欺骗性,并且对公共安全构成风险”。·OpenAI首席执行官山姆·奥特曼发布推文:“在飓风

·专注于人工智能技术伦理的AI和数字政策中心要求美国联邦贸易委员会调查OpenAI是否违反了消费者保护规则,认为其推出的AI文本生成工具“存在偏见、具有欺骗性,并且对公共安全构成风险”。

·OpenAI首席执行官山姆·奥特曼发布推文:“在飓风眼中非常平静。”他宣布将在5月和6月展开一次全球之旅,与世界各地的用户与开发者交流。

包括特斯拉首席执行官埃隆·马斯克在内的1748人签署公开信,呼吁暂停训练比GPT-4更强大的人工智能系统至少6个月。 这封信立即引起了轩然大波,并在科技界持续震荡了两天。

一些公开信的签名者收回立场,一些知名签名者被证明本人并没有签署,还有许多人工智能研究人员和专家反对这封信的建议。有媒体称这是一场巨大的闹剧。

与此同时,专注于人工智能技术伦理的AI和数字政策中心(CAIDP)要求美国联邦贸易委员会(FTC)调查OpenAI是否违反了消费者保护规则,认为其推出的AI文本生成工具“存在偏见、具有欺骗性,并且对公共安全构成风险”。

对于这些争议,OpenAI首席执行官山姆·奥特曼(Sam Altman)似乎比较淡定。他在3月30日发布推文:“在飓风眼中非常平静。”稍早前,他在推特上说:“一个良好的AGI(通用人工智能)未来所需要的东西:1)调整超级智能的技术能力,2)大多数领先的AGI工作间的充分协调,3)一个有效的全球监管框架,包括民主治理。”

山姆·奥特曼:在飓风眼中非常平静。

奥特曼还宣布将在5月和6月进行一次全球之旅,与OpenAI的用户、开发者和对人工智能感兴趣的人进行交流。他将访问多伦多、里约热内卢、拉各斯、马德里、布鲁塞尔、慕尼黑、伦敦、巴黎、特拉维夫、迪拜、新德里、新加坡、雅加达、首尔、东京和墨尔本。

“今年是1440年,天主教会要求暂停使用印刷机6个月”

这封引发争议的公开信由非营利组织生命未来研究所(Future of Life Institute)撰写,其使命是“减少强大技术带来的全球灾难性和存在性风险”。该机构是一些长期主义支持者的聚集地,长期主义是一种由硅谷科技精英推动的世俗宗教,宣扬寻求大量财富以引导人类解决在遥远未来所面临的问题。具体而言,该研究所专注于减轻人类长期的“生存”风险,如超级智能。表达过长期主义信念的马斯克在2015年向该研究所捐赠了1000万美元。

“只有当我们确信它们(人工智能系统)的影响是积极的并且风险是可控的时候,才应该开发强大的人工智能系统。”信中说,“所有人工智能实验室立即暂停训练比GPT-4更强大的人工智能系统至少6个月。”“人工智能实验室和独立专家应该利用这次暂停,共同开发和实施一套用于高级人工智能设计和开发的共享安全协议,并由独立的外部专家进行严格审计和监督。”

“这并不意味着总体上暂停AI开发,只是紧急从奔向不可预测的大型黑盒模型的危险竞赛中收回脚步。”信中澄清道,指的是微软和谷歌等大型科技公司之间的AI军备竞赛,这些企业在过去几个月快速发布了许多新的人工智能产品。

除了马斯克以外,其他值得注意的签名者包括苹果公司联合创始人史蒂夫·沃兹尼亚克(Steve Wozniak)、Stability AI首席执行官埃马德·莫斯塔克(Emad Mostaque)、图灵奖得主约书亚·本希奥(Yoshua Bengio)和《人类简史》作者兼历史学家尤瓦尔·赫拉利(Yuval Harari)。开发GPT系列人工智能模型并将其商业化的OpenAI没有员工签署这封信。

生命未来研究所向VICE证实,所有签署者都是“通过直接沟通独立核实的”。尽管有这样的验证过程,但这封信一开始就有很多虚假的签名者,包括冒充OpenAI首席执行官奥特曼、Meta公司首席人工智能科学家杨立昆(Yann LeCun)的人,后来研究所清理了名单。

这封信自公布以来,受到了许多人工智能研究人员包括签名者的审视。纽约大学教授加里·马库斯(Gary Marcus)告诉路透社,“这封信并不完美,但精神是正确的。”Stability AI的首席执行官莫斯塔克在推特上说:“我不认为6个月的暂停是最好的主意,也不同意所有的东西,但那封信里有一些有趣的东西。”

杨立昆在推特上嘲讽:“今年是1440年,天主教会要求暂停使用印刷机和活字印刷术6个月。想象一下,如果普通人能够接触到书籍,会发生什么?他们可以自己阅读圣经,社会就会被摧毁。”

AI“大牛”、斯坦福大学教授吴恩达(Andrew Ng)在推特上说,呼吁在6个月内暂停让人工智能取得超过GPT-4的进展是一个糟糕的想法。“我看到在教育、医疗、食品等方面有许多新的应用,这将帮助许多人。改进GPT-4将有所帮助。让我们平衡人工智能正在创造的巨大价值与现实的风险。”他认为,除非政府介入,否则没有现实的方法来实施暂停并阻止所有团队扩大大型语言模型的规模。让政府暂停他们不了解的新兴技术是反竞争的,树立了一个可怕的先例,是糟糕的创新政策。

“负责任的人工智能是重要的,人工智能也有风险。媒体普遍认为,人工智能公司正在疯狂地输送不安全的代码,这不是真的。绝大多数(可悲的是,不是所有)人工智能团队都认真对待负责任的人工智能和安全。”吴恩达写道,“6个月的暂停期并不是一个实用的建议。为了促进人工智能的安全,围绕透明度和审计的法规将更加实用,并产生更大的影响。在推进技术发展的同时,让我们也对安全进行更多投资,而不是扼杀进步。”

一些人工智能专家批评说,这封信进一步推动了“人工智能炒作”周期,而不是列出具体行动。一些人认为,它促进了长期主义的观点,这是一种被批评为有害和反民主的世界观,因为它珍视超级富豪,允许在某些理由下采取道德上可疑的行动。

马斯克与奥特曼曾对峙

由于马斯克曾捐赠生命未来研究所,有分析人士怀疑,他之所以呼吁暂停训练比GPT-4更强大的人工智能系统,是因为在这场竞赛中落后而感到沮丧。

OpenAI成立于2015年,是一家非营利组织,马斯克当时是该组织的公众形象。2016年初《连线》的一篇文章附有一张照片,马斯克双臂交叉,给人的印象是准备彻底改变另一个行业。但马斯克离开OpenAI背后也有故事。

2016年《连线》的一篇文章附有一张照片,马斯克双臂交叉,给人的印象是准备彻底改变AI行业。

据科技媒体Semafor披露,2018年奥特曼与马斯克展开对峙,当时马斯克对OpenAI的进展不满意。几家大型科技公司多年来一直在幕后开发人工智能工具,谷歌在2010年代末取得了重大进展。马斯克担心OpenAI落后于谷歌,他告诉奥特曼他想接管公司以加快发展。但奥特曼和OpenAI的董事会拒绝了马斯克控制这家机构的想法。马斯克带着钱离开了OpenAI,这迫使OpenAI于2019年3月从非营利组织转变为有“利润上限”的营利组织,以成功筹集资金。

Paleofuture.com创始人、《福布斯》撰稿人马特·诺瓦克(Matt Novak)认为,几乎可以肯定的是,特斯拉正在研究强大的人工智能技术。该公司需要复杂的软件来运行其所谓的“完全自动驾驶”功能,尽管它仍然不完美,并且一直是许多安全问题调查的对象。

马斯克还一直在开发人形机器人Optimus,并在2022年展示了原型,但开发仍处于起步阶段。人工智能技术对像Optimus这样的机器人非常有用,但没有迹象表明马斯克或其工程师已经开发了任何接近OpenAI产品的东西。

“GPT-4跨越了伤害消费者的红线”

3月30日,AI和数字政策中心向FTC提出投诉。与生命未来研究所的公开信类似,投诉书呼吁放慢生成式人工智能模型的发展,并实施更严格的政府监督。CAIDP主席马克·罗腾伯格(Marc Rotenberg)是上述公开信的签署人之一。

AI和数字政策中心向FTC投诉OpenAI。

CAIDP称GPT-4模型存在潜在威胁,可以产生恶意代码和高度定制的宣传方式,有偏见的训练数据可能导致在招聘等方面形成刻板印象或不公平的种族和性别偏好。它还指出,OpenAI的产品界面在隐私方面有重大缺陷,比如最近的一个漏洞将ChatGPT的对话历史和可能的支付细节暴露给其他用户。

CAIDP认为GPT-4跨越了伤害消费者的红线,应该采取监管行动,让OpenAI对违反FTC法案第5条的行为负责,该条禁止不公平和欺骗性的贸易行为。投诉书说: “OpenAI在充分了解这些风险的情况下向公众发布了GPT-4,用于商业用途”,包括潜在的偏见和有害行为。它还将AI“幻觉”或生成式模型“一本正经地胡说八道”现象定义为一种欺骗形式。 “ChatGPT将宣传欺骗性的商业声明和广告。”投诉书警告说,有可能将其纳入FTC的权限范围。

在投诉书中,CAIDP要求FTC停止GPT模型的任何进一步商业部署,并要求在未来推出任何模型之前对模型进行独立评估。它还要求提供一种可公开访问的报告工具,类似于允许消费者提出欺诈投诉的工具。

FTC已表示有兴趣监管人工智能工具。近年来有人警告说,有偏见的AI系统可能会招致执法行动,在本周与司法部的联合活动中,FTC主席利纳·汗(Lina Khan) 表示,该机构将寻找大型科技公司试图锁定竞争的迹象。但是,如果FTC对OpenAI进行调查,将标志着其行动的重大升级。

相关资讯

快评GPT-4:OpenAI不open了,机器视觉不存在了

今天凌晨,OpenAI 发布了多模态预训练大模型 GPT-4。眼花缭乱的技术迭代和全新功能毫无疑问再次带给我们巨大震撼,但在冷静之后,本次发布的一些细节也让我们感到担忧:这家将“open”写在公司名称里的科技企业,似乎正在朝着close的方

OpenAI是一家什么样的企业——OpenAI介绍与成果总结

OpenAI是全球最著名的人工智能研究机构,发布了许多著名的人工智能技术和成果,如大语言模型GPT系列、文本生成图片预训练模型DALL·E系列、语音识别模型Whisper系列等。由于这些模型在各自领域都有相当惊艳的表现,引起了全世界广泛的关

回顾|OpenAI入门(二)-用Blazor构建OpenAI应用

OpenAI与支付公司Stripe合作,将ChatGPT商业化

OpenAI将与支付公司Stripe合作,后者为其ChatGPT等人工智能工具提供支付和订阅服务。Stripe 还将把 OpenAI 的新自然语言技术 GPT-4 融入其产品和服务中。Stripe首席技术官David Singleton表示

OpenAI发布新语音系统「Whisper」,英文识别能力可接近人类水平

CAIDP呼吁FTC调查OpenAI要求暂停GPT-4商业部署

据报道,非营利性研究组织CAIDP(人工智能和数字政策中心)周四公开向FTC(美国联邦贸易委员会)提出投诉,要求该机构调查OpenAI并暂停其大型语言模型的商业部署,包括其流行工具ChatGPT。投诉称OpenAI违反了联邦贸易委员会法案,

马斯克“暂停AI训练”被指是闹剧,又有机构要求调查OpenAI

·专注于人工智能技术伦理的AI和数字政策中心要求美国联邦贸易委员会调查OpenAI是否违反了消费者保护规则,认为其推出的AI文本生成工具“存在偏见、具有欺骗性,并且对公共安全构成风险”。·OpenAI首席执行官山姆·奥特曼发布推文:“在飓风

OpenAI入门(三)|构建自己的VisualStudioCodeCopilot组件

美牙速成班调查追踪:涉事机构仍正常招生,官方介入调查

新京报讯(记者 刘经宇 王飞翔)今日(11月18日),新京报刊发《记者卧底美牙两天速成班:学员毕业分不清药水照拿资质》一文,报道刊发后,记者重新探访涉事机构“春甜学院”,发现其仍在正常进行招生,还有两名学员在此学习“半永久纹绣项目”,同时有

OpenAI官方推出AI生成内容识别器,成功率26%,不如论文查重工具

机器之心报道编辑:泽南、杜伟很多人也许已经忘记,ChatGPT 正式发布时间是去年 11 月底,到现在才刚刚两个月,但它掀起的热潮却已引发科技公司纷纷跟进,催生了独角兽创业公司,还让学术界修改了论文接收的要求。在 ChatGPT 引发 AI

AI自己写代码让智能体进化!OpenAI的大模型有“人类思想”那味了

金磊 梦晨 发自 凹非寺量子位 | 公众号 QbitAI搞事情!AI“看”了一眼GitHub上人类都是怎么提交更新(commit)的,然后就模仿人类程序员修改代码……最终,这个AI还成功“调教”出了个智能体机器人:没开玩笑,这种细思极恐的事

AI可能初具意识?OpenAI首席科学家言论引争议,众大佬吵成一团

“今天的大型神经网络可能已经初具意识了。”OpenAI首席科学家Ilya Sutskever在Twitter上撂下这句话,可谓语不惊人死不休。这下可让AI圈炸开了锅,人工智能、神经科学领域专家的回复滚滚而来。反击最激烈的就是图灵奖得主、Me

AI脑回路竟和人类如此相似,OpenAI最新研究引热议

两个月前轰动网络的AI设计大师CLIP,刚刚被OpenAI“扒开”了脑子。没想到,这个性能强大的AI竟和人类思维方式如此相像。打个比方,无论你听到“炸鸡”二个字,还是看到炸鸡实物,都可能流口水。因为你的大脑里有一组“炸鸡神经元”,专门负责对

GPT-4来了!10秒钟做出一个网站,考试中击败90%的人类,OpenAI付款系统被挤爆

每经编辑:孙志成,毕陆名,盖源源3月15日,#GPT4做一个网站只要十秒#登上热搜。当地时间周二(3月14日),人工智能研究公司OpenAI公布了其大型语言模型的最新版本——GPT-4。在官方演示中,GPT-4几乎就只花了十来秒的时间,识别

GPT-4太强,OpenAI也不懂!智能到底是怎么突然「涌现」的?

编辑:LRS【新智元导读】不可解释的智能,未来该如何发展?2023年至今,ChatGPT和GPT-4始终霸占在热搜榜上,一方面外行人都在惊叹于AI怎么突然如此强大,会不会革了「打工人」的命;另一方面,其实内行人也不明白,为什么模型规模在突破

友情链接

网址导航 SEO域名抢注宝宝起名网妈妈知道币圈格力电器A股黄鹤楼旅游攻略徽州大峡谷漂流网今日沧州刘德华歌迷网花茶科普网宠物狗品种网老凤祥黄金灭蚊灯品牌网云上黄石新闻网嵩山少林寺资讯网深圳房产信息网飞科剃须刀评测网蚊香品牌网大族激光A股
大数据信息网-大数据信息化时代、大数据分析师、十大物联网云平台、云计算运维工程师、ai数据标注平台、ai智能机器人、人工智能训练平台、计算机运维工程师、人工智能训练师、ai智能绘画软件、免费大数据分析网站。
大数据信息网 liakou.cn ©2022-2028版权所有