欧易

欧易(OKX)

国内用户最喜爱的合约交易所

火币

火币(HTX )

全球知名的比特币交易所

币安

币安(Binance)

全球用户最多的交易所

我们有点害怕:OpenAICEO警告人工智能的风险

时间:2023-04-06 09:43:25 | 浏览:348

开发有争议的面向消费者的人工智能应用程序 ChatGPT 的公司 OpenAI 的首席执行官 Sam Altman 警告说,该技术在重塑社会时会带来真正的危险。37 岁的奥特曼强调,监管机构和社会需要参与这项技术,以防止对人类造成潜在的负面

开发有争议的面向消费者的人工智能应用程序 ChatGPT 的公司 OpenAI 的首席执行官 Sam Altman 警告说,该技术在重塑社会时会带来真正的危险。

37 岁的奥特曼强调,监管机构和社会需要参与这项技术,以防止对人类造成潜在的负面影响。“我们在这里必须小心,”奥特曼周四告诉美国广播公司新闻,并补充道:“我认为人们应该为我们害怕而感到高兴。

“我特别担心这些模型可能会被用于大规模的虚假信息,”奥特曼说。“现在他们在编写计算机代码方面做得越来越好,[他们] 可以用于进攻性网络攻击。”但他说,尽管存在危险,它也可能是“人类迄今为止开发的最伟大的技术”。

这一警告是在 OpenAI 发布其语言 AI 模型 GPT-4 的最新版本时发出的,距离原始版本发布不到四个月,并成为历史上增长最快的消费者应用程序。在采访中,这位人工智能工程师表示,虽然新版本“并不完美”,但它在美国的律师考试中取得了 90% 的成绩,在高中 SAT 数学考试中取得了近乎完美的成绩。他说,它还可以用大多数编程语言编写计算机代码。

对面向消费者的人工智能和一般人工智能的恐惧集中在人类被机器取代。但奥特曼指出,人工智能只能在人类的指导或输入下工作。“它等待有人给它输入,”他说。“这是一种非常受人类控制的工具。” 但他表示,他担心哪些人拥有输入控制权。

“会有其他人不设置我们设置的一些安全限制,”他补充说。“我认为,社会只有有限的时间来弄清楚如何对此做出反应,如何对其进行监管,如何处理它。”ChatGPT 的许多用户都遇到过一台机器,其响应防御性到偏执的地步。在提供给电视新闻媒体的测试中,GPT-4 进行了一项测试,在该测试中,它从冰箱的内容物中变出食谱。

特斯拉首席执行官埃隆·马斯克 (Elon Musk) 是 OpenAI 的首批投资者之一,当时它还是一家非营利性公司,他多次发出警告,称人工智能或 AGI(通用人工智能)比核武器更危险。

马斯克对在其 Bing 搜索引擎上托管 ChatGPT 的微软解散了其道德监督部门表示担忧。“没有对人工智能的监管,这是一个主要问题。十多年来,我一直在呼吁人工智能安全监管!” 马斯克去年 12 月发推文。本周,马斯克也在他拥有的 Twitter 上忧心忡忡:“我们人类还有什么可做的?”周四,奥特曼承认最新版本使用演绎推理而不是记忆,这一过程可能会导致奇怪的反应。

“我最想提醒人们的是我们所说的‘幻觉问题’,”奥特曼说。“该模型会自信地陈述事物,就好像它们是完全虚构的事实一样。“思考我们创建的模型的正确方法是推理引擎,而不是事实数据库,”他补充道。虽然这项技术可以充当事实数据库,但他说,“这并不是它们的特别之处——我们希望它们做的是更接近于推理能力,而不是记忆能力。”

《卫报》最近在对 ChatGPT 的分析中警告说,你输出的内容取决于你输入的内容。“我们应该从我们使用的工具、我们消费的媒体和我们生活的社区中得到更好的东西,只有当我们能够充分参与其中时,我们才能得到我们应得的。”

相关资讯

当人工智能“初见”元宇宙2022世界人工智能大会“元”气启幕

2022WAIC元宇宙展区 汤彦俊 摄中新网上海9月1日电 (记者 郑莹莹)步入第五年的2022世界人工智能大会1日在上海世博中心启幕。与往年不同的是,今年的开幕很“元”气。2022WAIC展区 汤彦俊 摄 当天的开幕式会场,分“实”“虚”

2022世界人工智能大会观察:人工智能与元宇宙互融,AI世界渐行渐近

人工智能可以为人类带来什么?在第五届世界人工智能大会(WAIC)现场,机器人打扫卫生、送咖啡、专业消毒等辅助人类的应用场景集中展出,而人工智能与元宇宙互融共促的趋势,则引领人们看到了一个万物智联的AI世界。让我们一起走进大会现场,一览未来“

人工智能处于爆发式增长前夜:为何人工智能应用仍然较为零星?

经济观察网 胡群/文在6月25日召开的招商银行股东大会上,招商银行行长田惠宇表示,招商银行正在探索银行3.0模式,即大财富管理的业务模式+金融科技的运营模式+开放融合的组织模式。越来越多的金融机构加大对金融科技投入。近日,北京产权交易所披露

人工智能有一天会超越人脑吗?人工智能未来的三种可能

人工智能加速发展,有一天会超越人脑吗?近日,清华大学基础科学讲席教授、心理学系主任刘嘉在“人文清华讲坛”上发表了演讲《脑与人工智能:站在进化的节点上》。他指出,虽然目前人工智能无法与人脑相比,但它发展迅猛,类人智能是人工智能的下一个发展目标

人工智能是否会带来毁灭?对“人工智能灭世论”的质疑与反思

在电影《异形:契约》中,迈克尔·法斯宾德所扮演的仿生人大卫表面上对人类亲切友好,但实际上却通过一系列行为为人类带来灾祸。而在现实中,如霍金、马斯克、比尔.盖茨等名人都曾警告过人们要警惕人工智能可能带来的危害。对于“人工智能灭世论”的支持者而

人工智能入门系列(1):人工智能的基本概念和应用场景

未来一段时间本人将不定期的以系列文章形式,分享本人在学习人工智能过程中的一些收获。本文将介绍人工智能相关的一些基本概念、典型应用场景、一级人工智能相关的一些重要术语。1. 智能代理(Intelligent Agent)AI程序被称为智能代理

GPT-4被投诉要求禁用:FTC发布人工智能标准,OpenAI一个都不满足

机器之心报道编辑:陈萍、小舟一场围绕「GPT-4安全性」的论战正在如火如荼地进行中。几天前,马斯克、Yoshua Bengio 等人联名签署公开信,呼吁所有 AI 实验室应立即暂停训练比 GPT-4 更强大的 AI 模型。现在,又有人要叫停

我们有点害怕:OpenAICEO警告人工智能的风险

开发有争议的面向消费者的人工智能应用程序 ChatGPT 的公司 OpenAI 的首席执行官 Sam Altman 警告说,该技术在重塑社会时会带来真正的危险。37 岁的奥特曼强调,监管机构和社会需要参与这项技术,以防止对人类造成潜在的负面

美国人工智能研究公司——OpenAI

OpenAI人工智能研究公司OpenAI,在美国成立的人工智能研究公司。公司核心宗旨在于“使人类人工智能研究更加安全、有效和均衡的通用人工智能(AGI)”,使其有益于人类。外文名OpenAI创立时间2015年一、OpenAI公司背景Open

百度顶得住吗?OpenAI再升级,国产人工智能真打不过国外?

科技圈又热炸锅了!近日,OpenAI发布了ChatGPT Plugins (ChatGPT 插件集),它能将ChatGPT 连接到第三方应用程序,这大大拓宽了ChatGPT的应用范围,让它更加普及,面向更多的群体用户。也就是说这个软件上架到

最强人工智能OpenAI极简教程

上个月安利了一波:机器学习自动补全代(hán)码(shù)神器,然后就被打脸了,Github 宣布 copilot 要开始收费了。Github 和 OpenAI 一样,遇到微软之后就慢慢丧失灵魂了。话说 OpenAI 由马斯克和PayPal

快评GPT-4:OpenAI不open了,机器视觉不存在了

今天凌晨,OpenAI 发布了多模态预训练大模型 GPT-4。眼花缭乱的技术迭代和全新功能毫无疑问再次带给我们巨大震撼,但在冷静之后,本次发布的一些细节也让我们感到担忧:这家将“open”写在公司名称里的科技企业,似乎正在朝着close的方

OpenAI是一家什么样的企业——OpenAI介绍与成果总结

OpenAI是全球最著名的人工智能研究机构,发布了许多著名的人工智能技术和成果,如大语言模型GPT系列、文本生成图片预训练模型DALL·E系列、语音识别模型Whisper系列等。由于这些模型在各自领域都有相当惊艳的表现,引起了全世界广泛的关

回顾|OpenAI入门(二)-用Blazor构建OpenAI应用

人工智能如何去“人工”?专家认为:“烂大街的技术才是好技术!”

来源:四川日报-川观新闻川观新闻记者 唐泽文 高杲 徐莉莎 文/图“烂大街的技术才是好技术!”10月13日,2021中国人工智能大会上,清华大学交叉信息研究院副教授、区块链研究中心主任徐葳这样解释他对“好技术”的理解。与会者也普遍认为,这样

友情链接

网址导航 SEO域名抢注宝宝起名网妈妈知道币圈建材市场资讯网九寨沟旅游攻略网马嘉祺歌迷网首尔旅游网飞盘运动俱乐部胡先煦影迷网老庙黄金首饰杜康酒股票行情网火龙果种植网手机壁纸网胡姓宝宝起名网哈密瓜行情网美食城资讯网百年灵手表黄明昊歌迷网
大数据信息网-大数据信息化时代、大数据分析师、十大物联网云平台、云计算运维工程师、ai数据标注平台、ai智能机器人、人工智能训练平台、计算机运维工程师、人工智能训练师、ai智能绘画软件、免费大数据分析网站。
大数据信息网 liakou.cn ©2022-2028版权所有