欧易

欧易(OKX)

国内用户最喜爱的合约交易所

火币

火币(HTX )

全球知名的比特币交易所

币安

币安(Binance)

全球用户最多的交易所

技术滥用警报:AI能在6小时内合成4万种新的致命化合物

2023-02-06 14:16:08 1283

摘要:据最新一期《自然·机器智能》刊发的论文,美国科学家发出警报,人工智能(AI)很容易被滥用。实验显示,AI在被研究人员赋予任务之后,在短短6小时内就合成了40000种新的致命化学武器化合物。据报道,北卡罗来纳州罗利的生物技术创业公司Colla...

据最新一期《自然·机器智能》刊发的论文,美国科学家发出警报,人工智能(AI)很容易被滥用。实验显示,AI在被研究人员赋予任务之后,在短短6小时内就合成了40000种新的致命化学武器化合物。

据报道,北卡罗来纳州罗利的生物技术创业公司Collaborations Pharmaceuticals科研团队正在使用人工智能寻找可用于治疗疾病的化合物,其中一部分涉及过滤掉任何可能致命的化合物。

作为检测新技术潜在负面影响的一部分,研究小组在其人工智能算法中 "打开了一个开关",并让它找到最致命的化合物。该团队想看看,如果人工智能算法被设定在一个负面而非正面的任务上,它可以多么迅速和容易地被滥用。

根据The Verge的一份报告,一旦进入“坏模式”,人工智能就能够发明数以千计的新化学组合,其中许多类似于今天使用的最危险的神经毒剂。

在人工智能发明的化合物中,有一些类似于VX,一种毒性极强的神经毒剂,即使是很小的剂量也能引起抽搐。

研究人员表示,他们发现最可怕的是,利用广泛可用的有毒化学品数据库,并使用人工智能来设计类似于目前最危险的化学武器是多么容易。

论文的主要作者乌尔比纳(Fabio Urbina)说:“我们使用的很多东西都是免费的,你可以从任何地方去下载一个毒性数据库。如果有一个人知道如何用Python编程,并且有一些机器学习的能力,那么可能在一个周末的工作中,他可以建立类似于这种由有毒数据库驱动的生成模型。”

他表示,这就是让研究团队考虑把这篇论文公开发表原因,对于这种类型的滥用,它的进入门槛如此之低。

文/南都记者 陈林

版权声明:本站所有文章皆是来自互联网,如内容侵权可以联系我们( 微信:bisheco )删除!

相关推荐

友情链接
币圈社群欧易官网