大数据信息网云计算物联网AI人工智能技术应用交流大数据查询网

AI已经学会制造“真实”。

近日，广州一女子在地铁上的照片被AI“一键脱衣”，造谣图在网络疯传，引发热议。事实上，照片的女主角是一名博主，而所谓的“裸照”则是她去年7月在社交平台分享的一张照片。原图中她衣着正常，但却被有心之人用AI软件“一键脱衣”，故意在全网散播。目前，该博主称会进行相关的维权处理。

好好的生活照，转而变成了衣不蔽体的“裸照”，如此龌龊的“黑科技”，难免让很多人尤其是女性产生反感和恐慌。

近年来，随着AI技术的逐渐成熟，换脸、换装、变声等曾经在科幻电影中出现的场景走进了现实生活。然而，科技在推动社会进步、给大众提供娱乐的同时，也因为肆意滥用和监管难度大，造成了信息安全隐患和传播侵权的乱象。

也是在本周，一名特效师利用AI换脸技术把自己P进了电视剧里，替换了男演员的位置，“强行”与女星拍起了吻戏和亲密戏。再往前追溯，前不久，有人利用AI技术换脸成“假靳东”，把江西上饶一位68岁老太太的养老钱全部骗走。前段时间大火的ChatGPT，也被曝出写了一条“杭州市政府将取消机动车尾号限行政策”的假新闻。

凡此种种，无不在触及法律底线，挑战公序良俗。虽然人们很多时候会觉得“AI换脸”只是“好玩儿”，殊不知，在无意识中，已经涉及侵权，甚至违法犯罪。比如，滥用“AI换脸”技术可能会涉及侵犯他人肖像权、名誉权、著作权、个人信息等多项权利。如果随意使用一些公众人物的肖像进行“AI换脸”，不但构成侵权，还可能危害公共秩序。此外，散播利用AI技术伪造的“裸照”，造谣者对公民权利和社会秩序造成严重侵害，违反了《中华人民共和国治安管理处罚法》。根据《中华人民共和国刑法》相关规定，若造谣者将制作的淫秽信息上传至第三方平台，进行传播并以此牟利的，涉嫌制作、传播淫秽物品牟利罪。

当AI技术炮制的谣言越来越逼真，有些问题也越来越细思极恐——伪造的内容所产生的谣言，会让很多人受到蒙骗，由此可以很轻易地让一个普通人陷入百口莫辩的境地。而这些以假乱真的视频、图片、声音，正在用一种成本极低的方式，挑战我们的认知。那么，是谁在研发类似“一键脱衣”这种龌龊的APP，又是哪些人在推波助澜？

严惩“一键脱衣”式的乱象，亟需“一键追责”式的手段和力度。一方面，对不断涌现的各类AI合成类软件加强监督与监管，加大对此类违法犯罪行为的溯源追查和惩罚力度，真正形成震慑效果。同时，注重源头治理和行业自治，科技行业要加强自我监督与管理，自觉规避擦边、违法的技术应用行为，从源头上减少“黑科技”违法犯罪行为的产生。当然，频频发生的“换脸”“换装”等乱象，也在提醒身处人工智能时代的每个人，提高识假辨假的意识，避免成为违法行为的“帮凶”。

霍金曾说：“强大人工智能的崛起，可能是人类遇到的最好的事情，但也可能是最坏的事情。”还是那句话，科技本无罪，善恶在人心。推动社会进步的科技，不该被滥用在违法犯罪的事情上！

来源：法治日报