换脸“一时爽”背后危险多 谨防AI技术异化为助恶工具

2019-05-16 11:13   工人日报  

谨防AI技术异化为助恶工具

随着AI(人工智能)技术发展,视频换脸技术门槛降低,普通人也能制作换脸视频。记者调查发现,这项技术被用于恶搞视频、色情视频合成等方面,其不良效应也引发了社会的关注和担忧。任其“异化”,可能成为侵害他人合法权益和危害社会公共安全的工具。(见5月14日《新华每日电讯》)

“你要的样子我都有”“男人瞬间变女人”,“用朋友圈视频就可换脸”……这些“分分钟换脸”的黑科技让人深感不安。有网友将影视剧中不同演员的脸进行互换;有人将某平台女主播瞬间“变脸”成不同女明星的样貌等,这些还都只是“小儿科”,更有甚者,公开售卖换脸色情视频。

可见,AI技术与很多新兴技术一样,是一柄双刃剑。正面来看,AI换脸技术用在影视制作等领域,可以创造很多视觉盛宴,衍生出的产品可以让我们的文化市场更加多元。而用于非法目的,不仅给不特定人群造成不良影响,还涉嫌侵权。比如用他人肖像进行AI换脸,甚至制作成违法视频产品用于商业用途等。

技术无原罪,但对于使用者而言,应该遵法行事,让技术、工具能够在合理合法的用途和目的上使用。比如,据专家介绍,即使换脸后不是100%相似,只要换脸视频和原视频能达到一定相似度,经由第三方能够识别,就可能被认作是侵权。同时,用于色情视频并进行传播,则涉嫌构成传播淫秽物品罪,需承担相应刑事责任。对此,使用者理当警醒。

AI技术换脸对监管也提出了新的要求。一则要强化普法工作;二则要研究制定更为细致的管理办法;三则对于利用AI技术行不法之实的,尤其是可能造成恶劣社会影响、危害国家安全和社会公共利益的,要严厉惩戒。

对于相关平台而言,也应积极作为。平台应完善事前处置机制,加强对违规换脸视频的自动研判与编审,严控问题视频的分发等。当然,对于一些交易平台,应规范商家的经营行为。比如,商家出售换脸软件,或者提供换脸视频制作服务,应在法律及道德框架内进行。

换脸“一时爽”,背后危险多。AI技术发展使普通人能享受到科技带来的便利,但新技术应该驱动良性的文化创意更新迭代,切忌用到歪路上去,更不能突破底线挑战公序良俗。各方要增强法律及安全风险意识,共同防范AI技术异化为助恶工具。

杨玉龙

相关阅读

0 条评论
来说两句吧。。。
最热评论
最新评论
来说两句吧...
已有0人参与,点击查看更多精彩评论
加载中。。。。