随着AI技术发展，视频换脸技术门槛降低，普通人也能制作换脸视频。记者调查发现，这项技术被用于恶搞视频、色情视频合成等方面，其不良效应也引发了社会的关注和担忧。任其“异化”，可能成为侵害他人合法权益和危害社会公共安全的工具。
“你要的样子我都有”“男人瞬间变女人”，“用朋友圈视频就可换脸”……这些“分分钟换脸”的黑科技让人深感不安。有网友将影视剧中不同演员的脸进行互换;有人将某平台女主播瞬间“变脸”成不同女明星的样貌等，这些还都只是“小儿科”，更有甚者，公开售卖换脸色情视频。
可见，AI技术与很多新兴技术一样，是一柄双刃剑。正面来看，AI换脸技术用在影视制作等领域，可以创造很多视觉盛宴，衍生出的产品可以让我们的文化市场更加多元。而用于非法目的，不仅给不特定人群造成不良影响，还涉嫌侵权。比如用他人肖像进行AI换脸，甚至制作成违法视频产品用于商业用途等。
技术无原罪，但对于使用者而言，应该遵法行事，让技术、工具能够在合理合法的用途和目的上使用。比如，据专家介绍，即使换脸后不是100%相似，只要换脸视频和原视频能达到一定相似度，经由第三方能够识别，就可能被认作是侵权。同时，用于色情视频并进行传播，则涉嫌构成传播淫秽物品罪，需承担相应刑事责任。对此，使用者理当警醒。
AI技术换脸对监管也提出了新的要求。一则要强化普法工作;二则要研究制定更为细致的管理办法;三则对于利用AI技术行不法之实的，尤其是可能造成恶劣社会影响、危害国家安全和社会公共利益的，要严厉惩戒。
对于相关平台而言，也应积极作为。平台应完善事前处置机制，加强对违规换脸视频的自动研判与编审，严控问题视频的分发等。当然，对于一些交易平台，应规范商家的经营行为。比如，商家出售换脸软件，或者提供换脸视频制作服务，应在法律及道德框架内进行。
换脸“一时爽”，背后危险多。AI技术发展使普通人能享受到科技带来的便利，但新技术应该驱动良性的文化创意更新迭代，切忌用到歪路上去，更不能突破底线挑战公序良俗。各方要增强法律及安全风险意识，共同防范AI技术异化为助恶工具。
最新评论