首页 调查 > 正文

东湖评论:筑牢“AI换脸”技术安全的防护墙|世界热议


(相关资料图)

近来,“AI换脸”技术又掀起一波热潮,“只需上传照片,轻松生成换脸视频,随心所欲体验百变造型”,不少“AI换脸软件的简介上这样介绍,这种爆火的新玩法吸引了大批网友尝试。

“AI换脸”技术通过深度合成算法处理,对图片或者视频中的目标人脸进行置换,便可“以假乱真”,满足了网络受众的猎奇心理和社交需求,为影视、教育、娱乐等领域的发展提供了技术上的支持。不论是各色各样的换脸变装,还是影视剧中的技术修复,人们真真切切地感受到了科技进步带来的惊喜与乐趣。

“AI换脸”技术带给人新鲜感的同时,风险也日益显现,非法滥用导致的侵犯隐私、危害数据安全、违法犯罪等问题层出不穷,一个个鲜活真实的案例就在我们身边。随意将明星替换到不雅视频中丑化传播;“AI黄谣”事件闹得沸沸扬扬,女子在乘坐地铁时被不法之人利用AI一键脱衣;犯罪团伙利用AI技术,制作变声换脸视频,诱骗老人和小孩。从网民传播照片到软件程序开发平台提供“换脸脚本和详细教程”,再到灰色产业链条进行照片加工服务,逐步打开了“AI换脸”的“潘多拉的魔盒”。

“AI换脸”技术是数据智能化发展的产物,并没有什么黑白好坏之分,但不法分子的贪婪与疯狂却是不可低估的。高科技不能沦为肆意侵权的帮凶,不能成为满足他人欲望和非法牟利的工具,更不能成为引发社会信任危机的导火索。为“AI换脸”技术戴上“紧箍咒”、打造“铁栅栏”,筑牢“AI换脸”技术安全的防护墙还需要法律和技术双管齐下。

目前,针对“AI换脸”乱象,国家互联网信息办公室、工业和信息化部、公安部联合发布了《互联网信息服务深度合成管理规定》,重点强调深度合成技术涉及的信息安全主体责任,给“AI换脸”划定应用“红线”。国家互联网信息办公室起草了《生成式人工智能服务管理办法(征求意见稿)》,明确合成人工智能技术服务的规范、监督和管理等内容,这些政策法规和监管体系不断完善,使从业者、使用者有法可依、违法必究。但“AI换脸”技术也会随着发展日臻成熟,因此对于深度合成技术治理路径还需进一步探索,对数据确权、行业伦理、技术安全等方面作出更系统的规定,只有把法律的防护“盔甲”打造的无比坚硬,才能时刻抵御住“AI换脸”这把双刃剑。

以技术手段克服技术困境,除了网络服务平台对用户信息审核及限定传播范围外,相关行业和监管部门还需不断加强技术更迭,细化人工智能算法的安全评估体系,研发出相应的“反换脸”技术,能够检测、鉴定、溯源深度合成的视频和图片,为法律的保护成效提供技术支撑,为可能到来的挑战做好准备。

身处在人工智能时代的每一个人,应该提高对深度合成技术的辨别和防范意识以及自我素养,在安全享受技术的同时,共同维护清朗的网络环境。只有多方发力,促进“AI技术”向上向善,才能让科学技术真正地助推社会发展,便利人们生活。

稿源:荆楚网(湖北日报网)

作者:秦雪花(宜昌兴山)

责编:王舒娴

标签:

精彩推送