【热评丨
#整治AI换脸当用法打败魔法#】
#10分钟被AI换脸骗走430万元#,这个案例让人心里发毛,不寒而栗。莫笑受骗者警惕性不强,而要怪骗子太狡猾,他们借用智能AI换脸和拟声技术,佯装受骗者好友,从而诈骗得逞。
很多案例表明,这种“换脸”术和拟声术,让人防不胜防,一旦防备稍松,就会入坑。对于那些缺乏足够辨识力的老年人来说,更是轻易上当受骗。
AI换脸不止用于诈骗,还出现在带货的直播间。有的主播通过换脸术冒充当红女星带货,赚得盆满钵溢。一定程度上说,这也是公开行骗。如此种种,无不说明换脸术的滥用,已经对公共利益构成威胁。
整治AI换脸,当用法打败“魔法”。这个法,是方法、办法的法。有人说,防骗最有效的一招就是不信,无论对方怎么“换”、怎么变、怎么翻着花样骗,就是“不听不信不转账”。最关键的是,优化“打法”,升级高招,用更有效的方法“破防”。应该说,一些骗子的骗术在不断提升,他们处心积虑设置骗局玩套路,迷惑性很强。但是,“魔高一尺,道高一丈”,面对骗子的新招数,我们的反诈术、防骗方法更要优化,总结出富有成效的好方法,并做好宣传普及,构筑反诈防骗的全民阵线。
这个法,也是法规、法律的法。此前,一款主打AI换脸的App很火,“只需一张照片,演遍天下好戏”。但很快,在监管部门约谈后,这款App下架,原因很简单,如此换脸侵犯了公民的肖像权。由此看,通过AI换脸冒充女星带货涉嫌违法,至于换脸诈骗则是涉嫌犯罪。
值得一提的是,去年12月,国家网信办、工信部、公安部联合发布《互联网信息服务深度合成管理规定》,对人脸生成、人脸替换、人脸操控,合成人声、仿声等都有明确约束,比如,深度合成服务提供者和技术支持者提供人脸、人声等生物识别信息编辑功能的,应当提示深度合成服务使用者依法告知被编辑的个人,并取得其单独同意。显然,随着制度设计更精准,相关立法更健全,AI换脸空间将越来越逼仄。
AI换脸术滥用,也促使大家思考一个深层次问题。新技术不断面世,带给了人们便利,但可能被居心叵测之徒非法利用。人们固然不能因噎废食,但也不能忽略它的双刃剑效应。如果缺乏应有规束,AI换脸则可能打开潘多拉魔盒。因势利导,使其趋利避害,这是我们要全力做到的。
很多案例表明,这种“换脸”术和拟声术,让人防不胜防,一旦防备稍松,就会入坑。对于那些缺乏足够辨识力的老年人来说,更是轻易上当受骗。
AI换脸不止用于诈骗,还出现在带货的直播间。有的主播通过换脸术冒充当红女星带货,赚得盆满钵溢。一定程度上说,这也是公开行骗。如此种种,无不说明换脸术的滥用,已经对公共利益构成威胁。
整治AI换脸,当用法打败“魔法”。这个法,是方法、办法的法。有人说,防骗最有效的一招就是不信,无论对方怎么“换”、怎么变、怎么翻着花样骗,就是“不听不信不转账”。最关键的是,优化“打法”,升级高招,用更有效的方法“破防”。应该说,一些骗子的骗术在不断提升,他们处心积虑设置骗局玩套路,迷惑性很强。但是,“魔高一尺,道高一丈”,面对骗子的新招数,我们的反诈术、防骗方法更要优化,总结出富有成效的好方法,并做好宣传普及,构筑反诈防骗的全民阵线。
这个法,也是法规、法律的法。此前,一款主打AI换脸的App很火,“只需一张照片,演遍天下好戏”。但很快,在监管部门约谈后,这款App下架,原因很简单,如此换脸侵犯了公民的肖像权。由此看,通过AI换脸冒充女星带货涉嫌违法,至于换脸诈骗则是涉嫌犯罪。
值得一提的是,去年12月,国家网信办、工信部、公安部联合发布《互联网信息服务深度合成管理规定》,对人脸生成、人脸替换、人脸操控,合成人声、仿声等都有明确约束,比如,深度合成服务提供者和技术支持者提供人脸、人声等生物识别信息编辑功能的,应当提示深度合成服务使用者依法告知被编辑的个人,并取得其单独同意。显然,随着制度设计更精准,相关立法更健全,AI换脸空间将越来越逼仄。
AI换脸术滥用,也促使大家思考一个深层次问题。新技术不断面世,带给了人们便利,但可能被居心叵测之徒非法利用。人们固然不能因噎废食,但也不能忽略它的双刃剑效应。如果缺乏应有规束,AI换脸则可能打开潘多拉魔盒。因势利导,使其趋利避害,这是我们要全力做到的。