bob
bob
bob

您所在的位置:首页 > 新闻中心

bob互联网企业因危险技术被约谈 深度伪造需要立法规制

  深度伪造技术需要立法规制

  11家互联网企业因“危险技术”被约谈

  □ 本报记者  蒲晓磊

  因为一项“危险技术”,11家互联网企业被约谈。近日,针对近期未履行安全评估程序的语音社交软件和涉“深度伪造”技术的应用,国家互联网信息办公室、公安部指导北京、天津、上海、浙江、广东等地方网信部门、公安机关,依法约谈映客、小米等11家企业。

  对于运用深度伪造技术制作出来的产品,使用智能手机的公众或许并不陌生。不久前,短视频领域出现了一款火爆的“蚂蚁呀嘿”。玩家只要上传一张照片,照片上的人就能扭脖子瞪眼睛地唱上一首“蚂蚁呀嘿”。2019年国内红极一时的换脸软件“ZAO”,其基础也是深度伪造技术。

  有了PS后,有图也不一定有真相;有了深度伪造,所看所听未必是真相。但与使用PS不同,

bob综合网页版
即使是不具备相应技术的普通人,也能轻松运用深度伪造技术来实现“换脸”。

  广东财经大学法学院教授姚志伟3月26日接受《法治日报》记者采访时说,深度伪造技术本身被广泛运用存在较大风险,其风险不仅在于会侵犯公民个人权利,还在于可能导致公共安全方面的危险。如果不对该技术的使用进行规制,将会产生可怕的后果。

  中国法学会商法学研究会理事、北京华讯律师事务所主任张韬说,深度伪造技术不仅涉及民法典所保护的人格权、肖像权等法律问题,还涉及个人生物信息的提取、识别、利用以及保护等诸多方面问题。因此,立法机关在制定个人信息保护法、数据安全法等相关法律时,应当针对这类新问题作出相应的制度设计。

  低门槛高效率蕴含更大威胁

  所谓深度伪造,是指有关软件通过AI“换脸”、语音模拟、视频生成等方式,对既有图像、声音、视频进行篡改、伪造,自动生成音视频产品。

  不可否认,深度伪造技术有一定的正向作用。该技术可以辅助科研、教学、艺术创作等,例如,在教育领域,逼真的虚拟教师可以让数字教学更具互动性和趣味性,合成的历史人物讲解视频可以让受众更有代入感。

  然而,与深度伪造技术的正面效应相比,其所蕴含的潜在威胁和安全隐患,更加引人关注。

  尽管在深度伪造技术出现之前,也有技术能够实现“换脸”,例如PS技术。但与以往的技术相比,深度伪造技术有着更高效率、更低门槛、更高质量的优势,这使得该技术在制造虚假人像和视频方面具有更加显著的优势。

  “具备多种优势的深度伪造技术,使得普通人能够轻松地自行进行‘换脸’,制作虚假人像图像和视频成本极低。在兼具高仿真与高效率的人工智能协助下,海量的‘换脸’图像和视频可以随时产生并传播,

bob手机版网页
短时间风靡互联网。对于这样一种技术,如果不进行规制,无疑将产生可怕的后果。因此,在这种背景下,国内外都已有立法动作进行回应。”姚志伟说。

  危害公众利益乃至国家安全

  深度伪造技术一旦泛滥应用,势必会对公众的人身、财产等合法权益造成侵害。

  例如,利用深度伪造技术实现移花接木,会对他人名誉权构成侵害。制作虚假色情视频,是深度伪造技术最早也是最常见的非法运用方式之一。利用该技术能将一些知名歌星、影星等公众人物的脸移转到色情明星身上,伪造逼真的色情场景。

  清华大学法学院教授程啸指出,这些虚假色情视频一经传播,公众可能真假莫辨,从而导致受害人的名誉严重受损。即便不是用于制作色情视频,深度伪造技术也完全可以通过制造虚假的视频或音频,侵害自然人、法人或非法人组织的名誉权,进而给其造成财产损失以及精神损害。

  不仅如此,深度伪造技术还会对公共安全、经济安全、国家安全造成威胁。

  姚志伟说,一旦深度伪造技术被滥用,公众无从区分真假时,可能会对任何含有人像的图像和视频产生怀疑,这无疑会极大地冲击媒体和政府的公信力,对社会信任体系造成重大损害,导致严重的社会信任危机。

  “例如,在经济秩序方面,别有用心的人利用深度伪造技术,可以创造一家上市公司CEO宣称公司即将破产的虚假视频,我们可以想象,这个视频对该公司股价的冲击。”姚志伟说。

  民法典对此已有专门规定

  程啸指出,深度伪造技术的滥用会对公众的合法权益造成损害,破坏社会秩序、经济秩序和政治秩序

BOB体彩综合
,损害社会公共利益乃至危害国家安全,因此,包括我国在内的许多国家的法律都对其作出规范。

  我国在编纂民法典时,有单位提出,利用信息技术手段“深度伪造”他人的肖像、声音,不仅侵害自然人的人格权益,严重的还可能造成恶劣的社会影响,危害国家安全和社会公共利益,建议法律对深度伪造技术带来的“换脸”等问题予以回应。

  后来,民法典在制定时采纳了这一意见——第一千零一十九条第一款规定,任何组织或者个人不得以丑化、污损,或者利用信息技术手段伪造等方式侵害他人的肖像权。未经肖像权人同意,不得制作、使用、公开肖像权人的肖像,但是法律另有规定的除外。

  “对于深度伪造技术可能造成的风险,民法典中的相关规定已经可以解决民事责任问题,可以说是提前作出了一定的回应,这显示出我国立法机关对于类似问题的重视。但不可否认的是,网络法律制度依然有很大的空间需要完善。”张韬说。

  张韬认为,从2019年的换脸软件“ZAO”到此次11家互联网企业被约谈,深度伪造技术的潜在问题或威胁已经逐步显露。尽管目前我国尚未发生因深度伪造技术而产生侵权纠纷案件,但不能不未雨绸缪进行应对。因此,立法机关应当完善网络法律制度,对这类新问题建立一整套新的制度。

  对伪造场景应进行必要限制

  值得注意的是,中共中央印发的《法治社会建设实施纲要(2020-2025年)》明确提出,要“制定完善对网络直播、自媒体、知识社区问答等新媒体业态和算法推荐、深度伪造等新技术应用的规范管理办法”。

  张韬认为,正在制定的个人信息保护法、数据安全法以及其他有关法律、行政法规在制定和修订时,应当针对这类问题进行专门规定,以回应和解决社会热点问题。

  “在制定个人信息保护法和数据安全法时,对于深度伪造技术所能涉及或者应用的场景应进一步加强规制。现在的相关立

bob体ob体育下载
法大多强调普适性的规定和适用,对很多具体、重要应用场景的规定还不够完善,因此,建议在立法的实践应用方面进行加强。”张韬说。

  张韬建议,对深度伪造技术的研发和应用,特别是市场化的应用,要进行必要的监管;应用深度伪造技术的音视频“作品”,应

bob手机版官网
当有水印或者其他显著的标识,以提醒用户注意;对深度伪造技术“换脸”仿声所应用的具体场景,应当进行必要的限制。
下一篇:多名代表呼吁尽快制定反虐待动物法 上一篇:民政部提示防范非法社会组织以公益慈善名义行骗敛财