新技术带来的新挑战 “AI换脸”变成“AI造假”
- 人民日报海外版
- 2020-10-10 08:29:34
侵害肖像权 社会风险大
记者调查发现,AI“换脸”及类似软件的“坑”不少。不法分子通过收集照片、视频,利用AI技术“换脸”,用伪造的照片或视频实施诈骗,使“AI换脸”变成了“AI造假”。AI技术的滥用,不仅给个人带来肖像权或钱财的损失,还可能引发社会风险。
目前,很多银行等金融机构开设了人脸识别登录、“刷脸”支付等服务。随着“刷脸”的场景越来越多,由“脸”的安全带来“钱”的风险也随之增长。去年2月,深圳某人脸识别企业被证实发生数据泄露事件,超过250万人的核心数据可被获取,680万条记录泄露,其中包括身份证信息、人脸识别图像及GPS位置记录等。同样是在去年,欧洲一家公司也曾发生大规模信息泄露事件,数百万人面部识别信息被泄露。
有报道显示,一些电商平台以0.5元每份的价格出售匹配了身份信息的人脸数据。业内人士表示,一旦不法分子利用人工智能技术将照片进行活化,就可以做出模拟真人的点头、摇头、眨眼、说话等行为,极易被用作办理网贷或实施精准诈骗。
北京互联网法院的数据显示,自2018年9月9日至2020年8月31日,该法院共受理利用网络侵害人格权纠纷6284件,其中涉网侵害肖像权纠纷4109件,占比约65.4%。值得注意的是,在网络环境中,侵害肖像权的行为越来越隐蔽。在北京互联网法院受理的侵害肖像权纠纷中,约50.8%的侵权行为方式以软文广告形式出现,软文广告和在网络店铺中售卖明星同款商品现象尤为突出。
案件攀升快 法律严限制
针对利用信息技术手段“深度伪造”他人的肖像、声音,侵害他人人格权益,甚至危害社会公共利益等问题,将于明年起施行的《中华人民共和国民法典》明确提出,任何组织或者个人不得以丑化、污损,或者利用信息技术手段伪造等方式侵害他人的肖像权。
今年1月1日起施行的《网络音视频信息服务管理规定》中也规定,AI造假音视频不得随意发布,要“按照国家有关规定开展安全评估”,并“以显著方式予以标识”。
对此,北京互联网法院立案庭庭长赵长新表示,肖像权是自然人人格权的基本内容,民法典对人格权独立成编,体现了对人格尊严的庄严确认与严格保护。网络技术的发展使肖像获取更加容易,传播更加迅速,同时利用信息网络侵害肖像权的案件近年来也急速攀升。
事实上,不只是“换脸”有风险。近年来,人脸、指纹等个人生物特征信息已经成为身份证号码、手机号码等信息之外,过度搜集公民信息案件中的重灾区。由于生物特征信息与个人财产、人格权益之间的联系日趋紧密,信息一旦丢失或失控,将给信息所有者造成巨大且难以挽回的损失。
中国消费者协会曾发布的《100款App个人信息收集与隐私政策测评报告》显示,测评的100款App中,有10款App涉嫌过度收集个人生物特征信息。
专家认为,人脸等生物特征信息具有随身性、唯一性,随着技术的发展和成熟,指纹、人脸等生物特征信息未来将更广泛地应用于金融、购物、安全等生活场景。不过,在安全性尚未达到百分百,甚至存在可复制性的情况下,由此带来的风险也需要引起重视,并从法律和技术方面寻求解决方案。
利用新技术 拧紧安全阀
据北京互联网法院统计,在涉网侵害肖像权案件判决中,每案原告诉请损害赔偿金额均值近30万元,但是每案实际判决支持损害赔偿金额均值不足5万元。导致较大差距主要原因有:权利人对其知名度举证不足;权利人对其实际损失和侵权行为人获得利益举证不足。
有专家表示,AI“换脸”法律风险点较多,很多案例对受害人造成的伤害难以及时发觉且极难有效救济,需要高度关注、积极预防。
对此,赵长新建议,肖像权利人可主动采取技术手段检索肖像被使用情况,及时保全侵权证据,注重收集、保存有助于证明自己社会知名度的证据,一旦涉诉,积极提交损失证明的证据或与侵权损害后果相关证据,如商品交易量、文章阅读量、侵权持续时间等,为法官酌情认定财产损害赔偿金额提供参考。同时,各类网络平台要增强法治观念,积极利用技术手段,建立智能防控、识别、制止侵权行为的有效机制,预防和减少平台中侵权现象发生。
也有专家表示,随着AI“换脸”使用场景更丰富,行业和监管部门应当加快技术升级,研发相应的“反换脸”检测技术,加快建立人工智能算法的安全评估制度,解决相关技术滥用问题。
- 我国工业经济持续恢复发展产业结构优化 产2022-01-24
- 两部门发布《意见》:要求各部采取针对性举2022-01-24
- 邓长昌:尽快对我省科技特派员制度进行系统2022-01-24
- 黄月珍:推进综合改革打造台湾同胞“第二生2022-01-24
- 李家荣:优化创新生态掀起新一轮民营经济发2022-01-24
- 黄玲:全方位构建幸福养老服务体系在创造高2022-01-24
- 李金算:加快构建政府公共数据服务体系打造2022-01-24
- 住建部在全国推进住房公积金“跨省通办” 2022-01-24
- 数据显示:2021年全年城镇新增就业1269万人2022-01-24
- 云南安宁打破农民职业发展“天花板” 开展2022-01-24
- 2021年辽宁省粮食生产形势喜人 粮食总产量2022-01-24
- 春节期间辽宁对道路交通安全形势进行分析研2022-01-24
- 辽宁海城市确保全年签约亿元以上项目超过652022-01-24
- 辽宁盘锦公布12件民生实事 推进高质量发展2022-01-24
- “有梦 有为”周末青年志愿行动在李沧举行2022-01-24
- 听·见 | 动画师变身面塑传承人,这个802022-01-24
- 26名群众代表青岛占俩!高二学生成省政协旁2022-01-24
- 追踪丨全民接力,传来好消息!即墨失联3天2022-01-23
- 立案查处!青岛昌明置业有限公司森林公园项2022-01-23
- 半岛验房丨胶州亿阳金都馨城毛坯房墙面锈点2022-01-23
- “乐动市南”!逛街时与艺术不期而遇,“浮2022-01-23
- 人间烟火气!逛吃、选年货、置办新衣服……2022-01-23
- 浮山湾夜静悄悄2022-01-23
- 民俗大拜年,非遗专家亮绝活!2022年山东省2022-01-23
- 风雨无阻!崂山区实验学校小学部的足球队员2022-01-23
- 市北区探索服务赋能新路径 营造企业发展好2022-01-23
- 市北区聚焦中医药长远建设,产生“双驱动”2022-01-23
- 福建省一批民生项目建设取得显著成效2022-01-23
- 福建省十三届人大六次会议在福州开幕2022-01-23
- 去年福建全省地区生产总值48810亿 今年预2022-01-23