AI“复活”技术即利用人工智能,在虚拟空间中模拟生成能动的照片、换脸视频和交互数字人等可视化的数字形象,因其满足了大众的情感需求和猎奇心理而火爆市场,但在大规模商用的同时也伴生出诸多社会争议与法律风险,主要有以下表现:
一是重生名人引流。
部分商家、粉丝为吸引流量变现,未经同意私下利用AI“复活”技术让照片上的已逝名人“开口说话”。
但因该技术需要采集大量逝者的样貌数据、声音样本等个人身份信息和生物识别信息进行AI模型训练,且目前对该类信息普遍缺少健全的数据保存和销毁机制,一旦其中敏感信息被不当处理,易引发严重的隐私泄露和人格权益侵害。
据人民网报道,一博主未经家属同意,私自用AI生成视频和声音“复活”李玟、乔任梁等诸多已逝明星,并公开传播引流,不仅“揭活人伤疤”,更造成人格权益侵犯,被明星家属斥责后才下架相关视频。
二是换脸形成黑产。
不法分子利用AI换脸技术,将非法收集到的他人面部信息替换到淫秽视频中,形成一条上游提供软件及技术、中游提供视频和照片定制、下游售卖成品视频的黑色产业链,并通过创建群组、收取入群费用等多种方式牟取不法利益,社会影响恶劣。
三是借数字人恶意侵权。
当前由AI技术生成的虚拟数字人逐渐在影视、游戏、传媒等众多领域现身并拥有强大的吸金能力,但对其著作权、表演权归属尚未有明确的法律界定,部分企业趁机钻法律空子,肆意盗用其他公司完整成熟的数字人形象,稍加改造进行表演宣传,并模糊水印标识,误导公众混淆企业品牌,或引发不正当竞争。
四是深度伪造实施诈骗。
AI“复活”技术让不法分子借助智能AI换脸和拟声技术,就可以实施远程视频、电话诈骗。
而一般群众普遍缺乏此类专业知识,不会也没有能力核实AI数字人的形象、言论的真实性,不法分子借“复活”之名行电信网络诈骗之实日益猖獗,其中不熟悉网络应用的中老年群体成为受害重灾区。
对此,笔者提出如下建议:
一是AI“复活”技术提供者提供服务前,需明确要求需求用户提供相关使用证明。
确保逝者亲属资格审核、关系确认和形象授权符合要求,并严格遵守知情同意原则、隐私保护原则,确保数据使用的透明度与规范性。
同时需要对AI生成内容进行明确标识,避免AI产品在传播过程中被用于欺诈等不法行为,侵犯第三者合法权益。
二是主管部门要加强技术防范。
在法律法规基础上做好数据保护、涉诈犯罪风险等方面的监管,同时督促相关平台落实管理的主体责任,将借AI“复活”技术不当牟利的不法商家拒之门外,尽可能避免技术滥用带来的社会风险。
三是加快AI领域的立法。
将AI“复活”技术的边界建立在尊重逝者、保护家属权益、遵守法律法规、符合公序良俗的基础之上,并对数字人著作权、表演权等具体权益归属予以明确。
同时鼓励行业协会、团体组织等自发制定的规则设立更多软法,在集体当中产生约束力。
四是以案释法,加强法治宣传,提高群众风险防范意识。
提醒群众在面对诸如AI“复活”等新技术时要提高警惕意识,避免掉入不法商家借新技术之名设下的虚假宣传、恶意侵权、电信诈骗之坑。
中国大陆
美国
日本
韩国
新加坡
英国
德国
BVI
开曼
澳大利亚
加拿大
中国澳门
中国台湾
印度
法国
西班牙
意大利
马来西亚
泰国
荷兰
瑞士
阿联酋
沙特阿拉伯
以色列
新西兰
墨西哥
巴西
阿根廷
尼日利亚
南非
埃及
哥伦比亚
智利
秘鲁
乌拉圭
比利时
瑞典
芬兰
葡萄牙
加纳
肯尼亚
摩洛哥
斐济
萨摩亚
巴哈马
巴巴多斯
哥斯达黎加
毛里求斯
塞舌尔
百慕大
巴拿马
伯利兹
安圭拉
马绍尔
厄瓜多尔
记账报税
税务筹划
一般纳税人申请
小规模纳税人申请
进出口退税
离岸开户
商标注册
专利申请
著作权登记
公证认证
电商入驻
网站建设
VAT注册
ODI跨境投资备案
许可证办理
体系认证
企业信用
高新技术企业认定
