去世9个月的李玟被网友用AI“复活”了。她坐在镜头前，对粉丝诉说着暖心话语。然而，李玟母亲的一纸声明，却将人拉回现实，让人看到AI“复活”的另一壁：以温情之名造孽牟利，借机售卖AI做事、恶意转评引流推广个人业务。3月30日，李玟母亲委托的广东梦海状师事务所见告南都、N视频，“我们在固定证据，走法律路子。”
清明将至，AI“复活”逝者成了热门买卖。南都调查创造，在一些电商平台上，有不少做AI“复活”买卖的商家，商品标价从几元、几十元到上百元乃至数千元。当AI“复活”成为一学买卖，带来哪些伦理争媾和法律寻衅？监管面临哪些难题？
“AI复活李玟”视频引发争议。
李玟被“复活”
“你们好吗，我是CoCo李玟，我知道你们可能会感到惊异，乃至有些不真实。在我离开这个天下的那一刻起，我一贯能感想熏染到你们无尽的爱与支持……”
视频中的“李玟”坐在镜头前，对粉丝诉说着暖心话语。这段“逼真”的视频实际由AI天生，在社交平台上被广泛传播。
3月28日，广东梦海状师事务所受李玟母亲委托发布了一则状师声明。声明称，根据已节制的证据资料，近期部分网络用户未经李玟近支属赞许，利用李玟肖像制作、发布“AI复活李玟”系列短视频，以温情之名造孽牟利，借机售卖AI做事、恶意转评引流推广个人业务。
状师声明。
声明指出，此类视频的广泛传播已经对委托人及其家人的事情和生活造成了严重滋扰，同时也给本就深陷痛楚的委托人及家人带来了巨大的生理冲击和二次侵害。
声明严肃警告涉嫌侵权任务人，于声明发布之日起7日内下架、删除含有上述侵权内容的干系图片、视频及文章，立即停滞履行相应侵权行为。
近日，南都在社交平台搜索AI“复活”李玟的视频，创造大部分视频已被下架，但仍有少数视频依然存在。
这类视频有的制作很逼真，让评论区的网友直叹“难辨真假”。有的制作粗糙，“李玟”对着镜头说一些心灵鸡汤，表情和动作僵硬，语速也快慢不一。
3月30日，广东梦海状师事务所事情职员见告南都，“我们在固定证据，走法律路子。”
AI“复活”成买卖
不仅仅是李玟。
被AI“复活”的已故明星还有高以翔和乔任梁。而他们的家人无一例外，均表示对此不能接管。
“他们未搜聚我们赞许，这是在揭伤疤。”乔任梁父亲在接管媒体采访时说道。
高以翔家人也表示，严厉训斥并武断抵制该行为，若不立即停滞侵权行为，会采纳法律行动。
被AI“复活”的乔任梁。
与网络博主用AI“复活”逝去的明星不同，也有不少人用AI“复活”逝去的亲人。台湾有名音乐人包小柏此前在个人社交平台分享AI天生的逝去女儿的视频，就曾引发广泛关注。
包小柏利用AI“复活”女儿。
越来越多的案例背后，是AI“复活”正在成为一学买卖。
南都在电商平台上搜索，创造了许多做AI“复活”买卖的商家。这类买卖以创意AI“复活”照为主，标价在十元至上百元间。
南都咨询了个中一名经营创意AI“复活”照片的商家，从标价10元的链接点击联系客服后，对方表示，详细价格要根据照片和哀求来定，他们能实现的效果包括“让照片动起来”和“让照片开口说话”。
电商平台上的AI“复活”广告。
该名电商商家表示，如果是让照片“动起来”，只须要供应正面照片，成片6-7秒。如果想让照片“说话”，必须供应正面照片与定制文本，价格根据视频时长而定。
照片说话的声音有两种形式可选，一是用商家现成的普通话声音，音色不可选；二是还原原声，须要供应足够的音频采集，单位时长的价格大概是第一种形式的3倍。
另有电商商家出售一款AI数字人软件，安装后可以导入正面照片让其“开口说话”。
南都咨询该商家，对方表示，该软件只能实现导入照片和录好的音频直接合成，若须要音色克隆，可以购买店里其余一款AI声音克隆软件。两款软件一同购买，总售价不超过40元，可以永久无限利用。
此外，AI换脸软件在电商平台上也很常见。
南都在电商平台上检索创造，这些软件多以网盘的形式发货，标价在几元至十几元间，但AI换脸软件的商品页面险些没有以“复活”亲人为营销。
一款“一键换脸”软件的评论区中，共有6位买家晒出效果图，均将图片中的人脸换为明星脸。
监管面临难题
AI换脸技能自出身起就备受争议，用AI换脸侵害他人权柄的案件并不少见。
2023年8月10日，公安部通报全国公安机关打击整治陵犯公民个人信息违法犯罪行为举措成效。数据显示，自2020年“净网”专项行动以来，破获涉“AI换脸”案件79起，抓获犯罪嫌疑人515名。
AI换脸技能备受争议。IC供图
南都理解到，对付天生式AI，近年来监管部门已经出台干系规定。2022年12月11日，《互联网信息做事深度合成管理规定》发布，强调深度合成做事供应者须要对深度合成内容进行显著标识。
2023年7月10日，《天生式人工智能做事管理暂行办法》（下称《暂行办法》）出台。
个中明确提出，供应和利用天生式人工智能做事时，应该尊重他人合法权柄，不得危害他人身心康健，不得侵害他人肖像权、名誉权、名誉权、隐私权和个人信息权柄。
《暂行办法》中还强调，天生式人工智能做事供应者应该利用具有合法来源的数据和根本模型，不得侵害他人依法享有的知识产权，涉及个人信息的，应该取得个人赞许或者符合法律、行政法规规定的其他环境。
由于造孽供应者或利用者有匿名性及AI换脸产品本身的可复制性，AI天生家当的监管依然面临难题。
一名从业者向南都坦言，目前AI“复活”逝者家当，并无行业标准，他们对违法利用的行为无法彻底甄别。“我们只能通过讯问动机、多方求证来判断是否相信他们的故事。”
南都咨询多家经营创意AI“复活”照片的商家创造，个中一些店铺会在供应做事前强调“不做人脸识别，不做违法行为，只能用于怀念”。
有些店铺则在声明中强调，“不得用于商业或造孽用场，否则统统后果请用户自大。”也有出售AI视频换脸软件的商家全程没有提到对用场的限定，其商铺页面显示该软件已有100多人付款。
伦理与法律困境
AI“复活”李玟被叫停背后，一个无法回避的问题是：如何在发展AI技能的同时，为其厘清伦理边界、设定好底线，确保行业在康健的轨道上前行？
广东广信君达状师事务所管委会主任、法学博士闪涛长期专注于研究人工智能领域的法律问题。
他见告南都，从侵权角度而言，根据我国《民法典》的干系规定，AI“复活”李玟既涉嫌侵害与去世者有关的肖像权、名誉权等人格权，也涉嫌侵害与去世者个人信息有关的人格权柄。
AI“复活”涉及人脸信息运用，其免责事由在法律法规当中有明确规定。
最高公民法院于发布的《关于审理利用人脸识别技能处理个人信息干系民事案件适用法律多少问题的规定》，明确了五类行为属于免责事由。
分别是为应对突发公共卫生事件，或者紧急情形下为保护自然人的生命康健和财产安全所必需而处理人脸信息的；为掩护公共安全，依据国家有关规定在公共场所利用人脸识别技能的；为公共利益履行新闻宣布、舆论监督等行为在合理的范围内处理人脸信息的；在自然人或者其监护人赞许的范围内合理处理人脸信息的；符合法律、行政法规规定的其他环境。
“AI‘复活’如果在合法合规的办法下是能够利用的。”闪涛举例说，比如在某部影片的拍摄过程中，男主角意外身亡。为担保拍摄的顺利进行，经由一系列合法合规的步骤后，影片采取AI“复活”的办法使影片得以顺利拍摄完成并上映。
“但AI‘复活’如果被滥用的话，不仅会给当事人及其亲友带来侵害，也可能危害社会公共秩序，违背公共道德与公序良俗，乃至被不法分子利用从事违法犯罪活动。”
“AI‘复活’给法律带来了新的寻衅。”闪涛认为，AI“复活”仍是新生事物，我国目前已经建立相应的法律法规的框架，但还存在进一步细化的空间，同时基于AI“复活”的利弊，“涉及到普通大众的生理感想熏染和社会伦理道德方面的问题，法律难以做一刀切的规定”。
闪涛说，从个人最朴素的不雅观点以及现有的法律事理出发，AI“复活”首先应该屈服本人在生前的明确意愿，其次是要屈服在合法利用的情形下，掩护包括去世者在内的个人合法权柄，同时不能违背社会伦理道德。
出品：南都即时
采写：南都 杨婷