与其他新技能一样，AI生图技能自出身之日起就充满争议，一起鲜花与荆棘相伴。支持者视它为颠覆性的技能革命，反对者视它为大水猛兽。特殊是近两年以ChatGPT、Sora为代表的AI数据大模型横空出世，AI生图已成为刷屏时尚，受到越来越多的网民追捧。它在给人们带来极大便利、惊奇、抚慰的同时，也一定暴露出诸多荒诞不堪、令人生厌、乃至违法犯罪等负面问题。
AI本无罪，关键在于如何利用它。只有坚守伦理和法治底线，技能才能更好造福人类。本日，上游新闻推出“AI生图五大乱象”专题宣布，聚焦近年来AI生图领域里暴露出的各类乱象，追根溯源、阐发因果，探索办理之道，以期对AI家当康健发展有所裨益。
今年清明期间，“AI复活亲人成热门买卖”频频登上热搜。9月21日，南开大学举行活动，创校校长张伯苓借助AI技能“复活”，与南开大学师生展开了一场超过105年的对话，再度引来公众对付干系技能领域的关注。
近日，上游新闻（报料邮箱baoliaosy@163.com）从干系业内人士处理解到，时隔半年，随着干系部门以及平台监管的加强，以及AI技能本身存在的伦理、法律风险，在清明节一度火爆的“AI复活逝者”买卖如今受到了一定的限定，部分企业也开始将重心从“复活逝者”转向复刻在世者、数字祠堂等业务。
清明期间一天上百单
4月4日，“清明节前AI复活亲人买卖火热”的话题登上热搜。有媒体创造，在电商平台上许多商家正在做着“AI复活”的买卖，这些商品的定价不等，标价从几元、几十元，到上百元，乃至数千元的都有，所供应的产品也参差不齐，乃至有人为了赚快钱，只是大略地让照片动起来。
在某平台上，还有商家趁势推出“AI复活师”的传授教化套餐和代理做事，故意将单一的买卖打造成一条完全的家当链。
电商平台上某商家见告媒体，让人物动起来须要20元，定制人物说话内容须要50元，仿照人物说话声音则需90元。该商家强调，如果做得不像可以重做。“我们这款做事刚上线不久，大概只有一两个月韶光，平时买卖不多，清明节买卖一下子多了起来，曾经一天就接了一百多单，都是‘复活’亲人的。”
“校友说AI生命”的创始人林志从去年4月开始涉足AI人像仿照演习、声音克隆等业务，是海内较早推出AI复刻产品的团队。他表示，附近清明节，“AI复活”去世亲人的业务愈发火爆，最高的一天有上百个订单，日收入有两三万元。
淘宝上的“复活”亲人产品仍旧很多。网络图
他先容，以前技能不成熟，团队每接一个订单需耗费大量韶光，以是收费为1000元至1万元不等。“从去年底开始，就降到一个普惠版本，价格为298元。”对付市情上定价10元以内的“AI复活”商家，林志称这种做事只能让人物的嘴动起来，单次本钱低，而他所交付的产品，不仅能够拥有逝者的形象和声音，并且可以实时互动谈天。
随着“AI复活”业务加倍火热，乱象也频频涌现。今年3月，一段“AI李玟暖心回应粉丝关怀”的视频引发关注，在视频中，已故有名歌手李玟以AI形象面对镜头，向粉丝诉说着感谢与鼓励。不仅是李玟，网友还用AI“复活”了高以翔、乔任梁等已故艺人。
3月28日，李玟的母亲委托状师就部分网络用户制作、传播“AI复活李玟”干系短视频事宜，公开拓布了一则状师声明称：严肃警告涉嫌侵权任务人7日内下架、删除含有上述侵权内容的干系图片、视频及文章，立即停滞履行相应侵权行为。
4月2日，抖音官方发布的《抖音关于清明期间内容创作的提醒》明确提到：“尊重逝者及其亲友。未经逝者生前赞许或逝者家属授权，请勿利用AI或其他技能手段‘复活’逝者。”
“复活已故艺人”被叫停，但上游新闻在多个平台上看到，“AI复活亲人”的干系业务仍十分生动，已经形成家当链。除了电商平台“复活逝者”的干系产品，短视频平台上有许多通过发布视频吸引目标客户的代理商，乃至还有“收徒”传授“AI复活技能”的培训班。
“AI复活”业务受平台限定
今年3月，有多年互联网产品运营履历的重庆90后创业者李灿成立了“硅灵AI数字生命平台”，目前紧张团队在成都，自己紧张是兼职创业状态。
李灿见告上游新闻，作为创业者，实在自己也有情绪上的须要，“我的父母都在2022年去世，给我非常大的打击，刚好那一年的年末Open AI发布了ChatGPT3.5，震荡了我们所有做互联网的人，所往后续一贯很关注AI。”
李灿创建的“硅灵数字生命平台”。网络图
“2024年，由于有声音演习和克隆的大模型涌现，人的声音是可以被备份和复制的，这意味着AI大模型继续人的影象和性情以及社会关系+声音，被复制组成了一个市场需求方可以接管的方案——AI智能体，需求方则是跟我一样失落去亲人很想再次见到他们的人。”李灿说。
李灿先容，紧张的“数字生命”目前就两类，一类是继续人类影象性情和克隆声音的智能体（对付逝者是“AI复活”，对付生者是AI备份），一类是AI老照片，很多人实在没有双亲或者外婆奶奶的声音，只有一张十多年前的模糊照片，只能将照片视频化。
上游新闻在“硅灵AI数字生命平台”上看到，目前“数字生命”的产品售价，根据资料提交比例、声音复刻相似度、人物相似度的不同，从199元到999元不等，而定制开拓“专属生命”的价格还要更高。李灿先容，目前产品紧张是网页+H5的形态，已经迭代到第二个版本。
不过，目前的“AI复活逝者”的订单数量已经没有清明时那么火爆。李灿见告上游新闻：“我们在一些新媒体平台做了账号内容，但部分平台对‘AI复活’类业务限定很大，内容险些都是剖断违规，投放类的平台也无法参与关键词的竞价，以是线上得到精准流量还是比较困难。”
在浩瀚用户中，李灿印象最深的是一位祖籍广东目前定居澳大利亚的女士，“她结婚后去了国外，父亲一人留在广东生活，她险些每隔几天就会打视频，结果端午节前后几天忙没打视频，溘然接到警方电话，说她父亲沐浴时猝去世，她为自己没有照顾好父亲、走得如此没有肃静尔后悔不已，后来在硅灵平台进行‘复活’后，多少有了一些安慰。”
B站UP主吴伍六用AI技能天生了去世奶奶的虚拟数字人，并和自己开展了对话。网络图
李灿认为，大多数来进行“AI复活亲人”的，彷佛都有一种强烈的感情和遗憾，这种感情常日是亲人刚拜别的几个月内，如果在这个韶光段内能得到一些安慰和帮助，也能更好地走出困境，“我在对接这些用户的过程中，创造实在很多人所碰着的情形，比我的情形更要剧烈，有母亲跳楼的，也有孩子去世的，我在安慰他们的过程中，觉得自己扮演了一个‘赛博神父’角色，同时自己也在逐渐释怀。”
上游新闻把稳到，南京、杭州等地都涌现了供应“AI复活逝者”产品的科技公司，不过上游新闻也讯问了几家海内子工智能团队，他们均表示，出于谨慎考虑一贯没有开展这项业务。
科大讯飞虚拟人平台业务部总经理郜静文表示，公司干系团队很早就把稳到“AI复活亲人”这一征象，但现阶段不会开放此类业务，由于仍有很多法律的真空地带，以及伦理边界不清晰。
法律界人士：需尽快制订干系法律法规
最近林志逐渐在减少“AI复活逝者”的订单，而是把重心转向复刻在世的人，“数据多，效果也更好。”
比如有的人想复刻还在世的亲人，有客户长年在国外事情，想给自己在海内上学的女儿每个年事段都做一个版本，认为这可以帮孩子记录发展，还曾有一家湖南的养老院卖力人找到林志咨询，想给养老院的老人做AI复刻，认为这可以从一定程度上帮助老年人疗愈。不过，老人家属对此还有疑虑，这个项目也暂时未有推进。
林志认为，如何让当事人特殊是老人理解并接管AI复刻这一新生事物，这也给他们的业务带来极大寻衅。
此外还有“数字宗祠”，林志表示：“这项做事的咨询量和实际需求的上涨今年格外明显，这是我们没预见到的。”李灿也表示，后续会考虑线下的一些场景，比如墓园，做一些互助考试测验，希望得到一些更精准的流量。
随着“AI复活逝者”走进人们生活，争媾和谈论也越来越多。新华社干系宣布就指出，AI须要处理大量个人敏感数据，如面部表情、语音语调等，数据一旦被滥用或透露，会对用户隐私造成威胁。并且，AI“复活”技能利用不当，也可能成为犯罪分子履行诱骗等犯罪活动的工具。
上海大学法学院教授陈敬根认为，一方面，要加快AI领域的立法；另一方面，也该当看到，画出底线和红线的“硬法”固然不可缺位，但为了填补立法的滞后性，在人工智能等新兴领域，当前应提倡设立更多的“软法”，即通过行业协会、团体组织等自发制订的规则，产生集体约束力，由此在法律底线之上起到行业监管的浸染。
河南泽槿状师事务所主任付建表示，逝者的肖像、名誉、隐私等仍受法律保护，如果没有经由逝者支属等容许，擅自利用AI技能“复活”逝者，并通过视频等办法传播确有侵权的嫌疑。如果商家审核不当或恶意透露，那将承担法律风险，如果买家并非逝者的支属或拥有合法授权，而商家也未尽到审核责任便利用AI技能为买家供应做事，那么他们的行为构成民事侵权，需承担民事任务。
他也提醒，需尽快制订干系的法律法规，建立一个监管框架，明确家当参与者的权利和责任，包括数据网络、处理、利用和保护的规定，以及对AI仿照亲人的行为和任务的界定，同时建立伦理审查机制，确保“AI复活亲人”家当的发展符合伦理标准，不陵犯人类肃静，不造成社会侵害。
上游新闻 汤皓 杨波 部分内容据上海证券报、九派新闻、温州、潇湘晨报等