【环球时报驻印度特约 曹冲 环球时报 苑基荣 陈子帅】5月20日，印度开启大选第五阶段投票。此前不久，一段“印度总理莫迪随着孟加拉语盛行音乐舞蹈”的人工智能（AI）合成视频在网上播放量打破千万，引发印度网民和媒体的广泛谈论。事实上，从去年开始，与政治干系的各种深度假造视频就接连涌现，在印度这次天下规模最大的选举中发挥着各种浸染，包括让名人为政党代言、恶搞政治对手、“复活”已故政治家为政党背书等等。“如果说2019年大选被称为‘社交媒体选举’，那么2024年将见证‘AI选举’的时期。”据《印度教徒报》宣布，虽然在以前的印度大选中，仇恨辞吐和虚假信息并不让人陌生，但如今随着AI技能的惊人发展带来革命性变革，2024年的印度大选将面临新寻衅，AI深伪参与选举可能会侵蚀印度的民主并深刻影响该国的政治生态。
5月6日，莫迪转发了自己舞蹈的AI合成视频。（社交平台X）
“分清每个视频的真实性险些是不可能的”
5月6日，莫迪在社交平台X上转发了自己舞蹈的AI合成视频，并配文称：“和你们所有人一样，我也喜好看自己舞蹈。在投票高峰期看到这样的创意真是让人快乐！
”视频显示，“莫迪”随着节奏感十足的孟加拉语歌曲跳跃着登上舞台，一边踢腿一边摆荡手臂。该视频右下角有着“VIGGLE”字样的水印，这是一个可以快速天生AI视频的免费网站。
然而，这番表态并未给此事画上句号。据印度《经济时报》宣布，另一段视频显示，“印度西孟加拉邦首席部长、草根国大党主席玛玛塔·班纳吉”跳了同一段舞蹈，但背景音乐是她演讲的一部分，内容是批评那些退出该党转而加入莫迪领导的印度公民党（印人党）的人。视频发布者遭到西孟加拉邦警方的警告。此后，不少印度网民开始将班纳吉与莫迪进行比较，称莫迪是“有史以来最酷的总理”。而且，“莫迪舞蹈”视频制作者在发布视频时的配文也颇具政治意味：“我发布这段视频是由于我知道所谓的‘独裁者’不会让我因此被捕。”
不过，不同于莫迪这次积极的表态，去年年底一段“莫迪跳传统舞蹈”的视频走红时，莫迪公开表示对深伪技能的担忧。他警告说：“人们会误以为自己瞥见的是真实的，这会引发巨大危急。”
据法国《反应报》宣布，印度正成为将AI运用于政治领域的“先锋”。环球安全软件公司迈克菲今年4月的一份报告显示，近1/4受访印度人曾打仗过带有政治内容的深度假造产品。印度大学生夏尔马见告《环球时报》：“昨天我看到我最喜好的演员被人假造了一个为政党拉票的视频，但另日常平常并没有表现出任何政党方向。我们该当制订严格的法律来禁止这种造假行为。”贩子戈帕尔也对表示担忧：“我们怎么才能相信我们看到或听到的事情呢？现在网上有太多明星拉票的视频了，分清每个视频的真实性险些是不可能的。”
据《印度斯坦时报》宣布，多名宝莱坞影星在大选期间陷入深伪视频争议。上个月，一段“印度著名演员阿米尔·汗敦促选民小心空洞承诺”的视频走红，彷佛将矛头直指印人党。阿米尔·汗的发言人表示已向有关部门投诉。有不雅观点认为，利用宝莱坞明星做政治宣扬是印度政党“争先恐后”吸引年轻选民的考试测验。数据显示，印度今年约有1800万名首次投票的选民和近2亿名20岁至29岁的年轻选民。
“新颖但危险”，卡塔尔半岛电视台宣布称，印度各政党正转向AI竞选策略。个中，“复活”仍有影响力的已故政治人物是一种常见办法。宣布举例称，曾领导德拉维达进步同盟的卡鲁纳尼迪于2018年去世，但他今年1月涌如今一段AI合成的视频中，对他的儿子、现任泰米尔纳德邦首席部终年夜加讴歌。制作该视频的印度媒体技能公司Muonium创始人森蒂尔·纳亚加姆表示，与耗时长、花费大的传统集会比较，让已故领导人“复活”更新颖、更具本钱效益。
还有一类AI视频会通过恶意编辑来攻击政治对手。今年3月，印人党发布了最大反对党国大党领导人拉胡尔·甘地的一段深伪视频，视频中的“甘地”说着一句他从未说过的话：“我什么都不做。”据法新社宣布，印人党较早在竞选中利用新技能。早在莫迪当选总理的2014年，印人党就用全息投影技能让莫迪涌如今集会上，扩大其影响力。
今年2月，国大党制作了“莫迪”演唱歌曲《小偷》的深伪视频，嘲讽莫迪左袒该国富人的行为。4月，印度内政部长阿米特·沙阿也涌如今一段深伪视频中，“沙阿”声称要结束针对数百万穷苦和低种姓印度人的平权行动政策。据《印度教徒报》宣布，因涉嫌传播虚假视频，警方已调查并逮捕多名国大党事情职员，个中包括该党社交媒体全国折衷员阿伦·雷迪。雷迪被指控是沙阿深伪视频的“幕后黑手”，但现已被保释。雷迪曾在接管采访时表示：“政治便是创造认知。通过利用AI工具并匆匆成点击，就可以在一分钟内彻底改变人们的意见。”
印度政党今年将在AI助选上花费超过5000万美元
在今年大选期间，多个政党都在利用AI技能制作竞选材料。目前，印度开始呈现出专门为政治人物供应AI做事的企业，它们供应的做事包括制作宦海人士评论辩论所开展项目的多措辞版本视频，或制作用于讯问选民在当地面临的问题并寻求建议的电话音频等。但也有业内人士表示：“我们会收到很多要求，个中45%到50%的要求是不道德的。一种是将政治领导人的面孔更换到有争议的视频内容中的，这可能会危害他的形象；另一种便是克隆政治对手的声音，让他说一些他以前根本没有说过的话。”
据国际科技新闻网站“余下的天下”4月宣布，印度贾维斯咨询集团的数据显示，印度各政党今年将在AI天生竞选材料上花费超过5000万美元（1万美元约合7.2万元公民币）。合成媒体技能公司正加班加点知足所有政党的需求。
“这是我们首次看到深伪视频的大规模支配。纵然对我们来说也是一件新鲜事。”纳亚加姆说，他的公司Muonium从今年1月开始涉足政治领域业务，第一个项目便是“复活”卡鲁纳尼迪的视频。此后仅3个月，这家公司就被此类条约“淹没”了。由于带宽不敷，该公司目前只与“可以信赖并可以供应包管的政党”互助。此外，此类公司也一样平常不会同时为在同邦竞选的两个对手党派供应做事。
贾杜恩是印度AI合成媒体技能公司Polymath Solution的创始人，该公司去年11月开始为印度宦海人士制作AI视频内容。在几个月的韶光里，这家由9个人组成的小型公司，已得到6个竞选干系项目，并正同时做事多个政党，估量将于今年大选期间赚取超过24万美元。
关于深伪视频的详细用度，以Polymath Solution为例，该公司收取6万卢比（1万卢比约合868元公民币）的语音克隆费和10万卢比的数字头像创建费。曾为莫迪制作3D全息图的媒体技能公司Avantari Technologies收取100万卢比的语音克隆费，其推送每条社交媒体WhatsApp的收费为30卢比。印度政治学家维什诺伊表示：“印度紧张政党可能会为AI竞选活动拨款超过100万美元……均匀一位候选人可能有8万至9万美元。”
“竞选变得越来越奇怪了”
据《印度教徒报》宣布，AI技能利用到选举中积极的一壁在于，AI技能正在降落制作竞选材料的本钱和障碍。比如一段“莫迪”直接叫出选民名字并鼓励选民参与投票的个性化视频，在WhatsApp上被一对一推送给数亿名印度网民，比较传统手段节省了大量的韶光和资金，因此也极有可能成为未来竞选的主要工具。据新加坡《联合早报》宣布，一些专家认为，AI技能一方面有望改变印度大选历时长、耗费大的现状，但另一方面，也会让假变得更普遍、更具针对性且更难被创造。
印度选举委员会表示：“在社交媒体平台上利用被操纵、扭曲、编辑的内容，可能缺点地影响选民见地，加深社会不合，侵蚀对选举过程的信赖。”印度前首席选举专员库雷希称：“谣言一贯是竞选活动的一部分。但在社交媒体时期，它可能会像野火一样点燃这个国家。”
贾杜恩见告英国天空新闻台，之前乃至有某个政党希望该公司帮助对一段真实的视频进行处理，使其看起来像是深度假造的，并打算以此进行“辟谣”，由于原视频“有损候选人形象”。对此，贾杜恩直言：“竞选变得越来越奇怪了。”不少印度民众也担忧，深度假造正让“原形”变成一个可塑的观点，"大众年夜众向领导人问责的能力也会受到严重影响。
对外经济贸易大学国际关系学院学者梁怀新对《环球时报》剖析说，“AI+政治”趋势的成因紧张有3个方面：一是AI技能跃迁供应了技能根本，使深伪内容达到真假难辨的程度；二是在大国计策竞争的整体态势下，近些年美西方或印度、阿根廷等发展中国家涌现明显的政治极化趋势，选民依赖网络获取信息而不过多考量其真实性，这被一些激进政治势力所利用；第三，关于AI天生产品的伦理道德问题还存在极大争议，干系监管法规相对滞后，客不雅观上助推了AI深伪在竞选中的运用。
监管法规滞后，印警方像在玩“打地鼠”游戏
关于印度对AI深伪的干系法规，印度数字未来实验室政策研究员阿努什卡·贾因表示，印度法律目前没有对“深度假造”作出明确定义。警方一贯在利用针对诋毁或陵犯个人隐私的法律，并结合《信息技能法》，办理个别案件。很多时候，他们像在玩“打地鼠”的游戏。
《印度斯坦时报》宣布称，虽然政治领域的虚假信息在印度不是一个新问题，但干系司法行动一贯都处于起步阶段，也并非持续性的。现在最紧迫要办理的问题是，数字平台该如何标记、识别这些媒体内容。目前，印度选举委员会已致函所有政党，哀求他们在接到关照后3小时内删除任何深度假造内容。委员会还哀求各政党职员不要利用他们的社交媒体账号发布深度假造的视频和音频，也不要传播任何缺点信息或合成、修正的信息。
“AI深度假造可能颠覆很多国家的选举。”美国《华盛顿邮报》宣布称，印度大选让人们看到AI工具的爆炸式增长如何使环绕竞选打造虚假媒体内容变得更随意马虎，并改变该国民主进程。加利福尼亚大学伯克利分校的打算机专业教授法里德表示，在多国的选举中，深伪内容泛滥势头都很迅猛。比如美国有模拟总统拜登声音的电话，印尼大选期间戈尔卡党用AI技能“复活”前总统苏哈托等，都凸显理解决该问题的紧迫性。