能把某人没说过的话塞进他嘴里　防止AI深伪对选举公平性很重要

想像一下，选举白热化阶段，网络上如果突然开始流传一部视频或录音档，内容是某个候选人发表疑似违法或可能流失选票的言论。

这会不会影响到你的投票意愿？

或者说，这会不会影响到广大选民的投票意愿？

如果内容是真的也就罢了，若内容是伪造的，候选人岂不吃了“死猫”，输得不明不白？

新加坡政府昨日（9日）正式在国会提出选举（维护网络广告诚信）（修正）法案（Elections (Integrity of Online Advertising) (Amendment) Bill）一读。

要针对的，就是上述情形。

该法案将修改国会选举法令和总统选举法令，在选举期间，禁止发布由包括AI技术在内的数字技术所生成或篡改的网络竞选广告。

上述网络竞选广告，指的是那些鱼目混珠，以假乱真，逼真描绘某个候选人未曾说过或做过的事的内容。

简单来说，就是那些把别人没说过的话塞进别人嘴里的深伪视频。

法案将赋予选举官向违例内容发布者、社交媒体服务和互联网服务提供者发出更正指示的权力，让他们撤下相关内容，或禁止新加坡用户在选举期间访问违例内容。

受影响的候选人和公众皆可举报涉嫌违例的内容。

若违例内容发布者或相关服务提供商拒绝遵从更正指示，一旦定罪，社交媒体服务商最高可被罚款100万元，其他涉事者则可被罚款不超过1000元、监禁最长12个月，或两者兼施。

根据数码发展及新闻部的说法，相关内容一旦符合以下三种条件，发布、转发、分享的行为就会触法：

内容是经由AI技术生成或篡改，或经由修图、配音或拼接等数字技术所产生的；

内容被认定为网络竞选广告，目的是为了让某个政党或候选人的选情更有利或更不利；

内容必须以假乱真、煞有其事地描绘出某位候选人说着或做着他们从不曾说过的话或做过的事。

值得一提的是，除了利用深伪内容让人扣分不行，以虚假内容来帮人加分也属违例。

例如，若某位候选人明明完全不会说福建话，却用深伪视频把自己描绘成流利福建话流利的人，其逼真程度也足以说服某些选民，那这不符合事实的描绘就属于违例。

无论如何，动画、卡通人物、娱乐内容、迷因和竞选海报，只要不符合几可乱真的条件，即不会让人对内容信以为真，那就不在法案的禁止范围。

例如下面这张梗图，一看就知道是为了娱乐大众，而非诋毁候选人，因此不属于违例。

妈妈：你们有没有把鸡肉拿出来解冻？

我和兄弟姐妹们的表情……

（SGAG）

此外，个人聊天或在私聊群组所传送的内容，也不受法案规范。

深伪内容已在多国选举“发威”

自生成式AI技术问世以来，近年来不少国家的选举，已然可以见到深伪内容影响选举的蛛丝马迹。

去年9月，在斯洛伐克大选投票日前夕，当地社群媒体突然出现一段听起来像是该国政党进步党领袖希梅奇卡（Michal Simecka）和一名记者讨论收买选票的语音档。

经过核实后，才发现该语音档原来是AI工具搜集希梅奇卡真实谈话录音后，加以变造合成。

当时，亲欧洲的希梅奇卡和对手，亲俄罗斯的前总理费佐（Robert Fico）所领导的政党竞争激烈，上述深伪录音对最终选举结果有多大影响不得而知，但费佐最终成功当选总理。

印尼和印度则出现“死人复生帮忙拉票”的乱象。印尼政党戈尔卡党在选举期间，以AI技术“复活”前总统苏哈多，并借“假苏哈多”之口为自己拉票。

已故苏哈多在竞选视频中“复活”。（互联网）

在语言非常多样且复杂的印度，印度执政党人民党则透过AI技术，让印度总理莫迪除了用印地语说话，还用包括淡米尔语在内的其他八种语言发表演说（在新加坡，这类以假乱真的配音在新法上路后属于违法，请参考前文所述的“福建话”案例）。

新加坡政治人物也无可幸免。我国总理黄循财和国务资政李显龙都曾遭不法分子“深伪”，内容是推销诈骗投资平台。

李显龙还一度被有心人攫取过去的访谈画面，深伪假造他谈论台湾及菲律宾等敏感国际议题的内容，在TikTok和小红书流传的相关内容取得了数十万观看次数。

未完待续,请点击[下一页]继续阅读