AI造谣黑手伸向台球女运动员,治理乱象刻不容缓

在科技飞速发展的今天,人工智能本应是推动社会进步的工具,然而一旦被滥用,就可能沦为造谣生事的凶器。近日,18岁的台球女神王思诺就遭遇了AI造谣的噩梦,多个网络平台上出现利用AI技术伪造的涉及她肖像的淫秽视频,这一事件引发了广泛关注。

9月1日,从台球运动员王思诺的社交账号传来消息,多个网络平台上存在恶意利用人工智能技术,伪造涉及其肖像的淫秽视频并传播以此牟利的情况。王思诺本尊亲自下场回应,她表示这些与她本人毫无关联的视频,已经严重侵犯了她的肖像权和名誉权。她果断采取行动,对相关证据进行了保全,并委托律师团队进入法律程序,坚决追究制作、传播者的民事和刑事责任。目前,她已向葫芦岛当地警方报案,案件也已成功立案。

这并非个例,南都此前就曾调查过AI造谣的乱象,并多方采访探讨治理之策。近年来,利用AI造谣的乱象愈发猖獗,其手段之多样、影响之恶劣令人触目惊心。南都记者实测发现,网上不乏可免费使用的“AI写作神器”“视频生成器”。这些工具操作简单,只需输入简单指令,就能制作出涉及汛情、火灾等敏感主题的虚假文案;还能炮制“正式警情通报”,模仿官方口吻编造细节;甚至普通景区照片经AI处理,就能变成“桥梁断裂事故”视频。这些虚假信息在网络上肆意传播,不仅会给当事人带来极大的伤害,还会扰乱社会秩序,引发公众的恐慌和信任危机。

AI造谣乱象的猖獗,一方面是因为技术的快速发展使得AI工具的使用门槛降低,任何人都可以轻易获取并使用这些工具来制造虚假内容。另一方面,部分人缺乏法律意识和道德底线,为了牟取私利或满足不良心理,不惜利用AI技术进行造谣。

面对AI造谣这一严峻挑战,需要技术、教育等多轨并进。暨南大学夏志华教授团队研发了视觉深度伪造检测、溯源与防御系统,这是从技术层面进行治理的有益尝试。通过先进的技术手段,可以更有效地检测和识别AI生成的虚假内容,追溯其源头,从而为打击AI造谣提供有力的技术支持。

同时,教育也至关重要。要加强对公众的法律教育和道德教育,提高人们的法律意识和道德素养,让人们认识到利用AI造谣的危害和后果,自觉遵守法律法规和道德准则。此外,相关部门也应加强监管,加大对AI造谣行为的打击力度,完善法律法规,提高违法成本,让那些试图利用AI造谣的人望而却步。

AI造谣黑手伸向台球女运动员这一事件,为我们敲响了警钟。我们必须高度重视AI造谣乱象,通过技术、教育、监管等多方面的努力,共同治理这一乱象,维护网络空间的清朗和社会的和谐稳定。

为您推荐