吕归亚:“有图有真相”的时代结束了吗?

一段时间以来,与人工智能(AI)深伪相关的新闻时不时出现,受害者众多。前段时间最受关注的AI深伪事件显然是美国人气女歌手泰勒·斯威夫特的不雅照在社交平台上大量传播。与以往不雅照的出处不同,泰勒的照片并非是由狗仔偷拍或从个人电脑泄露,而是使用了AI技术生成。该事件在互联网上一时甚嚣尘上,泰勒的粉丝自发组成了“网军”在各大社交平台维护偶像形象,平台也采取了删除推文、禁止关键词搜索等手段,但依旧难以阻止照片在网络上的病毒式传播。事件引发了公众对深伪技术的担忧,担心AI图片生成技术将侵害人们的正常生活。

这并非深伪技术首次被推到风口浪尖,相关争议从未停止。现在AI生成的图片、有声视频,几乎可以乱真。泰勒其实此前就深受其害,有人曾使用AI生成一段泰勒带货的视频实施诈骗。相比十几年前满是破绽的PS,现今生成式AI产出的内容不仅真假难辨,而且把假照片假视频的门槛大大降低了,普通用户简单输入字段和图片就能创造新的内容。比如,曾经需要数十名技术人员花费数月才能制作出的影视特效场景,如今仅需一台电脑联网便可以完成。各类应用如井喷般出现,无疑给技术的监管带来了巨大的挑战。

以泰勒的事件为例,管控主要有两个重点,分别是源头和传播节点。源头指的是最初制作假照片的不法分子,而传播节点则是在互联网上进行传播的各个账号。

传播节点的限制相对容易,各国也都有既有法律来保护个人隐私,阻止隐私或私密图像在公共场合的传播。但源头的管控则相对困难。一方面,如全面禁止在社交媒体上发布由AI生成或者AI参与修改的图片,乃至于全面禁止相关应用的开发及发布,这类的“一刀切”管控显然并不合适。另一方面,AI生成的图片目前已非常真实,很难简单辨别哪些图片是由AI生成而哪些又是“原生”。问题的关键在于要让公众及平台运营方了解图片的真实性,以及确保对AI生成的内容进行溯源。目前看来,最好的解决方案可能是此前OpenAI、微软、谷歌、Meta、亚马逊等多家技术巨头提出的AI生成内容水印技术,即在AI生成内容中添加可识别的水印,标明作品信息及出处,以确保公众可以区分AI生成内容。当类似泰勒隐私遭受侵害的事件发生时,可以追溯源头。在具体治理场景中,可能还需要政府、AI技术公司、传播平台进行联合治理,才能确保内容生成技术不被用来作恶。

回顾历史,公众接收信息的方式一直在随着科技的发展而变化,技术的进步帮助人们不断拓展信息获取的维度。无线电声波、电视画面、互联网传播都对社会进步起到了重要的推动作用,AI亦是如此。AI模糊了现实与虚拟的边界,终结了“有图有真相”的时代,但同时,AI也在丰富着信息的维度,可以配合文字内容生成的图片乃至视频,给阅读者带来更沉浸的体验,也可以提供包含专家评论和历史信息在内的增强内容。比如,对于历史学家来说,AI生成内容就可以帮助其更好地还原历史的细节。技术本身无关善恶,维护公众利益的关键还是在于规范使用者。只有通过监管部门、信息传播平台以及AI技术公司多方的通力合作,才能找回公众对于信息真实性的信任,在更高的层次上回归“有图有真相”。(作者是奇安信集团职员)

热门相关:北宋大表哥   总裁大人,又又又吻我了   玉堂金闺   艳遇传说   庶子风流