作者:Alessio Jacona*
Mara Venier, Elon Musk，斯洛伐克进步党领袖Michal ?ime?kae和英国工党领袖Keir Starmer有什么共同之处?他们都是不知情的主角——在某些情况下甚至是受害者——深度假音频和视频内容，即使用人工智能巧妙制作的假内容。
但是，尽管韦尼耶和马斯克只是在一个很容易被识别为假的基本视频中结束了这段视频，他们试图利用自己的可信度来传播一场金融骗局，?ime?kae和斯塔默的命运却截然不同:他们传播了两个不同的深度伪造音频，第一个音频似乎向记者透露了他是如何认为自己在操纵即将到来的选举的，而第二个音频似乎是在暴力侮辱他的员工。这两起事件的时机都表明，这是一次有针对性的袭击，精心策划的目的是在民主进程的微妙阶段抹黑一位政治人物。
例如，像这样的事件引发了对信息未来及其可信度的质疑，但也引发了对我们感知现实、区分真假、理解相信什么和信任谁的方式的质疑。许多人认为这纯粹是一个技术问题，因此他们呼吁对人工智能的使用施加新的限制。但事实真的是这样吗?DEXAI人工伦理的联合创始人Piercosma Bisconti解释说:“事实是，创造可靠的人工智能系统是不够的，但有必要使我们的社会和技术之间的互动值得信赖。”
Bisconti是美国国立大学间信息学联盟(National Interuniversity Consortium of Informatics)的人工智能伦理研究员，也是欧洲研究项目Solaris的创始人之一，ANSA也是该项目的一部分，该项目在未来三年内旨在明确方法和战略，以管理风险、威胁，以及生成人工智能给民主、政治参与和数字公民带来的机会。Solaris于2020年构思，专注于生成对抗网络(gan)，如今它还将其研究扩展到新的生成人工智能，如Midjourney或ChatGPT。
然而，根据Bisconti的说法，技术只是问题的一部分，甚至可能不是最重要的问题:“无论是GAN还是LLM，深度虚假产品是视频、文本还是图像，我们相对不太感兴趣——他解释说——我们感兴趣的是知道在什么条件下主体信任内容，以及自动生成的模拟内容如何改变社会系统，无论它们是假的还是假的。”是的，因为有必要区分:通过虚假内容或虚假内容，我们指的是欺诈性内容，而通过虚假内容，我们指的是那些公开的内容，这些内容是为了积极的目的而产生的，这将是Solaris项目最后阶段的研究主题，致力于生成AI。
Solaris背后的想法诞生于2020年，当时比斯康蒂正在研究网络阴谋论。一项研究涉及对4chan和Reddit等平台上传播的内容进行分析，在这些平台上，许多与美国另类右翼有联系的用户在传播，在这些平台上，第一批使用gan以一种尚不成熟的方式产生的深度假货突然出现了。Bisconti说:“这一刻，我和我的同事开始明白，深度虚假内容传播带来的真正问题不是区分真假，因为这永远是可能的。问题是，对于社会系统，即社区来说，如果虚假内容传播得太多，将变得不可能管理。”换句话说，我们的社会目前无法吸收深度造假海啸的冲击波，这可能会摧毁公民对社会的信任。
Solaris就是为此而诞生的，与此同时，前两个用例已经在筹备中。“首先，我们试图了解用户在什么条件下信任一段内容。研究人员解释说:“人们已经注意到，人们没有注意到，例如，法学硕士很难产生诸如手之类的细节，而是关注其他事情:关注来源，他们在社交网络中越接近，他们就越被认为是值得信赖的，但也关注意想不到的因素，如框架的类型或图像的质量，它越明确，就越可信。”
然而，更重要的是要了解如何应对由虚假内容的病毒式传播和不受控制的传播引起的紧急情况:“第二个用例的目的，”Bisconti ////confirm/i/i/i/是，“是为了展示社会技术链的决策者在从信息到政治影响的过程中，在具有极具影响力的内容的深度虚假面前会如何表现。”为了理解这一点，我们需要一个例子:假设有人设法入侵了CNN的系统，然后传播了一段深度伪造的视频，视频中他们的一位主持人宣布入侵一个国家，损害另一个国家:比斯孔蒂解释说:“我们明白，问题不是要识别深度造假，而是要能够控制已经造成的损害的影响。这只有在我们有一种政治科学方法的情况下才有可能实现，这种方法能够根据假新闻传播给不同年龄段和特征的受众的不同渠道来划分影响。”如何阻止连锁反应?谁该给谁打电话?应该遵循什么协议?这些都是我们想要回答的问题。”
*记者、创新专家、人工智能观测站(ANSA.it)馆长
版权所有?ANSA
