Emma McGowan 2024年1月30日

在AI生成的泰勒斯威夫特淫秽影像在X前身为推特上走红后，我们不禁要问：这对未来的AI意味著什么？

近期，AI生成的著名歌手泰勒斯威夫特的露骨影像在X平台上迅速传播，展现了AI能力的黑暗一面。这些影像被认为是使用微软设计工具创造的，并引起了广泛关注，突显了AI生成假色情的日益严峻挑战。

随著这些影像在平台上迅速蔓延，事件不仅引发了粉丝和隐私倡导者的愤慨，也提出了有关媒体创作中AI伦理使用的重大问题。

Avast威胁情报总监米哈伊萨拉特Michal Salt对这一及时话题提供了丰富的知识和专业见解。萨拉特关注科技、安全和伦理的交集，对AI生成内容的影响提供了深入的看法。

接下来的几个部分，我们将深入探索他的见解，包括影像操控的历史类比、AI能力所带来的伦理困境，以及在日益依赖AI的世界中对数字信任和安全的广泛影响。

假色情并非新问题

萨拉特将当前AI生成逼真影像的能力与过去使用Photoshop进行影像编辑的情况进行了比较。正如Photoshop多年前革新了影像操控，现在的AI使创建现实影像变得更加简单。然后，操控影像的概念并不新鲜；AI只是这一持续故事中的最新工具而已。

“这在某种程度上只是一种不同的照片编辑软体，”他解释说，强调操控影像的问题已经关注了十多年。现在的关键区别在于AI技术带来的便利性和可及性。这一变化提出了关于社会如何适应和规范这些新工具的重要问题，这些工具使得创建真实影像比以往任何时候都更加容易。

AI与露骨内容的伦理困境

最迫切的担忧之一是使用AI生成露骨影像的伦理影响，特别是未经个人同意的具体个体。虽然生成一般的裸体影像可能不会引起太多的伦理问题，但真正的问题在于轻易可以创建可识别人格的露骨影像。

“AI生成的色情本身没有内在的错误或伦理上的问题，”萨拉特指出。“但对我来说，伦理问题在于你可以相对容易地生成一个带有已知或具体面孔的影像。”

这一能力不仅限于像泰勒斯威夫特这样的名人，还可能扩展到任何人，这突显了对伦理指导和立法的需求：虽然所谓的“复仇色情”或非自愿分享裸体影像在48个州是违法的，但AI生成的深伪色情目前仅在10个州被禁止。这一明显的差距强调了立法与技术之间亟需跟上的必要性。

AI公司如何防止深伪色情的生成？

或许因为生成性AI的访问是相对较新的现象，关于在未经主体同意的情况下生成露骨内容的防范措施仍然相对有限。尽管如此，萨拉特表示，为AI公司实施这些措施并不会十分困难：例如，不允许生成特定人物的影像，或使用顾客提交的影像作为来源材料，将为绝大多数人提供足够的防护。

“当然，有人能够突破这些限制，迫使模型做出不应该做的事，”萨拉特说。“我认为，目前几乎不可能完全避免这种情况只能使其变得更加困难。我想说的重点是，提供这些服务的公司应该更加努力地去避免这种情况。”

还有可能有人会创建自己的生成色情影像的模型，而不设任何限制。然而，萨拉特指出，即使这样做是可能的，却需要大量的技术知识和大量的计算能力。

“并不是很多人能够自己创建出AI生成裸体影像，”萨拉特说。“所以，这更类似于使用Photoshop，你需要具备一定的技能才能做到这一点。”

萨拉特将当前AI发展的状态与安全行业的演变进行对比。他观察到，我们正在见证安全行业“重新开始进行AI开发”。这一比较强调了将AI发展视为一个不断进行过程的重要性，在这个过程中，识别和修复漏洞对于技术的成熟至关重要。

在X平台上出现的泰勒斯威夫特AI生成影像强调了负责任的AI使用的重要性。随著AI的持续进步，平衡技术能力、伦理考量和安全措施将至关重要。通过向米哈伊萨拉特等专家学习并反思过去的挑战，我们可以以更知情和谨慎的方式应对这一复杂的形势。