Emma McGowan 2024年1月30日

随著 AI 生成的泰勒斯威夫特色情图像在 X前身为 Twitter走红，我们不禁思考：这对 AI 的未来意味著什么？

最近，一则令人不安的事件发生，AI 生成的 知名歌手泰勒斯威夫特的露骨图像 在 X 上迅速蔓延，揭示了 AI 能力的阴暗面。这些图片据信使用微软设计工具创建，获得了广泛关注，也突显了 AI 生成假色情内容日益增长的挑战。

随著这些图像迅速在平台上传播，事件不仅引发了粉丝和隐私维护者的愤怒，还提出了关于 AI 在媒体创作中伦理使用的关键问题。

Avast 威胁情报主任米哈尔萨拉特为这一时宜的讨论带来了丰富的知识和专业见解。萨拉特专注于技术、安全和伦理的交汇处，对 AI 生成内容的含义提供了深刻的看法。

在接下来的内容中，我们将深入探讨他的见解，回顾图像操控的历史平行，分析 AI 能力带来的伦理困境，以及这对我们日益 AI 驱动的世界中的数字信任和安全的广泛影响。

假色情不是新问题

萨拉特将当前 AI 生成逼真图像的能力与过去使用 Photoshop 的情况做了对比。就像 Photoshop 改变了多年前的图像处理技术一样，现在的 AI 使得创建逼真图像变得更加简单。然而，操控图像的概念并不是新的；AI 只是这场持续故事中的最新工具。

“这在某种程度上只是另一种照片编辑软体，”他解释道，强调操控图像的问题已经困扰人们超过十年。现在最大的区别在于，AI 技术带来的方便性和可获得性。这一变化引发了人们对社会如何适应和规范这些新工具的思考，因为这些工具使得创建逼真图像比以往任何时候都更为容易。

AI 和露骨内容的伦理困境

其中一个最迫切的担忧是，使用 AI 生成特定个体的露骨图像的伦理问题，尤其是在未经本人同意的情况下。尽管生成一般的裸体图像可能不会引发太多的伦理问题，但真正的问题在于轻易地生成识别性人物的露骨图像。

“AI 生成的色情内容本身可能并没有直接的道德问题，”萨拉特说。“但对我来说，伦理问题在于，你可以相对容易地生成带有已知或特定面孔的图像。”

这一能力不仅限于泰勒斯威夫特等名人，还可能影响到任何人，强调了需要建立伦理指导方针和相关立法的必要性：虽然所谓的“报复色情”或非自愿分享的裸体照片在 48 个州都是 非法的，但 AI 生成的深伪色情内容目前在 只有 10 个州被禁。这一明显的差异突显了立法需要跟上科技发展的必要性。

AI 公司如何防止深伪色情的产生？

或许因为生成式 AI 仍然是一个相对新的现象，目前在未经受害者同意的情况下创建露骨内容的防范措施非常少。然而，萨拉特认为，对 AI 公司来说，实施这些措施并非难事：只需不允许生成特定人物的图像或使用客户提交的图像作为素材，就能对大部分人形成足够的阻碍。

“当然，有些人会找到方法绕过这些限制，强迫模型做一些不应该做的事情，”萨拉特表示。“我认为，目前几乎无法完全避免这种情况，只能使其变得更困难。我想表达的观点是，提供这些服务的公司应该更加努力地去防范这种情况。”

也存在某人创建自己的无限制色情生成模型的可能性。不过，萨拉特指出，即使这可行，仍需 大量 的技术知识和 巨大的 计算能力。

“并不是很多人能够自己创建出可生成裸体图像的 AI，”萨拉特说。“所以这更像是使用 Photoshop 需要具备一定技能的过程。”

萨拉特将当前 AI 发展的状态与安全行业的演变做了对比。他观察到，我们正目睹安全行业“随著 AI 的兴起重新开始”。这一比较强调了将 AI 发展视为一个持续过程的重要性，在这一过程中，识别和修复漏洞是技术成熟的关键所在。

泰勒斯威夫特在 X 上的 AI 生成图像突显了负责任使用 AI 的重要性。随著 AI 持续进步，平衡技术能力与伦理考量和安全措施将至关重要。通过向米哈尔萨拉特等专家学习并反思过去的挑战，我们可以以更有见识和谨慎的方式驶过这一复杂的领域。