艾玛麦高恩 (Emma McGowan) 2024年1月30日

在AI生成的泰勒斯威夫特色情图片在X前身为Twitter上快速走红之后，我们不禁要问：这对AI的未来意味著什么？

在最近的不安事件中，AI生成的知名歌手泰勒斯威夫特的露骨图片充斥著X平台，展示了AI能力的黑暗面。这些图片被认为是使用微软设计软体创建的，迅速引起广泛关注，并突显出AI生成假色情图片所带来的日益挑战。

随著这些图片快速传播，事件不仅引起了粉丝和隐私维护者的愤怒，还提出了有关AI在媒体创作中的伦理使用的关键问题。

Avast威胁情报总监米哈伊萨拉特Michal Salt拥有丰富的知识和专业经验，为这一及时的讨论提供了细致的观点。关注技术、安全和伦理交集的萨拉特，对AI生成内容的影响提供了深入的见解。

在随后的几个部分中，我们将深入探讨他的见解，探讨图像操控的历史平行、AI能力所带来的伦理困境，以及在日益AI驱动的世界中对数字信任和安全的更广泛影响。

假色情不新鲜

萨拉特将AI当前生成逼真图片的能力与过去使用Photoshop作图进行了比较。就像Photoshop曾经彻底改变了图像操控一样，AI现在使得创建现实图片变得极其简单。然而，操控图片的概念并不陌生，AI只是这场持续剧斗中的最新工具。

“这从某种意义上说，只是一种不同的照片编辑软体，”他解释道，强调操控图片的问题已经存在十多年。现在的主要区别在于AI技术所带来的便利和可及性。这一变化引发了有关社会如何适应并监管这些新工具的重要问题，因为这些工具使得创造逼真的图片比以往任何时候都更容易。

AI与露骨内容的伦理困境

目前最迫切的问题之一是使用AI生成露骨图片的伦理影响，特别是对于未经同意的特定个体。虽然生成普通的裸体图片可能不会引发太多伦理问题，但真正的问题在于制作识别性人物的露骨图片的便利性。

“AI生成的色情作品本身可能并没有固有的错误或伦理问题，”萨拉特说。“但对我而言，伦理问题在于可以相对轻易地生成带有已知或特定面孔的图片。”

这种能力不仅限于像泰勒斯威夫特这样的名人，还可能延伸至任何人，强调了对伦理指导和立法的需求：尽管所谓的“复仇色情”或非自愿分享裸体在48个州是违法的，但AI生成的深伪色情目前仅在10个州被禁止。这一明显差异凸显了立法需要跟上技术的迫切性。

AI公司如何防止生成深伪色情？

由于生成性AI的可及性相对较新，目前对于创造未经主体同意的露骨内容的限制仍然很少。然而，萨拉特认为，对AI公司来说，实施这些限制并不会太困难：例如，不允许生成特定人的图片或使用用户提交的图片作为素材，将为绝大多数人提供足够的屏障。

“当然，还是有人可以突破这些限制，强迫模型做一些它不应该做的事情，”萨拉特说。“就我所见，现在几乎不可能避免这种情况只能让它更难。我想强调的是，提供这些服务的公司应该努力为此提供更多防范。”

还有可能有人创建自己的生成色情模型，并且没有任何限制。然而，萨拉特指出，尽管这是可能的，但需要大量的技术知识和大量的计算能力。

“能够自行创建生成裸体的AI的人并不多，”萨拉特说。“所以，这更类似于使用Photoshop，您需要具备一定水平的技能才能做到这一点。”

萨拉特将目前的AI发展状况与安全产业的演变进行了比较。他观察到，我们正目睹安全行业“从AI开始重新启动”。这一比较强调了将AI发展视为一个持续过程的重要性，在这一过程中识别和修复漏洞是推进技术成熟的关键。

在X平台上生成的泰勒斯威夫特图片凸显了负责任使用AI的重要性。随著AI的持续进步，平衡技术能力、伦理考量和安全措施变得至关重要。通过向像米哈伊萨拉特这样的专家学习，并反思以往的挑战，我们可以以更知情和谨慎的方式导航这一复杂的领域。