AI制造的虚假图像泛滥，我们如何应对？
2024-06-24 13:36:54
最近，社交媒体上出现了一些令人震惊的图片，显示前美国总统特朗普被防暴警察按倒在地。然而，这些图片并非真实发生，而是由AI技术生成的虚假内容。这一现象引发了对AI图像生成技术滥用的广泛关注和讨论。
艾略特·希金斯，一位荷兰的调查记者，利用AI绘画工具Midjourney创作了这些图片，展示了技术的进步和其潜在的滥用风险。他的推文迅速获得了近500万次的浏览，突显了虚假内容在网络上的传播速度。
随着AI图像生成工具的普及，它们能够快速生成逼真的图片，这不仅增加了新闻报道中的“噪音”，也使得真实与虚假内容之间的界限变得模糊。华盛顿大学的杰文·韦斯特教授指出，这在危机期间尤为严重。
专业人士强调，制作虚假图像的能力已显著提高，且易于用于欺骗。社交媒体公司和政策制定者需要采取措施，提高公众对虚假图像的识别能力，并开发新技术来辨别AI生成的内容。
例如，推特已经采取了行动，禁止分享可能造成伤害的欺骗性内容，并推出了“社区笔记”功能，允许用户对可疑内容进行注释和解释。此外，自2019年以来，主要科技公司加强了打击“深度伪造”的政策，尽管执行和监测仍面临挑战。
尽管特朗普的名气使得这些虚假图片容易被识别，但普通人的虚假图像可能更难以发现。专家们呼吁，需要通过立法来规范深度合成技术的应用，以应对AI制造和传播虚假信息的问题。