据“拦截”网站最近看到的一份采购文件显示，美国军方寻求开发先进的人工智能，能够生成与真人无法区分的虚假在线角色。

据《拦截》报道，美国特种作战司令部（SOCOM）正在寻求私营公司的帮助，以创建高度可信的深度假互联网用户，作为其秘密军事努力的一部分。美国国防部联合特种作战司令部（JSOC）在一份76页的文件中概述了该请求，详细介绍了该国最精锐军事行动所需的先进技术。

根据该文件，JSOC对能够产生独特的在线角色的技术感兴趣，这些角色似乎可以识别为人类，但在现实世界中不存在。这些虚构的人物应该包括多种表情、政府质量的身份照片、面部和背景图像、视频和音频层。他们的目标是创造出社交媒体算法无法检测到的虚拟环境，并配有假人物和匹配背景的自拍视频。

这不是五角大楼第一次被发现利用虚假的社交媒体用户来促进其利益。近年来，meta和Twitter已经删除了由美国中央司令部运营的宣传网络，这些网络使用伪造的账户和生成的头像。

使用深度伪造技术，合成视听数据，与真实的录音难以区分，一直是特种作战司令部感兴趣的话题。去年，该司令部表示有兴趣将视频深度造假用于影响行动、数字欺骗、通信中断和虚假信息宣传。深度造假背后的技术涉及人工智能和机器学习技术，这些技术可以分析大量的面部和身体数据库，以识别和重现人类特征。

美国在追求这些技术的同时，也谴责地缘政治敌人使用这些技术。长期以来，国家安全官员一直将国家支持的深度伪造技术的使用描述为其他国家实施的紧急威胁。美国国家安全局（NSA）、联邦调查局（FBI）和中新社（CISA）发表的联合声明警告称，合成媒体和深度造假带来的挑战越来越大，并将该技术的全球扩散描述为2023年的“最大风险”。

专家们认为，除了欺骗之外，这项技术没有合法的用途，美国军方对它的兴趣令人担忧。现在人工智能研究所（AI Now Institute）首席人工智能科学家海蒂·赫拉夫（Heidy Khlaaf）表示，这只会鼓励其他军队或对手做同样的事情，导致一个越来越难以区分真实与虚构的社会。

点击这里了解更多。