菲律宾国防部表示，要求用户上传个人照片，然后使用人工智能创建一个人的数字克隆的应用程序现在禁止对菲律宾军事人员使用。美国国防部长吉尔伯托·特奥多罗(Gilberto Teodoro Jr.)警告说，这类应用程序可能会带来安全风险。
周五，军方官员证实了特奥多罗上周发布的一份备忘录的真实性，这份备忘录最近几天在网上流传。然而，该部门没有提供有关禁令的任何进一步细节。
在备忘录中，国防部长提到了一款使用人工智能的应用程序，该应用程序在输入用户的十张照片后，可以创建一个“模仿真人说话和动作的数字人”。
特奥多罗写道:“这个看似无害、有趣的人工智能应用程序可以被恶意用来创建虚假的个人资料，从而导致身份盗窃、社会工程、网络钓鱼攻击和其他恶意活动。”他还补充说，他已经知道这样的案例。
这位官员敦促他的下属在网上分享信息时要谨慎。
上个月，美国国家安全局(NSA)和联邦调查局(FBI)就“深度伪造”技术发布了威胁警报，该技术可能被用来帮助侵入军方和其他敏感目标的计算机系统。
美国国家安全局的数学家坎迪斯·洛克威尔·格斯特纳在一份声明中说:“操纵真实多媒体的工具和技术并不新鲜，但网络行动者使用这些技术的简易性和规模却很新。”她建议美国企业学会检测深度造假，并制定一项计划，以防该技术被用来对付它们。
该报告警告称，除了企业，美国安全机构、五角大楼和国防承包商也面临风险。
文件中强调的所谓威胁的另一个方面是对“合成媒体也可能通过传播有关政治、社会、军事或经济问题的虚假信息而引起公众不安”的担忧。
