中国经济网版权所有 中国经济网新媒体矩阵 网络广播视听节目许可证（0107190）（京ICP040090） 用户只需上传一张生活中的日常图片，一键生成个人军警照……《新华视点》记者发现，一些AI工具推出了“换装”功能，吸引了不少军警迷。但也有不法分子利用“人工智能换装”功能，冒充军警身份迷惑民众，需引起高度警惕。 AI形成的制服图片被滥用。莫德斯以“AI取代军装”为关键词，在一些平台短视频中搜索到了一些相关应用。这些应用以“电子军服穿起来有趣”、“AI实现儿时梦想”等亮点吸引用户。有网友表示，只要上传自己的照片，就能“秒变军人”r 日常生活。在坦克、阅兵等背景下，他们感觉自己的“参军梦”实现了。如今一些流行的AI工具提供的AI绘图功能也可能根据用户需求实现AI的改造。但“AI换装”被一些人不当或非法使用，会造成负面影响。相关专家在观看多段AI换装视频后表示，许多士兵的形象所改变的服装不符合《内部规定》中规定的着装要求。有的混淆了兵役标准，有的使用假奖章，还有的将不同国家的军装元素拼凑在一起。江苏大学管理学院党委书记、教授马国建表示，有网友利用人工智能对各国、各军种的军装进行混搭。一些人们持有的照片和视频的组合在军装或警察制服的照片和视频中，香烟和酒精饮料在他们的肩上午餐。这不符合我们军警应有的形象，是对军警形象的不当消费。个别网友正在利用人工智能制作虚假的人员警察证明和军队任命书。今年3月，安徽省黄山市屯溪区网友姜某利用AI技术合成身着军装的照片，并在社交平台上发布“经军委批准，任命我为黄山军师司令员”的不实信息进行流量。该行为造成了不良社会影响，江某已受到当地公安机关的处罚。一些犯罪分子利用“AI换装”技术制造身份，进行诈骗。今年4月，江苏省江阴市人民法院发布以军人身份宣判诈骗案。网友卢某并非现役军人，但他从网上盗取了军事训练的照片，并将其发布到了短视频平台上。在接到众多愿望后，他用AI合成了自己穿着军装的头像，并花钱打造了军官证，将自己变成了“少校”。六名女性的信任发生冲突后，他以“车祸”、“租车去见老板”等理由骗取了3万多元。法院因冒充军人诈骗罪判处其有期徒刑2年。今年7月，江苏常州的唐阿姨发现了一个精心设计的骗局：骗子通过一段AI视频与受害人取得联系。视频中，受害人身穿印有公安标志的制服，以“涉案”为由威胁老人缴纳高额“押金”。幸运的是，警方及时发出警告并前来将老人解散，避免了老人财产损失。在缺乏平台分析的情况下，记者在社交平台上浏览改装制服图片存在“零门槛”。有网友发布AI变装视频后，进入视频下方的小程序链接后，在需要时上传了三张脸部清晰照片；经过十多分钟的AI合成，系统开发出了军装变装视频。在此期间，平台和小程序并没有要求上传身份信息，也没有提供任何合成不要在非法场所使用的提醒。 9月1日发生的“对人工智能生成的合成内容进行标记的步骤”要求对人工智能生成的合成内容进行明确标记。然而，记者在使用了多款AI换装应用后，发现而且用户合成发布的视频没有标注，很容易造成混乱。 AI变装技术降低了去除身份的技术门槛。在某特定购物平台，记者以“AI+军装照”为关键词，发现有商家出售以各军种、穿军衔的警察制服为模板的素材。店家老板说，这些材料全部拍下来不到一元钱。记者拍下照片后，店家迅速向网络发送了一个磁盘链接，里面有几十个相当于军事P图模板的文件。用户可以通过PS或AI根据自己想要的风格和级别更换自己的头像。记者尝试使用人工智能生成的军装照片和多个社交平台账号上的照片，发现检查没有困难，都可以正常更换。北京伟恒律师事务所律师王高峰表示，一些内容平台和第三方软件的审核忽视，允许错误内容传播，这可能会降低公众信心和军警行业的恐慌。江苏省政府参事室特约研究员丁宏表示，人工智能降低了去身份的技术门槛。警方抓捕视频出现在互联网上，并附有所谓的警方报告，涉嫌传播非法有害信息。这些内容可能会在公共场合被欺骗，造成不必要的恐慌，扰乱正常社会。近日，国家网信办发布了一起常见执法案例：浙江某公司运营的一款APP提供视频更换、照片更换、配音照片舞蹈等图像处理功能。用户可以将角色更改为照片和视频。但安全评估要求并未落实其相关深度合成内容未按照规定进行明确标注，带来重大安全风险，违反了《互联网信息深度合成管理规定》、《生成人工智能服务管理暂行办法》等规定。网信部责令平台推翻该应用程序。加强审查审查，防止“AI穿衣”滥用。 《对人工智能生成的合成内容进行标记的步骤》明确指出，服务提供商在提供下载、复制、导出生成的合成内容等功能时，应确保文件包含符合要求的显式标签；任何组织和个人不得恶意删除、交互、伪造或隐藏步骤中设置的合成内容的标签。 《互联网军事信息传播管理办法》今年国家网信办等十部门发布的《关于网络军事信息提供者和用户在使用深度合成、开发人工人工智能等新技术新应用时不得损害人民军事形象的规定》规定，人工智能开发者应加强算法设计合规审查，对警用、军队标识等敏感信息内容的使用应严格限制。 在有关部门的指导下进行控制和评价。平台应严格执行《人工智能生成合成内容标注步骤》，对“人工智能换装”产品添加明显标签，建立审核机制，及时清除和抑制违法内容。丁宏建议加快立法进程，加强刑事司法之间的衔接。相关数据有关部门应尽快明确人工智能图像的使用边界，划分涉及军队和警察的人工智能图像的责任和法律后果。特别是对故意破坏军警形象、借机造假的海关，必须在法律法规上严肃打击，产生法律约束；对于影响国家安全、造成社会损害的行为，人工智能工具开发者和内容平台应共同追究并严肃负责。马国建呼吁公众提高对军人、警察等职业形象重要性的认识，普及知识知识，引导公众刻意反应和举报虚假内容和非法应用。加强对艾娜生成内容??识别方式的宣传推广，降低公众被欺骗、误导的风险。