随着人工智能技术的不断发展，AI实时换脸在直播间悄然出现。近日，有网友发现，“佟丽娅”“杨幂”“刘亦菲”等知名女星频繁在一些知名品牌直播间直播卖货。仔细一看，用力卖货的主播并非明星本人，而是使用了AI实时换脸技术的普通主播。
AI换脸技术可以将一个人的面孔替换为另一个人的面孔。最初“AI换脸技术”的运用，多是用来搞笑或者制作照片，使得原本平淡无奇的视频或照片变得更加生动有趣。然而，随着这种技术的走红，部分人却动起了“歪”心思，除了将明星的面孔用于商业活动外，更有甚者利用AI换脸及拟声技术，伪装成受害者好友或亲属进行。日前，内蒙古自治区包头市公安局电信网络犯罪侦查局公布一起使用智能AI技术进行电信的案件，福州市某科技公司法人代表郭先生10分钟内被骗了430万元。
虚拟世界不是法外之地。民法典、网络安全法、个人信息保，以及《网络音视频信息服务管理规定》等法律法规，对生物识别、生成合成类内容等提出了不同程度的规制要求。2023年1月10日起施行的《互联网信息服务深度合成管理规定》进一步明确，提供人脸生成、人脸替换、人脸操控、姿态操控等人物图像、视频生成服务的，应当在生成或者编辑的信息内容的合理位置、区域进行显著标识。任何组织和个人不得采用技术手段删除、篡改、隐匿深度合成标识。
“AI换脸”属于深度合成技术。商家利用AI换脸技术将普通主播随意换成明星进行直播卖货，既“未经他人同意”，又“以营利为目的”，显然属于故意告知消费者虚假情况，或故意隐瞒真实情况，诱使消费者作出错误意思表示的行为，已经涉嫌违法。
因此，商家和个人在使用AI换脸技术时，必须遵守法律法规和道德规范。监管部门、行业组织及平台应加大对AI换脸技术的监管力度，制定相应的规范和标准，确保其合法合规使用。同时，针对类似的“AI换脸”案例，应加强防骗教育和提醒，提高公众对AI换脸技术的认知度，增强防范意识，避免上当受骗。
本文为澎湃号作者或机构在澎湃新闻上传并发布，仅代表该作者或机构观点，不代表澎湃新闻的观点或立场，澎湃新闻仅提供信息发布平台。申请澎湃号请用电脑访问。
江南体育官网下载