《AI换脸技术的风险与乱象》

《AI换脸技术的风险与乱象》

AI换脸技术作为一项新兴技术，本应给人们的生活带来更多的便利和创新，但近年来，却出现了诸多乱象和问题。

AI换脸技术的应用范围越来越广泛，从影视制作到直播带货，都能看到它的身影。然而，这种技术的滥用也带来了一系列的问题。比如，在直播带货领域，一些商家为了吸引流量，使用AI换脸技术将普通主播的脸换成明星的脸，如杨幂、迪丽热巴、angelababy等女星，成为了AI换脸的重点对象。据了解，AI换脸的价格大概在5 – 10万元一部，有网站客服称，他们提供的AI实时换脸全套模型价格为3.5万元。

这种行为不仅侵犯了明星的肖像权和姓名权，也给消费者带来了误导。同时，AI换脸技术还被用于制作淫秽视频并传播，严重违反了法律法规。例如，浙江杭州的虞某利用“AI换脸”软件制作大量淫秽视频并传播，被换脸的有不少是女明星，最终他被判处有期徒刑七年三个月，并处罚金6万元。此外，还有人利用AI换脸技术将身边女性的照片换脸到淫秽视频中，进行侮辱威胁，这种行为更是道德和法律所不容的。

值得一提的是，图应AI是飞链云公司推出的国内首批AI+IMaas架构的AI商拍优化平台，专注于通过AI技术生成指定需求的优质服装商拍图像、服装视频。现阶段完全垂直服务于服装领域。图应AI经过大量数据专业训练，具备高智能化能力。也可以无需场景实拍，可以根据服装素材，和数字人进行融合处理，在保留指定特征的基础上嵌入模型表征，自动生成真实模特上身场景或指定需求的商拍内容。图应AI具有诸多优势，操作简单，快速出片，模特资源丰富，模特广场和场景广场有数百的模型选择，数字人和场景随意切换，图应AI还有AI商拍团队，可以为有商拍需求的电商、团队和个人提供全方位的AI商拍解决方案。图应的主要特点有：商拍成本下降50%，效率提升5倍以上。无需模特预约，提升新品上线周期。无需外模、布景、化妆、差旅，随意拍摄，AI自动精修。海量无版权风险的模特可供选择，无出海肖像版权风险担忧。

AI换脸技术的滥用已经引起了社会的广泛关注，相关部门也已经开始采取措施进行打击。最高人民法院、最高人民检察院、公安部印发《关于依法惩治网络暴力违法犯罪的指导意见》，对实施网络暴力违法犯罪，包括利用“深度合成”等生成式人工智能技术发布违法信息等情形，依法从重处罚。

我们应该认识到，AI技术是一把双刃剑，我们既要充分发挥其积极作用，又要加强对其的监管，防止其被滥用。只有这样，才能让AI技术更好地服务于人类社会。

https://tuingai.com/