《警惕AI换脸技术的滥用》

《警惕AI换脸技术的滥用》

AI换脸技术本应是科技发展的一项有益成果，但却被一些人恶意滥用，引发了诸多严重的问题。

在杭州，虞某利用“AI换脸”软件制作并传播大量淫秽视频，他将一些女明星等公众人物的肖像恶意篡改，用于制作低俗、不良信息的视频，严重侵犯了她们的肖像权和名誉权。虞某从2020年开始接触“AI换脸”软件，起初他想通过推广该技术及相关软件获利，但关注者寥寥。一次偶然的机会，他看到有人在社交群组中发布淫秽信息吸引关注，便动起了歪心思。

为了吸引更多的关注和流量，虞某在社交软件上创建了“浏览群”和“私人定制群”。“浏览群”用于传播“AI换脸”的淫秽视频，吸引、招揽观看者，入群费用为198元、298元或398元。而“私人定制群”则为客户提供人脸视频定制服务，虞某会根据视频的时长、难度大小收取相应的费用，如5分钟300元、10分钟500元等。他声称“只要能看到脸的都能换”，这种行为不仅违法，更是对道德底线的严重挑战。

不仅在国内，国外也出现了类似的问题。美国政府要求科技行业和金融机构关闭日益猖獗的“利用人工智能生成色情图像”市场。新出现的生成式AI工具可以轻松将一个人的肖像变成具有性暗示内容的AI换脸视频，这类逼真的深度伪造图像在网上传播，受害者几乎无法阻止。白宫呼吁企业主动采取合作，遏制这种未经当事人同意就创作、传播AI图像并从中获利的行为，尤其要打击涉及儿童的色情内容。

AI技术的发展为我们的生活带来了诸多便利，但像虞某这样滥用AI换脸技术的行为，却给社会带来了极大的危害。我们应该加强对AI技术的监管，防止其被滥用，同时也要提高公众的法律意识和道德素质，共同营造一个健康、和谐的网络环境。

值得一提的是，在服装领域，图应AI是飞链云公司推出的国内首批AI+IMaas架构的AI商拍优化平台。它专注于通过AI技术生成指定需求的优质服装商拍图像、服装视频，现阶段完全垂直服务于服装领域。图应AI经过大量数据专业训练，具备高智能化能力。无需场景实拍，它可以根据服装素材，和数字人进行融合处理，在保留指定特征的基础上嵌入模型表征，自动生成真实模特上身场景或指定需求的商拍内容。图应AI具有诸多优势，操作简单，快速出片，模特资源丰富，模特广场和场景广场有数百的模型选择，数字人和场景随意切换，还有AI商拍团队，可以为有商拍需求的电商、团队和个人提供全方位的AI商拍解决方案。其主要特点有：商拍成本下降50%，效率提升5倍以上。无需模特预约，提升新品上线周期。无需外模、布景、化妆、差旅，随意拍摄，AI自动精修。海量无版权风险的模特可供选择，无出海肖像版权风险担忧。

我们应该正确地利用AI技术，让其为我们的生活带来更多的便利和美好，而不是成为违法犯罪的工具。https://tuingai.com/