2026国家网络安全宣传周在济南开幕,山东胶州警方现场披露一起利用AI合成动态人脸视频、批量注册实名账号的黑产案件,把"AI换脸"从技术炫技拉回治理现场。
犯罪嫌疑人以每条5到10元的价格购买公民照片,用AI工具合成动态人脸视频,绕过实名认证批量注册账号后高价倒卖。截至案发,警方缴获AI合成动态人脸视频5万余条,该团伙已贩卖实名账号8万余个。
这类"活体"人脸视频能直接通过各平台实名核验,被用于水军刷量、诈骗引流,也常被用来盗用他人身份开通短剧与直播分成账号。普通人的肖像权,就这样变成明码标价的商品,平台数据也被虚假账号稀释。
案件与刚落地的《微短剧发展管理办法》形成呼应。9月1日施行的新规明确,严禁盗用真人肖像、声音训练AI模型,无授权素材制作的内容一律下架追责。此次破案显示,治理正从平台审核延伸到黑产上游——买图、制脸、卖号的全链条被端。
对短剧行业而言,AI换脸蹭流量、盗用演员面孔接商单的灰色玩法空间被大幅压缩。平台侧红果、抖音已上线AI素材侵权预检与角色创作规范,真人演员的肖像资产有望获得更清晰的保护边界,合规不再是成本,而是门槛。
对普通用户来说,保护自己最简单的一招是减少在非必要平台上传高清正脸照,关闭App的"照片同步"与"人脸解锁"授权;平台侧则应把活体检测从静态比对升级为动作与纹理联合核验,并抬高异常注册的风控阈值。
这起案件也提醒内容从业者:AI工具的边界正被法律重新划定。过去"拿来即用"的肖像与声音,如今都计入侵权成本;与其在灰色地带赌运气,不如把预算投向原创人设与合规授权,这才是能沉淀为资产的玩法。