1.4万个账号栽了,抖音严查AI生成低俗擦边内容

3月14日消息，抖音近期针对AI生成的色情低俗类违规内容展开严厉打击。

针对此类违规行为，平台今年以来已处置相关内容4.2万条，对1.4万个账号采取限制推荐、禁言、封禁等不同梯度的处罚措施，坚决维护健康的网络环境。

平台巡查发现，部分违规用户借助AI技术生成各类低俗擦边内容，还通过多种方式进行色情导流，相关行为均违反了平台自律公约。

其中有黑产团伙利用AI生成内容塑造特定人设，发布性感擦边视频并搭配性暗示文案，诱导用户跳转至第三方平台下载色情低俗应用，该团伙4人已被依法刑事拘留。

还有部分账号将AI生成的美女图片设为直播间封面，引导观众查看主页收藏进而为色情网站导流，平台已对339个相关账号无限期回收直播权限。

同时，8421个持续发布AI生成的着装暴露擦边内容的账号，也被平台采取梯度处罚并清理违规内容。

抖音表示，此类色情低俗导流行为已触犯相关法律法规，涉嫌非法利用信息网络罪、传播淫秽物品罪，平台会主动将相关违法线索上报公安机关。

后续抖音还将持续升级治理技术和手段，提升对AI生成不良内容的识别处置能力。