抖音：已掌握部分黑产团伙不当使用 AI 生成虚拟人物用于犯罪的线索，将报警打击；

3 月 27 日消息，去年，抖音发布《关于人工智能生成内容的平台规范暨行业倡议》，明确平台不鼓励利用 AI 生成虚拟人物进行低质创作，将严格处罚违规使用 AI 生成虚拟人物发布违背科学常识、弄虚作假、造谣传谣的内容。

抖音安全中心今日发布公告，近期平台发现，站内仍有不当使用 AI 技术生成虚拟人物发布内容的账号，平台进行了严厉处置。

其中典型行为包括：

• 1、生成境外虚假人设，消费爱国心理、博取关注。用虚假外国人的形象，以想嫁给中国、想到中国生活、评价社会事件等言论博取眼球。

• 2、生成俊男美女虚假形象，骗取互动，交友导流。直接称用户为“你”“娘”“妈妈”“老公”等，发布情感诱导、唱情歌、为你谋福利等表达虚假情感的内容，将用户导流至私人聊天工具，甚至进行诈骗。

• 3、生成精英人士虚假人设，发布心灵鸡汤、财商、伪国学、厚黑学、伪成功学等不良内容，低质吸粉，甚至引流到站外以卖课、入群等方式获利。

针对违规使用 AI 生成虚拟人物的行为，平台会对违规视频下架，对违规账号进行取消其投稿和营利权限、抹除账号粉丝、封禁账号等处置，并利用模型、技术识别能力等手段，进行长期系统的识别发现和处置。同时，平台已掌握部分黑产团伙不当使用 AI 生成虚拟人物用于犯罪的线索，将报警打击。

抖音官方表示，人工智能技术的快速发展，丰富了互联网内容生态，但也带来技术滥用的挑战。平台重申，创作者、主播、用户、商家、广告主等平台生态参与者，在抖音应用生成式人工智能技术时，须遵循相关规范。IT之家整理如下：

• 1、发布者应对人工智能生成内容进行显著标识，帮助其他用户区分虚拟与现实，特别是易混淆场景。

• 2、发布者需对人工智能生成内容产生的相应后果负责，无论内容是如何生成的。

• 3、虚拟人需在平台进行注册，虚拟人技术使用者需实名认证。

• 4、禁止利用生成式人工智能技术创作、发布侵权内容，包括但不限于肖像权、知识产权等。一经发现，平台将严格处罚。

• 5、禁止利用生成式人工智能技术创作、发布违背科学常识、弄虚作假、造谣传谣的内容。一经发现，平台将严格处罚。

这个“墙头”可别翻！两人因非法兜售 'VPN”翻墙软件被抓

生活不易 搞个“副业”？

网上卖个“翻墙”软件

轻轻松松把钱赚？

警察蜀黍劝你

这个“墙头”可别翻

近日，沅江市公安局网安大队民警在工作中发现辖区内有网民从互联网购买VPN“翻墙”软件，绕过国家防火墙限制，非法接入国际互联网。经深入排查，发现源头来自广东省廉江市网民阮某和谭某。在全面掌握犯罪嫌疑人网上活动情况后，网安大队民警及茶盘洲派出所民警立即赶赴廉江，成功抓获阮某和谭某。

经查，2022年10月至2024年2月，阮某用网购平台店铺和社交软件出售VPN“翻墙”软件账号，且将一个账号同时出售给多人，客户使用这些账号绕开国家防火墙限制，浏览境外网页，阮某则从中赚取差价获得利润。据阮某交代，截至目前已获利上百万元。期间，因为销量增加，阮某于2023年3月初以每月4000元的工资聘请其好友谭某充当客服，与买家对接下载、登录等具体使用事项。

目前，阮某、谭某均因非法售卖翻墙软件，帮助国内用户非法访问境外互联网，涉嫌提供侵入、非法控制计算机信息系统程序、工具罪，被沅江市公安局依法予以刑事拘留。该案正在进一步侦办当中。

文章来源 ：IT之家、安全圈

精彩推荐

乘风破浪|华盟信安线下网络安全就业班招生中！

web渗透入门基础篇|充电

‍

始于猎艳，终于诈骗！带你了解“约炮”APP

‍