有图未必是真相!揭开利用AI技术编造谣言真相;|几十块钱,你祖宗埋在哪里他们都能查出来
几十块钱,你祖宗埋在哪里他们都能查出来
“给点钱,祖上三代都能给你查出来。”
“去他楼下烧纸,没有理由,就是找乐子。”
最新一期的《焦点访谈》,看得我冷汗直流。
先问下大家伙,知道什么是“开盒”吗?
网上账号就像一个个盲盒,被打开前不知道ta是什么人。
一个人被“开盒”后,ta的姓名、电话、身份证号、家庭住址、工作地点、家人朋友的信息,全部都会被曝光,
甚至被做成大字报,供其他人网暴。
要说当年的“人肉搜索”和现在的“开盒”有何不同。
大概就是人肉搜索的对象还比较有限。
而开盒,已经泛滥到匪夷所思的地步。
群里聊天一言不合,把你盒开了。
我和你喜欢的明星不一样,把你盒开了。
甚至你和我一根毛关系都没有,只是因为你在网上发了一个视频,我就直接把你开盒了。
小李是一名主做游戏的视频博主,他也从来不在视频里露脸,不透露一点隐私。
突然某一天,他发现自己和家人的所有隐私信息在网上被大肆传播。
小李百思不得其解,开盒者和自己有什么深仇大恨?
后来他终于找到原因——打游戏时和其他玩家有些争执。
就为这么点破事,值得开盒?
对于那帮人来说,值得。
所谓开盒,可不是把你信息曝光就了事。
太高看他们的良心了。
接下来第一步,短信和电话轰炸。
呼朋引伴,高朋满座,望之皆不似人形。
你还是装作不理睬?就在网上发布你的照片。
家人的照片和具体信息一起跟上。
受不了了吧。这才哪到哪啊。
给你寄各种不明物品。
刀片、危险药品、化学品……一应俱全。
就问你怕不怕吧。
还不怕?
清明节来你家楼下烧纸。
去你家门口泼红油漆。
我扪心自问,如果自己是被开盒者,一回合都撑不到。
绝大部分遭遇这套组合拳的人,心理都会出现问题。

更可怕的是,即使服软退网,这帮家伙仍然不会放手。
本来就是嗡嗡乱窜的无头苍蝇。
低头求饶了?那岂不是更有乐子。
看着高高在上的人被自己拉到地底,被自己踩在脚下。
阴沟里的老鼠终于品尝到一点权力的美味。
哪怕这个“高高在上”只是比自己多一点网络影响力罢了。
畸形的权力快感像毒品,上瘾者需要不断寻找受害者来满足嗜血的欲望。
无论普通人还是公众人物,都逃不过他们的魔掌。
杨迪就曾遭到开盒,手机被打爆不堪其扰,最后只能换了手机号。
可换了新的手机号就能摆脱么?
博主“川烈”因为持续曝光开盒团伙,遭到他们的疯狂开盒。
川烈在被骚扰期间曾补办过身份证,开盒者立即将新的证件照截屏发给他看。
最终警方侦破了该案,揪出了开盒川烈的两个主犯。
但警方只能将其中情节严重的一人,行政拘留10日。
因为他们太小了。
两个05后。
毫不夸张地说,那些在网上大肆攻击他人的开盒者,可能现实中是一个连和女生话都不敢说的中学生。
《南方周末》采访过一个因疯狂开盒而被判缓刑的“开盒皇帝”。
他19岁,已经金盆洗手一年了。
他的数百“徒子徒孙”中,高中生算高龄,小学生络绎不绝。
(来源:南方周末)
充满戾气的半大孩子,盲目又无视法律,选择对谁开盒也很随意。
可能是他觉得你的头像土。
可能是他和你打游戏输了。
可能就是单纯的炫技。
平心而论,恶意者什么时候都有。
关键在于恶意者能不能拿到伤害他人的武器。
而开盒的武器,实在太容易获得了。
脑子活络的,已经公然打起了广告。
顾客只需要提供随便一点信息,什么服务都有。
80块钱,帮你查手机号。
加点价,身份证号发过来。
(来源:北青深一度)
1000块钱,祖上三代姓甚名谁葬在哪里,他们都能查出来。
要是你们没有矛盾,那就帮你们创造矛盾。
恨他吧,恨他就来买我们的开盒服务。
钱到位,还能给你制作出一套线上开盒到线下骚扰作战方案。
三军统帅一样的享受。
当然,配套服务只能算锦上添花。
开盒团伙的核心竞争力,在于他们的数据库。
庞大,无所不包,又精准的吓人。
全部是真实的个人信息。
数据是从哪来的?
我不知道,可能的源头太多了。
毕竟大家都有过上午搜索买什么辅导书好,下午补习班骚扰电话就打来的时刻。
但我知道,有些人是不会鸟这帮开盒集团的。
自己动手就能解决的事情,为什么要花钱?

就是工作要不保了哦。
放眼如今的互联网时代,人们都像是生活在一个个透明的玻璃房子里,餐厅的免费WiFi、小程序的注册登记、朋友圈的照片标注......一举一动都可能成为信息泄露的开端。
我们活在「大数据时代」,但大数据的重点不在「大」,而在于关联度。但凡有心之人对爬取的各种数据进行关联,就能精准识别到每一个人的身上去。
比如,搜索软件知道你想知道什么,购物软件知道你需要什么,视频软件知道你喜欢看什么剧,社交软件知道你深夜与朋友聊些什么,金融软件知道你花了多少钱,打车软件又能知道你去了哪里……
当把这些痕迹串联起来后,曾经那些我们不以为然的东西突然就变得有点毛骨悚然了。如今窃取数据的手段早已远远超出我们的认知,而我们,在别人眼中其实早就无所遁形。
这就像是我们在过去无意间埋下一颗定时炸弹,你不知道将来有一天会被人翻出来,对你做些什么。
因此每个人,都可能成为开盒的受害者。维护信息安全也显然不再是别人的事,而是和自身息息相关的事情。只有明确隐私泄露问题的严重性,并重视起来,才能从根本上保护好自己。与此同时,开盒有关的整治行动已经开始,种种隐秘的隐私乱象,也是时候该「见见光」了。
有图未必是真相!揭开利用AI技术编造谣言真相;
近年来,随着人工智能技术的日益火爆,在网络上编造和传播谣言的成本也变得更低。利用AI合成技术编造谣言,甚至生成逼近真实的图片、音视频,颠覆了“有图就有真相”的常规认知,让人难辨真假。06:31
今年1月,某网络平台出现一条关于“西安爆炸”的消息。消息称:1月10日晚11时48分,突然一声巨大的爆炸声在城市中响起。文字下方还配发了所谓爆炸的图片。这条看起来耸人听闻的消息很快在网上传播,甚至包含了时间、地点等关键信息,极具迷惑性,那么真相到底如何呢?
警方调查到,消息的发布账号归属于江西南昌的一家MCN机构。这家公司的实际控制人为王某某。
江西南昌市公安局高新分局网络安全保卫大队大队长 李毅:我们接到西安警方的通报,说我们辖区有一个MCN机构,西安发生了一个爆炸,发布了这么一条信息,他们经过本地的核实,并没有发生类似的事件。在这种情况下,我们就初步判定该MCN机构发布的信息涉嫌网络造谣,属不实信息。我们立刻对该公司负责人进行了约谈,同时勘察了该公司的办公场所,并对使用的电脑和软件工具进行了现场取证。
在约谈中,警方从王某某处得知,网上发布的西安发生爆炸这条谣言,从文本到图片,竟然全都是通过AI生成的。
江西南昌市公安局高新分局网络安全保卫大队大队长 李毅:违法人员王某某通过国内一个网站,该网站是专门提供近期可能生成热点的一些新闻报道,或者说正在发生或即将发生的一类的事情,分级分类提供给写作者一些关键性的关键词,通过该网站生成关键词就形成了文章的标题。
王某某通过具有语音交互功能的AI软件,只需说出关键词,软件便会自动在网络上抓取相关信息,生成几百到上千字的文本,并配上貌似和事件具有相关性的虚假图片,从而形成一段看起来信息量很大,实际上子虚乌有的内容。违法人员王某某将AI生成的这些内容,使用另一款软件自动上传到该MCN机构控制的多网络平台不同的账号上,并对外发布。
江西南昌市公安局高新分局网络安全保卫大队大队长 李毅:以新闻撰稿人的角度、方向、语气,对下列关键词如“爆炸”“民生”等等信息,要求AI软件生成文章、新闻热点类的图片,全程基本不需要人工参与,所以导致在操作过程中产生了这样的谣言信息。
通过AI软件生成内容的方式,这家MCN机构短时间内生成了大量的文章,最高峰一天能生成4000至7000篇。今年3月28日,警方传唤了王某某。王某某对自己通过AI软件编造大量谣言的情况供认不讳。据王某某供述,生成这些文章,主要是想让自己运营的账号关注点赞量更高,从中赚取流量。
警方在调查过程中发现,该MCN机构在网络上发布的内容以民生类信息为主,大部分看似与百姓生活密切相关,却会通过在其中加入夸张故事情节、猎奇性成分,或编造不实信息,以此来获取网民关注度和点赞量,进而实现流量变现。
王某某将AI自动生成的文章,发布在平台,平台再根据文章的点赞数和阅读量支付其相应的报酬。通过这种方式,王某某在短时间内获得了高额报酬。
江西南昌市公安局高新分局网络安全保卫大队大队长 李毅:王某某生成文章之后推送到各平台,然后通过关注阅读的方式,阅读量比如说达到1万,它就是系数1,然后再乘以关注、转发、评论,再乘以一个1.5的系数,最终生成平台支付给他的报酬。同时如果有广告收入的话,另行支付。他平均每天通过AI工具发布的是4000到7000条信息,最高的一条收入是700元。经初步的估算,每天的收入在1万元以上。
民警发现,该MCN机构发布的网络谣言中,猎奇性强的内容往往更吸引眼球。比如,王某某利用AI生成的一篇“某地产公司创始人被控制”的文章,在网上关注度较高,据警方介绍,这一条内容的收入也较高。
江西南昌市公安局高新分局网络安全保卫大队大队长 李毅:因为该信息属于“热点新闻”,同时这篇文章的故事性和猎奇性也比较强,所以引发的社会关注度比较高。
经警方调查,王某某共经营了5家MCN机构,运营账号842个,自今年1月以来,其中一家MCN机构利用其账号陆续在某平台上发布了“西安2024年1月10日发生爆炸,导致建筑、车辆炸毁、人员伤亡”等多条谣言信息。
江西南昌市公安局高新分局网络安全保卫大队大队长 李毅:都是在同一平台,用不同的名称或类型发布大家关注的不同类别的信息,比如民生类、社会热点类的。
经查,王某某的行为构成传播谣言虚构事实扰乱公共秩序。目前,南昌警方依据中华人民共和国治安管理处罚法相关规定,依法对王某某处以行政拘留5日,责令涉案MCN机构停业整改。
模仿新闻风格 AI生成谣言迷惑性更强
利用AI技术,模仿新闻风格,一键生成的谣言信息迷惑性更强。而涉及险情或灾情的虚假消息,更能获取高流量。在重庆,公安机关就查处了一起个人利用AI软件造谣的案件,他编造的民房爆炸谣言,让他以为能实现流量变现。这起案件被公安部列为打击整治网络谣言违法犯罪典型案例。
04:102023年12月25日,一则“重庆巫溪一民房发生爆炸事故,4人不幸遇难,官方紧急介入调查”的消息在某网络平台上发布,全文500余字,以新闻报道的口吻提供了重庆巫溪县“突发爆炸事故,现场情况十分惨烈”“发现了4名遇难者,其中包括一名儿童”“疑似与居民私拉乱接电线有关,调查组将进一步搜集证据”等细节,短时间内这则所谓的“突发新闻”便获得了几万次的点击量。阅读量暴涨,让之前在网上发文没有任何流量的康某某一开始还有些兴奋。
违法行为人 康某某:当时我发了20多条,没有啥收益,后来看了一个爆炸的新闻点赞好几十万,我就输了一个“重庆爆炸”,它就自动生成了,我就复制它的标题和文章进行发表。
就这样,康某某因为看到一篇关于爆炸事故的新闻关注度高,就在AI文本生成软件里输入了“重庆”“爆炸”的关键词,生成了上述这篇毫无根据、随意编造的虚假“新闻”,并发布在自己的网络账号上。
康某某之所以制造谣言,是因为得知在某知名网络平台创作发布文章,可以根据阅读、评论、转发数量等获取相关流量收益,每千人有效阅读量有1至2元的奖励。为了获取收益,康某某在看到一则爆炸事故的老新闻点击量巨大后,便想到了编造虚假消息,来博取流量。但他的这种行为已经触犯了法律。
违法行为人 康某某:到了晚上7点多,这篇文章的曝光量已经上万了,有效阅读量也是上千,然后民警就给我打电话了。
重庆市公安局网安总队民警 陈鹏:经过我们核实,这是彻头彻尾的一条谣言,因为影响比较恶劣,我们就把相关情况通报给了属地警方梁平区公安局,对造谣人进行责任追究。
警方找到康某某时,他还沉浸在自己终于打造了爆款内容的喜悦之中,对于可能因此要承担的法律责任毫无概念。
重庆市梁平区公安局龙门派出所民警 毛云灿:康某某也是承认了自己利用AI工具生成了一篇虚假文章并发表在网上这一事实。但康某某显然没有意识到自己的行为已经触犯了相关法律,他认为只要自己将这篇文章给删掉,就没有事了,但其实他这样的行为,需要承担相应的法律后果。
康某某为了增加自己账号的曝光度、阅读量,就毫无底线地蹭网络热点,编造虚假消息,以此想获取平台给的奖励,实现流量变现。经警方查证,康某某对其虚构事实扰乱公共秩序的违法行为供认不讳。
重庆市梁平区公安局龙门派出所民警 毛云灿:康某某的行为违反了治安管理处罚法第二十五条之规定,公安机关依法对其行政拘留三日,收缴其违法所得,并封禁了其网络账号。
重庆市公安局网安总队民警 陈鹏:在互联网科技时代,当下AI技术不但能生成文本,还能生成逼近真实的图片和音视频,这就完全颠覆了我们常规认知里的“有图就有真相”,使我们对网络谣言本身难辨其真假。也使网络谣言的社会危害性变得更大。网络并非法外之地,对于在互联网上发布不实言论、扰乱社会秩序的,公安机关将坚决依法坚决处理,对于造成恶劣影响、情节严重的,公安机关将依法追究其法律责任。
设计好剧本 对骂引流再直播约架
博取流量,涨粉获利的无底线恶意炒作行为,严重扰乱社会秩序。在河南郑州,有两名网络主播事先设计好剧本,组织人员相互谩骂引流,再直播约架。正当两帮人在准备碰面时,被警方及时制止并控制。
01:50
6月8日晚上10时多,郑州市公安局郑东新区分局接到举报称,在一网络直播平台上,一个网名叫“老某”的博主正和一个网名叫“江某”的博主在网上“约架”。
河南郑州市公安局郑东新区分局商务区派出所教导员 徐航:接到报案之后,我们立即进去这个直播间看,然后寻找这些人位置,我们出动警力将这些人现场控制。
警方了解到,两名“约架”的主播在网络平台都拥有数十万粉丝,平时的经济来源也都是依靠网络直播,而所谓的“约架”,其实是他们早就设计好的剧本。当天,他们组织人员通过互相谩骂,煽动粉丝对立情绪,并发布视频预热引流。然后,双方又通过网络直播开始线下“约架”,在一个半小时内,吸引7.8万人次围观,造成恶劣社会影响。
郑州市公安局郑东新区分局商务区派出所教导员 徐航:当时总点击量有十几万,因为他们开播时间不长,一个多小时,刷礼物大概有2000多元钱。我们进直播间的时候看到当时同时在线就有8000多人,在网络上影响是非常不好的。
在这起案件中,除了两名网络主播外,还有8名男子参与,他们当中年龄最大的29岁,最小的19岁。目前,10名嫌疑人因涉嫌寻衅滋事被警方依法采取刑事强制措施。
郑州市公安局网监支队民警 张效仆:他们这种为了博取流量、涨粉获利的无底线恶意炒作行为严重扰乱社会秩序,破坏网络环境,影响青少年的价值观,必须坚决依法打击。在此我们要提醒网络主播,网络空间不是法外之地,作为网络主播应当以身作则,去积极地传播正能量,利用自身的正面影响力,来引导粉丝形成正确的价值观,无底线的恶意炒作博取流量,最终会自食其果。
法学专家:平台应履行相应监管责任
不管是利用AI编造骇人听闻的虚假消息,还是直播对骂,目的都是赚取平台流量补贴,实现流量变现。法学专家表示,大量不实信息对普通网民来说,有时候很难直接判断它是否为谣言,而平台对于相关信息应该尽到监管责任。
01:50
西南政法大学法学院教授 陈伟:如果平台尽不了这个责任,对社会公众来说,筛选尤其困难。相关的规定也确立了,平台方要履行相应的监管责任,以及防范这些不良的信息或者虚假信息上传到网络带来的后续性的影响。
有的网络平台向流量高的内容和用户支付报酬,在某种程度上会刺激一些想要赚钱的网络用户,去发布一些虚假信息。法学专家表示,平台在刺激创作的同时,也应该尽到更多的责任去消除虚假信息的传播。
西南政法大学法学院教授 陈伟:报酬的支付里面,也要行使到积极的引导性作用,不应该通过发布虚假信息提升流量。这些散布者一旦出现,对他的相关的惩罚机制,或者对他的事后相关的警示、封号等这样一些方式,都应该考虑到。
造谣容易,辟谣难。造谣者付出的代价是否太低,导致谣言不断滋生?法律专家建议,在法律法规上应该让造谣者付出更大的成本。
西南政法大学法学院教授 陈伟:要体现出违法性的成本的体现。在行政处罚里面不光涉及行政拘留,也还涉及行政性的罚款等,还包括对账号采取的封号等这样一些措施,我们都要及时性地跟进,以匹配违法成本和最终承担责任之间的比例,以防范其他人会看到这样一个成本过低,会带来对行为人的遏制作用很有限的情形。
文章来源 :新闻哥、央视新闻
精彩推荐
乘风破浪|华盟信安线下网络安全就业班招生中!
web渗透入门基础篇|充电
始于猎艳,终于诈骗!带你了解“约炮”APP
华盟君