用ChatGPT写假新闻！深圳一自媒体公司法人代表被抓

ChatGPT问世以来

引发了不小的争议

最让人担心的事发生了——

有人用它制作假新闻！

前不久，一篇题为

《今晨甘肃一火车撞上修路工人致9人死亡》的“新闻”

吸引了甘肃省平凉市警方的注意

并引发网友关注

经判定

这是一篇假新闻

引发了不小的恐慌

经警方的进一步侦查发现

这是一起利用AI人工智能技术

炮制虚假不实信息的案件

而背后的“操盘手”

则指向深圳的一家自媒体公司

近日，平凉市公安局网安大队侦破一起利用AI人工智能技术炮制虚假不实信息的案件。

4月25日，平凉市公安局崆峒分局网安大队对“今晨甘肃一火车撞上修路工人致9人死亡”的文章，初步判断为信息虚假不实。

网安民警随即开展工作，发现共计21个百度账号均在同一时间段发布该文章，文章内容地点除平凉市崆峒区外还涉及兰州、陇南、定西、庆阳等地，文章点击量已达1.5万余次。

经查，涉案百度账号均为广东深圳某自媒体公司所有，公司法人代表洪某弟有重大作案嫌疑。

5月5日，专案民警在广东东莞嫌疑人住处对其使用的电脑及百家号进行取证。

经审讯，犯罪嫌疑人洪某弟通过微信好友获知网络赚取流量变现方法，并购买大量“百家号”。同时使用“易撰”网页版，在全网搜索近几年社会热点新闻，为规避百家号查重功能，洪某弟通过近期火爆的ChatGPT人工智能软件将搜集到的新闻要素修改编辑后，使用“海豹科技”软件上传至其购买的百家号上非法获利。

洪某弟利用现代科技手段

编造虚假信息并散布在互联网上

被大量传播浏览

其行为已涉嫌寻衅滋事罪

目前

崆峒公安分局对犯罪嫌疑人洪某弟

采取刑事强制措施

案件正在进一步侦办之中

▲平凉市公安局官方公众号截图

正所谓造谣一张嘴，辟谣跑断腿。

此前也已经出现过AI炮制假新闻的事件，今年2月中旬，网上曾流传出一则所谓“浙江省杭州市政府3月1日取消机动车依尾号限行”的“新闻”，引起了杭州本地居民的关注，经过警方调查后发现是杭州某小区业主随手用chatgpt生成的假新闻，该业主将内容发在了业主群里，结果被广泛传播开来变成了一条假新闻。

依照《互联网信息服务深度合成管理》规定，深度合成服务提供者和使用者不得利用深度合成服务制作、复制、发布、传播虚假新闻信息。几十秒炮制而成的虚假新闻轻则造成误导性信息的传播，重则抹黑他人名誉，引起社会恐慌，AI不仅能生成出虚假的文本，还能生成出以假乱真的图片，大大提高了大众对于虚假信息辨识的难度。AI虚假新闻动摇的是新闻真实性的根基，尤其是涉及社会事件的虚假新闻，被广泛传播后极易造成公众恐慌，严重影响正常的网络秩序，是对法律的挑衅。

当前，AI在创新场景等方面应用的未来十分广阔，从积极的一面来看，AI也能够成为辅助人类生产生活、提高生产效率的工具，但AI不应成为假新闻生成的“摇篮”。平台方面更需要警惕，加强对平台账号真实性的审核，避免让虚假信息造成不必要的舆论漩涡。

法条链接

《中华人民共和国刑法》第二百九十三条  有下列寻衅滋事行为之一，破坏社会秩序的，处五年以下有期徒刑、拘役或者管制：

    （一）随意殴打他人，情节恶劣的；

    （二）追逐、拦截、辱骂、恐吓他人，情节恶劣的；

    （三）强拿硬要或者任意损毁、占用公私财物，情节严重的；

    （四）在公共场所起哄闹事，造成公共场所秩序严重混乱的。

     纠集他人多次实施前款行为，严重破坏社会秩序的，处五年以上十年以下有期徒刑，可以并处罚金。

《中华人民共和国治安管理处罚法》第二十五条  有下列行为之一的，处五日以上十日以下拘留，可以并处五百元以下罚款；情节较轻的，处五日以下拘留或者五百元以下罚款：

    （一）散布谣言，谎报险情、疫情、警情或者以其他方法故意扰乱公共秩序的；

    （二）投放虚假的爆炸性、毒害性、放射性、腐蚀性物质或者传染病病原体等危险物质扰乱公共秩序的；

    （三）扬言实施放火、爆炸、投放危险物质扰乱公共秩序的。

往期推荐

来源丨深圳大件事、新浪新闻

运营丨深圳市光明区普法微信编辑组

长按识别二维码

欢迎关注

法治光明

👇🏻

快来「分享」「收藏」「赞」「在看」吧