近日，甘肃省平凉市公安局网安大队侦破一起利用AI人工智（zhì）能技术炮制虚（xū）假不实信息的（de）案件。

说起来，这已不是ChatGPT第一次陷入假新闻风波了。

问（wèn）世伊始，便有人见识到其“一（yī）本（běn）正经胡说八（bā）道（dào）”的高超本领（lǐng）。让（ràng）解释高（gāo）深物（wù）理理论，说得有鼻子有眼，结（jié）果（guǒ）所（suǒ）附（fù）论文一查均无出（chū）处；让推荐相关领域学者，瞬间就有人（rén）选（xuǎn），可人物履历却是七拼八凑。

出于其“天赋”的内容生成能（néng）力，ChatGPT似乎比从前（qián）的（de）人（rén）工智（zhì）能都更“聪明”，编出的内容往往形真实（shí）假、杂糅难辨。

用ChatGPT编假新闻（wén）

警方出（chū）手

4月25日（rì），平（píng）凉市公安（ān）局崆峒分局（jú）网（wǎng）安大（dà）队对“今晨甘肃一（yī）火车撞上（shàng）修路工人（rén）致9人（rén）死亡（wáng）”的文章，初步判断为信息虚（xū）假不实。

网安民警随即（jí）开展工作（zuò），发现共计21个账号均在同一（yī）时间段发布该（gāi）文章，文章（zhāng）内容地点除平凉市崆（kōng）峒（dòng）区外还涉及兰（lán）州、陇南、定（dìng）西、庆（qìng）阳等地，文章点击量已达1.5万余次。

经查（chá），涉案账号（hào）均为广东深圳某自媒体公司所有，公司法（fǎ）人代表洪某弟有重大作案嫌疑。

5月5日（rì），专案民警在广东东莞嫌疑人住处对其（qí）使用的（de）电（diàn）脑（nǎo）进（jìn）行取证。

经审讯，犯罪嫌（xián）疑人洪某弟（dì），在全网搜索近（jìn）几年社会热（rè）点新（xīn）闻，为规避平（píng）台查重功能，洪某弟通过近期（qī）火爆（bào）的ChatGPT人工智能软件将搜集到的新闻要素修（xiū）改编（biān）辑后，上传至其多个（gè）账（zhàng）号（hào）进行非法（fǎ）获利。

洪某弟利用现（xiàn）代科技手（shǒu）段编造虚（xū）假信息，并散布在互（hù）联网上，被大量传播浏览，其行为已涉嫌寻（xún）衅（xìn）滋（zī）事罪。

目前（qián），崆峒公安分局对（duì）犯罪嫌疑（yí）人洪某（mǒu）弟采取刑事强制措施，案件正在进一步侦办之中。

这（zhè）条假（jiǎ）新闻也出自ChatGPT

此（cǐ）前（qián），一条关于杭州3月1日取消（xiāo）限行的“新闻稿”，引发广（guǎng）泛传播。但经记者调查发现，这是（shì）一条不实（shí）新闻（wén）。

据了（le）解，2023年2月16日下午（wǔ），杭州某（mǒu）小区业主（zhǔ）群在讨论ChatGPT。一位业主就开玩（wán）笑说尝试用它写篇杭州取消（xiāo）限行的新闻稿看看。

随后（hòu）该业（yè）主在群里直（zhí）播了（le）ChatGPT写作过程（chéng），还把文章发（fā）群（qún）里。有不明所以的（de）业主误将（jiāng）其（qí）当真并截图（tú）转发，最后导致（zhì）错误（wù）信（xìn）息（xī）被传播。

据（jù）了（le）解，杭州相（xiàng）关政府部门均没有（yǒu）发（fā）布此类政策，警方（fāng）已介入调（diào）查，涉（shè）事业主也在群（qún）里公开道歉。

ChatGPT的潜在风险

大型（xíng）预（yù）训（xùn）练（liàn）人工（gōng）智能语言模型ChatGPT在全球爆火。

此前，一家媒体与ChatGPT展开（kāi）的（de）“对话”中（zhōng），就提（tí）到了“你会取代记者吗（ma）”这（zhè）一问。对此，ChatGPT回复如下——

华中科技大（dà）学法学院副教授（shòu）滕（téng）锐表示：

ChatGPT是大（dà）量（liàng）不同的数据（jù）集群训练出来（lái）的语言模型，目前其背后仍是“黑盒”结构，即无法（fǎ）确切（qiē）对其内在的算法（fǎ）逻（luó）辑进行分（fèn）解，所以不能确保在使用（yòng）ChatGPT的过（guò）程中，其（qí）所输出的内容不会（huì）产生攻击伤（shāng）害用户的表述。

“如果ChatGPT的回复是错误或（huò）虚假信息（xī），会具有极（jí）大的误导性（xìng），有（yǒu）潜在法律风险。”在他看来，ChatGPT难免（miǎn）存在一些侵（qīn）犯用户隐（yǐn）私的内容。此外，若回（huí）复中存在（zài）过度借鉴他人作（zuò）品的情况，使用不（bú）当就有（yǒu）可能侵犯他人的著作权。

值（zhí）得注意的是，目前，为了避免学生过于（yú）依赖（lài）人工智能类工具，防止作弊，多国学校已经发出禁令，禁止学生在学校内使用类似于ChatGPT的人工（gōng）智能（néng）工具完（wán）成学习任（rèn）务和（hé）考试。

面对科技，多一些（xiē）理性与冷静

早有新闻可信度评估机构提出，“ChatGPT可能成为互联网有史以来最强大的（de）传播虚假信息（xī）的工具。”也有一些实验表明，ChatGPT等个性化（huà）的实时聊天机器人在（zài）制造阴谋论（lùn）方面甚至相比人类更具优势，它能够修正糟（zāo）糕（gāo）的（de）语（yǔ）法或错误（wù）的（de）翻译，并变换表（biǎo）达（dá）方式，使阴谋论显得更（gèng）具说（shuō）服力和可信度。

一方面（miàn）是超强的“造假能力”，而另一（yī）方面却是相（xiàng）对（duì）缺失的“审核门槛”——在（zài）算法逻（luó）辑中，事实（shí）核查能（néng）力天（tiān）然缺失，来（lái）源不明（míng）的所谓“新闻稿”随时可能成为（wéi）舆（yú）论（lùn）爆点，大众在将信（xìn）将疑中“且传且围观”。

乱象频仍、真相（xiàng）缺失充（chōng）分（fèn）警示（shì）：面（miàn）对这（zhè）样的（de）超强生产能力，如若不加治理（lǐ）限（xiàn）制，任由（yóu）人工智能随性发展，必（bì）将严（yán）重威（wēi）胁我（wǒ）们的（de）信息生态。

科技是一把双刃剑（jiàn），人工智能也是如此。我们当然不必视之为洪（hóng）水（shuǐ）猛兽，关（guān）键（jiàn）是在积极拥抱新技（jì）术、新事物的同时（shí），注意规（guī）避潜在（zài）的问题和风（fēng）险。

人工智能浪（làng）潮滚滚（gǔn）而来，相关法律（lǜ）与伦理框架不仅不（bú）能落后，反而（ér）更要尽量赶（gǎn）在前面。

目前，世界（jiè）各国皆在开展相关工作，以我国（guó）来说，今年1月（yuè）《互联网信息服务深度合成管（guǎn）理规定》颁布实施；4月，国（guó）家网信办起草《生（shēng）成式人工智能（néng）服务管理（lǐ）办法（fǎ）（征求意见稿）》。相信随着（zhe）法律法规的逐（zhú）渐完善，相关权责会更加明（míng）晰，操作规范（fàn）会更加具体（tǐ）。

与（yǔ）此（cǐ）同（tóng）时（shí），对待技术带来（lái）的新问题（tí），也要多多（duō）寻求“技术解”。比如（rú），对于人工（gōng）智能合成的文章进行识别、并打上不可抹掉的（de）标签。

ChatGPT在接受《时代》专（zhuān）访时曾回答：我还有很多局限，但人类应准备好应对AI。确实，当为ChatGPT打开的新世界而激动万（wàn）分时，我们更应该有（yǒu）一丝（sī）理性的（de）冷静（jìng）。

构（gòu）建（jiàn）人工（gōng）智能应用（yòng）的伦理和法律框架（jià），让其（qí）与技（jì）术（shù）研发齐头并进，规定（dìng）好人工（gōng）智能（néng）缔造者的义务，充分提醒用（yòng）户（hù）保持警觉。“凡事预则立”，尽快（kuài）做好方方面面的准（zhǔn）备工作，社会就能更好应（yīng）对“人工智（zhì）能生产内容新纪元”。