近日，甘肃省平凉市公安局网安大队侦（zhēn）破一起利用AI人工智（zhì）能技术炮制（zhì）虚（xū）假不实信息的（de）案件（jiàn）。

说起来，这（zhè）已不是ChatGPT第一次（cì）陷入假（jiǎ）新闻风波了。

问（wèn）世伊始，便有人见识到其“一本正经胡说八道”的高超（chāo）本领。让解释（shì）高深物理理论，说得有鼻子有眼，结果所附论文一（yī）查均（jun1）无出处；让（ràng）推荐相关领（lǐng）域学者（zhě），瞬间（jiān）就有人选，可（kě）人物履历（lì）却是七拼八凑。

出（chū）于（yú）其（qí）“天（tiān）赋（fù）”的内容生成能力，ChatGPT似乎比（bǐ）从前（qián）的人工（gōng）智能（néng）都更“聪（cōng）明”，编出的内（nèi）容往（wǎng）往形真实假（jiǎ）、杂糅难辨（biàn）。

用ChatGPT编假新闻

警（jǐng）方出手

4月25日，平凉（liáng）市公安局崆峒分局网安大队对“今（jīn）晨甘肃（sù）一火车（chē）撞上（shàng）修路工人致9人死亡”的（de）文章，初步（bù）判（pàn）断为信息虚假不实。

网安民警随即开（kāi）展工作，发现共计21个账号均在同一时间（jiān）段（duàn）发布该文章（zhāng），文章内（nèi）容地（dì）点除平凉市崆峒区（qū）外还涉及兰州、陇南、定西、庆阳等地，文章点击（jī）量（liàng）已达1.5万余次。

经查，涉案账号均为广东深圳某自媒体公司所有，公司（sī）法人代表洪（hóng）某弟（dì）有（yǒu）重大作案嫌疑（yí）。

5月5日，专（zhuān）案民警在广东（dōng）东莞（wǎn）嫌疑人住处对其使用的电脑进行取证。

经审讯，犯罪嫌疑（yí）人洪某弟，在全网搜索近几年（nián）社会热点新闻，为规避平台查（chá）重功能，洪某弟通（tōng）过近期火（huǒ）爆的ChatGPT人工智能软件将搜集（jí）到（dào）的新闻要（yào）素修（xiū）改编辑后，上传至其（qí）多个账号（hào）进行非法（fǎ）获利。

洪某弟利用现代科技手段编造虚假信（xìn）息，并散布在互联网上，被大（dà）量传播（bō）浏览，其（qí）行为已涉嫌寻衅滋事（shì）罪。

目前，崆（kōng）峒公安分（fèn）局对犯罪嫌疑人洪（hóng）某弟采取刑事强制措施，案件正在进一步侦办（bàn）之中（zhōng）。

这条（tiáo）假新（xīn）闻（wén）也出自ChatGPT

此前（qián），一条关于杭州3月1日取消限行的“新闻稿”，引（yǐn）发（fā）广泛传（chuán）播。但经记者（zhě）调（diào）查发现，这是一条不（bú）实新（xīn）闻。

据了解，2023年2月16日下（xià）午，杭州（zhōu）某小（xiǎo）区业主群在讨论ChatGPT。一位业主就（jiù）开玩笑说尝试用（yòng）它写（xiě）篇杭州取消限行的新闻稿看（kàn）看。

随（suí）后（hòu）该业（yè）主在群里直（zhí）播（bō）了ChatGPT写（xiě）作过程，还把文章（zhāng）发群里。有不明所以的业主误将（jiāng）其当真并截（jié）图（tú）转发，最后导致（zhì）错误（wù）信息（xī）被传播。

据了（le）解，杭（háng）州相关政府部门均没有发布此类政策（cè），警（jǐng）方已介入调（diào）查，涉事业主也在群里（lǐ）公开道歉（qiàn）。

ChatGPT的潜在风险

大（dà）型预（yù）训练人（rén）工智能语言模型ChatGPT在全球爆火。

此前，一家媒（méi）体与ChatGPT展（zhǎn）开的“对话”中（zhōng），就（jiù）提到了“你会取（qǔ）代记者吗”这一问。对此，ChatGPT回复（fù）如（rú）下——

华中科技（jì）大学法学院副教授（shòu）滕锐表示（shì）：

ChatGPT是大量不同的数据集（jí）群训练出来的（de）语言（yán）模型，目前其背后仍是“黑盒”结构，即（jí）无法确切对其内在的（de）算法逻辑进行分解，所（suǒ）以（yǐ）不能确保在使（shǐ）用ChatGPT的过程中，其所输出的（de）内（nèi）容不（bú）会产生攻击伤害用户的表述。

“如果（guǒ）ChatGPT的回复是（shì）错误或虚假信（xìn）息，会具（jù）有极大的误导性，有潜（qián）在法律风险。”在他看（kàn）来，ChatGPT难（nán）免存在一些（xiē）侵犯用户隐私的内容（róng）。此外，若回复中存在过度借鉴（jiàn）他人作品（pǐn）的情（qíng）况，使用（yòng）不当就有可能（néng）侵犯他人的（de）著作权。

值得（dé）注意的（de）是，目前，为了（le）避免学生过于依赖人（rén）工智能类（lèi）工具（jù），防止作弊，多国学校已经（jīng）发出禁令，禁止学生在（zài）学校内使用类似于ChatGPT的人工智能工（gōng）具完成学习任务和（hé）考试。

面对科技（jì），多（duō）一（yī）些理性与冷（lěng）静

早有新闻可信（xìn）度（dù）评估机构提出，“ChatGPT可能成为互联网有史以来最强大的传（chuán）播虚假信息（xī）的工具。”也有一（yī）些（xiē）实（shí）验表（biǎo）明，ChatGPT等个性（xìng）化的实时聊（liáo）天机器人在制造阴谋论方面甚至相比人类更具（jù）优势，它能够（gòu）修正（zhèng）糟（zāo）糕的语法或错误的翻译，并变换表达方式，使阴谋论显得更具说服力和可信度。

一方面是超（chāo）强的“造假能（néng）力”，而另（lìng）一方面却是相对缺失的“审核门（mén）槛（kǎn）”——在算（suàn）法逻辑中，事实核（hé）查能力（lì）天然（rán）缺失，来源不明的所谓“新闻稿（gǎo）”随时可能成为舆论爆（bào）点，大众在将（jiāng）信将疑（yí）中“且传且围观（guān）”。

乱象频（pín）仍、真相（xiàng）缺（quē）失充分警（jǐng）示（shì）：面对这样的超强生产能力，如若不加（jiā）治理限制，任由人工智能随性发展，必（bì）将严重威胁我们的（de）信息生态。

科技是（shì）一把双刃剑，人工智能也是如此。我们（men）当（dāng）然不必视之为洪水猛兽，关键（jiàn）是在积极拥抱新（xīn）技术、新事（shì）物的同时，注意规避潜在的问题和风险。

人工智能浪潮滚滚而来，相（xiàng）关法律（lǜ）与伦理框架（jià）不仅不能落后，反而（ér）更要（yào）尽量赶在（zài）前面。

目（mù）前，世（shì）界各（gè）国（guó）皆在开展相关工作，以我国来（lái）说，今（jīn）年1月《互联网（wǎng）信息服务（wù）深度（dù）合成（chéng）管理（lǐ）规定（dìng）》颁布（bù）实施（shī）；4月，国家（jiā）网信（xìn）办起（qǐ）草（cǎo）《生成（chéng）式人工（gōng）智能服务管理办（bàn）法（征（zhēng）求意（yì）见稿（gǎo））》。相信随着法律（lǜ）法规的逐渐完善，相（xiàng）关（guān）权责会更加明（míng）晰，操作规范会（huì）更（gèng）加具体。

与此同时，对待技术带来的新问题，也（yě）要多多寻求“技术（shù）解”。比如，对于人工智（zhì）能（néng）合成（chéng）的文章进行识别、并打上不可抹掉的标签。

ChatGPT在（zài）接受《时代》专访（fǎng）时曾回（huí）答：我还有很多局限，但人类应（yīng）准备好应对AI。确实，当为ChatGPT打（dǎ）开的（de）新世界而激动万（wàn）分时，我们更应该有一丝理性（xìng）的冷静。

构（gòu）建人（rén）工智能应用的伦理和法律框架，让（ràng）其与技术（shù）研发（fā）齐头（tóu）并（bìng）进（jìn），规定好人工智（zhì）能缔造者的义务，充分提（tí）醒用户保持警觉。“凡（fán）事预则立”，尽（jìn）快（kuài）做好（hǎo）方方面面的准备工作，社会就能更好应对“人工智能生（shēng）产内容新纪元”。