英国《新科学家（jiā）》周（zhōu）刊网站8月7日（rì）文章，原题：人工智能聊天机器（qì）人能（néng）否受到“说真话”法（fǎ）律义务的约（yuē）束人们能（néng）要（yào）求（qiú）人工智能讲真话吗？或许不能，但一个伦理学家（jiā）团队表示，从法律上来说，人工智（zhì）能开发商应该承担减少犯错风险（xiǎn）的责任。“我（wǒ）们（men）只是在尝试（shì）创建一种激（jī）励构架，让公司在创建（大语（yǔ）言模型）系统（tǒng）时更重视（shì）真实性或准确性，”牛（niú）津大学伦理学家布伦特·米（mǐ）特尔（ěr）施塔特说。

基（jī）于（yú）对大量文本的（de）统计分析，大（dà）语言模型聊天机（jī）器人，例如（rú）ChatGPT能对用户提出的（de）问题生成类似人类的回答。然而，尽管（guǎn）它们的答案通常看起来令人信服（fú），但（dàn）也容易出错（cuò），这是一种被称（chēng）为“幻觉”的缺陷。米特（tè）尔施塔特说：“我们拥有（yǒu）这些极其令（lìng）人印象深刻的生成式人工智能系统，但它们也会频繁出错（cuò），从我们对这种（zhǒng）系（xì）统基（jī）本机（jī）能的了解来看，没有根本的解决方法。”

米特尔施塔特表示，对大语言模型系统（tǒng）来说，这是一（yī）个重大（dà）问题，因为（wéi）它们（men）正在被（bèi）应用于政府（fǔ）决策，在这种情况下，它们（men）诚实地承认（rèn）自己的（de）知识局限性就变得（dé）至关重要。为解决这个（gè）问题，他们（men）提出一系列应对措施：当被问（wèn）及（jí）与事（shì）实有（yǒu）关的问（wèn）题时，人工智能应该像人一样（yàng）。这意味着它们要诚实，秉持“知之为知之，不知为不知，是（shì）知也”的态（tài）度。“要点在于采取必要步骤，让它们真正做到谨言慎（shèn）行，”米特尔施塔（tǎ）特说，“如（rú）果对某件事不确（què）定（dìng），它们不（bú）要只（zhī）是为了让人们信（xìn）服（fú）而编（biān）造一些东西。相反（fǎn），它们（men）应该说，‘嘿，你（nǐ）知道（dào）吗？我不知道。让（ràng）我来研究（jiū）一下（xià）。我（wǒ）会回复你的。’”

这似（sì）乎是一个值得称赞的目标（biāo），但（dàn）在英国德（dé）蒙福特大学（xué）网（wǎng）络安全教授伊（yī）尔（ěr）克·鲍伊腾看来，伦理学（xué）家提出的这些要求（qiú）在技（jì）术上未必可行。开发商正尝试让人工智（zhì）能实事求是，但到目前为止，事实（shí）证（zhèng）明这是一项极（jí）其“劳动密集型”的任务，甚（shèn）至（zhì）不切（qiē）实际。“我不明（míng）白，他（tā）们怎么期望法律要求强制执行这种命令，我认为这在技术上（shàng）根本（běn）行不通（tōng），”鲍伊腾说（shuō）。

为此，米特尔（ěr）施塔特及其同事们提出一些更直（zhí）接的（de）措施，可能（néng）使（shǐ）人工智（zhì）能更“诚实”。他说，这（zhè）些模型应该列（liè）出答案的信息源（yuán），目前许多（duō）模（mó）型都在这样做以证（zhèng）明它们给出答案的（de）可信度，此外，更广泛地使用一种被称为（wéi）“检（jiǎn）索（suǒ）增（zēng）强”的技术来给出答案，也可能限制这些模型产生“幻觉”的可能性。他还认（rèn）为，应（yīng）该缩（suō）减在政府决策等高风险领域部署（shǔ）人工智（zhì）能的（de）规模，或者应（yīng）该限（xiàn）制模型（xíng）可利用的信息源（yuán）。“如果我们有一个仅（jǐn）在医学中使用的语言模（mó）型，我们就应该（gāi）限制它，让（ràng）它只能在高质量医学（xué）期刊上搜索学术文章。”

米特尔施塔（tǎ）特（tè）声称，改（gǎi）变观念也很重要，“如果我们能摆脱所谓（大语言模型）善于（yú）回答事实性问（wèn）题、或者它们至（zhì）少会给你一个（gè）可（kě）靠答案（àn）的想法，而（ér）是认为它们有助于为你提供更多（duō）相关的信（xìn）息，那（nà）就太好了（le）。”

但荷兰（lán）乌得勒（lè）支大学法（fǎ）学院副（fù）教授卡塔琳娜·戈安塔表示，这些研究人员（yuán）过于关注（zhù）技术，因此对公共（gòng）话语（yǔ）中长期存（cún）在的谎言问题关注不（bú）够。“在这（zhè）种背景（jǐng）下，仅将矛头指向大（dà）语言（yán）模型会（huì）制造一（yī）种假象，即人类非常（cháng）勤奋细致，永远不会犯此类错（cuò）误。问（wèn）问你遇到（dào）的任何法官，他们都遇到（dào）过（guò）律师玩忽职守（shǒu）的可怕经历，反之亦然——这并非一个（gè）机器的问题。”（作者克里斯·斯托克尔-沃（wò）克，王会聪译）