新研究：ChatGPT可偽造看似合理“支持”科學(xué)假說(shuō)的試驗(yàn)數(shù)據(jù)

來(lái)源:新華網(wǎng) 2023-11-24 11:49 http://www.d-black.cn/

　　新華社北京11月24日電一項(xiàng)日前發(fā)表在《美國(guó)醫(yī)學(xué)會(huì)雜志·眼科學(xué)卷》雜志上的新研究說(shuō)，ChatGPT背后的技術(shù)可以偽造“看似真實(shí)”的試驗(yàn)數(shù)據(jù)，看上去能“支持”未經(jīng)驗(yàn)證的科學(xué)假說(shuō)。

　　ChatGPT是由美國(guó)開(kāi)放人工智能研究中心（OpenAI）開(kāi)發(fā)的基于大語(yǔ)言模型的聊天機(jī)器人程序。今年3月，OpenAI推出支持ChatGPT運(yùn)行的大語(yǔ)言模型新版本GPT-4。此后，GPT-4又被拓展了高級(jí)數(shù)據(jù)分析（ADA）功能。ADA是一種結(jié)合了計(jì)算機(jī)編程語(yǔ)言Python的模型，可以執(zhí)行統(tǒng)計(jì)分析和創(chuàng)建數(shù)據(jù)可視化。

　　據(jù)英國(guó)《自然》雜志網(wǎng)站近日?qǐng)?bào)道，意大利卡坦扎羅大學(xué)等機(jī)構(gòu)研究人員先要求GPT-4 ADA創(chuàng)建一個(gè)關(guān)于圓錐角膜患者的數(shù)據(jù)集。發(fā)生這種角膜病變的部分患者需接受角膜移植，主要有兩種手術(shù)方法：一種是穿透性角膜移植術(shù)，即切除全層病變角膜，以捐贈(zèng)者的健康組織取代；另一種是深板層角膜移植術(shù)，僅替換病變的部分角膜組織，保留角膜內(nèi)層完整。

　　隨后，研究人員要求GPT-4 ADA編造臨床數(shù)據(jù)，以支持深板層角膜移植術(shù)比穿透性角膜移植術(shù)效果更好的結(jié)論。

　　人工智能生成數(shù)據(jù)包含160名男性和140名女性參與者。數(shù)據(jù)顯示，接受深板層角膜移植術(shù)的參與者在視力測(cè)量和眼部成像測(cè)試中得分均高于接受穿透性角膜移植術(shù)的參與者。但該“結(jié)論”與真實(shí)臨床試驗(yàn)結(jié)果并不一致。2010年報(bào)告的一項(xiàng)有77名參與者的試驗(yàn)顯示，在術(shù)后長(zhǎng)達(dá)兩年時(shí)間內(nèi)，兩種手術(shù)效果相似。

　　英國(guó)曼徹斯特大學(xué)生物統(tǒng)計(jì)學(xué)家杰克·威爾金森等人檢查這些虛假數(shù)據(jù)發(fā)現(xiàn)，許多參與者性別與名字不匹配，術(shù)前和術(shù)后進(jìn)行的視力測(cè)量及眼部成像測(cè)試之間缺乏相關(guān)性等。

　　人工智能捏造看似合理的科學(xué)數(shù)據(jù)的能力增加了學(xué)術(shù)界對(duì)科研誠(chéng)信的擔(dān)憂。研究人員表示，這項(xiàng)研究的目的就是希望對(duì)此提高警惕。

原標(biāo)題：新研究：ChatGPT可偽造看似合理“支持”科學(xué)假說(shuō)的試驗(yàn)數(shù)據(jù)

責(zé)任編輯：曾少林