新研究：ChatGPT可偽造看似合理“支持”科學假說的試驗數據

來源:新華網 2023-11-24 11:49 http://www.vistrails.com/

　　新華社北京11月24日電一項日前發表在《美國醫學會雜志·眼科學卷》雜志上的新研究說，ChatGPT背后的技術可以偽造“看似真實”的試驗數據，看上去能“支持”未經驗證的科學假說。

　　ChatGPT是由美國開放人工智能研究中心（OpenAI）開發的基于大語言模型的聊天機器人程序。今年3月，OpenAI推出支持ChatGPT運行的大語言模型新版本GPT-4。此后，GPT-4又被拓展了高級數據分析（ADA）功能。ADA是一種結合了計算機編程語言Python的模型，可以執行統計分析和創建數據可視化。

　　據英國《自然》雜志網站近日報道，意大利卡坦扎羅大學等機構研究人員先要求GPT-4 ADA創建一個關于圓錐角膜患者的數據集。發生這種角膜病變的部分患者需接受角膜移植，主要有兩種手術方法：一種是穿透性角膜移植術，即切除全層病變角膜，以捐贈者的健康組織取代；另一種是深板層角膜移植術，僅替換病變的部分角膜組織，保留角膜內層完整。

　　隨后，研究人員要求GPT-4 ADA編造臨床數據，以支持深板層角膜移植術比穿透性角膜移植術效果更好的結論。

　　人工智能生成數據包含160名男性和140名女性參與者。數據顯示，接受深板層角膜移植術的參與者在視力測量和眼部成像測試中得分均高于接受穿透性角膜移植術的參與者。但該“結論”與真實臨床試驗結果并不一致。2010年報告的一項有77名參與者的試驗顯示，在術后長達兩年時間內，兩種手術效果相似。

　　英國曼徹斯特大學生物統計學家杰克·威爾金森等人檢查這些虛假數據發現，許多參與者性別與名字不匹配，術前和術后進行的視力測量及眼部成像測試之間缺乏相關性等。

　　人工智能捏造看似合理的科學數據的能力增加了學術界對科研誠信的擔憂。研究人員表示，這項研究的目的就是希望對此提高警惕。

原標題：新研究：ChatGPT可偽造看似合理“支持”科學假說的試驗數據

責任編輯：曾少林