目前,大家在使用問答大模型如DeepSeek、Chatgpt等來寫論文時(shí),會(huì)發(fā)現(xiàn)插入的參考文獻(xiàn)打不開或根本不存在的情況;另外DeepSeek、Chatgpt擴(kuò)寫的內(nèi)容如一些流行病學(xué)數(shù)據(jù)無法給出準(zhǔn)確的“出處”,這對(duì)于嚴(yán)謹(jǐn)?shù)目蒲袑懽鱽碚f顯然是不夠的。
那么,對(duì)于這種情況,我們?cè)撊绾螒?yīng)對(duì)呢?
01痛點(diǎn)觀察
大語言模型的固有缺陷主要體現(xiàn)在以下幾個(gè)方面:
(1)對(duì)于未接入專業(yè)文獻(xiàn)數(shù)據(jù)庫的模型而言,其文獻(xiàn)生成過程存在顯著的不確定性,類似于"隨機(jī)抽選"的結(jié)果,難以保證內(nèi)容的準(zhǔn)確性和可靠性。
(2)在學(xué)術(shù)研究領(lǐng)域,模型輸出存在三個(gè)關(guān)鍵性風(fēng)險(xiǎn):
◆ 作者與期刊信息匹配錯(cuò)誤,出現(xiàn)張冠李戴的情況
◆ 論文標(biāo)題與關(guān)鍵詞對(duì)應(yīng)關(guān)系錯(cuò)亂,語義邏輯失當(dāng)
◆ DOI等學(xué)術(shù)標(biāo)識(shí)符生成缺乏依據(jù),存在虛構(gòu)編造現(xiàn)象
02解決方案
指令約束法:設(shè)置三重驗(yàn)證機(jī)制
為確保學(xué)術(shù)研究的嚴(yán)謹(jǐn)性,在使用AI工具進(jìn)行文獻(xiàn)檢索時(shí),可以通過以下流程:
"請(qǐng)您以「XX領(lǐng)域」資深研究者的身份,協(xié)助檢索近五年(2018-2023年)收錄于「XX數(shù)據(jù)庫」、被引量超過「XX次」的「XX主題」相關(guān)文獻(xiàn)。
檢索結(jié)果需完整包含:
◆ 文獻(xiàn)標(biāo)題
◆ 作者信息(含通訊作者標(biāo)識(shí))
◆ 發(fā)表年份
◆ 來源期刊/出版社全稱
◆ DOI編號(hào)(如適用)
若不確定文獻(xiàn)是否存在,請(qǐng)標(biāo)注▲符號(hào)并注明不確定的具體原因;無法確認(rèn)真實(shí)性的文獻(xiàn)將自動(dòng)跳過,以確保最終輸出的所有文獻(xiàn)均經(jīng)過真實(shí)性驗(yàn)證。"
工具輔助法:雙引擎交叉驗(yàn)證
需要注意的是,指令約束法的有效性在很大程度上取決于模型對(duì)學(xué)術(shù)規(guī)范的理解程度。盡管通過設(shè)置時(shí)間范圍、被引量等參數(shù)可以在一定程度上降低虛假文獻(xiàn)的產(chǎn)生概率,但任何未接入權(quán)威文獻(xiàn)數(shù)據(jù)庫的AI模型(包括ChatGPT在內(nèi)),在文獻(xiàn)生成過程中都存在虛構(gòu)內(nèi)容的潛在風(fēng)險(xiǎn)。
基于此,我們建議采取以下措施來有效防范AI模型編造文獻(xiàn):
◆ 明確限定檢索條件
◆ 要求提供完整的文獻(xiàn)元數(shù)據(jù)
◆ 建立二次驗(yàn)證機(jī)制
◆ 設(shè)置不確定性標(biāo)識(shí)
◆ 建立人工審核流程
通過「探索GPT」→ Consensus,進(jìn)一步減少虛假文獻(xiàn)的生成:
推薦提示詞
“你是「XX領(lǐng)域」的資深教授,請(qǐng)檢索2020-2024年《XX期刊》發(fā)表的「XX主題」相關(guān)文獻(xiàn)。
要求:
1.中英雙語對(duì)照
2.摘要包含研究方法關(guān)鍵詞
3.排除第一作者重復(fù)發(fā)文
4.附Scopus被引統(tǒng)計(jì)”
通過「探索GPT」→ SciSpace進(jìn)行驗(yàn)證,要求給出真實(shí)文獻(xiàn),并確保文獻(xiàn)中包含DOI號(hào)。
人工質(zhì)檢法:最后一道防線
盡管通過以上方法可以有效減少AI模型虛構(gòu)文獻(xiàn)的情況,但仍然建議在生成文獻(xiàn)后進(jìn)行人工審核,避免出現(xiàn)"查無此文"的情況。
主營項(xiàng)目
1. 動(dòng)物實(shí)驗(yàn)
動(dòng)物飼養(yǎng)、疾病造模、行為學(xué)檢測(cè)、心功能、無創(chuàng)血壓、血常規(guī)、全自動(dòng)生化檢測(cè)等
2. 細(xì)胞實(shí)驗(yàn)
CCK8/MTT、原代細(xì)胞分離、流式細(xì)胞實(shí)驗(yàn)、細(xì)胞劃痕、侵襲、遷移、EDU染色、轉(zhuǎn)染、穩(wěn)定株
3. 分子生物學(xué)
PCR檢測(cè)、熒光定量PCR、絕對(duì)定量PCR、端粒酶長度、pull down、雙熒光素酶、SSR、SNP檢測(cè)等
蛋白實(shí)驗(yàn)
WB、Co-IP、酵母雙雜
5. 病理實(shí)驗(yàn)
HE染色、免疫組學(xué)、電鏡
6. 生理生化實(shí)驗(yàn)
肝腎功能、抗氧化、免疫反應(yīng)等生理免疫指標(biāo);動(dòng)植物營養(yǎng)指標(biāo)、微量元素、重金屬、酶活等。
7. 多組學(xué)實(shí)驗(yàn)
基因組、轉(zhuǎn)錄調(diào)控、蛋白組、代謝組、微生物多樣性、宏基因組、生信分析
8. 整體課題實(shí)驗(yàn)
方案設(shè)計(jì)、整體實(shí)驗(yàn)交付、標(biāo)書寫作、論文潤色、協(xié)助投稿
康旭禾生物提供包括動(dòng)物實(shí)驗(yàn)、細(xì)胞實(shí)驗(yàn)、分子實(shí)驗(yàn)、病理實(shí)驗(yàn)、流式檢測(cè)實(shí)驗(yàn)及論文翻譯、潤色、投稿輔助等相關(guān)的各項(xiàng)服務(wù)。
聯(lián)系方式:15579126092
公司官網(wǎng):http://consurebio.com/
公司地址:江西省南昌市南昌縣小藍(lán)VR產(chǎn)業(yè)基地D座2樓