原創(chuàng) | 文 BFT機(jī)器人

2023年被稱(chēng)為AIGC元年，大模型也成為重中之重，市場(chǎng)預(yù)期其創(chuàng)新性甚至遠(yuǎn)大于移動(dòng)互聯(lián)網(wǎng)。AIGC或進(jìn)一步解放生產(chǎn)力，幫助企業(yè)降本增效，影響并改變著互聯(lián)網(wǎng)的獲取信息和內(nèi)容產(chǎn)出方式。以ChatGPT為代表的新一代人工智能技術(shù)迅猛發(fā)展，它以強(qiáng)大的語(yǔ)義理解能力、邏輯推理能力和多輪對(duì)話能力快速席卷全球，各類(lèi)大模型層出不窮，并與教育、醫(yī)療等行業(yè)深度融合，產(chǎn)生了更為智慧、更高質(zhì)量的服務(wù)，也創(chuàng)造了許多新的業(yè)態(tài)。

然而，大模型人工智能生成內(nèi)容（Artificial Intelligence Generated Content，AIGC）也給教育、科研、出版、醫(yī)療等領(lǐng)域帶來(lái)了全新挑戰(zhàn)，尤其會(huì)對(duì)學(xué)生教育和出版模式產(chǎn)生顛覆式影響。其內(nèi)容是否可信、推理是否可靠、信息安全能否保障等一系列問(wèn)題亟待解決。

AIGC的機(jī)遇與挑戰(zhàn)

AIGC嵌入社會(huì)生活的同時(shí)對(duì)社會(huì)倫理與價(jià)值觀產(chǎn)生了深遠(yuǎn)的影響，并且給個(gè)人自由和社會(huì)秩序也帶來(lái)問(wèn)題和挑戰(zhàn)。

當(dāng)用戶強(qiáng)烈依賴(lài)算法推送的決策建議進(jìn)行決策時(shí)，一定程度會(huì)使用戶會(huì)放棄自主思考和試錯(cuò)，由AIGC“一鍵生成”的內(nèi)容可能會(huì)沖擊行業(yè)珍貴的獨(dú)創(chuàng)精神與工匠精神。AIGC所犯的事實(shí)性錯(cuò)誤會(huì)在網(wǎng)上快速傳播，容易形成帶有錯(cuò)誤或偏見(jiàn)的社會(huì)輿論。特別是當(dāng)AIGC涉及到政治選舉，算法有選擇的推送某些政治派別或政治思想給用戶時(shí)，會(huì)影響或左右選民的政治判斷，從而對(duì)人類(lèi)民主帶來(lái)沖擊。

AIGC還可能會(huì)帶來(lái)價(jià)值觀偏差與歧視。AIGC的內(nèi)容可能會(huì)包含著強(qiáng)化刻板印象、誤導(dǎo)公眾認(rèn)知、傷害弱勢(shì)群體的信息出現(xiàn)，這些信息在傳播和解讀的過(guò)程中潛移默化地重塑人們的價(jià)值觀并扭曲特定人群的形象。有研究發(fā)現(xiàn)，當(dāng)輸入CEO、律師等關(guān)鍵詞時(shí)，DALL-E-2會(huì)更高頻地生成男性和白色人種的人類(lèi)圖像。有些機(jī)構(gòu)將AIGC評(píng)估得出的結(jié)果作為衡量用戶價(jià)值的標(biāo)準(zhǔn)，像是一些金融機(jī)構(gòu)會(huì)依據(jù)AI的“信用評(píng)分”對(duì)人群分類(lèi)和社會(huì)地位排序，把特定領(lǐng)域?qū)€(gè)人評(píng)價(jià)擴(kuò)大到其他領(lǐng)域，帶來(lái)更大范圍的偏見(jiàn)與歧視。

基于種種的問(wèn)題與挑戰(zhàn)，2023年7月10日，教育部、科技部等七部門(mén)聯(lián)合發(fā)布的《生成式人工智能服務(wù)管理暫行辦法》中明確指出，要“鼓勵(lì)生成式人工智能技術(shù)在各行業(yè)、各領(lǐng)域的創(chuàng)新應(yīng)用，生成積極健康、向上向善的優(yōu)質(zhì)內(nèi)容，探索優(yōu)化應(yīng)用場(chǎng)景，構(gòu)建應(yīng)用生態(tài)體系?！蓖瑫r(shí)也提出，要“完善與創(chuàng)新發(fā)展相適應(yīng)的科學(xué)監(jiān)管方式，制定相應(yīng)的分類(lèi)分級(jí)監(jiān)管規(guī)則或者指引”。科研、教育和出版領(lǐng)域用戶也通過(guò)各種渠道呼吁知網(wǎng)利用自身數(shù)據(jù)優(yōu)勢(shì)和技術(shù)積累，研發(fā)相關(guān)技術(shù)能夠識(shí)別人工智能生成內(nèi)容。

學(xué)術(shù)界的福音到，論文檢測(cè)的好幫手

該系統(tǒng)以知網(wǎng)結(jié)構(gòu)化、碎片化和知識(shí)元化的高質(zhì)量文獻(xiàn)大數(shù)據(jù)資源為基礎(chǔ)，按照預(yù)訓(xùn)練大語(yǔ)言模型的算法邏輯，首次提出“知識(shí)增強(qiáng)AIGC檢測(cè)技術(shù)”和若干檢測(cè)算法，從語(yǔ)言模式和語(yǔ)義邏輯兩條鏈路，用AI對(duì)抗AIGC，最終實(shí)現(xiàn)了快速、準(zhǔn)確識(shí)別學(xué)術(shù)文本中的AI生成內(nèi)容。

系統(tǒng)支持檢測(cè)國(guó)內(nèi)外各類(lèi)大模型生成的中文文本，涵蓋領(lǐng)域廣泛；經(jīng)大量數(shù)據(jù)測(cè)試結(jié)果顯示，系統(tǒng)可有效識(shí)別出不同程度疑似AI生成的文本內(nèi)容，檢準(zhǔn)率高。系統(tǒng)界面簡(jiǎn)潔、易用，支持上傳單/多篇各類(lèi)格式文檔、壓縮文件或手工錄入等多種方式，可實(shí)時(shí)追蹤檢測(cè)進(jìn)度、查看檢測(cè)結(jié)果，并提供可視化報(bào)告單，清晰直觀呈現(xiàn)AI生成文本詳情。此外，還可支持期刊論文、學(xué)位論文、會(huì)議論文以及圖書(shū)專(zhuān)著、科研成果、科技報(bào)告、課程作業(yè)檢測(cè)等多個(gè)應(yīng)用場(chǎng)景。

作者 |?居居手

排版 | 春花

審核 | 貓

若您對(duì)該文章內(nèi)容有任何疑問(wèn)，請(qǐng)與我們聯(lián)系，將及時(shí)回應(yīng)。想要了解更多資訊，請(qǐng)關(guān)注BFT智能機(jī)器人系統(tǒng)~