在過去幾個(gè)月中，隨著生成式自然語言模型ChatGPT在全球范圍迅速火爆，生成式AI引起了廣泛的關(guān)注。生成式AI是可以基于算法、模型、規(guī)則等智能生成文本、圖片、聲音、視頻、代碼等內(nèi)容一項(xiàng)技術(shù)。生成式AI技術(shù)這么強(qiáng)大，它是如何運(yùn)作的？又會(huì)帶哪些風(fēng)險(xiǎn)呢？

?

生成式 AI 如何運(yùn)作？??

生成式 AI 是機(jī)器學(xué)習(xí)的一部分，通過使用神經(jīng)網(wǎng)絡(luò)來生成新內(nèi)容。與其他為執(zhí)行特定任務(wù)而編程的 AI 系統(tǒng)不同，生成式 AI 在大型數(shù)據(jù)集上運(yùn)行，并生成新穎、獨(dú)特的內(nèi)容。

最流行的生成式 AI 類型之一是生成對(duì)抗網(wǎng)絡(luò) （GAN）。GAN 由兩個(gè)神經(jīng)網(wǎng)絡(luò)組成：生成器和鑒別器。生成器創(chuàng)建新內(nèi)容，鑒別器評(píng)估內(nèi)容的真實(shí)性。生成式 AI 有可能改變我們應(yīng)用 AI 的方式，從為訓(xùn)練 AI 模型生成逼真的合成數(shù)據(jù)，到為客戶策劃量身定制的內(nèi)容。隨著時(shí)間的推移，GAN 生成的內(nèi)容質(zhì)量隨之提高。如今，GAN 生成的圖片和視頻與原件幾乎沒有區(qū)別。生成式 AI 工具ChatGPT 和 DALL-E等具有足以撼動(dòng)現(xiàn)有工作角色的能力。

ChatGPT 是 AI 行業(yè)中的一大創(chuàng)新。它是 OpenAI 開發(fā)的一種有效的生成式 AI 語言模型，可以快速響應(yīng)用戶命令、生成內(nèi)容。ChatGPT 基于人類反饋強(qiáng)化學(xué)習(xí)（RLHF）技術(shù)， 可用于客戶支持、內(nèi)容生成、數(shù)據(jù)分析、虛擬助手、語言翻譯等各種應(yīng)用。在撰寫本文時(shí)ChatGPT 在 GPT-3.5 語言模型（使用從眾多來源收集的大量數(shù)據(jù)創(chuàng)建的模型）上運(yùn)行。

DALL-E 是由 OpenAI 開發(fā)的 AI 模型，它結(jié)合了先進(jìn)的深度學(xué)習(xí)技術(shù)，例如 transformer 網(wǎng)絡(luò)和 GAN。這種創(chuàng)新技術(shù)可以理解和解釋自然語言輸入，甚至根據(jù)文本描述生成圖像。ChatGPT 和 DALL-E 在現(xiàn)實(shí)場景中的應(yīng)用，極大地提高了效率、賦予了更多創(chuàng)造力。微軟和谷歌等大公司已將 ChatGPT 納入其客戶支持系統(tǒng)，為客戶提供即時(shí)幫助。

生成式 AI存在的風(fēng)險(xiǎn)

技術(shù)是一把雙刃劍，生成式 AI 也有一些風(fēng)險(xiǎn)，正是因?yàn)樗鼡碛薪邮胀饨绮W(xué)習(xí)的特性，在不停優(yōu)化的同時(shí)也不可避免地會(huì)被一些惡意人士“教壞”，例如，生成式 AI 的發(fā)展使得 AI 造假之風(fēng)卻愈演愈烈，存在知識(shí)產(chǎn)權(quán)侵權(quán)和內(nèi)容版權(quán)問題；AI 生成的內(nèi)容的質(zhì)量和真實(shí)性；新區(qū)塊鏈運(yùn)行時(shí)生成中的架構(gòu)障礙；基于敏感數(shù)據(jù)的內(nèi)容的隱私問題；生成式 AI 的惡意運(yùn)行；惡意的算法數(shù)據(jù)輸出等風(fēng)險(xiǎn)。

那么，針對(duì) AI 存在的諸多風(fēng)險(xiǎn)，我們?cè)趹?yīng)用時(shí)如何應(yīng)對(duì)呢？

應(yīng)對(duì)策略：

使用基于 AI 的內(nèi)容審核工具，例如 Google 的 Perspective API 或 Two Hat 的 Community Sift；聯(lián)邦學(xué)習(xí)、同態(tài)加密和匿名化等數(shù)據(jù)隱私保護(hù)技術(shù)；使用用于訓(xùn)練 ImageNet、MNIST 等可信度生成 AI 算法的代表性數(shù)據(jù)集；使用基于 AI 的欺詐檢測工具，例如 Fraud.Net、Kount、NICE Actimize；AI 內(nèi)容分析指標(biāo)，如公平性和問責(zé)性指標(biāo)；制定在 Web3 中使用生成式 AI 的標(biāo)準(zhǔn)。

總結(jié)

生成式AI的浪潮才剛剛開始，其未來的形態(tài)無法被預(yù)測，但可以肯定的是，ChatGPT、DALL-E和等生成式AI工具將在未來各個(gè)行業(yè)中扮演重要的角色，改變?cè)械墓ぷ鹘巧?，顛覆行業(yè)的未來。雖然這些工具的出現(xiàn)會(huì)對(duì)一些工作產(chǎn)生影響，但它們也將創(chuàng)造新的工作機(jī)會(huì)和創(chuàng)新發(fā)展方向。

相關(guān)素材整理于微信公眾號(hào)?NET中文社區(qū)

?

?