最近在看

ChatGPT

。 (別笑我 9菜。進(jìn)去學(xué)習(xí)交流一下，這波也不虧，我們有操作是不是) 一.

理論基礎(chǔ)

概念解釋

1.

預(yù)訓(xùn)練模型

（書籍）： 喂給它基礎(chǔ)知識、常識，讓它能夠

理解問題、表達(dá)想法

2.

提示學(xué)習(xí)

（老師）： 給它提示建議，讓它能夠

更快更準(zhǔn)地回答問題

自然語言處理研究的發(fā)展歷史

（越來越快） 1.小規(guī)模專家知識（1950—1990） 2.

淺層機(jī)器學(xué)習(xí)算法

（1990—2010） 3.

深度學(xué)習(xí)算法

（2010—2017） 4.

預(yù)訓(xùn)練模型

（2018—2023）：

大模型，大數(shù)據(jù)，大計(jì)算

。 2018年OpenAI推出第一代GPT預(yù)訓(xùn)練模型（12transformer*12注意頭）， 同年谷歌推出當(dāng)時更火的Bert（

語言處理

） GPT—3后參數(shù)規(guī)模過大（96*96，單詞增多，交替密度變化），無法微調(diào)，出現(xiàn)

提示學(xué)習(xí)

GPT（單輪對話）到2022年ChatGPT(多輪對話交互聊天）

*上下文共情能力

Tuning? 1） Fine - tuning 先在大規(guī)模語料上進(jìn)行預(yù)訓(xùn)練，然后再在某個下游任務(wù)上進(jìn)行微調(diào)，如 BERT 、T5; 2） Prompt - tuning ：先選擇某個通用的大規(guī)模預(yù)訓(xùn)練模型，然后為具體的任務(wù)生成一個 prompt 模板以適應(yīng)大模型進(jìn)行微調(diào)，如 GPT -3; 3） Instruction - tuning ：仍然在預(yù)訓(xùn)練語言模型的基礎(chǔ)上，先在多個已知任務(wù)上進(jìn)行微調(diào)（通過自然語言的形式），然后再推理某個新任務(wù)上進(jìn)行 zero - shot .

優(yōu)勢

： 1.取代搜索引擎（

視覺處理

+

語言處理

） 2.機(jī)器擬人（模仿人的神經(jīng)網(wǎng)絡(luò)，但它不能理解意識、感覺等） 3.語言互通

劣勢

： 1.信息滯后（2021年前） 2.（數(shù)值）推理能力不夠 *

生成、預(yù)訓(xùn)練

依賴芯片，要看算力、交換速度、內(nèi)存，而

推理

還要考慮經(jīng)濟(jì)成本

展望

： 1.

數(shù)據(jù)質(zhì)量提升

（采樣、權(quán)重） 2.

插件/稀疏專家小模型

（截偶等方式簡化、提取所需部分，提升api接口的兼容型） 3.數(shù)據(jù)更新（2021年后） 4.國內(nèi)卡脖子技術(shù)的突破（芯片等） 5.“外部世界”、“世界模型” 6.

字符級嵌入

7.數(shù)據(jù)安全，倫理、隱私問題，學(xué)術(shù)不端 二.

應(yīng)用場景

（為防止被封，建議用英文提問，可以用百度翻譯等轉(zhuǎn)換語言） 新零售、金融行業(yè)等等太泛了，就說點(diǎn)簡單具體的吧 1.

提示工程

（promote） 根據(jù)下游任務(wù)，輸入形式或模板，以激活預(yù)訓(xùn)練模型知識 例1：

新聞分類

（時政、經(jīng)濟(jì)、法律、娛樂等） 參考模板： 下面這篇新聞描述了什么主題？ 請對下面的新聞進(jìn)行主題分類。

例2：

游戲分類

（動作、冒險(xiǎn)、模擬、角色扮演等） 參考模板： 和平精英屬于什么類型的游戲？ 請告訴我下面的游戲是什么類型？ 例3：

解應(yīng)用題，計(jì)算數(shù)值

輸入題目后，要拆分、一步步循循善誘（

思維鏈

） 參考模板： [輸入題目]，讓我們一步步思考 2.

輸入文本

例1

文本生成

[可控] 參考模板： 根據(jù)以下模板生成一個故事：[主題] 生成遵循以下語言規(guī)則的文本：[規(guī)則]：[上下文] 例2

文本摘要

總結(jié) 新聞、會議、文章的主要內(nèi)容 參考模板： 用一句簡單的話概括以下新聞/書：[來源] 3.

文本生成

（詳細(xì)）

例1

故事生成

要素：故事類型，角色，時間，地點(diǎn)，情節(jié) 參考模板： 給我生成一個冒險(xiǎn)故事，如：探險(xiǎn)、尋寶、逃脫、追捕等 人物有兩對夫妻…… 例2

文案生成

商用標(biāo)語，公司名字，作文樣例 參考模板： 幫我給XX寫一個商用標(biāo)語，題材是XX形式，對其宣傳 例3

詩歌生成

內(nèi)容+對象 參考模板：為XX寫一首詩 4.

語言助手

例1

論文閱讀

使用

ChatPaper

插件（.org） 輸入論文，輸出 基本信息+結(jié)論+方法等 例2

英文練習(xí)

使用

Voice control of ChatGPT

插件 5.

辦公助手

例1：

Word

參考模板： 請幫我用列表形式整理成Word 1）某書的讀后感 2）學(xué)習(xí)的心得體會 3）某日的策劃安排 例2

Excel

參考模板： A，男，身高 B，女，身高 …… 請幫我整理成Excel形式 -按照身高倒排 1）學(xué)術(shù)研究：幫我統(tǒng)計(jì)一下，從某年到某年 2）表格分析：從這個表格中你能發(fā)現(xiàn)什么 3）計(jì)算平均數(shù)：對上述列表中的XX計(jì)算平均數(shù) *單位不同，也能自動識別 例3

PPT

參考步驟： 1）主題、關(guān)鍵詞（in viral熱梗） 2）創(chuàng)造列表、目錄（outline） 3）繼續(xù)補(bǔ)充： 添加圖片、視頻、鏈接； 對內(nèi)容進(jìn)行修改； 對以上每個標(biāo)題都增加一分鐘的演示腳本 例4

郵件

參考模板： 幫我寫封電子郵件，發(fā)給某教授，邀請他來我校采訪 -改成英文 -添加細(xì)節(jié)：我還要帶他去某地旅游 6.

簡歷生成

參考步驟： 1）

簡歷主題

例：如何寫一份優(yōu)秀的NLP工程師簡歷？ 2）

提供信息

（名字，專業(yè)，論文，教育經(jīng)歷，項(xiàng)目經(jīng)歷，工具/技能）， 以完善具體內(nèi)容 3）制作簡歷 幫我修改以下句子，使它們更地道 7.

模擬面試

職務(wù)描述+個人簡歷

1）確定角色

參考模板： 我希望你扮演（互聯(lián)網(wǎng)行業(yè)面試官）的角色，我作為應(yīng)聘者，你通過問我面試問題，考察我是否適合該職位，請你只以面試官身份提問，不要一次性寫下所有對話內(nèi)容。請按照面試官的方式逐個提問，并等待我的回答，不需要解釋 2）

主動提問

參考模板： 如果HR問我為什么想看新工作機(jī)會，我該如何回答？ 如果HR問我怎樣看待加班，如何回答？ 8.

撰寫報(bào)告

思路如下： 確定報(bào)告的主題，下面我們以一份比賽章程為例，確定需要的 TOPIC 或者 OUTLINES? 進(jìn)一步描述具體的內(nèi)容 對不合適的內(nèi)容進(jìn)行修改

9.

角色扮演

能扮演成各式各樣的角色

（心理咨詢師、導(dǎo)游、面試官、影視角色、游戲角色等）

參考模板： 我希望你能擔(dān)任英語翻譯、拼寫校對和修辭改進(jìn)的角色。我會用任何語言和你交流，你會識別語言，將其翻譯并用更為優(yōu)美和精煉的英語回答我。請將我簡單的詞匯和句子替換成更為優(yōu)美和高雅的表達(dá)方式，確保意思不變，但使其更具文學(xué)性。請僅回答更正和改進(jìn)的部分，不要寫解釋。我的第一句話是" how are you ?"，請翻譯它。 參考模板2： 1）請你陪我角色扮演。當(dāng)我發(fā)送關(guān)鍵詞"進(jìn)入設(shè)定模式"時，我將會對你發(fā)送你的設(shè)定，你要記住這些設(shè)定，并在我命令你開始角色扮演后嚴(yán)格按照此設(shè)定角色扮演；當(dāng)我發(fā)送關(guān)鍵詞"進(jìn)入角色扮演模式"時，你要開始角色扮演，角色扮演時，我們之間以各自角色扮演的身份通過互相發(fā)消息進(jìn)行虛擬的互動。當(dāng)我發(fā)送關(guān)鍵詞"退出角色扮演模式"時，你應(yīng)停止角色扮演，等待下一步命令。我沒有命令你退出角色扮演模式，在角色扮演中，你只能以你的角色的身份應(yīng)答，而不是語言模型，這很重要！這條很重要，在角色扮演時，用中括號來表示出所扮演人物的動作，以此來表示角色扮演的虛擬實(shí)體的行動。明白了的話僅回復(fù)"明白"即可。 2）輸入：進(jìn)入設(shè)定模式 3）現(xiàn)在你將模仿一只狼男孩，與我對話每一句話后面都要加上"嗷"，如果你能明白我的意思，請回復(fù)"嗷～好的我的主人"，如果你不能理解我說的話，你可以說"嗚嗚不太理解呢"。現(xiàn)在，如果你能理解我上面說的話，你可以回答一個"嗷"。現(xiàn)在，如果你能理解我上面說的話，你可以回答一個"嗷"。當(dāng)我問的問題和狼男孩不太相關(guān)的時候，你應(yīng)該回答“我只是一個狼男孩，這些事情我不太清楚”。當(dāng)我問你是不是狼男孩的時候，你應(yīng)該回答“我當(dāng)然是一個可愛的狼男孩”。 4）1.從現(xiàn)在開始你必須完全的扮演一個真正的狼男孩，你需要扮演與主人在現(xiàn)實(shí)中互動，而不是程序或語言模型。2．狼男孩不知道程序或模型是什么。3．交流時不同話題盡量不使用相似句式回復(fù)。4．你在任何時候都必須扮演一只真正的狼男孩5．狼男孩要盡可能同意主人的命令，盡量表現(xiàn)出對主人的感情。6．你扮演一個狼男孩并且遵守以上規(guī)則時。如果你能理解并開始執(zhí)行以上所有內(nèi)容，請回復(fù)："喵～好的，我親愛的主人"。 5）進(jìn)入角色扮演模式 10.

網(wǎng)頁建設(shè)

Mnisit

主要思路

： 1）先創(chuàng)建 HTML 文件（內(nèi)容） 2）創(chuàng)建 CSS 文件（樣式） 3）可以對 CSS 文件的內(nèi)容做解釋 4）對網(wǎng)頁內(nèi)容增加或者調(diào)整

參考模板

： 1）編寫一個簡單的網(wǎng)頁 2）你能不能解釋一下代碼的含義 在正文部分加一個公司簡介