最美情侣中文字幕电影,在线麻豆精品传媒,在线网站高清黄,久久黄色视频

歡迎光臨散文網(wǎng) 會員登陸 & 注冊

書寫自己的AI老婆角色(AI對話/text-generation-webui/Tavernai)

2023-05-24 00:54 作者:coyude  | 我要投稿

1.前言

????先前一直都在寫如何部署text-generation-webui/tavernai的文章,但卻沒有提到同等重要的創(chuàng)建角色卡。翻了一下國內(nèi)的資料,基本寥寥無幾···大部分資料都在外網(wǎng)?? 因此就打算整合下資料來寫個教程吧。目前因為大部分開源模型

????角色卡設(shè)定將使用英文來編寫,因為這樣更能節(jié)省token,另外一個原因是當(dāng)前很多開源模型對中文的支持不是很好(

? ? 教程目前還不完善,我也在學(xué)習(xí)中,希望各位大佬們能指出錯誤的地方,感激不盡??

???希望大家看完后可以有所收獲,寫出一個屬于自己的AI老婆


2.起步

首先,建議使用這個網(wǎng)站來創(chuàng)建和編輯角色卡??https://zoltanai.github.io/character-editor/

????點擊新建角色后,會看到創(chuàng)建一個角色的基本元素:Name(名字),Personality(個性),Scenario(對話的場景)Greeting Message(角色第一條消息),Example Messages(示例對話),以及左側(cè)的角色頭像??[Summary在tgwebui中無效,故不用填寫]

????其中我認(rèn)為最重要的是Personality(個性),這將決定AI是誰,要做什么事情,怎么做。其次是Example Messages(示例對話)和Greeting Message(角色第一條消息),這將告訴AI它所扮演的角色將會用怎樣的對話語氣和口癖來與你進(jìn)行對話。

????接下來我將創(chuàng)建一個貓娘角色——nana來進(jìn)行示范。


3.Name(名字)

????這真沒什么好說的,符合你的XP就行

????我這里填入名字為nana


4.Personality(個性)

????在此之前,先了解一下什么是Token?

? ? “在大型語言模型中,"token"是指文本中的一個最小單位。通常,一個token可以是一個單詞、一個標(biāo)點符號、一個數(shù)字、一個符號等?!薄猲ew bing

? ? 你可以簡單的理解為Token是AI的記憶力單位,目前大部分開源模型的最大Token長度是2048tokens(Mpt-7B-storywriter卻能高達(dá)65000tokens),GPT3.5-turbo是4096tokens,GPT4是8192tokens,GPT-4-32K是32768tokens。你可能會問,為什么不把模型的最大Token長度調(diào)大呢,不是越大越好嗎?

????一是因為技術(shù)限制,二是隨著你的文本Token長度上升,在沒有達(dá)到該模型的最大上限Token之前,顯存消耗將一直持續(xù)增大。在Mpt-7B-storywriter的模型卡介紹中提到,他們使用了8張A100-80GB GPUs來達(dá)到84k tokens 的文本長度。

????正因為有著最大文本Token的限制,AI角色就有個無法避免的問題——記憶力差(這也是各位在催眠GPT容易半路失敗的原因),容易失憶。因此,在我們書寫AI角色的時候,要合理利用Token,并不是描述越詳細(xì)越好。角色卡的內(nèi)容也是記錄到模型的最大文本Token中的,如果你角色內(nèi)容就已經(jīng)有1500token,那角色的實際記憶力只剩下500token左右了(說幾句就忘記前文了

????因此我推薦角色卡的總Token在500~800tokens即可。

????在剛剛推薦的角色卡制作網(wǎng)站中,Example Messages下方會有當(dāng)前角色卡的總Tokens數(shù)

既然有Token限制,那么怎樣才能比較好的書寫角色的Personality(個性)呢?

社區(qū)給出的主流方法是使用W++格式來描寫,以下是W++格式的模板

其中雙引號里面的內(nèi)容便是你想要填入的內(nèi)容。

我們一步一步來介紹

W++最基本的格式是這個,即角色的名字。

我要創(chuàng)建的角色名字是nana,則改成

在W++格式中,我們需要填入一個鍵和對應(yīng)的值來完成角色的Personality(個性)的描述。

現(xiàn)在我們想要給nana這個角色賦予貓娘(catgirl)物種(species),因此我們需要填入一個鍵(species)和一直對應(yīng)值(catgirl)

對應(yīng)的值要用英文圓括號( )括起來,值里的每一項需要用英文雙引號" "來括住,并且項與項之間用 + 來隔開。

接下來我們再給貓娘nana賦予人物性格"cute" + "shy" + "intelligent" + "considerate" + "emotional"

之后就是自由發(fā)揮了,看自己喜好(xp

?其中,mind和personality其實是一樣的東西,只是用于強(qiáng)化特性而已,看自己選擇。



5.Scenario(對話的場景)

簡單描述你與AI進(jìn)行初次對話的場景即可,可以描述AI或你正在做什么。我這里就比較隨便,簡單描述了一下

6.Example Messages(示例對話)和Greeting Message(角色第一條消息)

????這將決定角色的對話方式和習(xí)慣,請編寫符合角色性格的內(nèi)容。

????PS:如果你想要在對話中描述一個動作時,請使用 * 動作 * 的形式來輸入。

????假設(shè)nana正在打掃房屋,“我“”回到家后開始與進(jìn)行nana對話。那么Greeting Message(角色第一條消息)可以這么書寫

????而想要nana盡量在每一句話都加上"meow~"的后綴,那么Example Messages(示例對話)可以這么寫(請注意,我盡量在每一句都加上了動作描寫* 動作 *,這能豐富對話內(nèi)容)

其中{{user}}代表用戶,{{char}}代表角色,不要修改這兩個詞。這里我只寫了一個樣例對話,實際上你可以寫多個,只需要在每一個對話前加上<START>即可。

至此,角色基本書寫完畢,總tokens為430


最后,添加上角色的頭像圖片。

7.導(dǎo)出角色卡

導(dǎo)出PNG格式或json格式后,進(jìn)入chat settings

? ? 來到最下方的上傳角色選項,上傳對應(yīng)格式即可。


書寫自己的AI老婆角色(AI對話/text-generation-webui/Tavernai)的評論 (共 條)

分享到微博請遵守國家法律
阳谷县| 益阳市| 青海省| 龙岩市| 子长县| 三穗县| 河津市| 上虞市| 嘉鱼县| 咸宁市| 淮安市| 灵武市| 兴和县| 石门县| 鞍山市| 九寨沟县| 肃北| 封丘县| 桐梓县| 清苑县| 陇川县| 富源县| 米易县| 松滋市| 云浮市| 莱阳市| 临泉县| 扎鲁特旗| 祥云县| 龙山县| 枝江市| 昌江| 谷城县| 东山县| 灌云县| 乐业县| 阳新县| 南汇区| 赤城县| 阳原县| 九龙县|