Chat 與 Playground 操作說明

Chat 操作說明

• 進入 Chat 介面後，您可以直接點選建議的對話內容，系統會直接幫您加入「發送訊息」框中；或是您也可以直接在「發送訊息」框中自行輸入對話內容。

• 點選「發送訊息」框左側的「新對話」按鈕，即可清空對話內容；點選右側的 即可送出對話。

• 若不滿意生成的內容，可以點選下方的「重新生成」產生不同的內容。

• 您可以點選右上⾓的 來調整語⾔模型的「參數設定」。Chat 介面的參數均已調整為最佳回應內容，建議您使⽤預設參數進⾏對話。

提示

• 各項參數數值⼤⼩及其影響語⾔模型的效果，可以在 中查閱。
• 在 AFS MS 私有模式的 Chat & Playground，最大生成 token 數限制最高只能調整為模型 context-length 的 一半。例如 context-length 為 2048 的模型，最大生成 token 數最高只能調整為 1024。

預設指令

Meta-Llama2、FFM-Llama2 與 FFM-Llama2-v2 系列模型於 Chat 介面新增了「預設指令」功能。您可以在對話開始前，於「預設指令」對話框中加入您希望的設定。

• 點選畫面右下角的「預設指令」按鈕，並輸入您的指令。系統將會以您所設定的內容來進行對話。

• 輸入完後點選「確認」，即可開始您的對話。

Playground 操作說明

不同於 Chat 介面預設好的最佳參數，Playground 介面則著重於提供⽤⼾在參數調整及語⾔模型能⼒的展現。

• 點選右上角的 「PLAYGROUND」切換至 Playground 介面。

• Playground 介⾯中，左側可以進⾏對話，或是以 QA ⽅式提取段落資訊；右側則為「參數調整」區域(與 Chat 相同)。

• 下圖範列中，提供⼀段關於某產品的描述，透過 QA ⽅式對語⾔模型進⾏問答以提取對應資訊。內容輸入完成後，點擊「提交」。圖中藍底的句⼦即為系統回應內容。

• 語⾔模型對於不同參數組合的回應也會稍有不同，您可以用同樣的內容，嘗試不同的參數配置。
• 下圖範例中，以同樣內容，拉高「生成創造力」參數。可見系統回應內容明顯增加且更加多樣。