如何将GLM10B封装成对话式API

[yihuaxiang]

ChatGLM-6B对外暴露的是对话式API，GLM-10B暴露的是文本补全式的API，如何能将GLM-10B封装成对话式API呢？

我尝试过将对话内容封装成对话文本让GLM-10B进行补全，但是效果很不好，求建议❤️❤️❤️

原理：将对话内容封装成一段字符串，每次到AI回答的时候就将历史聊天记录封装成字符串，由AI进行补全

封装成对话文本如下：

有一段对话内容如下

用户：你好哇
机器人： 你好哇,我是 GLM10B 智能机器人,很高兴与你对话。
用户：你知道我是谁吗？
机器人： 你好哇,我是 GLM10B 智能机器人,很高兴与你对话。
用户：你猜猜我叫什么
机器人：[sMASK]

对话效果如下：

对话效果很差，AI机器人一直在重复。

[yihuaxiang]

AI小呆也是基于GLM-10B吧，为什么她的回答就好很多呢？🤔️求建议～

[xiningnlp]

需要尝试一下指令微调。不过ChatGLM-6B迄今为止没有公布他们如何将GLM-XXX微调为ChatGLM-6B的。

[yihuaxiang]

感谢🙏from 敖武在 2023年6月16日，16:42，xiningnlp ***@***.***> 写道： 需要尝试一下指令微调。不过ChatGLM-6B迄今为止没有公布他们如何将GLM-XXX微调为ChatGLM-6B的。 —Reply to this email directly, view it on GitHub, or unsubscribe.You are receiving this because you authored the thread.Message ID: ***@***.***>