使用 gpt-4o 和 gpt-4o-mini 字符出现乱码
#563
Comments
|
更新：这里有一个好消息，我已经使用官方库 可参考我的 Fork，目前可以直接替换使用。 |
有出现乱码吗？好像@chatgptweb/chatgpt-api库有更新，只是本项目开源大佬，没再维护此项目，可能另有原因吧～ |
|
作者已经宣布 |
|
最初的 https://www.npmjs.com/package/chatgpt 很早之前原始作者就不维护了。 之前是有考虑过换成 openai-sdk 但是确实就是上面说的。如果想支持claude3这些就反而不太方便了。 |
|
原来是这样。现在的 |
|
如果能定位到 |
|
我找到原因了， 实际上可以通过模仿
{
"role": "assistant",
"content": "当然可以！这里有一个笑话：\n\n有一天，一只鸡走进了图书馆。它走到图书管理员那里，咯咯叫了几声，图书管理员给了它三本书。鸡拿着书走了出去。\n\n第二天，鸡又来了，还是咯咯叫，图书管理员又给了它三本书。鸡再次走了出去。\n\n第三天，鸡又来了，这次图书管理员好奇了，决定跟在鸡后面看看它到底要做什么。鸡走到池塘边，把书一本本地递给一只青蛙。青蛙看了每本书，只是说：“读过，读过，读过！”\n\n哈哈，希望这个笑话能让你笑一笑！",
"usage": {
"total_tokens": 312,
"prompt_tokens": 77,
"completion_tokens": 235
}
}
|
|
怎么去快速复现一下这个问题呢? 我日常使用中从从来没有遇到过乱码的问题 ... |
|
@BobDu 可能你的服务供应商已经规范过结果了，按照 SSE 严格分块发送，不是直接发不完整的 chunk。有一个方法就是代理转发流消息，设置一下 buffer 大小，4o-mini 这样的模型因为速度快就会出现多个流不是正常分段的。 前面说的官方库 openai 模型不兼容性我已经解决了，在我的魔改 Fork 里面，去除了原版 api 依赖库。这个 Fork 目前是自用的，后面再考虑原版 api 库的问题。 |
|
明白了。那可能是因为我是直接接的openai的接口。没有用第三方代理商的转发。所以没遇到这个问题。 |
佬，你的fork 有没有docker地址 |
|
@ixxmu 没有，你克隆下来直接 build 就行了 |
好的 感谢佬的回复 |
|
好的好的，谢谢大佬，我这边也调好了
…------------------ 原始邮件 ------------------
发件人: ***@***.***>;
发送时间: 2024年11月11日(星期一) 晚上11:26
收件人: ***@***.***>;
抄送: ***@***.***>; ***@***.***>;
主题: Re: [chatgpt-web-dev/chatgpt-web] 使用 `gpt-4o` 和 `gpt-4o-mini` 字符出现乱码 (Issue #563)
最初的 https://www.npmjs.com/package/chatgpt 很早之前原始作者就不维护了。 当时为了支持 vision 模型 然后我们就自己fork发布了 https://github.com/chatgpt-web-dev/chatgpt-api ***@***.***/chatgpt-api
之前是有考虑过换成 openai-sdk 但是确实就是上面说的。如果想支持claude3这些就反而不太方便了。
大佬，有空帮忙更新一下chatgpt-api库，支持一下OpenAi的o1模型，当前的Chatgpt-api库无法使用o1模型，会报错：
ChatGPT错误400：{"错误":{"消息":"不支持的参数：此模型不支持'max_tokens'。改为使用'max_completion_tokens'。（请求ID：20241110101537481351370LMWFlK57)","type":"invalid_request_error","param":"max_tokens","code":"unsupported_parameter"}}
—
Reply to this email directly, view it on GitHub, or unsubscribe.
You are receiving this because you commented.Message ID: ***@***.***>
|
特别是
gpt-4o-mini出现乱码概率极高，每次对话都有很多乱码，官方验证没有问题，应该是流式传输将字符打断了。注意到本项目使用了
@chatgptweb/chatgpt-api，这个项目目前不受支持，我们是否有办法切换到openai官方库，看了一下代码，依赖并非很复杂。如果后期有时间可参与重构。The text was updated successfully, but these errors were encountered: