ollama做api后端

[MRQJsfhf]

⚠️ 搜索是否存在类似issue

• 我已经搜索过issues和disscussions，没有发现相似issue

总结

不支持ollama等本地大模型做后端吗?

举例

No response

动机

No response

[phonezhou]

对的，我看见支持qwen，但还是不能调用本地的，自动转向外网！

[ERROR][2024-05-18 17:47:28][chat_channel.py:303] - Worker return exception: Error: MissingAccessKeyId code: 400, AccessKeyId is mandatory for this action. request id: E5D277B2-AFB0-5EB5-9FA5-027572678F8A Response: {'RequestId': 'E5D277B2-AFB0-5EB5-9FA5-027572678F8A', 'Message': 'AccessKeyId is mandatory for this action.', 'Recommend': 'https://api.aliyun.com/troubleshoot?q=MissingAccessKeyId&product=bailian&requestId=E5D277B2-AFB0-5EB5-9FA5-027572678F8A', 'HostId': 'bailian.cn-beijing.aliyuncs.com', 'Code': 'MissingAccessKeyId', 'statusCode': 400}

[6vision]

有一个pr试试呢，看看是否可行 #1932

[taozhiyuai]

有一个pr试试呢，看看是否可行 #1932

我正在用呢

[taozhiyuai]

@6vision 合并这个PR呀

[6vision]

@6vision 合并这个PR呀

可以正常使用，对吧，有什么问题没

[taozhiyuai]

@6vision 合并这个PR呀

可以正常使用，对吧，有什么问题没

没问题

[Zctoylm0927]

我在本地合并了这个pr，目前使用暂时只发现设定的character_desc无法起到作用，其余功能正常

[leedaga]

如何配置呢？ 谁发个config.json 看看