问题:Hermes Agent无论在Web客户端还是cli中都无法理解上下文,直接在ollama中与模型对话又是正常的,原因是ollama运行模型的上下文默认是4096,Hermes-Agent 至少需要 64k(65536)上下文窗口,你需要将ollama运行模型的上下文修改为65535
运行环境:windows系统 Hermes-Agent 和 ollama 都安装在wsl2下
解决办法:修改ollama配置 添加以下代码:
|
1 2 |
[Service] Environment="OLLAMA_CONTEXT_LENGTH=65536" |

文章评论 暂无评论
暂无评论