陆零云
42
0
现象
从模型仓库下了一个 GGUF 3.0 权重,执行 ./llama-cli -m model.gguf -p "你好" 后进程直接退出,日志最后一行是 unknown model architecture: 'qwen3'。换 llama.cpp 自带的示例模型又能推理,说明程序本身没坏。
原因
GGUF 文件头里的 general.architecture 记录了模型结构名,llama.cpp 只有在源码里注册过对应架构才能构建计算图。本地这份是几个...
陆零云
46
0
现象
执行 ollama pull qwen2.5:7b,终端输出 pulling manifest 之后光标一直停住,十分钟没有任何进度,按 Ctrl+C 再来一次还是卡在同一行。换一个小模型能拉下来,日志里没有报错,只是网络请求一直不返回结果。
原因
pull 分两步:先取 manifest 清单,再按 digest 分层下载。卡在第一步说明与 registry.ollama.ai 的 HTTPS 请求没有完成,常见原因是跨境链路握手超时、本机配了失效...
陆零云
44
0
现象:模型明明跑起来了,接口却回 404
在本机部署 Ollama 后,用 curl 请求 http://localhost:11434/v1/chat/completions,返回 404 page not found。直接把 Ollama 地址填进 OpenAI SDK,同样报 404,但 ollama run 在命令行里能正常对话。
原因:路径、版本、模型名三处对不上
请求了不属于它的路径。Ollama 原生接口在 /api/generate、/...