llama.cpp 加载 GGUF 3.0 提示未知架构 unknown model architecture 怎么处理

陆零云 42 0
现象 从模型仓库下了一个 GGUF 3.0 权重,执行 ./llama-cli -m model.gguf -p "你好" 后进程直接退出,日志最后一行是 unknown model architecture: 'qwen3'。换 llama.cpp 自带的示例模型又能推理,说明程序本身没坏。 原因 GGUF 文件头里的 general.architecture 记录了模型结构名,llama.cpp 只有在源码里注册过对应架构才能构建计算图。本地这份是几个...

Ollama pull 卡在 pulling manifest 一直不动怎么换源重试

陆零云 46 0
现象 执行 ollama pull qwen2.5:7b,终端输出 pulling manifest 之后光标一直停住,十分钟没有任何进度,按 Ctrl+C 再来一次还是卡在同一行。换一个小模型能拉下来,日志里没有报错,只是网络请求一直不返回结果。 原因 pull 分两步:先取 manifest 清单,再按 digest 分层下载。卡在第一步说明与 registry.ollama.ai 的 HTTPS 请求没有完成,常见原因是跨境链路握手超时、本机配了失效...

Ollama 本地接口返回 404 page not found 怎么解决

陆零云 44 0
现象:模型明明跑起来了,接口却回 404 在本机部署 Ollama 后,用 curl 请求 http://localhost:11434/v1/chat/completions,返回 404 page not found。直接把 Ollama 地址填进 OpenAI SDK,同样报 404,但 ollama run 在命令行里能正常对话。 原因:路径、版本、模型名三处对不上 请求了不属于它的路径。Ollama 原生接口在 /api/generate、/...