HuggingFace tokenizer 把中文切成单字乱码怎么排查分词

陆零云 39 0
现象 把 Qwen2.5 接进自己的服务后,encode 再 decode 出来的中文变成「人工」这类字符,简单句子里还会插进奇怪的字节片段,英文和数字完全正常。同一段文本用官方示例跑就没问题,换成自己的封装就出错。 原因 这是把字节序列当成了 latin-1 文本。Qwen 用的是 byte-level BPE,词表里的 token 对应原始字节,必须用同一份 tokenizer 解码才能还原成 UTF-8。常见诱因有三个:加载了别的模型目录里的...

Ollama 跑长文档报 maximum context length 超限该怎么截断输入

陆零云 42 0
现象 文档问答接口把整篇 PDF 拼进 prompt,调用时报 This model's maximum context length is 32768 tokens. However, you requested 41000 tokens。模型卡片写的是 128k,实际却在 32768 就被拒绝。 原因 128k 是模型结构支持的上限,不等于当前部署的配置。推理框架启动时用 max_model_len 指定实际窗口,默认值往往只有 4k 或 32k。另一...

Ollama 本地接口返回 404 page not found 怎么解决

陆零云 44 0
现象:模型明明跑起来了,接口却回 404 在本机部署 Ollama 后,用 curl 请求 http://localhost:11434/v1/chat/completions,返回 404 page not found。直接把 Ollama 地址填进 OpenAI SDK,同样报 404,但 ollama run 在命令行里能正常对话。 原因:路径、版本、模型名三处对不上 请求了不属于它的路径。Ollama 原生接口在 /api/generate、/...

本地部署中文OpenClaw 教程

陆零云 222 0
    意图识别是自然语言处理里最核心、最落地的任务之一,不管是智能客服、智能助手,还是语音交互、智能设备控制,都离不开它。之前我们已经系统讲过意图识别的评估指标、基本原理和整体评测流程,也用语义向量模型(all-MiniLM-L6-v2)和轻量级大模型Qwen1.5-1.8B-Chat做过一版实测。但在实际跑通代码、对比结果后我们发现:Qwen1.5-1.8B 受限于参数量,在复杂句式、混合意图、模糊表达上的识别能力明显偏弱,稳定性也...

不同体量大模型意图识别差异验证.122

陆零云 207 0
    意图识别是自然语言处理里最核心、最落地的任务之一,不管是智能客服、智能助手,还是语音交互、智能设备控制,都离不开它。之前我们已经系统讲过意图识别的评估指标、基本原理和整体评测流程,也用语义向量模型(all-MiniLM-L6-v2)和轻量级大模型Qwen1.5-1.8B-Chat做过一版实测。但在实际跑通代码、对比结果后我们发现:Qwen1.5-1.8B 受限于参数量,在复杂句式、混合意图、模糊表达上的识别能力明显偏弱,稳定性也...

154.12.91.1段IP检测说明

陆零云 465 0
IP 地址154.12.91.1IP 位置中国 香港 香港错误提交ASNAS401696ASN 所有者IDCcognetcloud INC— cognetcloud.com企业ISPCogent Communications, LLC— cogentco.com经度114.1595纬度22.3302IP 类型(说明?)IDC机房 IP为什么双ISP还会显示"IDC机房IP"?风控值 (说明?)31%中性原生...

182.129.203.96段双isp原生家庭IP说明

陆零云 515 0
IP 地址182.129.203.96IP 位置中国 四川省遂宁市船山区南津路街道中国电信错误提交ASNAS4134ASN 所有者ISPNo.31,Jin-rong Street— www.chinatelecom.com.cn企业ISPCHINANET Sichuan province network— www.chinatelecom.com.cn经度105.571331纬度30.513311IP 类型(说明?)家庭宽带 IP为什么...

云服务器ECS免费试用(企业版)

陆零云 262 0
云服务器额度3个月内有效云服务器ECS免费试用(个人版)专为开发者打造,适用于网站和应用的托管、开发及测试环境、多人在线游戏部署等。现支持香港地区试用。免费额度300元规格信息:• 8个规格可选,最高可试用4核(vCPU)8GiB;• 7个地域可选;•每月免费流量:20GB(中国内地地域)+200GB(非中国内地地域);• 试用ECS不支持备案可试用人群:个人认证,且为产品新用户商品特点:个人、企业试用不同享。试用教程云服务器额度3个月内有效云服务器ECS...