陆零云
30
0
视觉模型按图片计费,一张 3840 乘 2160 的后台截图,账单里算成 5100 token,比我按每张 1000 token 的估算高了 5 倍。上线一周账单比预算多出三倍,财务先来找我。
翻计费文档:图片按 512 像素切块,宽高各自向上取整,每块收固定 token。4K 图切成 8 乘 5 共 40 块,每块约 128 token,加起来 5120,跟账单对得上。商品图 800 见方只有 4 块,500 多 token。
第一版把长边统一缩到 10...
陆零云
27
0
给一个出海客户算成本,同一段产品说明,中文 1000 字,翻成英文 620 个单词左右。用 tiktoken 0.7.0 的 cl100k_base 数,中文 1180 个 token,英文 812 个。差距没想象中大,但按 100 万次调用算,就是 3.6 亿 token 的差。
中文没到「一个字一个 token」那么夸张,因为词表里收了大量双字词和常见搭配,「退款」「到账」这种是整块编码的。生僻一点的字会被拆成两到三个 token,一段带专业术语的中文...
陆零云
32
0
现象
西部数码的 4核8G 到期,续费报价比新购贵不少,于是想搬到别家。真开始算账才发现,麻烦的不只是钱:数据量几十 G,带宽只有 5M,传一晚传不完;域名解析要改,备案接入要变更,中间还要停机,业务方一问什么时候能好,谁也答不上来。
原因
迁移成本由四块组成:数据传输时间、停机窗口、备案变更周期、以及迁移期间的人力。按 5M 带宽算,理论上每小时只能传两 G 左右,实际受丢包和磁盘 IO 影响还要打折。备案接入变更通常要几个工作日,这段时间新机房可能无法...