一份 8 万字文档喂进去报 context_length_exceeded 每块 3000 token 怎么切

陆零云 27 0
一份 8 万字的行业报告丢给 gpt-4o 做摘要,接口返回 400,原文是 This model's maximum context length is 128000 tokens. However your messages resulted in 168342 tokens。我原以为 8 万字不过十来万 token,用 tiktoken 一算,cl100k 下这份文档 11.7 万 token,加上 3000 字系统提示和输出预留,正好越线。 第一版...