lru_cache 不设上限 | 常驻内存涨到 2.4 GB 怎么收回

容器里跑了三天,Pod 被 OOMKilled,限制是 2Gi,重启前 RSS 已经到 2.4G。翻代码发现解析函数挂着 @lru_Cache(maxsize=None),key 是一个带 trace_id 的路径参数,一天几十万条,缓存只增不减。

第一反应是内存碎片,加了 gc.collect() 又调了 malloc_trim,RSS 一点没降。用 tracemalloc 打两份快照对比,前三位全是 functools 里的 dict entry,这才确认是缓存把对象全按住了,和 GC 没关系。

改成 maxsize=1024,进程稳住了,可监控里命中率从 98% 掉到 12%,下游数据库 QPS 直接翻五倍,凌晨的报表任务被拖到早上六点才结束,只能先回滚。

回头看 key 的构成,真正决定结果的只有路径和页码,trace_id 每次请求都不同,等于每条都是新 key,缓存命中率再高也救不了。把 key 收窄成 (path, page),再加 maxsize=4096,命中率回到 96%,RSS 稳在 300MB 上下。

把 cache_info 挂到监控上之后才看清,原来的命中率统计根本没有,口头那个 98% 是同事估的。maxsize=None 不报错也不告警,它只在内存曲线上留一条斜率固定的直线。

确认口径:同流量压 24 小时,RSS 曲线平在 300MB,cache_info 里 currsize 不超过 4096;hit 与 miss 比值稳定在 24 比 1,数据库 QPS 回到原来的量级。

from functools import lru_cache

@lru_cache(maxsize=4096)
def parse_page(path, page):
    with open(path, encoding="utf-8") as f:
        return f.read().split("---")[page]

print(parse_page.cache_info())

您可以还会对下面的文章感兴趣: