免费 · 无需注册 · 浏览器本地处理
LLM 显存内存计算：权重与 KV Cache 的 GB、GiB
按参数量、位宽、层数、KV 头数、上下文与批次计算理论权重及稠密全注意力 KV 内存，另列手工开销、安全余量和容量比较。
浏览器本地手工计算 · 不查询模型 · 不保存输入
方法与适用边界
1 GB = 1,000,000,000 bytes；1 GiB = 1,073,741,824 bytes。权重字节 = 参数量 × 位数 ÷ 8；KV 字节对每层、每条缓存序列分别计入一个 Key 张量与一个 Value 张量。
仅适用于稠密全注意力推理。MLA、SSM、滑动/分块注意力、分页缓存、卸载与实际内核需要其他核算方式。量化缩放、对齐、残余高精度部分不会自动计入；不含训练梯度与优化器状态。
有界十进制/BigInt 精确运算，JSON/CSV 保留原始精度。小数字节表示理想打包位数，不代表实际分配。所有输入仅在本页处理，不写存储，不调用 API 或模型。
实际输出
llm-memory-calculator-report.json填写输入后即可预览与导出结果。
使用步骤
填写参数量、精度、层数与 KV 维度、上下文、批次和额外开销，对照 GB/GiB 合计与可用容量。
使用前请检查
结果是规划估算，不是模型实测占用，也不保证硬件可运行；此完整注意力公式不适用于 MLA、SSM、分页、滑窗或卸载。
试一个例子
80 亿参数按 4 位计算原始权重为 4 GB，尚不包含量化元数据、KV 缓存与运行开销。
计算或处理方式
原始权重字节 = 参数量 × 位宽 ÷ 8；KV 字节 = 2 × 层数 × KV 头数 × 头维 × 上下文 × 批次 × KV 位宽 ÷ 8，另列人工开销和安全余量。
常见问题
按明确参数估算理论权重和完整注意力 KV 内存，并加入你设置的额外开销。
如何使用LLM 权重与 KV Cache 内存计算？
填写参数量、精度、层数与 KV 维度、上下文、批次和额外开销，对照 GB/GiB 合计与可用容量。
数据会上传吗？
工具在当前浏览器内处理输入与文件。页面访问统计不包含这些输入内容。
有哪些限制？
结果是规划估算，不是模型实测占用，也不保证硬件可运行；此完整注意力公式不适用于 MLA、SSM、分页、滑窗或卸载。