AI工具

本地AI内存占用怎么查:先看运行模型,再调并发

资料核对与更新:2026-10-26 · 阅读约2分钟

多个模型同时载入可能挤占网站资源。本文说明如何记录运行模型、上下文与并发数量,找到内存压力的来源,而不是盲目更换更大的服务器。

先记录压力出现的时间

本地AI内存占用需要与任务时间线一起看。网站变慢时,先记录当时运行了哪些模型、同时有几个请求,以及操作系统是否出现交换或进程被终止的记录。磁盘上的模型文件大小,不能直接当作运行时内存峰值。

Ollama的/api/ps用于列出当前运行模型,返回的内容可帮助核对模型身份与内存相关信息。将这份状态与系统监控对齐,区分“模型已卸载但网站仍慢”和“多个模型同时驻留”两种情况。不要只截一张内存百分比就判断一定是泄漏。

每次只改变一个变量

先把写作任务改为串行,用固定输入完成一个样本,再逐步增加并发。保持模型和上下文不变,记录每次的峰值内存、等待时间和成功数量。如果资源明显紧张,优先减少并发和无用上下文,再考虑更换模型或硬件。

网站与AI共用服务器时,应给网站和数据库保留运行空间,后台批处理可以排队等待。验收不只看模型有没有生成文字,还要同时检查网页是否可正常响应、任务是否重复执行。连续几轮固定样本没有持续增长,才有条件进一步扩大负载;不同模型的结果应分别记录,不能用一个经验数值替代所有环境。

官方参考

资料核对日期:2026年10月26日。

Ollama:List running models

本文新增价值
多个模型同时载入可能挤占网站资源。本文说明如何记录运行模型、上下文与并发数量,找到内存压力的来源,而不是盲目更换更大的服务器。本文补充适用边界、输入对照与验收方法;操作建议为综合整理,未将官方示例当成本网站实测结果。