Inkling 2 Mini 发布:本地运行要多少内存
Thinking Machines Lab 开放 Inkling 2 Mini 权重,面向本地运行和智能体编码。本文解读二百六十四亿总参数、循环计算、官方约二十 GB 的内存口径,并说明如何为自己的电脑设计一轮可复查的试跑。
目录 · 9 节
Inkling 2 Mini 开放权重:约 20 GB 内存到底指什么?
Thinking Machines Lab 于 11 月 20 日发布 Inkling 2 Mini,同日模型卡记录了权重发布,创始人 Mira Murati 的公开介绍见于北京时间 11 月 21 日凌晨。这个模型可接收文字和图片,生成文本,面向本地运行、智能体编程与工具调用。官方称指定配置下整体内存占用约 20 GB,并展示了在一台 48 GB MacBook Pro 上离线创建飞行模拟器的案例。官方公告 · 官方模型卡
26.4B 总参数,为什么又有 3.4B 和 5.4B?
它采用混合专家架构,总参数为 264 亿,单次路径的活跃参数为 34 亿。模型在处理每个 token 时,将中间层运行三次。把循环计算计入,官方给出的每 token 权重激活量为 54 亿。总参数、活跃参数和计入循环的激活量反映的是三个不同口径。尤其在采购硬件时,不能按 34 亿参数模型来估算全套权重的容量。
循环机制的意义在于复用同一组中间层进行多轮计算。它让模型可以在多做内部计算的同时控制生成长度。任务如果主要考查冷门事实,额外循环也无法自动补进新知识。官方发布的测评分项显示,模型在部分编程题上较强,复杂约束和多轮对话仍有明显差距。Thinking Machines Lab 技术公告
大约 20 GB 能直接换算成电脑配置吗?
约 20 GB 来自发布方对特定权重精度和部署配置的说明。原生权重以 NVFP4 为主,最后四层使用 MXFP8。日常电脑还要给系统、其他应用、上下文缓存和推理后端留空间。即使两个安装包都能加载,打开较长项目文件或同时运行几个任务,内存占用和等待时间也可能迅速上升。官方演示所用的 48 GB Mac 提供了实际案例,但这个案例没有给出适用于所有设备的最低配置。Thinking Machines Lab 技术公告
首次试跑该记录什么
模型权重已在 Hugging Face 开放,发布方也列出了 Tinker 等使用路径。选择本地后端时,从官方模型卡确认适配版本及精度,再挑一项能快速验收的任务,例如给一个小脚本加上输入校验并运行已有测试。用相同输入和相同上下文重复一轮,记录测试是否通过、首次响应耗时和峰值内存。若第二轮明显变慢,再检查缓存、后台应用和上下文长度。这样更容易判断该模型适合临时辅助,还是能长期开着使用。
常见问题
Inkling 2 Mini 可以商用吗?
模型卡列出的许可证为 Apache 2.0。重新分发时应阅读随权重提供的许可证和说明文件。
它能直接生成图片吗?
模型卡列明的输入为文本和图片,输出为文本。图像输入可以用来理解素材或截图。
跑得动以后还要看什么?
检查长上下文下的稳定性、输出是否满足任务要求,以及它能否通过原有测试。需要长时间并行执行时,再测实际并发。
参考来源
- Thinking Machines Lab 发布公告(公告标注 2026-11-20)
- 官方 Hugging Face 模型卡(发布日期为 2026-11-20)
转载请注明出处:界智通 · https://www.jieagi.com/aizixun/758.html



暂无评论