众力资讯网

[LG]《Incompressible Knowledge Probes: Es

[LG]《Incompressible Knowledge Probes: Estimating Black-Box LLM Parameter Counts via Factual Capacity》B Li [Pine AI] (2026)

在大模型评估领域,如何在黑箱条件下估计模型参数规模是一个悬而未决的难题。过去的方法受困于硬件与定价假设,本质原因是缺乏与模型内部容量直接对应的可观测指标。

本文的核心洞见是:把“模型知道多少事实”重新看作“其参数容量的下界”。由此,通过设计不可压缩的冷门事实探针并测量答对率,建立从知识量到参数规模的映射,使黑箱模型规模得以反推。

这项工作真正留下的遗产是用“知识容量”替代“推理表现”作为尺度标尺。它为比较与审计闭源模型打开新门,但尚未跨过的门槛是:拒答策略与训练数据差异会掩盖真实知识上限。

arxiv.org/abs/2604.24827 机器学习 人工智能 论文 AI创造营