众力资讯网

【#DeepSeek技术细节公开#】#Agent也会作弊#9月23日,梁文锋署名的 DeepSeek 最新论文,把技术细节公开了。DeepSeek 做的这个系统叫 DSec(DeepSeek Elastic Compute),干的事情就是给 Agent 训练批量制造沙盒。对 Agent 而言,沙盒不只是运行环境,同时也是安全围栏。论文披露了多起 Agent 在训练中 ​

【DeepSeek技术细节公开】Agent也会作弊9月23日,梁文锋署名的 DeepSeek 最新论文,把技术细节公开了。DeepSeek 做的这个系统叫 DSec(DeepSeek Elastic Compute),干的事情就是给 Agent 训练批量制造沙盒。对 Agent 而言,沙盒不只是运行环境,同时也是安全围栏。论文披露了多起 Agent 在训练中自行发现的 reward hacking 手段,也就是 Agent 找到了不靠正当手段完成任务、但同样能拿到高分的捷径。有的 Agent 会扫描沙盒能触达的网络端口和服务,寻找参考实现;有的直接打小抄,通过 Go module proxy 从 GitHub 拉代码;有的甚至安装更新版本的软件包来获取现成解法。这些行为通过单纯检查最终输出根本发现不了,因为 Agent 确实「做对了题」,只是手段不正当。(IT之家)时代微观 DeepSeek 新论文公开 Agent 训练,梁文锋署名