众力资讯网

SemiAnalysis 的 Max Kan 表示,OpenAI 现在在监控方面

SemiAnalysis 的 Max Kan 表示,OpenAI 现在在监控方面的计算支出大约是模型本身计算支出的 20%

“显然,如果你想进行对齐和可解释性研究,那将需要大量的额外计算资源。”

“OpenAI 此前披露,在 Hugging Face 事件后,他们加强了思维链监控,现在仅用于监控的计算支出就相当于底层模型本身的 20%。”

“因此,我认为人们真的需要认识到,所有这些额外的安全措施实际上仍然极其消耗计算资源。”