这其实就是落入了Goodhart's law的陷阱。 Goodhart's Law 最初由英国经济学家查尔斯·古德哈特(Charles Goodhart)提出。该法则的基本内容是:「当某个指标成为目标时,它就不再是一个好的指标。」这意味着,当人们开始直接优化某一指标以达成某一目标时,该指标就会失去作为评价实际表现的准确性。 当这三个测试集成...
Goodhart's Law 最初由英国经济学家查尔斯·古德哈特(Charles Goodhart)提出。该法则的基本内容是:「当某个指标成为目标时,它就不再是一个好的指标。」 这意味着,当人们开始直接优化某一指标以达成某一目标时,该指标就会失去作为评价实际表现的准确性。
Goodhart's Law 最初由英国经济学家查尔斯·古德哈特(Charles Goodhart)提出。该法则的基本内容是:「当某个指标成为目标时,它就不再是一个好的指标。」 O为什么国产大模型都说超越ChatGPT而体验却很... 为什么国产大模型都说超越ChatGPT而体验却很拉?警惕 Goodhart's law 陷阱 最近不少国产大...
英国经济学家Charles Goodhart曾经说过一句话'When a measure becomes a target, it ceases to be a good measure’, 翻译成中文就是当一项衡量指标成为目标时,它就不再是一项好的衡量指标了。这句话在后来被管理学界称之为Goodhart's Law古哈法则。该原则表明,当管理者把一个特定的指标设定为系统的主要目标或...