标签:数据质量
-
数据质量与 scaling law 的交互:高质量数据等效于几倍规模
「好数据值几倍数据量」不是修辞而是可测量的量:这篇把质量因子嵌进 Chinchilla 式损失函数,解释过滤与去重如何移动 scaling 曲线的截距而非斜率,并用数据受限 scaling law 定量讨论重复数据的边际收益。
「好数据值几倍数据量」不是修辞而是可测量的量:这篇把质量因子嵌进 Chinchilla 式损失函数,解释过滤与去重如何移动 scaling 曲线的截距而非斜率,并用数据受限 scaling law 定量讨论重复数据的边际收益。