讨论开放权重模型微调边缘案例数据集构建
原文：What's the hardest part of creating edge cases for fine-tuning open-weight models? [D]
我感兴趣的是人们如何为微调开源权重模型构建数据集，尤其是当目标在于让模型处理边缘案例，而不仅仅是在常见示例上表现良好时。我好奇的是这一过程中的数据层面。发现边缘案例：你如何识别那些罕见或不寻常的边缘案例？另外，你如何在现有数据集上构造边缘案例，使其更贴合你的特定需求？生成示例：你是自己编写，还是用一个强大的模型生成合成数据、挖掘真实数据等？质量控制：你如何发现错误、重复或不切实际的示例？覆盖度：你如何判断你的数据集已经覆盖了足够多真正重要的失败案例？衡量影响：你是否遇到过增加更多边缘案例反而让模型变差或未能带来提升的情况？由 /u/Humble-Shopping-9495 提交 [链接] [评论]