
CMU&清华新作:让LLM自己合成数据来学习,特定任务性能同样大幅提升
CMU&清华新作:让LLM自己合成数据来学习,特定任务性能同样大幅提升为了解决这个问题,一些研究尝试通过强大的 Teacher Model 生成训练数据,来增强 Student Model 在特定任务上的性能。然而,这种方法在成本、可扩展性和法律合规性方面仍面临诸多挑战。在无法持续获得高质量人类监督信号的情况下,如何持续迭代模型的能力,成为了亟待解决的问题。
来自主题: AI技术研报
5914 点击 2024-08-01 15:55