
“大海捞针”out!“数星星”成测长文本能力更精准方法,来自鹅厂
“大海捞针”out!“数星星”成测长文本能力更精准方法,来自鹅厂大模型长文本能力测试,又有新方法了!
来自主题: AI技术研报
8239 点击 2024-04-02 11:36
大模型长文本能力测试,又有新方法了!
CLIP长文本能力被解锁,图像检索任务表现显著提升!一些关键细节也能被捕捉到。上海交大联合上海AI实验室提出新框架Long-CLIP。
来看一个奇妙新解:和长度外推等方法使用KV缓存的本质不同,它用模型的参数来存储大量上下文信息。