
四行代码让大模型上下文暴增3倍,羊驼Mistral都适用
四行代码让大模型上下文暴增3倍,羊驼Mistral都适用无需微调,只要四行代码就能让大模型窗口长度暴增,最高可增加3倍!而且是“即插即用”,理论上可以适配任意大模型,目前已在Mistral和Llama2上试验成功。
来自主题: AI资讯
7642 点击 2024-01-08 14:33
无需微调,只要四行代码就能让大模型窗口长度暴增,最高可增加3倍!而且是“即插即用”,理论上可以适配任意大模型,目前已在Mistral和Llama2上试验成功。