AI资讯新闻榜单内容搜索-token

关键词: AI大模型,token,NLP,GPT

我基于结合大量示例及可视化的图形手段给大家科普了AI大模型的相关算法和核心概念。

关键词: 涌现,大模型,token,LLM

2023年，计算机领域都发生了哪些大事？Quanta Magazine的年终盘点来了。

关键词: 百川智能,192K上下文,5000万tokens

就在昨天，百川智能正式发布Baichuan2-Turbo系列API，192K的超长上下文窗口+搜索增强知识库，解决了困扰行业已久的大模型商用落地难问题。

关键词: 羊驼,LLM,token,羊驼模型

小羊驼团队的新研究火了。他们开发了一种新的解码算法，可以让模型预测100个token数的速度提高1.5-2.3倍，进而加速LLM推理。

关键词: AI,GPT-4,token

千亿级大模型正迅速耗尽世界的高质量数据。对此，英伟达和UT提出了MimicGen系统。从人工合成数据中获得人工智能，将是未来的发展方向。

关键词: PyTorch,LLM,AI模型,token

这两天，FlashAttention团队推出了新作： 一种给Transformer架构大模型推理加速的新方法，最高可提速8倍。 该方法尤其造福于长上下文LLM，在64k长度的CodeLlama-34B上通过了验证