AI资讯新闻榜单内容搜索-tokens

关键词: token,上下文,智谱AI,AGI,GLM-3 Turbo,GLM-4

昨天刚刚在顶会ICLR作为特邀演讲（Invited Talk）中“国内唯一”的大模型玩家智谱AI，今天又放出了一个好消息

关键词: token,上下文,智谱AI,AGI,GLM-3 Turbo,GLM-4

在刚刚举行的 ICLR 2024 大会上，智谱AI的大模型技术团队公布了面向激动人心的AGI通用人工智能前景的三大技术趋势，同时预告了GLM的后续升级版本。

关键词: HuggingFace,开源模型,FineWeb,数据集,模型训练

Meta最近开源的Llama 3模型再次证明了「数据」是提升性能的关键，但现状是，开源的大模型有一堆，可开源的大规模数据却没多少，而收集、清洗数据又是一项极其费时费力的工作，也导致了大模型预训练技术仍然掌握在少数高端机构的手中。

关键词: token,Meta,Meta AI,模型训练

“预测下一个token”被认为是大模型的基本范式，一次预测多个tokens又会怎样？

关键词: 无问芯穹,无穹Infini-AI大模型,Infini-AI,无穹,国产大模型

百亿token补贴，4月起免费！这次的羊毛来自清华系AI公司无问芯穹，企业与个人皆可薅～这家公司成立于2023年5月，目标是打造大模型软硬件一体化最佳算力解决方案。

关键词: Llama2,AI推理芯片,GPU,Groq

这两天，Groq惊艳亮相。它以号称“性价比高英伟达100倍”的芯片，实现每秒500tokens大模型生成，感受不到任何延迟。外加谷歌TPU团队这样一个高精尖人才Buff，让不少人直呼：英伟达要被碾压了……

关键词: GPT,Groq,tokens

大模型提速，抢走英伟达饭碗

关键词: tokens,Mistral,MiniCPM,面壁智能

一个体量仅为2B的大模型，能有什么用？答案可能超出你的想象。

关键词: MiniCPM,Mistral-7B,Llama2-13B,token,小模型

2B性能小钢炮来了！刚刚，面壁智能重磅开源了旗舰级端侧多模态模型MiniCPM，2B就能赶超Mistral-7B，还能越级比肩Llama2-13B。成本更是低到炸裂，170万tokens成本仅为1元！

关键词: 大模型,模型训练,语料库,MathPile

当前智能对话模型的发展中，强大的底层模型起着至关重要的作用。这些先进模型的预训练往往依赖于高质量且多样化的语料库，而如何构建这样的语料库，已成为行业中的一大挑战。