AI资讯新闻榜单内容搜索-推理芯片

AITNT-国内领先的一站式人工智能新闻资讯网站
# 热门搜索 #
搜索: 推理芯片
OpenAI推出自研AI芯片应对推理需求,2026年亮相

OpenAI推出自研AI芯片应对推理需求,2026年亮相

OpenAI推出自研AI芯片应对推理需求,2026年亮相

据路透社消息,OpenAI的首款自主研发AI芯片将于2026年亮相。此芯片由博通(Broadcom)负责设计,台积电(TSMC)进行代工,表明OpenAI开始深入硬件领域。该举措旨在通过定制推理芯片,降低运营成本、优化AI推理环节的效率,同时提高芯片供应链的灵活性和安全性。

来自主题: AI资讯
6574 点击    2024-10-30 18:58
只要千元级,人人可用百亿级多模态大模型!国产「AI模盒」秒级训练推理

只要千元级,人人可用百亿级多模态大模型!国产「AI模盒」秒级训练推理

只要千元级,人人可用百亿级多模态大模型!国产「AI模盒」秒级训练推理

【新智元导读】从今天起,千元级就能解锁专属大模型了!这款搭载首颗纯国产14nm Chiplet大模型推理芯片的「深目」AI模盒,可以轻松实现百亿级参数多模态大模型的推理+微调。各种碎片化长尾算法,直接秒级生成!

来自主题: AI技术研报
9050 点击    2024-03-29 16:03
英伟达的挑战者Groq ,在LPU上押对了什么?

英伟达的挑战者Groq ,在LPU上押对了什么?

英伟达的挑战者Groq ,在LPU上押对了什么?

在英伟达市值超过2万亿位居全球第三之后,谁能挑战它赖以生存的GPU芯片?

来自主题: AI资讯
7654 点击    2024-03-11 17:00
英伟达的挑战者Groq ,在LPU上押对了什么?

英伟达的挑战者Groq ,在LPU上押对了什么?

英伟达的挑战者Groq ,在LPU上押对了什么?

2月19日以来,这款LPU持续成为热点,担当起英伟达GPU挑战者的角色。英伟达的主力芯片H100一卡难求,这给Groq公司带来了机会。

来自主题: AI资讯
6443 点击    2024-03-11 10:35
运行LIama2得8400万元!最快AI推理芯片成本推算引热议

运行LIama2得8400万元!最快AI推理芯片成本推算引热议

运行LIama2得8400万元!最快AI推理芯片成本推算引热议

这两天,Groq惊艳亮相。它以号称“性价比高英伟达100倍”的芯片,实现每秒500tokens大模型生成,感受不到任何延迟。外加谷歌TPU团队这样一个高精尖人才Buff,让不少人直呼:英伟达要被碾压了……

来自主题: AI资讯
5395 点击    2024-02-21 16:39