26年前老年机跑Llama2,每秒39个token:你的AI PC,也可以是Windows 98
26年前老年机跑Llama2,每秒39个token:你的AI PC,也可以是Windows 98让 Llama 2 在 Windows 98 奔腾 2(Pentium II)机器上运行,不但成功了,输出达到 39.31 tok / 秒。
搜索
让 Llama 2 在 Windows 98 奔腾 2(Pentium II)机器上运行,不但成功了,输出达到 39.31 tok / 秒。
我们实测16个Prompt:生成速度比Sora还快,动漫效果行业SOTA。
事情是这样的,我今天刷信息流的时候注意到,蚂蚁集团今天发布了 2024 科技生态白皮书,展示了他们在论文、专利、开源、标准、产学研等几个方面的进展。
Artificial Analysis回顾今年人工智能的重大事件,梳理出了一份关于人工智能领域的年终总结。
视觉价值模型(VisVM)通过「推理时搜索」来提升多模态视觉语言模型的图像描述质量,减少幻觉现象。实验表明,VisVM能显著提高模型的视觉理解能力,并可通过自我训练进一步提升性能。
谷歌、亚马逊等巨头纷纷摆脱GPU依赖,于是英伟达选择押注机器人!现在,英伟达已开发了机器人全套解决方案,计划在明年年中发布全新一代人形机器人专用小型计算机Jetson Thor。全球机器人市场,或将迎来大爆发。
随着 o1、o1 Pro 和 o3 的成功发布,我们明显看到,推理所需的时间和计算资源逐步上升。可以说,o1 的最大贡献在于它揭示了提升模型效果的另一种途径:在推理过程中,通过优化计算资源的配置,可能比单纯扩展模型参数更为高效。
本期《元动力》行业研究专栏聚焦大模型带来的芯片端投资机会,分享者是元禾控股集成电路产业投资部投资经理周文杰,将从AI服务器的发展现状及挑战、芯片端的投资机会、行业发展趋势维度进行展开。
2024年终,AI大佬们纷纷发出预测。奥特曼表示,ASI将很快到来,18个月后,我们或许就将见证奇迹。LeCun表示,AGI两年内不会到来。但Hinton则认为,AI很可能在10年内,就会让人类灭绝!
近日,AIP GROUP完成天使轮融资,融资金额数百万美元,由算力基金Coevolution独家投资。AIP GROUP旗下产品AIPGPT为AI驱动的一站式IP短视频创作平台,自上线后已在国内、北美等多个城市和地区提供服务。