贾扬清点赞：3K star量的SGLang上新，加速Llama 405B推理秒杀vLLM、TensorRT-LLM
贾扬清点赞：3K star量的SGLang上新，加速Llama 405B推理秒杀vLLM、TensorRT-LLM用来运行 Llama 3 405B 优势明显。
来自主题: AI技术研报
10756 点击 2024-07-27 19:22
# 热门搜索 #
大模型
人工智能
openai
融资
chatGPT
搜索
用来运行 Llama 3 405B 优势明显。
KAN 在符号表示中领先，但 MLP 仍是多面手。
让模型知道自己擅长什么、不擅长什么是一个很重要的问题。
搜索引擎市场老二微软Bing引进AI搜索功能，集传统搜索结果和AI搜索结果于一体，这次，能撼动老大哥谷歌搜索的江山吗？
最近，外媒给OpenAI算了笔账，今年可能要血亏50亿美元。
牛津剑桥的9次投毒导致模型崩溃的论文，已经遭到了诸多吐槽：这也能上Nature？学术圈则对此进行了进一步讨论，大家的观点殊途同归：合成数据被很多人视为灵丹妙药，但天下没有免费的午餐。
寻隐（英文名 Queryable）是一款 iOS 上的 AI 照片搜索软件，支持用户使用自然语言搜索本地照片。软件诞生的契机是 OpenAI 发布的 CLIP 模型。
据 Runway 前员工向 4m 的爆料，Runway 公司里几乎是全员都会在这个表格里录入数据，用来训练他们自家的模型。表格里搜集的油管视频，他们是用开源软件 YouTube-DL 下载的，为了防止被 Youtube 封禁，Runway 还找供应商买了专门的代理，用这些代理 IP 地址来下载视频。
2024巴黎奥运展示AI技术，中国科技大放异彩。
Ellie是一条金毛犬，狗主人对着手机上一款APP应用发了一段语音：“HI Ellie，你能给我拿下遥控器吗？”