最近的一系列研究表明，纯解码器生成模型可以通过训练利用下一个 token 预测生成有用的表征，从而成功地生成多种模态（如音频、图像或状态 - 动作序列）的新序列，从文本、蛋白质、音频到图像，甚至是状态序列。
即使最强大的 LLM 也难以通过 token 索引来关注句子等概念，现在有办法了。
每个token只需要5.28%的算力，精度就能全面对标Llama 3。
当火山引擎要在阿里的腹地与其贴脸开打，还有一场场硬仗等待着他。
经济观察报注意到，目前降低的只是调用大模型应用程序编程接口（API）的费用。与这一费用相比，客户使用云服务后，付费环节更多、付费额度更高。
自 5 月 6 日 DeepSeek 提出降价、实现百万 Tokens 输入 1 元开始，字节、智谱、阿里、百度、讯飞、腾讯等也先后加入到降价浪潮中。到 5 月 22 日，ERNIE Speed、ERNIE Lite、讯飞星火 Lite、混元-lite 模型等均已实现限定条件下免费。
既能像 Transformer 一样并行训练，推理时内存需求又不随 token 数线性递增，长上下文又有新思路了？
英伟达股价，盘后首次冲破1000美元大关！
5 月 21 日上午，阿里云在其例行峰会上，意外地释放了大降价的消息：通义千问 GPT-4 级主力模型推理输入价格降至 0.5 元/百万 tokens，直降 97%。
再等等是不是都能用免费的了。
