OpenAI重拾规则系统，用「AI版机器人定律」守护大模型安全
OpenAI重拾规则系统，用「AI版机器人定律」守护大模型安全在大算力和大数据让基于统计的 AI 模型真正变得强大且有用之前，基于规则的系统长期以来是语言模型的主导范式。
来自主题: AI技术研报
5277 点击 2024-11-06 14:57
# 热门搜索 #
大模型
人工智能
openai
融资
chatGPT
在大算力和大数据让基于统计的 AI 模型真正变得强大且有用之前，基于规则的系统长期以来是语言模型的主导范式。
一个是开源，一个是MoE （混合专家模型）。 开源好理解，在大模型火热之后，加入战局的腾讯已经按照它自己的节奏开源了一系列模型，包括混元文生图模型等。
近年来，生成式大型语言模型（LLMs）在各类语言任务中的表现令人瞩目，但在医疗领域的应用面临诸多挑战，尤其是在减少诊断错误和避免对患者造成伤害方面。
西风
创业中最危险的一句话：「我以后会赚钱」。 我开发的 AI 应用有 25 万用户，我感觉要起飞了，于是辞掉工作，准备大干一番。 结果没想到开局即巅峰，突然就完蛋了。 这几天，一个悲催的程序员创业故事在社交网络上流传，引发了人们的深思。
视觉语言模型（如 GPT-4o、DALL-E 3）通常拥有数十亿参数，且模型权重不公开，使得传统的白盒优化方法（如反向传播）难以实施。
复刻OpenAI o1推理大模型，开源界传来最新进展： LLaMA版o1项目刚刚发布，来自上海AI Lab团队。
来自中科大等单位的研究团队共同提出了用来有效评估多模态大模型预训练质量的评估指标 Modality Integration Rate（MIR），能够快速准确地评估多模态预训练的模态对齐程度。
利用语言模型调用工具，是实现通用目标智能体（general-purpose agents）的重要途径，对语言模型的工具调用能力提出了挑战。
![[重磅-万字长文]千亿美金市值美国AI政企服务巨头Palantir产品及商业化全面解析](https://www.aitntnews.com/pictures/2024/11/4/a06de2f8-9a52-11ef-b76d-fa163e4b35c9.gif)
本文介绍了千亿美金市值，美国服务政企的AI高科技企业Palantir公司及其核心软件平台Gotham和Foundry，以及新产品大模型人工智能平台AIP和Apollo，它们旨在帮助政府和商业组织解决复杂问题，并利用数据做出更有效的决策。