OpenAI悬赏25,000美元奖金征集：AI带来的灾难性预测建议！
OpenAI悬赏25,000美元奖金征集：AI带来的灾难性预测建议！OpenAI它成立了一个新团队来评估和探索人工智能模型，以防范其所描述的“灾难性风险”。
来自主题: AI资讯
3874 点击 2023-10-27 09:07
# 热门搜索 #
大模型
人工智能
openai
融资
chatGPT
OpenAI它成立了一个新团队来评估和探索人工智能模型，以防范其所描述的“灾难性风险”。
一家叫HiddenLayer的公司打造了一个全面的安全平台，它提供即插即用的AI安全性，不会从AI模型的层面增加不必要的复杂性，也不需要访问原始数据和算法。最近，这家公司获得了5000万美元的A轮融资，这是截至目前AI安全领域金额最高的A轮融资。
征求意见稿首次提出生成式AI服务提供者需遵循的安全基本要求，涉及语料安全、模型安全、安全措施、安全评估等方面，给出了语料及生成内容的主要安全风险共5类31种。
人工智能价值对齐（AI alignment）是关涉AI控制与AI安全的重要问题，随着人工智能的飞速发展和广泛应用，人工智能可能带来的风险和挑战也日益凸显，由此，“价值对齐”问题开始被广泛讨论和提及。