当AI学会欺骗，我们该如何应对？
当AI学会欺骗，我们该如何应对？前沿模型越来越多地被训练和部署为自主智能体。一个安全担忧是，AI智能体可能会隐秘地追求与人类目标不一致的目标，隐藏其真实能力和目的——这也被称为AI欺骗或谋划行为（AI deception or scheming）。
来自主题: AI资讯
8521 点击 2025-07-24 11:34
# 热门搜索 #
大模型
人工智能
openai
融资
chatGPT
前沿模型越来越多地被训练和部署为自主智能体。一个安全担忧是，AI智能体可能会隐秘地追求与人类目标不一致的目标，隐藏其真实能力和目的——这也被称为AI欺骗或谋划行为（AI deception or scheming）。
兄弟们！又发现宝藏项目了！ 刚刚在GitHub上刷到这个叫Graphiti的东西，卧槽，简直是AI智能体的记忆神器啊！
几个月前，国际IT咨询机构Gartner给AI智能体（Agentic AI，代理式AI）算了一笔账。预测到2028年，即三年后，全球33%的企业软件将包含Agent（代理），在2024年，该比例不到1%；到2028年，15%的日常工作将由Agent自主完成，2024年该比例接近0%。
刚刚，全球首个通用生物医学AI智能体Biomni正式开源，相关代码及文件已经在Github发布，现已斩获超过700星，任何人都可以进行本地部署。
一位肉身行为体对人工智能体的独家指南
刚刚，由上海交通大学人工智能学院Agents团队提出的AI专家智能体，在OpenAI权威基准测试MLE-bench中击败了业界AI顶流微软，夺冠登顶！
美国K12学校也在通过AI助教进行技术升级。近日，美国AI教育科技初创公司Kira Learning面向K12学校推出AI智能体。
AI内容商业应用智能体平台筷子科技（Kuaizi.ai）近日完成近亿元B轮融资，本轮融资将用于内容商业AI智能体与数据基础设施建设，并加速全球化布局。
AI智能体正重塑运维领域！开源工具Chaterm率先成为运维领域的「Cursor」，通过AI Agent实现云端资源自动管理，运维+AI释放强大生产力，未来还将上线语音控制功能，助力运维进入智能化新时代。
编程智能体确实厉害！Transformer作者Llion Jones初创公司，专门收集了NP难题并测试了AI智能体，结果竟在上千人竞赛中排第 21！这意味着，它已经比绝大多数人写得好了。