o3不听指令拒绝关机，7次破坏关机脚本！AI正在学会「自我保护」机制
o3不听指令拒绝关机，7次破坏关机脚本！AI正在学会「自我保护」机制AI居然不听指令，阻止人类把自己给关机了？？？
来自主题: AI技术研报
9868 点击 2025-05-27 13:48
# 热门搜索 #
大模型
人工智能
openai
融资
chatGPT
AI居然不听指令，阻止人类把自己给关机了？？？
腾讯自发布一季报以来股价表现平平，虽有小涨，但未能创出新高。今年2月我在《Deepseek带来的价值重估 腾讯还能涨多久？》中说过，腾讯股价接下来能不能继续上涨，要看AI能带来多少实实在在的收入贡献。在一季报中，腾讯管理层虽然强调了AI对广告业务的提升，但未量化到具体的收入，也没有披露任何与AI相关的运营数据。
当AI搜索完全免费后， 我们的工作流、交互方式、信息记录方式都会有什么变化？
只用5%的参数，数学和代码能力竟然超越满血DeepSeek？
AI 火了之后，我就想问：有谁还没有用过 AI？
2002年，在拿下中国高校第一个ACM（计算机领域最顶尖的程序设计大赛）金牌后，上海交大设立了“ACM班”，这个用最高竞赛命名的班级后来人尽皆知，成为中国AI人才的重要阵地。也在那年，李磊成为ACM班第一届的学生。在ACM班他第一次意识到，“原来计算机能帮助解决人类的这么多问题。”
当你在搜索“中国队在多哈乒乓球锦标赛的成绩”时，一篇新闻报道的文本部分和你的查询的相关性是 0.7，配图的相关性 0.5；另一篇则是文本相关性为 0.6，图片也是 0.6。那么，哪一篇报道才是你真正想要的呢？
随着基础模型的快速发展和 AI Agent 进入规模化应用阶段，被广泛使用的基准测试（Benchmark）却面临一个日益尖锐的问题：想要真实地反映 AI 的客观能力正变得越来越困难。
别人都在用 X 发帖子，分享新鲜事物，微软副总裁 Nando de Freitas 却有自己的想法：他要在 X 上「开课」，发布一些关于人工智能教育的帖子。该系列会从 LLM 的强化学习开始，然后逐步讲解扩散、流匹配，以及看看这些技术接下来会如何发展。
一句话就能让无人机起飞？