他不懂代码，却用 AI 黑掉 17 家医院和机构，Vibe Hacking 让全世界变成缅北
他不懂代码，却用 AI 黑掉 17 家医院和机构，Vibe Hacking 让全世界变成缅北AI 网络犯罪，已进入全自动时代。
来自主题: AI资讯
9347 点击 2025-09-04 13:26
# 热门搜索 #
大模型
人工智能
openai
融资
chatGPT
AI 网络犯罪，已进入全自动时代。
近日，「AI教父」Geoffrey Hinton在一次采访中再发预警：「杀手机器人」「无人机」等致命自主武器的兴起，正在让战争变得更易发动。Hinton认为OpenAI、Anthropic等许多AI公司在AI安全方面做得都不够。他还谈到了贪婪、自负等人性弱点，对AI研究可能带来的潜在风险。
近日，Anthropic更新了它的消费者条款，没想竟把网友惹怒了，有的还把以往的「旧账」都翻了出来。这次网友的反应为啥这么激烈？大家可能还记得在Claude上线之初，Anthropic就坚决表示不会拿用户数据来训练模型。这次变化不仅自己打脸，还把以往一些「背刺」用户的往事都抖搂出来了。
他曾是Ilya的亲信，因揭露OpenAI安全隐患被解雇，却在短短6个月内以47%回报打造出管理规模15亿美元的基金。作为AI安全激进派，他在165页论文《Situational Awareness》中预测2027年将迎来AGI，并呼吁建立「AI版曼哈顿计划」。
这是 Claude（Anthropic 的 AI 助手）今天更新了用户条款和隐私政策： 允许 Claude 使用你的聊天内容和编程会话，用于训练和改进 AI 模型。 默认是“同意”，可以手动去设置关闭。而且是要求用户在 2025 年 9 月 28 日前作出选择。
说个热知识，现在的大模型，也可以轻松被投广告了。 我们之前也确实发现过这类现象，当时是在研究一家做 GEO（生成式引擎优化）的公司。通过在网上堆出大量正面内容，把某个特定品牌、网站、课程甚至微商产品，默默地塞进了大模型推荐结果里。
OpenAI和Anthropic罕见合作！因为AI安全「分手」后，这次双方却因为安全合作：测试双方模型在幻觉等四大安全方面的具体表现。这场合作，不仅是技术碰撞，更是AI安全的里程碑，百万用户每天的互动，正推动安全边界不断扩展。
智东西8月26日报道，近日，美国浏览器公司Brave发布博客，称该公司在美国知名AI搜索独角兽Perplexity打造的AI浏览器Comet中发现了一个严重安全漏洞，攻击者可通过在网页中发布恶意指令，来操纵AI浏览器登录网站、访问邮箱、获取验证码，并将这些敏感信息发送给外部攻击者。全程耗时两分半，连普通人也能完成这种攻击。
近两年，AI的发展进入高速时代，产品层出不穷，更新速度惊人。从ChatGPT到DeepSeek，AI正逐渐渗透到所有人生活的方方面面。人们在享受AI带来的便利的同时，疑惑也层出不穷：AI会不会抢打工人的饭碗？老人和其他不太会使用AI工具的人会不会被社会淘汰？甚至还有终极的担忧——AI会不会发展到人类再也无法掌控的那一天？
AI 有意识吗？ 无论是古今中外的文艺作品中，还是 AI 迅猛发展的当下，好像都难以给出一个绝对的答案。