图灵奖的获奖者们，担心成为 AI 界的「奥本海默」
图灵奖的获奖者们，担心成为 AI 界的「奥本海默」1947 年，艾伦·图灵在一次演讲中提到「我们想要的是一台能够从经验中学习的机器」。
来自主题: AI资讯
7061 点击 2025-03-12 09:42
# 热门搜索 #
大模型
人工智能
openai
融资
chatGPT
搜索
1947 年，艾伦·图灵在一次演讲中提到「我们想要的是一台能够从经验中学习的机器」。
武汉大学等发布了一篇大型视觉语言模型（LVLMs）安全性的综述论文，提出了一个系统性的安全分类框架，涵盖攻击、防御和评估，并对最新模型DeepSeek Janus-Pro进行了安全性测试，发现其在安全性上存在明显短板。
杜克大学计算进化智能中心的最新研究给出了警示性答案。团队提出的 H-CoT（思维链劫持）的攻击方法成功突破包括 OpenAI o1/o3、DeepSeek-R1、Gemini 2.0 Flash Thinking 在内的多款高性能大型推理模型的安全防线：在涉及极端犯罪策略的虚拟教育场景测试中，模型拒绝率从初始的 98% 暴跌至 2% 以下，部分案例中甚至出现从「谨慎劝阻」到「主动献策」的立场反转。
国家网络安全通报中心昨天扔了个"炸弹"：大模型工具Ollama有安全漏洞！ 相信不少人用ollama来跑DeepSeek、Llama等模型，确实很方便。可通报里说，它默认开放的11434端口跟没锁的大门似的，谁都能进。今天就和你就说一下 这到底是怎么回事？顺便手把手教你几招，保住你的算力和隐私。
只要一句话，就能让DeepSeek陷入无限思考，根本停不下来？
OpenAI前CTO Murati离职后，终于官宣新动向！她创立的「思考机器实验室」汇聚了OpenAI、谷歌DeepMind等顶尖AI人才，包括OpenAI联合创始人Schulman、前安全副总Lilian Weng等。
在今年春节期间，最近国产的推理大模型DeepSeek R1很火，我们经过实测，推理效果非常棒，可以说是阶段性的技术突破。
2025年春节，正当千万人沉浸在团圆的喜悦中，DeepSeek，这家被誉为“中国版OpenAI”的AI明星企业，却迎来了有史以来最严重的安全危机：攻击规模：黑客发起了史无前例的3.2Tbps DDoS攻击，相当于每秒钟传输130部4K电影；
AI时代隐私保护遭遇新挑战
在当今迅速发展的人工智能时代，大语言模型（LLMs）在各种应用中发挥着至关重要的作用。然而，随着其应用的广泛化，模型的安全性问题也引起了广泛关注。