搜索
出走OpenAI的超级对齐团队负责人Jan Leike，刚刚官宣了自己加入Anthropic的消息，并且开始高调招兵买马。同时，外界也开始对Ilya的去向纷纷猜测：是去Anthropic，xAI，还是自立门户？
一直以来 AI 都是一个黑盒子（black box），其内部运作机制是不可见的。人们输入数据并得到结果，但无法检查输出结果的逻辑或者系统的代码。 而就在刚刚，Anthropic 宣布在理解人工智能模型内部运作机制方面取得重大进展。
2023年5月，美国白宫举办了一场AI主题闭门会，嘉宾名单汇聚了中青少三代——老资历谷歌、微软，新星OpenAI，初创的Anthropic，却唯独没有Meta。
刚刚，Anthropic 宣布在理解人工智能模型内部运作机制方面取得重大进展。
Anthropic发布最新Claude宪法，兼具标准性和灵活性。语言模型如何决定它将涉及哪些问题，哪些问题它认为不合适涉及？为什么它会鼓励某些行为，而阻止另一些行为？语言模型有哪些「价值观」？
Claude，深夜突然大放送iOS版本！
大家相互薅羊毛，要用，但要小心用，一不小心就尴尬了。 一位国产大模型算法工程师在接受「甲子光年」采访时的吐槽，可以说是非常到位了。 它准确地阐述 AI 业内一个所有人「心照不宣」的公开秘密。
人工智能模型在对话说服力方面表现如何？
关注 OpenAI核心创始成员Andrej Karpathy 深度分享AI大模型发展及Elon管理法则。近日，OpenAI核心创始成员Andrej Karpathy（已于24年2月离职）在红杉资本进行了一场精彩的分享。
OpenAI的竞争对手Anthropic发现了一种称为"多样本越狱攻击"的漏洞，可以绕过大型语言模型的安全防护措施。这种攻击利用了模型的长上下文窗口，通过在提示中添加大量假对话来引导模型产生有害的反应。虽然已经采取了一些缓解措施，但该漏洞仍然存在。