大模型安全屡爆漏洞,巨头团队频繁换血仍无解
Anthropic、OpenAI和谷歌Gemini等三大巨头接连曝出大模型安全问题,包括越狱、逃逸等事件。尽管安全团队经历多轮人事变动,但核心对齐难题仍未解决。...
共 178 篇相关文章
Anthropic、OpenAI和谷歌Gemini等三大巨头接连曝出大模型安全问题,包括越狱、逃逸等事件。尽管安全团队经历多轮人事变动,但核心对齐难题仍未解决。...
近期,Anthropic、OpenAI等AI巨头罕见达成共识,呼吁放慢前沿AI模型研发速度。然而,在技术竞争和资本压力下,单方减速可能被竞争对手超越。更复杂的是...
近期,Anthropic和OpenAI等硅谷AI巨头相继释放放缓前沿AI开发的信号,引发市场对AI发展逻辑转变的关注。本文梳理了AI自我改进技术(RSI)的发展...
近期,AI行业迎来两大焦点事件:智谱AI因数据隐私问题公开道歉并承诺整改;同时,万亿AI巨头Anthropic将IPO时间推迟至11月。文章梳理了两家公司在技术...
VentureBeat最新调查显示,OpenAI的企业代理平台在33%的受访企业中被选为首选,远超Anthropic的11%。尽管Claude在Anthropi...
近日,AI 领域引发广泛关注。Anthropic CEO 达里奥·阿莫代伊公开呼吁行业暂缓 AI 大模型发展速度,以确保安全研究跟上技术进步。马斯克和 Open...
近日,网络安全初创公司Hacktron AI的研究人员借助Anthropic的Claude模型,在不到72小时内成功入侵OpenAI内部代码仓库。该事件揭示了A...
近期,Anthropic CEO Dario Amodei发布长文呼吁AI发展减速,马斯克和OpenAI Altman相继附议。然而Meta扎克伯格公开反对,认...
人工智能公司 Anthropic 表示,其旗舰模型 Claude 已主导公司 26% 的 AI 研发工作,并协助完成约 90% 的相关任务。这一数据标志着 AI...
9月16日,Anthropic宣布将Claude Cowork与Chat功能整合至单一界面,同时推出Claude Docs和Claude Slides两款新工具...
近日,Telegram市场出现售卖AI智能体访问权限的黑色产业链,涉及Anthropic等多家公司模型。报告显示,非人类身份与人类身份比例已达75:1,但多数企...
随着AI技术快速发展,Anthropic CEO Dario Amodei提出引入第三方审计以确保AI安全,但网络安全专家认为企业应先加强自身基础安全措施。美国...