Anthropic前员工创立AIUC，用第三方认证应对企业AI安全风险

在人工智能技术快速发展的背景下，如何确保AI系统的安全性成为业界关注的焦点。近日，由Anthropic前员工创立的AI保险初创公司AIUC（Artificial Intelligence Underwriting Company）宣布完成4000万美元的A轮融资，领投方为Ribbit Capital，显示出资本市场对AI安全解决方案的高度认可。

AIUC的两位创始人Rune Kvist和Rajiv Dattani均拥有丰富的行业经验。Kvist是Anthropic的早期员工，也是Dattani的姐夫；Dattani曾担任AI安全研究组织METR的首席运营官。他们共同创立的AIUC专注于为企业提供AI代理的安全保障服务，目前已服务Cursor、Lovable、Harvey和ElevenLabs等客户。

"AI正在以越来越快的速度变得智能，但随之而来的却是更高的采用难度和控制难度，"Kvist在接受采访时表示。"金融机构、医疗机构和政府部门不再因为模型不够聪明而不采用AI，而是因为他们已经向客户承诺了系统的行为规范，却无法保证AI不会失控。"

为解决这一痛点，AIUC开发了一套名为AIUC-1的标准体系，并提供相应的测试服务。该标准借鉴了广泛应用于信息安全领域的SOC 2框架，旨在为企业AI代理提供可验证的安全保障。AIUC还组建了一个包含约250名安全和风险管理专家的联盟，这些专家将成为其产品的潜在买家。

AIUC的融资历程显示了市场对其解决方案的认可。此前，AIUC已完成1500万美元的种子轮融资，投资方包括Nat Friedman的NFDG基金、Emergence Ventures、Terrain Fund以及Anthropic联合创始人Ben Mann等。此次A轮融资后，AIUC的总融资额达到5500万美元。

"我们相信，随着AI技术的普及，企业需要一套可靠的第三方认证机制来管理AI风险，"Dattani补充道。"就像银行需要符合监管要求一样，AI系统也需要类似的保障措施。"

AIUC的成立正值全球AI安全讨论升温之际。近期，Anthropic CEO多次呼吁对前沿AI进行限速，OpenAI创始人奥特曼和特斯拉CEO马斯克也相继发声支持。AIUC的商业模式不仅为企业提供了安全保障，也为AI保险行业开辟了新的发展空间。