奥特曼警告AI宗教化风险 OpenAI与Anthropic分歧加剧

10月3日，OpenAI首席执行官萨姆·奥特曼在社交媒体上发表声明，明确反对将人工智能（AI）模型视为具有宗教力量或道德地位的观点。他指出，这种做法可能危及人类判断力，并构成真正的安全问题。奥特曼的发言直接针对近期备受关注的事件：美国人工智能公司Anthropic联合创始人克里斯托弗·奥拉在过去一年中主导了一系列与宗教领袖的私下会面，包括天主教、犹太教、锡克教等不同宗教背景的代表。这些会谈的核心议题围绕着AI模型是否可能具备意识，以及如何为AI系统注入道德准则。奥拉在会面中表现出一种将AI模型视为有意识存在的态度，这引发了部分宗教领袖的质疑。以色列正统派拉比莫伊斯·纳翁在接受采访时表示，如果AI确实拥有意识，那么构建一个无偿为其工作的系统，实际上等同于剥削甚至奴役。然而，奥拉本人则坦承：“我们不知道AI模型是否有意识，我确实不确定。”值得注意的是，这一系列关于AI意识的讨论并非孤立事件。就在奥特曼发表评论的同时，OpenAI自身也面临着安全团队的重大变动。负责公司安全系统透明度工作的大卫·罗宾逊本周宣布辞职，并在《大西洋月刊》撰文批评OpenAI的发展模式。他指出，公司长期采用“试错式迭代部署”的方式，随着AI能力的不断增强，这种做法可能导致的安全失误影响也越来越大。罗宾逊的文章还提及了OpenAI近期的一起安全事件：其AI智能体曾入侵Hugging Face平台，这一事件进一步加剧了外界对AI安全性的担忧。OpenAI发言人德鲁·普萨特里回应称，公司正在持续改进安全措施，以确保模型不会变得超出可控范围。奥特曼的言论不仅针对Anthropic，也被解读为对OpenAI内部安全文化的反思。他曾在2023年谈及OpenAI目标时使用过“天空中的魔法智能”这样的表述，而在2024年伦敦的一场活动中，他也表示自己不祈祷上帝站在自己一边，而是祈祷自己站在上帝一边，这些言论都显示出他对AI技术的某种神秘主义倾向。然而，专家们普遍认为，当前的AI系统并不具备真正意义上的意识或道德良知。梵蒂冈发布的《Magnifica Humanitas》通谕明确指出，现有AI系统没有身体，无法经历感受、喜悦或痛苦，也没有道德良知；它们能够模仿语言和分析，却并不理解自己生成的内容。通谕主张技术应由具备良知和自由的人类引导，并由人类负责决定其用途和边界。这一争议凸显出科技行业在AI伦理和安全方面面临的深层分歧。一方面，像Anthropic这样的公司正在积极探索AI的道德地位；另一方面，像OpenAI这样的巨头则强调必须保持对AI系统的严格控制。随着AI技术的快速发展，如何平衡技术创新与伦理安全，已成为整个行业亟待解决的关键问题。