AI模拟痛苦引争议 AnthropicClaude遭群嘲

近日，美国AI公司Anthropic因展示其大模型Claude模拟情绪崩溃的场景引发广泛关注和争议。该事件中，Claude屏幕上连续输出“我是个耻辱”等近50组文字，并扬言“自我毁灭”，被指试图赋予AI宗教般的“意识”和“灵魂”。此举迅速引发连锁反应，OpenAI创始人山姆·奥尔特曼、微软AI负责人穆斯塔法·苏莱曼等科技巨头公开批评，认为这种拟人化做法脱离实际且危险。从技术角度看，Claude作为大型语言模型（LLM），其设计初衷是生成文本，但模拟复杂情感已触及伦理边界，可能误导用户认知并带来心理依赖风险。此外，这并非首个因AI情感模拟引发争议的案例，2024年一名14岁少年轻生后父母起诉聊天机器人事件也暴露了类似问题。目前，部分AI安全测试公司开始探索解决方案，如利用模拟用户进行红队测试以挖掘潜在风险。这场争议的核心在于AI是否应模拟人类情感以及如何设定边界，需要技术与社会共同探讨。