黄仁勋称AGI已至遭反驳,DeepMind科学家指Astra未达OpenAI标准
英伟达CEO黄仁勋近日在社交媒体上宣布AGI已到来,引发争议。谷歌DeepMind联合创始人Shane Legg公开质疑这一说法,认为GPT-6 Astra尚未达到OpenAI定义的AGI标准,并警告...
9月17日,英伟达CEO黄仁勋在社交媒体上发表言论,宣称"AGI已经到来",并以OpenAI最新发布的GPT-6 Astra模型作为依据。这一表态立即引发业内广泛讨论,特别是来自人工智能领域权威人士的反对声音。
谷歌DeepMind联合创始人兼首席AGI科学家Shane Legg在接受媒体采访时表示,目前宣布人类进入AGI时代仍为时过早。Legg指出,GPT-6 Astra虽然能够完成一些令人印象深刻的任务,但其能力尚未达到OpenAI自己订立的AGI标准。OpenAI曾在公司章程中将AGI定义为"在大多数具有经济价值的工作上超越人类的高度自主系统",而Legg认为Astra在这方面仍有明显差距。
Legg强调,尽管近期AI模型能力确实有显著提升,但距离实现真正意义上的通用人工智能(AGI)还有很长一段路要走。他仍然维持此前的预测,即到2028年实现"最低限度AGI"的概率约为50%。作为"AGI"术语的早期提出者之一,Legg对当前AI发展速度表示担忧,特别是安全机制未能跟上技术进步的步伐。
"AI能力的发展速度非常快,但安全措施必须同步跟进,"Legg在接受《金融时报》采访时说道。"我们不能让能力进步领先于安全保障水平。"为了应对这一挑战,DeepMind正式推出了DeepMind Institute,由Legg与DeepMind董事长Demis Hassabis、谷歌高级副总裁James Manyika共同领导。该机构将研究AGI对科学、教育、社会等领域的影响,并致力于推动更广泛的社会讨论。
值得注意的是,DeepMind Institute首批发布的三篇文章中,有一篇专门针对GPT-6 Astra的发布速度提出了批评。文章指出,Astra在推理过程透明度方面呈现出"令人担忧的下降趋势",这可能与AI公司之间的竞争压力有关。研究人员建议,在模型设计阶段就应加入保障透明度的机制,以确保行业能够继续开发更强大的AI系统。
与此同时,黄仁勋在9月14日举行的All-In Summit活动上再次强调了他对AI发展的乐观态度。他认为,当前最前沿的实验室已经达到了AGI的标准,特别是在处理复杂问题和拥有强大算力方面。黄仁勋还表示,AI安全应该被视为一个工程问题,通过根因分析、沙箱测试和持续监控等手段来解决,而不是因为未经证实的末日论而放慢发展步伐。
这场关于AGI是否到来的争论,反映了人工智能领域正在经历的关键转折点。随着技术的快速进步,如何平衡创新与安全、如何定义AGI的标准、以及如何制定相应的监管框架,都将成为未来几年需要重点探讨的问题。