AGI大讨论

⚓ MetaAI 社区指北    📅 2025-09-04    👤 rico_admin    👁️ 42      

rico_admin

  • 通用人工智能(Artificial General Intelligence),是指具有高效的学习和泛化能力、能够根据所处的复杂动态环境自主产生并完成任务的通用人工智能体,具备自主的感知、认知、决策、学习、执行和社会协作等能力,且符合人类情感、伦理与道德观念 [1]。其研究发展通常涉及众多学科领域,包括计算机科学、认知科学、心理学、神经科学等。

昨天与好友深度探讨/思考AI发展方向和路径。即分散又收敛地探讨了几个问题:

1、为什么OpenAI的Sora团队拿不到算力支持:

在OpenAI O模型出来之前,推理能力/泛化能力作为AGI最重要的特点并没有深刻体现。人脑神经网络与现有主流的神经网络架构之间是否是一样的,在科学家/工程师中出现非常多不同的探讨。典型的比如杨立昆天天拉踩神经网络。但是当推理能力/泛化能力在OpenAI O模型/DeepSeek R1模型得到体现之后,并且在全世界最难的数学题目考试上获得超过人类的分数事件之后,大家对于当前神经网络架构就能够实现AGI这件事的认可度大幅提升。神经网络才是这次AI变化最深刻也是最难以理解和需要深度思考的部分。我们看OpenAI的Sora团队爆料的拿不到算力资源的这件事情上看,其实OpenAI对于如何增强大脑逻辑处理/泛化理解/这件事情的重视程度远远超过对于图片生成/视觉算法的关注。这背后的原因我们探讨下来,还是OpenAI团队这群碳基生物中的”大智慧者“做出了判断,基于神经网络下达成通用AGI的商业价值/社会价值相比其他模型/算法的商业价值/社会价值是无法比拟的。探讨中黄总举了一个形象的例子:一个没办法走路,也没办法画画的摊在轮椅上的“霍金”能够通过自己的大脑突破在天体物理学/理论物理学的难题并获得成就。这就证明了当AGI到来后,硅基智能将会在各个领域取代当前的“最强人类大脑”,进一步推动这一领域的进步。

2、AGI什么时候会到来:

AGI乐观派认为2027年,AGI中立派认为是2030年,AGI悲观派认为是2035年。在今年(2025年7月20日)OpenAI 投下了一枚重磅炸弹——他们用一款全新的「通用推理模型」,成功夺下了IMO 2025的金牌!6道题,解出5道,狂揽35分!这件事情黄总来讲打击很大。他一直认为数学乃是人类思维的瑰宝,需要通过严密的思考过程和“复杂”的推理逻辑将知识融汇贯通并且具备举一反三地能力才能获得正确地答案。这是真正验证AGI智能程度的“高地”。如果连难度极大地数学题人类都被AI超越,那么人类在推动科技发展/实现发明创造的方向上,可能也将无法坚守而被AI超越。但是这件事情被全世界不够敏锐的人们感知仍然需要一件重大的事件。就好比电力技术的突破带来的“工业革命”改写了世界的格局,但是仍然需要两次世界大战让掌握了先进生产力的国家让全人类都感知到。那么当AGI在人类目前无法触及的领域创造出科技突破之后,世界的格局又将会有哪种影响?我们还稍稍脑暴了一下,比如AGI利用现在人类所有的生物知识/制造技术/化学等知识,并研发出了一款新药成分,能够突破人类的基因锁/提高寿命上限。或者利用数学/物理等知识,发明了成本更低,制作严谨/逻辑可靠的皮米光刻机图纸,直接在科技上实现了相比现人类最高科技水平/工程水平的跨维度的突破。那对于这个世界,将会是一种什么样的变化?这种I事件一旦到来,现有各个国家的政客编制出来的政治制度是否又会像纸糊的一样被那些掌握了先进生产力的国家轻易划破?

3、我们人类将来在干什么:

随着AGI”突破“事件真实地落地和发生,人类将不再有脑力劳动的优势。财富也将向被AGI选中的少数人群所吸引。这群人是辅助AGI完成技术验证的工程师。而拥有超级智慧的AGI会创造出替代现有人类的工作的最高效的设备/替代物,大部分平凡的人类也不再需要工作。相反的,人文类的工作比如从事音乐/艺术/性等能给碳基生物带来神经愉悦的的情感消费的岗位将大量增长。甚至于有些国家会极大解放,曾经被严格禁止的精神类药物可能会被开放使用(在AGI能够低成本解决成瘾性问题后)。那时候的人类会放下工程师的仅存的那点骄傲。现在能够代表高科技的各行各业终将失守。从软件行业的角度讲,许多事情会失去意义。比如我们探讨到是否写一个AI操作系统,目标是将市面上的各种算力芯片比如英伟达/昇腾/寒武纪等这一系列的算子库都囊括进来,屏蔽底层的工程复杂度,能够为应用层调用模型提供统一的加速能力。但是这件事情在具备真正AGI能力的神经网络模型面前,重要吗?编写出来的代码可能在能力强大的AGI模型面前只是一堆过得去的代码。还需要模型自己操刀改写。当然,对于现阶段还需要恰饭的工程师来讲,这件事在这个阶段,还是具备商业价值的。

4、视觉AI/人形机器人重要吗:

虽然视觉领域最新的技术从卷积神经网络的算法走向了DiT(Diffusion Transformer (DiT) Models)。我们还是回头来看这件事:一个人从眼睛获取到的认知后,输入到大脑神经网络的数据本质上还是token input。所以AGI能力的提升是本质。而图像只需要找到一条路,让大脑能够像是认知文字向量一样认知图形向量,并且能够大差不差解码输出的图形向量就行。但是为AGI”画得像”这件事投入巨大并不值得。就好比人类画画一样,你永远只能说画得像”梵高“而不是你就是“梵高”。但是画的好并不能带来科技上得突破。这件事情应该留给人类去做。现在得人形机器人可能并没有什么真正意义上的“价值”。

当然我们还聊到了许多现有技术水平和算力背景下AI应用的场景,碳基生物能够想到的东西也就这么些了。在这场大变革下,我们的每个人都将面临机会与阵痛。

感谢https://www.sipuai.com/home 司普科技的黄总带来的脑暴。受益匪浅。 …

🏷️ AGI