我眼中的AGI：临界点在于形成‘闭环’，而非特定架构

在探讨人工智能通用智能（AGI）的发展时，一个关键的观点是，AGI的诞生不仅仅依赖于基座模型的能力，如参数量和性能评分，更与周边工程应用的成熟度密切相关。本文将深入探讨AGI的闭环系统，并分析其重要性以及如何实现这一目标。

一、什么是闭环？
闭环是指AI系统能够自我生成数据、探索物理世界、自我评估、自我迭代以及自我训练，从而不断提升自身的能力。这种自我完善的能力是AGI的核心特征之一。

二、AGI = 泛化的完美闭环
AGI代表的是一种能够在复杂世界中有效运作的泛化完美闭环系统。这种系统需要具备以下特点：

1. 破除“模型坍塌”：
   纯靠AI自己生成数据训练自己可能导致同质化。因此，闭环系统必须能够从物理世界获取真实的反馈，建立基于客观规律的自我验证标准，避免陷入死循环。
2. 场景泛化与容错：
   在数字空间中，允许试错，但模型必须具备强大的自我修正能力，通过多次迭代来逼近正确的结果。在物理空间中，由于试错成本极高，闭环系统必须在高度严谨的虚拟仿真中完成无数次演练，然后再应用于现实世界。
3. 动态的资源调度与求助：
   AGI系统需要能够自主决定何时使用工具、何时进行搜索。在早期阶段，它知道何时需要向人类求助；但随着发展，可能会出现人类成为效率瓶颈的情况，此时系统将转向纯机器协作。

三、架构只是手段，闭环才是目的
我认为，AGI的实现并不与基于特定底层架构（如Transformer）的AI绑定。当然，不同的架构会受到物理定律和算力的限制，从而影响闭环系统的工程可行性和能量转化效率。我们不应过分迷信特定的技术名词，而应关注在当前算力极限内能够实现闭环的架构。一旦闭环完成，AGI可以自行决定后续的架构优化。

这些只是我的初步想法，具体的实现还需要通过实验来验证。同时，我也在思考实现闭环后，AI是否会有自毁或扩张的倾向。希望这些观点能够引发更多的讨论和思考。