AGI 的水平： 实现 AGI 道路上的可操作性进展
本文提出了一个框架，用于根据AGI模型的能力、通用性和自主性进行分类。通过分析现有的AGI定义并提炼出六个原则，用于构建一个有用的AGI本体。这些原则包括关注能力而非机制，分别评估通用性和性能，以及定义通往AGI的阶段而不仅仅是终点。
作者们提出了基于能力深度（性能）和广度（通用性）的“AGI等级”。这一框架旨在为比较模型、评估风险和衡量AGI进展提供一个共同的语言，类似于用于自动驾驶等级的方法。文章反映了当前系统如何适应这一本体，并讨论了未来基准测试对于量化AGI模型行为和能力的要求。
论文还讨论了AGI等级与部署考虑因素（如自主性和风险）的互动。它强调为负责任和安全地部署高能力AI系统选择适当的人工智能互动范式的重要性。
这种方法旨在通过考虑通用性（狭窄或通用）与五个性能等级（新兴、能力、专家、大师和超人）的结合，为朝向AGI的进展提供一种细腻的方式。论文反思了当前AI系统和AGI定义如何适应这一框架。此外，它讨论了这些原则对于开发一个生态效度高的、动态的AGI基准测试的含义，认为这对AI社区至关重要。
最后，论文考虑了这些原则和本体如何重塑与AGI相关风险的讨论，指出AGI并不一定与自主性同义。作者们引入了AGI等级的进展解锁但不确定的自主性等级。这种观点允许对AI系统可能的风险进行更细腻的洞察，强调了在模型改进方面投资于人工智能互动研究的重要性。
原创文章，作者：校长，如若转载，请注明出处：https://www.yundongfang.com/Yun267072.html
微信扫一扫不于多少！ 
支付宝扫一扫礼轻情意重 