通用人工智能研究纲领-OpenAI发布
OpenAI 的使命是确保通用人工智能(artificial general intelligence,AGI) - 能在多数有经济价值的工作中展现超越人类表现的高度自动化的系统 - 会为全人类带来福祉。OpenAI 不仅希望通过自己的努力直接建造出安全的、有益的通用人工智能,而且同样愿意帮助其它研究组织共同制造出这样的通用人工智能。
为了达到这样的目标,OpenAI 为自己设定了这些纲领:
广泛参与,广泛贡献
通用人工智能的长远安全问题
-
OpenAI 承诺进行能够保证通用人工智能安全性的研究,并且在整个 AI 研究领域内推动这类研究的大规模展开。
-
OpenAI 担心末端的通用人工智能开发成为一场竞争性的比赛,在比赛中也就不会分配时间在必要的安全防护措施上。所以,如果在 OpenAI 研发自己的项目之前就出现了一个价值均衡、注重安全的通用人工智能项目,OpenAI 承诺将停止和它竞争,并转而辅助这个项目。OpenAI 未来会针对每个项目列出具体的执行细节,不过典型的触发规则可能会类似「未来两年内能够成功的概率超过一半一半」。
技术带头人
面向合作
人类何时能研发出真正的通用人工智能还尚未可知,但 OpenAI 相信也希望自己的纲领可以引导自己在通用人工智能的研发过程中体现出全人类的最大利益。
这份纲领发出后,已经有一些学者给出了积极的反馈,非常欢迎 OpenAI 做出这样的举动,同时也认可 OpenAI 积极、坚定的态度,钦佩 OpenAI 公开做出这样的承诺。
AI 科技评论也非常期盼通用人工智能的到来,而且我们也希望它真的到来的那一天真的是全人类的福祉。相信到时肯定会有 OpenAI 的功劳在其中。人工智能开发