OpenAI谈论通用人工智能（AGI）发展规划摘要

首先，我们（OpenAI，下略）的使命是确保通用人工智能可以造福全人类。在我们发现AGI潜力的同时，也了解到了许多AGI被滥用、以及可能造成社会混乱的风险。

我们的原则，第一是希望AGI赋予人类权力，使其在宇宙中最大限度地繁荣；第二是希望AGI的好处、获取和治理得到广泛和公平的分享；第三则是希望能够成功应对巨大的风险。

短期内，随着我们的系统越来越接近AGI，我们对模型的创建和部署变得越来越谨慎。

这种渐进式过渡使人们、政策制定者和机构有时间了解正在发生的事情，亲自体验这些系统的好处和缺点，调整我们的经济，并实施监管。

我们认为社会必须就如何使用人工智能达成极其广泛的共识，但在这些界限内，个人用户有很大的自由裁量权。我们最终的希望是，世界各机构就这些广泛的界限应该是什么达成一致意见。

我们希望就三个关键问题进行全球对话：如何治理这些系统，如何公平分配它们产生的利益，以及如何公平地分享访问权。

我们试图以一种使我们的激励措施与良好结果保持一致的方式建立我们的结构。

在长远上，我们认为，人类的未来应该由人类决定，与公众分享有关进展的信息非常重要。应该对所有试图建立AGI的努力进行严格审查，并为重大决策进行公众咨询。

成功过渡到一个拥有超级智能的世界也许是人类历史上最重要、最有希望、最可怕的项目。成功远未得到保证，赌注（无限的下行和无限的上行）有望使我们所有人团结起来。

我们可以想象一个人类繁荣到我们任何人都不可能完全想象的程度的世界。我们希望为世界贡献一个与这种繁荣相一致的AGI。

全文链接：Planning for AGI and beyond (openai.com)