长富资本奥尔特曼宣布OpenAI五大原则：确保AGI惠及全人类，反对技术权力集中在少数人手中

　　IT之家

　　4 月 27 日消息，OpenAI CEO 萨姆 · 奥尔特曼（Sam Altman）于当地时间 4 月 26 日发文，阐述了该公司在人工智能发展过程中的核心原则与长期目标。

　　他表示，AI 有潜力帮助人类社会在许多领域实现显著改善，人们借助 AI 所能完成的事情将远超蒸汽机或电力带来的变革。

　　他描述了一个繁荣程度远超当下想象的世界，在其愿景中，个人能力、主动性与实现自我价值的机会将显著提升，部分曾只存在于科幻作品中的设想可能成为现实。

　　但他同时指出，这一结果并非必然：未来技术权力可能集中在少数掌握超级智能的公司手中，也可能以去中心化的方式掌握在公众手里。OpenAI 的目标是将真正的通用人工智能交到尽可能多的人手中。

　　OpenAI 的使命是确保 AGI 惠及全人类，并据此制定了五项原则：

　　第一，民主化。OpenAI 将抵制该技术将权力集中在少数人手中的可能性。这意味着除了让每个人都能使用 AI 之外，还需要确保关于 AI 的关键决策通过民主程序和公平原则制定，而不仅仅由 AI 实验室决定。

　　第二，赋能。OpenAI 相信 AI 可以赋能每个人实现目标、学习更多、更快乐、更充实，并追求自己的梦想，整个社会都将从中受益。用户应能可靠地利用其服务完成越来越有价值的任务。OpenAI 希望给予用户广泛的自主权，同时有责任以最小化伤害的方式构建和部署 AI—— 既包括预防灾难性伤害，也包括减少局部伤害和避免潜在的腐蚀性社会影响。

　　第三，普惠繁荣。OpenAI 希望未来每个人都能拥有优质生活。通过将易于使用且具备强大计算能力的 AI 系统交到每个人手中，人们将找到创造价值的新方法，大幅改善生活质量，尤其是在新科学发现方面。为实现广泛共享的繁荣，奥尔特曼认为政府可能需要考虑新的经济模式，同时需要建设大量 AI 基础设施并开发新技术以大幅降低成本。

　　第四，韧性。AI 的爆发必然会引出新的风险，OpenAI 将与其他公司、政府及社会各方合作解决这些问题，包括生物安全与网络安全等领域。他指出，任何 AI 实验室都无法独自确保良好的未来 —— 例如，足够强的模型可能使制造新型病原体变得更容易，需要全社会采取与病原体无关的防御措施。OpenAI 将延续其迭代部署策略，让社会逐步应对每一级 AI 能力。同时，OpenAI 也预期在某些时期需要与政府、国际机构及其他 AGI 项目协作，确保在充分解决严重的对齐、安全或社会问题后再继续推进工作。

　　第五，适应性。OpenAI 认为应对不可预测未来的唯一方法是根据学到的新知识持续调整自身策略，并将在运营原则发生变化时保持透明。他举例称，尽管普惠繁荣仍然非常重要，但未来某些时期可能需要在赋能和韧性之间进行权衡。

　　奥尔特曼回顾称，不久之前 OpenAI 还因不确定对社会的影响而对发布 GPT-2 的权重感到紧张。事后看这种担忧有些多余，但正是这一过程促使他们发现了迭代部署策略 —— 这是他们摸索出的最重要的方法之一。

　　奥尔特曼表示他们正进入一个技术持续进步且影响深远的阶段，每一项决策都值得被审视，他们不可能做到事事正确，但会快速学习并修正方向，并致力于推动技术发展带来更积极的社会影响。