致比尔·盖茨的公开信

——反馈《Theroadaheadreachesaturningpointin2024》观点

作者：陆辉

尊敬的比尔·盖茨先生：

即将2023年末的2023年12月19日，您发布了对来年的年度预测，称2024年将是一个转折点，在这封长达十页的信中，希望看到人工智能领域的更多创新、营养不良问题的突破、气候变化谈判的进展以及具有决定性意义的全球选举。我仅聚焦其中涉及的人工智能相关内容。

比照2023年，您今年对人工智能的预测超越了去年，断言人工智能的进步将广泛改善全球健康，发展中国家的创新人工智能将以我们从未见过的速度加快新发现。我还注意到，您预测高收入国家的普通民众距离广泛使用人工智能还有18至24个月的时间。

您写道，如果我们现在做出明智的投资，人工智能可以让世界变得更加公平。

作为一个地球人，我对此表达自己的忧心忡忡，以下我的回应，并提出我的建议。

OpenAI是微软的意志体现？

在2023年11月间，OpenAI和SamAltman的风波全球瞩目，微软的股价也随之跌宕起伏，市值上摆动近千亿美元，从结果看，微软或是最大的赢家。对吗？

当初，OpenAI于2019年宣布新治理架构，微软向OpenAI提供了10亿美元投资，双方建立了战略伙伴关系，随后扩大了投资以及在商业和超级计算合作的规模和广度，接着，两家公司的关系越来越紧密。到了2022年11月，OpenAI发布ChatGPT后，引爆了全世界的AI大模型热潮，微软凭借和OpenAI的合作关系，拥有OpenAI模型的独家许可，随后将ChatGPT引入到搜索引擎Bing中。据报道，2023年1月微软向OpenAI追加投资100亿美元。得益于ChatGPT系列产品引发的热潮，微软今年市值增加了近万亿，目前市值约2.8万亿，创下历史新高。不知是否OpenAI是微软的意志体现？

OpenAI的治理模式有待透明？

不单单是业务创新，连openAI治理模式也是巨大创新，我相信结构的合法性和完整性，但是就合理性而言，就显得欲盖弥彰的多余，展开说说吧。

首先，最显眼的，“OpenAI,Inc.,the501(c)(3)”，按照美国税法，拥有“501(c)(3)”代号的组织即通常所说的“非营利组织”。

为保持非营利组织的核心使命、治理和监督，同时筹集资金，OpenAI在2019年设计了一个独特的结构。非营利组织作为这个结构的核心，完全拥有和控制一个管理实体（OpenAIGPLLC），该实体有权控制和管理营利性子公司；在OpenAI的安全和广泛利益的指导原则下，子公司通过参与研究、开发、商业化和其他核心业务来实现OpenAI非营利组织的使命。

在这个结构之下，董事会被赋予了足够大的权力，董事会作为OpenAI所有活动的总体管理机构，管理和监督所有活动，同时决定OpenAI何时达到、是否达到AGI的目标。

而按照“非营利组织的主要受益者是人类，而不是OpenAI投资者”的原则，投资者和员工的利润被设置了上限，超出上限的所有剩余价值将退还给非营利组织。

从公开信息来看，这一独特的公司治理架构正是由Altman主导设计的，但回头再看，当初这套为了寻求最初愿景和商业发展平衡的机制，却暗暗埋下了危机的种子，让董事会有权力并最终在四年之后开除了Altman。

这次风波让人疑惑，是祸起萧墙还是预先安排？

Altman回归、Sutskever出局，“商业激进”战胜“科学保守”？

在过去一年里，OpenAI成为了科技界的明星企业，Altman由此声名大噪，更是冠之以“ChatGPT之父”的称号。相比，被踢出局的董事兼首席科学家IlyaSutskever似乎更符合大众对传统科学家的刻板印象：低调、生活简单、主张谨慎、重视风险与安全问题，在公开报道中，这位出生于苏联的以色列裔加拿大科学家似乎才是OpenAI的“灵魂人物”，他师从“深度学习之父”GeoffreyHinton，是机器学习领域的顶尖学者；谷歌为了招募他而斥巨资，而后马斯克为了把他从谷歌挖到OpenAI，不惜和谷歌创始人“决裂”，可见IlyaSutskever的业界地位。

显然，“商业激进”战胜“科学保守”，前者占了上风，但声援Sutskever的大有人在，对强大人工智能的担忧和质疑仍在，理性讨论科学伦理和价值观的声音增加。事实上，这不仅仅是OpenAI内部需要解决的矛盾，亦是全球顶尖科学家和企业家、研究机构与科技公司，甚至是全人类需要长期面临的挑战。

如有幸，比尔·盖茨能看到我的反馈，期待以上三个问题能够得到答复。此外，也论述下对人工智能的无比担忧，就此只谈两点，保守主义和不可完善的人性。

关于保守主义

通常情况下，保守主义隐含在约定俗成里，乡规民约里，大家习以为常的价值观里，不需要过多的理论阐述，直到遇见了激进主义的挑战，才做出回应。从历史上看，回应最多的就是法国大革命，保守主义公开反对法国大革命，在出版的《反思法国大革命》指出法国大革命无视传统和宗教，一心追求抽象的自由平等，“以争取普遍而抽象的自由平等开始，却将以接受一个军事首领（拿破仑）的赌场而结束，最终破坏了原先既有并不算太差的社会秩序”

保守主义润物细无声，捍卫的并非现状，而是对现状更有效的变革方式，并非推崇一成不变，推崇的是缓慢的改变，简单说就是“要进步，但不折腾，慢慢来”，推崇谨慎的美德，其原则是劝世尽可能少的玩新花样。

今天，也是您倡导加速的人工智能把保守主义者再次从沉睡中唤醒。

不可完善的人性

约翰亚当斯（美国首任副总统，第二任总统）说的已经太透彻了，我就不必添油加醋，他说：“仅靠人为手段带来的良善与知识，绝不可能克服人的欲望、激情、偏见与自恋。你那么一点点新学问相伴而来的是骄傲，随着骄傲而来的是普遍自大的危险，要抛弃一切旧有观念老世界的危险。”

更重要的，约翰亚当斯还认为，人类的进步取决于神的意志和保守性的社会建制，这个过程是缓慢而痛苦的攀升，就好比独眼龙为瞎子领路爬山一样，强行追求启蒙知识分子和卢梭所设想的那种完美，会摧毁真正的进步。

盖兹先生，从眼下看，我也认可您在文章中提到AI进步对人类带来的有益影响，但是从我以上提到的保守主义思想和人性不可完善的角度再出发做考虑，您还认为是有益的吗？有可能，Ai变成了“以争取人类幸福为开始，却将以接受一个灾难的赌场而结束，最终破坏了目前我们既有并不算太差的社会秩序”，毕竟，在继往开来的未来里，在上天的眼里，我们最多只是个独眼龙，带领着的还是几十亿的瞎子，责任重大超出我们的承担。

您本人不仅是企业家、慈善家，更是一位饱学之士，您深深知道道德的重要性，明白形式上的教育无法大幅度的改变人类内心的倾向，只有困难很多的道德教化，才能实现人类得以真正进步的那种道德提升。这种道德教化来自历史经验教训和圣经中的自然法，这种影响像蜗牛般的缓慢。

在您手中的人工智能，不能再加速了，“要人工智能，要进步，但不折腾，慢慢来”，回到谨慎的美德里，劝世界尽可能少的玩新花样。