编译／庄闵棻

近一周来，人工智慧（AI）新创公司OpenAI经历疯狂的变化。自该公司无预警解雇执行长Sam Altman之後，事情不断出现新的转折。虽然现在Altman也宣布将回到OpenAI，让事情告一段落，但这场灾难也让人们开始关注商业竞争如何影响AI系统的发展，以及引起有关AI将如何以合乎道德和安全的方式部署的争论。很多人就猜测，Altman此次解雇可能源於OpenAI 内部的分裂。在OpenAI里，董事和Altman对AI发展到底应该专注於商业增长还是安全的快速发展意见不一。

改变文化

OpenAI 的首席科学家Ilya Sutskever表示，随着 Altman 的回归、董事会重新洗牌，OpenAI 似乎将进一步摆脱非营利起源，重组为典型的以利润为导向的矽谷科技公司。目前不知道这是否会改变OpenAI的初衷。一直以来，OpenAI 都是一家非营利组织，只致力於AI的发展。现在，Sutskever 和华盛顿特区乔治城大学安全与新兴技术中心人工智慧治理和安全研究员 Helen Toner 不再担任董事会成员。 新董事会成员则包括电子商务平台 Shopify 的董事、软体公司 Salesforce的前执行长Bret Taylor。

更多新闻：Sam Altman、OpenAI 的AI争斗大戏　你应该知道的10大剧情发展

竞争日趋白热化

OpenAI 并不是唯一一家追求大型语言模型的公司，ChatGPT 的发布也迫使其他公司加快脚步。Google就於 2023 年 3 月推出聊天机器人 Bard，同月发布基於 GPT-4 的 ChatGPT 更新版本。 West担心，产品在人们完全了解行为、用途和滥用之前就出现，可能「对社会有害」。

对话式AI的竞争格局正在升温。 Google暗示未来会有更多AI产品。 亚马逊也拥有自己的AI产品 Titan。由前 OpenAI 员工於 2021 年创立的 Anthropic也於 11 月 21 日发布聊天机器人 Claude 2.1。West指出，这些新创企业严重依赖Google、微软和亚马逊这三家公司提供的庞大且昂贵的运算资源，导致这些控制巨头之间正在展开一场争夺主导地位的竞赛。

安全问题

从长远来看，很多人都担心AI系统本身会成为一个坏角色，发展出能毁灭世界的能力。深度学习的先驱、加拿大多伦多大学电脑科学家Geoffrey Hinton就表示，即使 AGI 的设计符合 OpenAI 的「超级对齐」使命，可以促进人类的最大利益，这种情况也可能发生。 如，它可能会决定，人类遭受的苦难是如此巨大，让人类宁可死去，也不要面临更多的苦难。 这些说法听起来像科幻小说，但 Hinton 认为，AI所带来的生存威胁是非常真实的。

OpenAI 成立的具体目标就是开发通用人工智慧 （AGI）。AGI是一种深度学习系统，经过训练不仅可以擅长某一特定事物，而且可以像人一样聪明。目前尚不清楚这种AI是否可能。但West强调，重要的是要趁早关注AI已经存在的威胁，并确保现有法律适用於开发AI的科技公司。 她表示，OpenAI 的事件凸显了少数拥有资金和运算资源来支持AI的公司如何拥有巨大的权力，且这需要反垄断监管机构进行更多审查。

参考资料：nature

※更多ChatGPT相关讯息，请参考【生成式AI创新学院】。