OpenAI事件对董事会治理的启示
2023-12-08 08:53
来源：早知道/脱水研报
□ 牛建波□OpenAI近期领导层变动预示着该公司可能在战略和业务上进行重大调整。这一变动不仅是公司内部重要决策的标志，也反映了企业治理和人工智能行业发展的新趋势□董事会代表股东，主要负责监督管理团队并确保企业策略符合股东利益，是公司制定战略方向和保持稳健发展的关键力量□人工通用智能（AGI）技术高速发展，带来了技术、伦理和社会层面的挑战。应加强风险管理、建立伦理标准和推动跨领域合作，确保AGI的发展既创新又符合社会责任□在人工智能时代，只有同时重视技术创新和社会责任，才能充分利用人工智能技术，推动社会更加智能、高效和可持续一、引言在现代企业发展史中，OpenAI公司无疑是一个独特且引人注目的案例。作为人工智能领域的先锋，OpenAI不仅因其创新技术和产品而闻名，更因其独特的管理结构和企业文化而备受瞩目。该公司近期领导层的变动，尤其是Sam Altman重新担任CEO，不仅引起了业界的广泛关注，更在某种程度上揭示了当代公司治理和人工智能发展的新趋势。OpenAI成立于2015年，由Elon Musk、Sam Altman等共同创办，其成立初衷是推动友好人工智能的研发，确保人工智能技术的发展惠及全人类。OpenAI在短短几年内迅速成长为全球领先的人工智能研发中心，其研发的多种人工智能模型和技术，在全球范围内都产生了深远影响。然而，近期发生的领导层变动，尤其是Sam Altman重新担任CEO，不仅标志着公司战略方向的调整，更反映了企业治理结构的重要变化。作为OpenAI的联合创始人之一，Sam Altman的重新上任引起了外界对于公司未来发展方向和策略的广泛猜测。这一变动不仅关乎公司内部的经营管理，更涉及对外的市场定位和行业发展。本文旨在深入探讨这一事件背后的深层含义。我们将通过剖析OpenAI案例，重新审视董事会在现代企业治理中的实际角色和作用。针对OpenAI着力发展的人工通用智能（AGI），本文从公司治理的角度提出对AGI进行有效管理和控制的思路和框架。二、OpenAI领导层的变动OpenAI近期的领导层变动可以说是其发展历程中的一次重大转折。Sam Altman重新担任CEO一职，意味着公司可能对其战略方向和运营模式进行重大调整。此外，公司董事会引入新成员，如Bret Taylor、Larry Summers和Adam D'Angelo等，更加深了这一转变的意义。Bret Taylor，一位在科技行业享有盛誉的人物，曾在Google、Facebook和Salesforce等知名公司担任要职，其丰富的行业经验和商业智慧对OpenAI的发展方向无疑将产生重大影响。Larry Summers，曾任美国财政部长和哈佛大学校长，他在宏观经济和政策制定方面的深厚背景，将为公司在遵循法规和伦理方面提供坚实支持。Adam D'Angelo，作为Facebook的前首席技术官，他对技术发展和创新趋势有着深刻的理解，这对于引领OpenAI在人工智能领域的创新至关重要。三、OpenAI战略的变化近期OpenAI公司领导层变动，导致公司在发展方向上出现重要调整，这些变化不局限于公司内部，还涉及更广泛的市场和技术变革。1.更加大胆和以利润为导向的策略Sam Altman重返OpenAI可能增强了他对公司的控制力，使他在推动公司技术商业化方面拥有更大自由度。这可能意味着在人工智能技术的开发和市场推广上，公司将采取更加灵活和创新的方法，同时可能减少内部制约，从而快速响应市场变化和机遇。鉴于微软作为投资人在投资回报方面的约定，Sam Altman的回归可能使OpenAI更加重视商业成果和盈利能力，这反映了公司在战略方向上的转变。这种策略可能导致公司在人工智能技术的研发和应用上更愿意冒险，探索新的收入来源和市场机会，同时也可能更加关注短期经济回报。2.与微软的合作进一步加强微软对OpenAI的投资已经进入第三阶段，这是一个长期投资计划。投资的目的是推动人工智能领域技术突破，并确保这些成果能够广泛共享。2023年1月，微软宣布对OpenAI进行高达100亿美元的投资，这一投资使OpenAI的估值达约290亿美元。OpenAI与微软的合作关系在OpenAI领导层变动后得到了进一步加强，如微软开始将OpenAI的技术特别是ChatGPT功能集成到用于搜索、协作、工作和学习的工具中。微软正在加速深入人工智能技术的开发，同时重构云基础设施，以确保硬件和软件堆栈的每一层都得到优化。微软CEO Satya Nadella对OpenAI领导层变动表示支持，他还表示，微软致力于同OpenAI的合作，并对产品路线图和创新能力充满信心。3.OpenAI在AGI方面的态度OpenAI在Sam Altman的领导下，积极推进AGI发展。第一，为AGI发展寻求额外资金。OpenAI积极寻求微软等主要利益相关方进一步投资以支持AGI发展。第二，推出新工具和技术。在首次开发者大会上，OpenAI推出了新工具如GPT-4 Turbo和Assistant API，以及GPT Store。虽然这些工具和功能很重要，但Sam Altman表示它们不是公司的主要产品。重点仍然是研究超级智能和扩展计算能力，最终愿景是让AGI安全且有益。第三，开发下一代人工智能模型。OpenAI致力于开发GPT-5，即其人工智能模型的下一代迭代。Sam Altman表示，预测这些未来模型的具体功能存在挑战，但对其发展持乐观态度。四、董事会角色的现实解读在OpenAI这一具有标志性的公司治理案例中，董事会的角色和作用值得深入分析和讨论。这不仅有助于去除董事会的“神秘光环”，更能真实地展现其在现代企业治理中的实际功能。1.去神秘化：董事会的实际功能董事会在传统观念中往往被赋予了几乎无所不能的印象，被视为公司战略的制定者和未来发展的引领者。然而，OpenAI的案例表明，董事会更多是作为股东的代理人，其核心职责是代表股东监督管理层，确保企业战略的执行符合股东的利益。董事会的成员通常由股东选举产生，他们的主要任务是监控公司的经营活动，评估管理层的绩效，并为重大决策提供指导。在OpenAI的案例中，董事会的角色尤为明显。新任董事成员的引入，不仅反映了股东对公司未来战略方向的期望，更是股东在监督和指导公司经营中的具体体现。这些成员的专业背景和经验，将直接影响公司的决策过程和战略方向，从侧面反映了董事会在实际公司治理中的作用。2.责任与限制：决策中的挑战董事会在企业决策中承担巨大责任，但其行动同样受到多方面限制。首先，董事会的决策必须符合公司的最佳利益，这要求董事们在决策时须平衡各方面利益，包括股东、员工、客户及更广泛的社会利益。这种平衡的实现往往是复杂且富有挑战性的，尤其是在面对AGI等新兴技术领域的决策时。其次，董事会的决策过程受到法律法规、公司章程及市场环境的限制。董事们必须在法律框架内行事，并遵守各种法规和公司的治理规范。此外，董事会的决策还受到市场环境和企业内外部情况的影响，这要求董事们具备前瞻性和适应性，能够迅速应对各种突发情况。在现代企业治理中，董事会面临的挑战与日俱增。这不仅包括如何在快速变化的市场环境中制定有效的战略，还包括如何处理好与管理层的关系，以及如何响应社会公众和监管机构的期望和要求。在AGI等新兴技术领域，董事会的角色尤为关键，其决策不仅影响公司的未来发展，也可能对整个社会产生深远影响。因此，理解董事会的实际功能和所面临的责任与限制，对于确保企业健康发展和应对未来挑战至关重要。五、AGI时代的特殊性1.AGI的重要性及面临的挑战AGI的发展正在开启一个新时代，其潜力与挑战巨大。AGI技术的特殊性在于其综合性和适应性。与传统的人工智能系统相比，AGI能够在更广泛的领域内学习和解决问题，表现出更接近人类智能的能力。这种全面性使得AGI不仅能够执行特定任务，还能够理解复杂的概念，进行抽象思考，甚至具备创造力。AGI的这些特点使其在多个领域具有广泛的应用前景，从医疗健康到金融服务，再到教育和创意产业，AGI的应用可能彻底改变这些领域的运作方式。然而，随之而来的挑战也不容忽视。比如，AGI的决策过程可能非常复杂，人类可能难以完全理解或预测其行为，这就带来了控制和安全方面的问题。此外，AGI的发展可能导致就业市场的巨大变动，对社会结构和经济发展产生深远影响。1.Q*项目可能带来的安全隐患OpenAI 正在研发的Q*项目，据称具备先进的逻辑推理能力和抽象概念理解能力。研究员Sophia Kalanovska在2023年11月27日发表文章认为，Q* 这个名字意味着Q-learning和A*搜索两种人工智能方法的融合。她表示，新模型可以将深度学习与人类编程的规则结合起来，这可能使该模型比任何现有人工智能模型都更加强大和通用，也可能导致人类无法预见或无法理解的行为或决策的出现，从而产生安全隐患。第一，AGI能够进行深度学习并遵循人类编程的规则，这使其比任何现有人工智能模型更强大和多样化。它不仅能从数据中学习，还能应用类似人类的推理能力。这种能力使得AGI难以被控制或预测，带来了巨大的管理风险。如果AGI的决策逻辑超出了人类的理解范围，其后果可能无法预料。第二，AGI被视为实现人类智能的关键一步。它具备在不同领域理解、学习和应用知识的能力，可能在许多领域超越人类。这可能导致控制、安全和伦理问题。例如，AGI可能在医疗、金融等关键领域作出超越人类判断的决策，如果控制不当，可能引发严重后果。第三，AGI能够生成新想法和解决问题，可能使人工智能决策或行动超出人类控制或理解范围。这种能力虽有利于创新和解决问题，但也可能导致不可预知的风险。例如，AGI可能发展出新的技术或策略，其影响和潜在风险难以提前评估。第四，高级人工智能技术如Q*项目，可能被滥用或产生意外后果。如果落入不法分子手中，可能对人类构成巨大威胁。即使出发点良好，AGI复杂的推理和决策能力也可能导致对人类不利的结果。 六、应对AGI发展的策略和思路1.减少忧虑：有效控制AGI发展有效控制AGI发展的策略，重点在于内部董事会治理的加强、出资方的自律，以及外部系统的动态监管。1.1 内部董事会治理的针对性强化考虑到OpenAI领导层的最新变化和公司在AGI方面的目标，以及AGI可能对人类安全造成的重大影响，以下是从董事会监管的角度出发的系统化建议。第一，强化风险评估机制。董事会应确保公司拥有全面的风险评估机制，专门针对AGI技术可能带来的风险，包括伦理、安全和社会影响。第二，确立伦理和合规框架。开发AGI时，公司应制定明确的伦理指导原则和合规标准，确保技术发展与社会伦理相符合。第三，增强透明度和公众沟通。董事会应推动公司增强在AGI研发过程中的透明度，定期向公众汇报进展和挑战，增强公众对AGI技术的理解和信任。第四，跨界合作与监管对话。董事会应倡导与政府、学术界、行业和公共利益团体的合作，共同探讨AGI发展的监管框架和标准。第五，安全和隐私保障。确保AGI技术在设计和实施阶段严格遵循数据安全和隐私保护的最佳实践。第六，定期审计和评价。定期对AGI项目进行审计和评价，确保其符合设定的目标和伦理标准。第七，应对策略和紧急响应计划。制定有效的应对策略和紧急响应计划，以应对AGI技术可能出现的不可预见风险和负面影响。1.2 出资方的自律：缓解对资本逐利性的担忧为了增强AGI的安全性并缓解对资本逐利性的担忧，以下五个措施至关重要：第一，建立多层监督体系。AGI的安全监督应涉及多个层面，既包括技术层面的自动监控系统，也包括人类专家的定期评估。不同层级的AGI将负责不同任务，一些层级专注于监控其他系统的行为，确保其符合标准和伦理指南。同时，由人类专家进行最终的审查和决策，可能需要成立专门组织，由人类专家监督AGI系统，制定规则，评估表现，并在必要时进行干预，确保AGI的行为与人类价值观和目标一致。这种结合了技术和人类智慧的监督体系可以及时发现和响应AGI行为中的异常或潜在风险。第二，制定严格的伦理准则。制定一套针对AGI的严格伦理准则至关重要。这包括保障个人隐私、确保决策公正无歧视、保护用户数据等。这些准则不仅应体现在AGI的设计和开发阶段，还应贯穿于整个使用周期。AGI的开发者和运营者需要确保这些伦理标准得到严格遵守。第三，加强合作与透明度。AGI的安全发展需要跨领域的合作。政府、监管机构、学术界和民间组织应共同参与AGI的监督和评估。同时，AGI项目的运行和结果应对公众保持透明，让社会各界都能了解AGI的发展进程和潜在影响。第四，实施风险评估和应急计划。AGI的研发和应用应伴随着全面的风险评估，包括技术、伦理和社会风险。基于这些评估，须制定相应的应急计划，以便在AGI行为出现不可预见问题时能够迅速有效响应。第五，资本使用的社会责任监管。为缓解对资本逐利性的担忧，AGI项目的资本投入和回报应受到严格的社会责任监管。例如，可以要求投资者将一定比例的投资回报用于支持AGI安全研究、社会福利项目或解决由AGI带来的社会问题。1.3 外部系统的动态监管随着大量商业资本推动AGI发展，公众对于AGI未来可能产生的深远影响感到忧虑。有效控制AGI发展，确保其符合人类社会的长远利益是缓解这些忧虑的关键。第一，明确发展目标和边界。首先须明确AGI发展的目标和边界。这包括确定AGI技术应用的领域、禁止领域，以及期望达成的具体成果。这样可以避免盲目发展，确保AGI技术的应用符合社会价值观和伦理标准。第二，建立跨部门监管机构。建立一个跨部门、跨学科的监管机构，负责监督AGI的研发和应用。这个机构应包括技术专家、伦理学家、法律专家等，确保从多角度对AGI的发展进行评估和监督。第三，公开透明的发展过程。须确保AGI技术的开发和应用过程是公开透明的。定期公布研发进展、实验结果以及可能面临的风险，让公众能够了解AGI技术的真实情况，减少信息不对称产生的恐慌。第四，强化伦理教育和公众参与。通过加强伦理教育和提高公众参与度，让社会各界更好地理解AGI技术，并参与相关讨论和决策。举办公开论坛、研讨会，鼓励公众、学者和行业专家就AGI的发展提出意见和建议。2.积极应对：建立正确态度为迎接AGI时代，公众应树立积极负责的心态。为帮助公众更好地理解和接受AGI技术，建议：第一，普及AGI知识。通过教育和宣传活动，普及AGI的基础知识。让公众了解AGI技术的潜力和局限，消除对未知的恐惧。第二，鼓励创新思维和适应性。鼓励公众拥抱变化，发展创新思维和适应性。随着AGI时代的到来，一些行业和职业或将发生变化。培养持续学习和适应新环境的能力对个人发展至关重要。第三，参与社会讨论和决策。鼓励公众积极参与有关AGI的社会讨论和政策制定。民众的声音和意见是影响AGI发展方向的重要因素。第四，强化个人道德和社会责任感。在AGI时代，个人道德和社会责任感尤为重要。公众应意识到，技术虽然强大，但如何使用技术是由人决定的。每个人都要对自己的行为和选择负责。第五，面向未来的职业规划。随着AGI技术的发展，某些工作会实现自动化，而新的职业也会出现。公众应积极规划自己的职业路径，掌握未来市场需要的技能。通过上述策略，可以帮助公众减少对AGI发展的忧虑，以更加积极和负责任的态度迎接AGI时代的到来。同时，这也为企业、政府和社会提供了有效应对AGI挑战的指导。七、结论：正确理解董事会角色和有效管理AGI的重要性本文对OpenAI近期领导层变动的分析，揭示了董事会在现代企业治理中的实际角色和功能。通过这个案例可知，董事会并非神秘且不可触及的决策机构，而是股东的代理人，承担着平衡各方利益和指导公司战略方向的责任。OpenAI的案例表明，在快速发展的人工智能领域，董事会的决策和监管对于公司的健康发展和社会责任是至关重要的。本文还讨论了AGI的特殊性及其管理和控制的复杂性。AGI技术的发展不仅是技术领域的突破，更是社会和经济层面的重大挑战。我们提出了一系列管理和控制建议，以确保AGI的发展既符合技术创新的需求，又不脱离伦理和社会责任的轨道。展望未来，OpenAI及整个人工智能行业都将面临变化和挑战。随着人工智能技术深入发展，可以预见，新的应用将不断涌现，从而推动社会和经济的转型。特别是AGI的发展，将成为未来几十年科技领域最引人注目的领域之一。OpenAI的领导层变动和AGI技术的发展提醒我们，正确理解和应对人工智能时代的挑战是未来发展的关键。只有在确保技术创新与社会责任并重的基础上，我们才能更好地利用人工智能技术，推动社会更加智能、高效和可持续。（作者系南开大学商学院副教授）
以上内容为转载内容，用于投资者教育非商业用途，图片或文字与本公司立场无关，如认为涉及内容侵权，请联系本公司进行删除。相关内容不对各位读者构成任何投资建议，据此操作，风险自担。股市有风险，投资需谨慎。
上一篇：
稳增长措施落地见效 中小企业信心回升
下一篇：
兜底监管让金融监管不再“留白”