E131|OpenAI动荡始末:两股硅谷势力的角逐与“执剑人”Ilya

Episode 136 · November 22nd, 2023 · 1 hr 1 min

About this Episode

在OpenAI董事会发起的这场“政变”的五天中,OpenAI的权力更迭在不停反转,每一次反转都可以称之为教科书般的公关案例与博弈策略。经历五天的攻防战,最终还是以原CEO Sam Altman的回归且更换董事会成员收尾。

如果要追溯这场矛盾的根源,从ChatGPT的发布开始,内部已经有了不同的声音。而从OpenAI创建到今天,内部也已经经历了三次大的分裂。

OpenAI的组织架构也是商业史上的一次创新,非营利性的组织形态是为了保证让AI安全的发展,而公司架构则是为了AI发展提供必要的资金。但这两种思想如何共存,安全发展AI的度在哪里,硅谷一直有两种声音,这两种声音也存在于OpenAI的董事会中。

这期节目,我们着重从另一个OpenAI的核心人物Ilya Sutskever的视角,也被看作是对这次OpenAI内乱起着最关键作用的一个人,来看看OpenAI这些积累已久的矛盾到底是什么。

另外,感谢VSP投资人培训营项目对本期节目的支持,如果大家对这个项目感兴趣,更多信息可以在这里找到,报名链接在这里。如果大家有任何问题,可以发邮件到[email protected] 咨询详情。本项目每个季度开营一次,报名链接长期有效。


【主播】
泓君,《硅谷101》播客主理人

【嘉宾】
陶芳波,人工智能公司MindOS创始人
周恒星Kevin,英文科技媒体Pandaily创始人
陈茜,《硅谷101》视频主理人


【你将听到】
00:10 VSP训练营
02:34 正片
04:28 截止11月20日晚上OpenAI三次反转时间线梳理
09:56 ChatGPT发布已出现分裂:追求商业化,还是以研究为中心?
12:31 OpenAI成立八年以来的三次决裂
14:43 事发前三天采访Sam Altman,原本打算庆祝ChatGPT一周年
16:04 OpenAI的铁三角:Ilya负责研发、Greg负责技术、Mira负责产品
19:08 OpenAI的两派一直在激烈斗争
21:00 “董事会告诉员工,为了使命哪怕毁灭公司也在所不惜”
23:24 安全问题是如何成为关注焦点的?有效利他主义与有效加速主义两种势力的角逐
25:35 Ilya的超级对齐:对人类文明底层的爱
29:35 Ilya Sutskever PK Sam Altman,谁是OpenAI的灵魂人物
32:41 OpenAI组织的独特之处
34:50 Sam Altman:真诚、做事滴水不漏,但不懂技术
39:52 OpenAI的董事会成员与有效利他主义的关系
43:01 董事会背后千丝万缕的联系:扎克伯格、Open Philanthropy与Anthropic
47:46 三名董事会成员今年突然退出,力量失衡
49:09 有效加速主义与有效利他主义的历史渊源
54:09 “执剑人”Ilya:同样担心AI风险,但不以放弃发展为目标
56:48 OpenAI事件的行业影响


【董事会成员】
【员工董事】
Sam Altman:Open AI前CEO
Ilya Sutskever:OpenAI首席科学家
Greg Brockman:OpenAI前董事长兼总裁
【独立董事】
Adam D’Angelo:Quora的联合创始人兼职CEO
Tasha McCauley:机器人公司Fellow Robots首席执行官
Helen Toner:乔治城大学安全与新兴技术中心战略总监
【出事前几个月退出的董事】
Reid Hoffman:OpenAI投资人,因投资另外一家AI公司担心利益冲突在今年3月退出。
Will Hurd:前共和党联邦众议员
Shivon Zilis:脑机接口公司Neuralink总监,因马斯克连带关系,紧随其后退出董事会。
【初步新董事会成员】
Bret Taylor:Salesforce前联合首席执行官
Larry Summers:美国前财政部部长
Adam D’Angelo:Quora的联合创始人兼职CEO


【名词解释】
Anthropic

是一家美国的人工智能(AI)初创企业和公益公司,由OpenAI的前成员Dario Amodei和Daniela Amodei在2021年创立。现任CEO为Dario Amodei。

Open Philanthropy
开放慈善事业,是一个研究和赠款基金会,根据有效利他主义的原则发放赠款。它是由GiveWell和Good Ventures自2011年起合作成立的。2021年Holden Karnofsky卸任CEO之后,现在CEO为Alexander Berger。

有效利他主义
英文是Effective Altruism,简称EA,有效利他主义是一个哲学和社会运动,倡导“利用证据和理性来找出如何尽量多地造福他人,并基于此采取行动”。在本期的内容中代表“AI需要仔细缓慢的发展”。

有效加速主义
英文是Effective Accelerationism,简称E/ACC,有效加速主义涉及加速或强化社会或经济中特定过程或趋势,以更快速或更有效地实现期望的结果。在本期的内容中代表“AI需要大胆快速的发展”。


【相关阅读】
《硅谷101》视频
AI保守派大战激进派,我们细扒了OpenAI董事会每一位成员

Sam Altman回归!聊聊“叛变者”的恐惧与信念:OpenAI技术灵魂人物Ilya Sutskever

【后期】
AMEI
【BGM】
Anticipating a New Day - Stationary Sign
Interruption - Craft Case
For One Brief Day - Francis Wells
【Shownotes】
Jessica


【在这里找到我们】
公众号:硅谷101
收听渠道:苹果|小宇宙|喜马拉雅|蜻蜓FM|网易云音乐|QQ音乐|荔枝播客
海外用户:Apple Podcast|Spotify|TuneIn|Google Podcast|Amazon Music
联系我们:[email protected]