陆奇简介

陆奇是一位具有丰富经验的计算机科学家和企业领导人,他曾在全球知名科技公司担任多个重要职务,包括微软全球执行副总裁、雅虎执行副总裁和百度集团总裁等职。他在这些公司中主导了许多关键产品和技术的发展,如Bing搜索引擎和Cortana语音助手,以及百度的人工智能战略。陆奇曾经是华人在美国科技公司最有权威的高层人士(没有之一,华人的顶流)。
在陆奇的领导下,百度推出了“All in AI”的人工智能先行战略,成立了百度智能驾驶事业群,加强对无人驾驶技术的研发。他还在离开百度后创办了Y Combinator China,是美国知名创业孵化器Y Combinator的中国分支,同时担任YC全球研究院院长。陆奇和OpenAI有着深厚渊源,他与OpenAI首席执行官Sam Altman是忘年交,相识已逾18年。在他的领导下,他帮助推动了许多重要的技术和产品的发展,并对全球的科技产业产生了深远的影响。
此外,陆奇还是一位勤奋的工作狂,每天清晨4点起床,跑步5英里,6点准时到办公室。他的领导风格以开放性和透明度为特点,在他的管理下,团队得以实现创新和高效的工作。作为一位计算机科学家,陆奇深入了解数字化产品和数字化本身的数字化体系,对复杂系统的演化模式有着独特的见解和理解。他的思想和经验对于科技产业以及人工智能的发展都具有重要的意义。
新范式

大变革:技术范式的变革
新拐点
三位一体结构演化模式图:可以用来解释任何复杂系统。包括一个人、一家公司、一个社会。甚至数字化本身的数字化体系。
- 信息系统:从环境中获取信息
- 模型系统:指的是对信息做一种表达,可以用来进行记忆、推理、规划和分析
- 行动系统:根据规划,可以跟环境做做交互,转换能源,达到最终目的
通过对三位一体的理解,来看产业发展的范式:
- 底层是数字化产业过去50多年每一个年代的发展平台
- 三位一体的三个子系统代表不同的系统
- 第一代系统:信息系统
- 第一次拐点:1995 – 1996年(Web-1个人电脑互联网)。根本原因是成本的结构化变化:成本从边际走向固定。这次拐点,是信息获取的成本,从边际走向了固定。一系列的核心技术,可以做到高度的浓缩信息和高效的分发信息,这些导致信息的获取成本从边际变成了固定,信息变得无处不在。今天大部分数字化的产品和公司, 包括谷歌、微软、阿里、字节等等, 本质上都是信息搬运的公司。
- 第二代系统:模型系统
- 2022-2023年:目前我们所在的拐点。模型的成本开始从边际移项固定。以为出现了【大模型】。模型就是知识,我们生产任何一件东西都需要知识。它的产能更大。这个拐点一定比过去更强、更快。
- 模型和人有内在关系。我们每个人都是模型的组合**。**人有三种模型(我们对于社会的价值,都是上述三类模型的组合):
- 认知模型,我们能看、能听、能思考、能规划;
- 任务模型,我们能爬楼梯、搬椅子剥鸡蛋;
- 领域模型,我们有些人是医生,有些人是律师,有些人是码农。
- OpenAI搭好了大模型的底层基础,未来将会是模型无处不在,知识无处不在各行各业都面临着产业的变革
- 第三代系统:行动系统
- 预测下一个拐点 – 行动体系的拐点:
- 很快就会发生:今天的大模型是一个生成模型,他能有效的控制操作各种设备
- 下一个拐点会是以机器人、自动驾驶和空间计算的组合为基础的
- 预测下一个拐点 – 行动体系的拐点:
- 第一代系统:信息系统
经济发展范式变更:更多的企业成为科技公司
今天的经济核心生产力,基本还是以设备、劳工、资本、大众商品、原材料、能源等。未来技术将越来越多的成为直接生成力,越来越多的企业将成为科技企业。什么是科技企业?
举一个例子,为什么特斯拉是大家公认的一家科技公司?科技公司与非科技公司的根本区别在于用信息更有效的转化能源。
因为特斯拉用信息、用软件、用人工智能,能源转化效率越来越高,它每设计一个新的车子、每研发一个新的设置、每制造一个新的设备,效益都在越来越高。而老一代汽车企业它的核心生产力,还是以前的流水线、工人、设备等。
本质上,它让“信息更有效地转化能源”,让技术驱动创新成为直接的生产力。
新范式的社会影响

当前这个时代,是信息化到知识化的阶段。这是一个大模型的时代,脑力劳动有了替代,人力有了一个智慧的助手。经济模式开始从服务经济进入体验经济,未来几个核心的职业会是:
- 创业者:把技术和独到的见解变成体验和价值
- 科学家:做新一代的科研
- 艺术家:有独到见解能力的艺术家
在下一个时代,会是自主化的时代。到时借由Web3的发展、脑机接口的发展以及人工智能的到速发展,我们可能会面临一个问题:如果没有工作,我们应该做什么?人类的价值体系会收到挑战。
新范式的缔造者: Sam Altman & OpenAI
- GPT1 是重要的第一步,预训练大模型,核心是通过自然语言处理和解决问题。
- GPT2 是迁移,在预训练之后做微调, 可以把预训练中学到的东西,通过微调迁移到新的下游任务模型中。
- GPT3 是非常核心的一步,实现很强的泛化能力。
- Dalle-E,启动图像模态,引入了多模态能力。
- Codex:为编程语言微调,引入模型重要的逻辑能力和长期用AI来开发AI的路径。
- GPT3.5 实现了根本性突破,引入了指令微调。
- GPT4 实现了了完整的工程研发体系。
- GPT4 之后,如 ChatGPT、plugin 等将全面建立产业生态。
再聊几个演讲中没提到的内容:
- 大概从GPT2开始以后不再进行开源
- OpenAI 首席科学家、联合创始人 Ilya Sutskever 曾明确表示,OpenAI 不分享关于 GPT-4 的更多信息的原因是 “不言而喻的”——害怕竞争和对安全的担忧。
- 关于OpenAI的股权模式:OpenAI的股权结构让OpenAI Nonprofit不会受到任何股权上、业务上的干扰,依然可以专注在自己领域,他把这些「干扰」全部都转嫁给到OpenAI LP,自己作为GP掌握控制权。同时合伙企业的收益分配取决于合伙协议,不一定是按照合伙份额,所以形成了以上四个阶段不同的利润分配方式。大道至简,用一个有限合伙企业同时解决资金来源、控制权和收益分配的问题。
新时代

Open AI 的后台
后台是 GPT-N 系列,目前为 GPT-4,未来将有 GPT-5、GPT-6 等。
它内部有大模型引擎,封装了丰富的知识推理规划能力,具有较强的开发和扩展性。Open AI 提供 Foundry 和 PlayGround 等,包含 API 和简洁的收费模式。同时,许多第三方基于 Open AI 后端开发服务和应用。
Open AI的前台
前台是 ChatGPT。
ChatGPT 提供完整的用户体验,适用于所有人,解决各类问题。这是人类历史上首个真正实用的自然语言处理工具,具有足够的灵活性和内置知识。
它的前台具有生态扩展性,即“ChatGPT 插件 ”,Open AI 已经开发了多个插件,如 Code、interpret 等,具备成为未来“杀手级”应用的潜力。大量第三方将使用插件开发前端应用。近期已经针对plus用户开放了插件,初步体验,都是颠覆性的!
中国机会
对于中国:核心提到了“全球唯二,奋起直追”
在大模型时代,有一个特殊的现象:真正能做大模型的,全球范围内,只有两个国家和地区具备这个产业核心的能力,北美和中国。
要实现这个目标,需要足够大的人才、资本、技术和市场规模及密度,中国和美国是全球唯二的有机会的地方,长期机会非常大,但是今天,我们必须是奋起直追。
我们会遇到很多问题,比如前面提到的OpenAI的闭源、比如近期遇到的显卡对华禁售。针对显卡禁售,特意查了下资料:
现在英伟达的高性能GPU:A100和H100,都不允许卖给中国公司了!A100非常适合支持ChatGPT、Stable Diffusion等工具的机器学习,它能够同时执行许多简单的计算,这对于训练和使用神经网络模型非常重要。高性能GPU缺货,正成为限制中国AI研发的最直接因素之一
上次和阿里云的伙伴沟通,现在想要购买显卡,都需要提前排队申请,尤其是A100和H100。就我所知,身边应该还有很多刚刚接触人工智能的伙伴公司还在使用T4显卡,这些好像还都是上一波“挖矿”留下来的….
在业内,这一公认的说法是:**1万枚英伟达A100芯片,是做好AI大模型的算力门槛。**一些AI领域企业家,甚至将他们获得的A100数量视为是否抢得先机的标志。
陆奇博士提到,目前中国约有20万张A100卡,而国际头部团队大致需要1万张H100(约10万A100卡),也就是国内有这个资源体量的团队,不会超过2个…
再考虑到显卡本身的使用寿命,中国的奋力追赶还需要有底层芯片能力的支持。这也是这几年国内在强调的国产化替代的原因。
下面列出了一些显卡的对比:

新机会
每个人都会有 Copilot,每个人都会有 auto pilot,每个人长期下来都会有副驾驶员的团队,人类的组织形式也会因此发生相应变化。综合在一起,每个职业的产能都将极大地提高。
Open AI 分析,19%的劳动力将会被 GPT 影响至少50%。高盛研究,全球范围3亿人的工作将被AI自动化,80%的美国劳动力会被GPT影响至少10%。

未来的产品/创业方向,可以如下思考(数据—>模型—>使用闭环):
- 你自己有数据
- 你自己可以开发模型,可以使用大模型来开发模型
- 你的模型被使用之后,你可以拿到数据
- 使用的数据返回来有个闭环使你的自有数据越来越强
技术上如何考虑:
- 模型在你的领域的进展速度:高、中、低
- 大模型对该领域带来的三位一体体验程度:高、中、低
- 大模型对该领域的研发体系带来的突破性进展:高、中、低
需求导向如何考虑:
- 大模型对满足该领域的信息需求的机会:高、中、低
- 大模型对满足该领域的模型需求的机会:高、中、低
下面具体从16个板块,从是技术思考方向 + 需求导向方向分析各个板块被大模型带来的机会。基于陆奇博士的PPT整理的表格如下(高 – H;中 – M;低 – L):

陆奇博士演讲的内容干货非常多,作为个人理解和收藏,先整理到这儿。后面2个链接是PPT原文和演讲视频:
PPT:https://drive.google.com/file/d/1DHZCBeBptQ_2gkE6h6Nw1Xr8eYa-cnqI/view
留言