Dario Amodei讨论AI发展:商业模式、未来趋势。
近日,AI独角兽Anthropic的CEO Dario Amodei接受了Noah Smith的访谈,从商业角度畅谈AI发展,贡献了不少来自业界一线的真知灼见。
以下是我的学习笔记,分享给大家。
在创办Anthropic之前,Dario Amodei曾在百度、Google及OpenAI任职。说起Google,Dario认为很多科研人员把Google当做他们学术生涯的延续,这点和当年的贝尔实验室很像。
Google浓厚的学术氛围和优质的产业资源吸引了大量顶级科研人才,开展数以百计的创新科研项目,Transformer只是其中之一。
无论从算力资源还是人才密度来看,Google理应是AI浪潮的最大受益者。但是Google的组织架构是为了“搜索”服务的,并没有把AI相关的要素有效的组织起来。
如果当时Google能够把算力优势、关键学术成果、人才优势有效利用起来,它本可以成为AI领域的唯一主导者。
AI公司的商业模式取决于Scaling Law是否持续成立。
假设Scaling Law在未来相当长一段时间保持有效,那么AI将带来巨大的经济价值,涉及人类社会的方方面面。
Dario认为,随着大模型不断Scaling up,单个模型的训练成本将超过百亿美金,甚至达到千亿美金。因此这将成为一个准入门槛极高的生意,大模型将成为国家级基础设施,只会有少数几家科技巨头,甚至国有企业参与其中,形成寡头垄断的竞争格局。
当然这里有一个关键问题,是否会有公司愿意开源千亿参数的大模型?
Dario对此深表怀疑,千亿规模的模型的推理成本非常高昂,甚至超过训练成本,开源模型的商业价值将会受限。
要想在竞争中生存发展,AI公司需要找到自己的差异化定位,Dario提供了两种思路。
其一是基座模型能力差异化。A公司可以训练出一个专门写代码的模型,B公司可以训练擅长创意写作的模型,C公司训练出一个虚拟伴侣模型。与其拼尽全力做基座万能大模型,不如选择一个领域做深做透,专项训练。
其二是模型与应用的垂直整合。理论上看,你可以把模型层和应用侧解耦分离,但实操中要把应用做到极致,往往需要对模型进行专项训练,这是大模型公司得天独厚的优势。
Dario认为未来AI公司不能只提供API能力输出,而应该深度介入应用层。虽然目前基于大模型的应用还很薄,但未来会越做越厚,逐渐形成壁垒。
Scaling Law目前只是基于观察总结的经验,可能持续很久,也可能随时停止。根据目前的观察,Dario认为Scaling Law还将持续相当一段时间。
假设Scaling Law在达到AGI之前失效,AI公司的处境可能与光伏类似。
纵观光伏行业,技术创新层出不穷,带来了巨大的经济价值,但并不具备垄断属性,导致光伏企业利润率整体偏低。
与光伏行业类似,AI行业的市场规模非常巨大,但公司想要保持较高的margin并非易事。
如果Scaling Law持续有效,在不久的将来,AI模型有可能成为一个国家国防领域最重要的资产之一。
另一方面,针对AI的misuse和autonomy问题,如果不加以严格监管,可能导致较大的社会问题和安全隐患。
因此,政府会在AI领域扮演越来越重要的角色,但不太可能对AI公司进行国有化,具体的有效介入方式还需要探索。
未来的AI生态将由大模型与小模型共同构成。大模型强大但价格昂贵,小模型便宜且推理迅速,但没有那么智能。
根据Dario所言,Anthropic正在尝试构建“蜂群协作”的推理模式,由大模型将一个复杂的任务拆解成数个简单的子任务,然后把每个子任务分配给一个小模型来处理,最后将小模型处理的结果统一汇总给大模型,输出最终结果,整个处理过程就像蜂群一样。
Dario认为AI能带来财富的增长和富足的生活,但也极有可能加剧贫富差距。
发达国家将率先受益于AI带来的生产力进步,实现GDP的双位数增长,但财富可能高度集中于头部科技公司及其员工,而非平均分配。
与此同时,发展中国家的居民可能无法共享AI带来经济增长的果实,并面临更加严峻的就业压力。
基于此前生物学的学术背景,Dario对AI在生命科学中的应用前景颇为重视。
在大模型诞生之前,AI在生命科学中最多只是辅助工具,即使是AlphaFold也没有从根本上改变这一定位。但在不久的将来,AI将逐渐走到台前,成为生物科研领域的核心参与者。
纵观整个20世纪,生命科学的所有进展都是由极个别的重大发现推动的,比如基因测序技术,以及CRISPR基因编辑技术。
Dario认为,大模型将十倍甚至百倍的提升科学发现的速度。
以CRISPR为例,这项技术最初是在细菌中发现的一种天然免疫系统,用于防御病毒入侵。当细菌遭受噬菌体攻击时,会将入侵者的DNA片段整合到自身的CRISPR序列中,并通过RNA和Cas蛋白来定位并消灭这些入侵者。
这项技术早在30年前就被发现,但是直到2013年哈佛医学院的George Church才首次使用CRISPR技术完成了RNA介导的人类基因组编辑。如果科学家使用 AI加快从科学发现到应用转化的速度,这无疑是全人类的福音。
Dario判断,AI有望在未来10年内实现原本预计整个21世纪才能达成的生物学进展,治愈罕见疾病,让我们拭目以待。
文章来源“Alpha Engineer”,作者“费斌杰”