2022年12月,由OpenAI研究开发的ChatGPT正式发布。ChatGPT一经发布,就成为史上最快达到1亿活跃用户的APP。ChatGPT的超强人工智能引发热议,以其为代表的AI大模型展现代际提升的通用AI能力,向“通用人工智能”迈进了一大步,并引发了AI的技术革命和创业热潮。在本文中,我们将从行业发展、投资机会和挑战三个方面来探讨新一代大型AI模型的趋势和影响。希望通过此文的分析抛砖引玉,为新一代AI领域的研究提供启发。
ChatGPT的发展历程
ChatGPT的强大得益于前期大型语言模型(LLM,Large Language Model)的发展和积累。2017年,Google提出的Transformer架构引入自注意力机制,进一步模拟和优化了人脑学习过程,使得自然语言处理(NLP)能力大幅提升,自此开启了大模型训练之路。至2020年,OpenAI推出的GPT-3展现了出色的多任务语言能力和效果,GPT(Generative Pre-Training Transformer)路线成为当下主流技术路线。AI大模型也引发AI范式发生变化:此前的共识是专有小模型+小算力,用精妙的算法和更高的模型精度,来减少算力投入;而新的共识是“大力出奇迹”,即预训练大模型+大算力+海量数据。
ChatGPT是基OpenAI在2020年推出的大模型GPT-3的基础上、引入基于人工反馈的强化学习、做了大型fine-tuning(微调)和alignment(对齐)后的超级应用。1750亿参数的GPT-3在问答、摘要、翻译、续写、理解等语言类任务上均展现出了优秀的通用能力。GPT-1至GPT-3在参数量和训练数据量在指数级提升,而ChatGPT是在GPT3.5(InstructGPT)基础上升级的超级APP。ChatGPT的效果远超上一代AI,主要是基于以下几点:
●Transformer模型架构的capacity更强,可以承载和训练海量的数据,使得它能够获取海量的知识。
●参数级别在超过一定规模后,系统出现“涌现”(emergent)。涌现现象使它具有多方面的性能爆发。
●引入基于人工反馈的强化学习(Reinforcement Learning from Human Feedback),将人类交互与机器学习做了对齐(alignment),使机器更类人,遵循人类伦理。
●从InstructGPT开始,除了语料外还学习了海量的代码数据,代码的学习使ChatGPT具有更好的逻辑理解与运用能力。
●大语言模型的涌现现象,在一定规模后迅速涌现出新能力。
AI大模型正处于加速“军备竞赛”的状态,国内外均引发了创业热潮。过去十年表现最好的模型的参数,每18个月增加了35倍,已远超摩尔定律,展现了“新摩尔定律”的特点,其在参数量和多模态方面仍然具有巨大的空间和潜力。短期内AI的价值可能被高估,存在泡沫化风险,但长期来看,AI技术将会迎来真正的技术拐点。预计新一代的AI将在未来3-5年内渗透到我们的生活中,成为像现在的互联网一样不可或缺的存在。
*“新摩尔定律”:宇宙中的智能数量每18个月翻一番。(OpenAI CEO提出)
新一代AI的投资机遇
AI大模型和生成式AI为我们带来了前所未有的开创性和颠覆性机会,同时也成为了投资领域的热点。在投资分析中,我们可以将AI分为模型层/中间层和应用层两个层面。
生成式AI
是一种新型人工智能技术,能够根据输入数据自动生成相应的输出内容。与传统的基于规则的人工智能不同,生成式AI通常使用深度学习技术训练模型,使其能够学习到输入数据中的内在规律,并根据这些规律自主创作新的内容。
模型层/中间层方面,显然AI大模型是资金密集和人才密集型的领域。受限于AI人才的稀缺性和大模型对人力、资金的巨大需求,通用大模型的机会会更多集中在科技巨头公司。然而,垂直行业的端到端大模型仍为创业公司提供了广阔的市场空间,例如Bloomberg利用其金融领域的独特数据和行业认知在金融领域推出的BloombergGPT模型,效果超过了GPT-4。此外,创业公司还可以借助开源大模型带来的中间层机会,在开源模型管理、部署、模型训练相关工具链等方面均有大量需求。
应用层方面,大模型和生成式AI将带来很多全新场景,改变生产和生活方式。文字生成、文生图、AI视频、AI代码生成和Prompt工具等技术将引领潮流,为To C和To B市场创造新价值。这些技术将提升内容创作效率、智能数据可视化、降低视频制作成本、简化(乃至重塑)软件开发流程并提高决策效率。企业和创业者需探索创新,将前沿技术应用于实际场景,实现产业升级和变革。
To C的机会包含平台型机会,如AI虚拟社交、搜索引擎、游戏、虚拟陪伴等。举例来说,AI虚拟社交可以是一个全新的场景,也是一种游戏;而在未来游戏里的内容和NPC都会是高度智能化的而非预设的,游戏的可玩度、创造力会有无穷的提升。
To B的机会则包括行业垂直SaaS机会,如电商、短视频、金融、生物制药等领域。可以是生成式AI原生创业公司的机会,更是原有SaaS公司的能力升级的机会,如Office 365、设计软件Canva的能力大幅提等,以及协同工具Notion引入生成式AI后,其文字撰写、summary、会议记录等等知识能力也大幅提升。
需要注意的是,应用层的创业公司需要关注构建技术栈和数据层面的竞争门槛,以及其与底层大模型的关系。在这方面,创业公司需要考虑如何在技术和数据上形成差异化优势,避免被底层模型供应商所限制。
基于上述,我们会重点关注以下AI投资机会:
1、垂直行业的端到端大模型机会,利用特定的行业数据(公开数据、半公开数据、专有数据),并根据行业和应用侧需求针对性地进行大模型的预训练,该模式会兼备数据和技术门槛以及商业落地性;
2、利用新一代AI解锁了全新场景的原生生成式AI(Generative AI native)创业公司,他们会大幅创造增量价值、或破坏性地颠覆原有场景;
3、AI大模型相关的中间层机会,如开源模型托管、部署以及其他MLOps(机器学习运维)相关工具链,这些公司有机会成为这一波AI大模型热潮的“卖水人”。
新一代AI面临的挑战
新一代AI技术正呈现出爆炸式的增长,同时也带来了更多的机会和挑战。为了更好地探讨新一代AI面临的问题和解决方案,笔者将从三个方面进行说明。
挑战一:监管问题
4月11日,网信办发布了《生成式人工智能服务管理办法(征求意见稿)》,试图对生成式AI进行监管,以确保生成内容可控。然而,由于生成式AI具有不稳定性和不可解释性,监管变得极具挑战性。
首先,生成式AI的不可预测性使监管部门难以制定完备的监管规定。实时识别和审查生成内容的技术手段还有待完善,这给监管带来了技术层面的困难。严格的监管可能会限制生成式AI的创新和发展,导致其潜力无法充分发挥。同时,如何兼顾保护公共利益和维护个人隐私,也是一个需要平衡选择的问题。
总之,对生成式AI进行监管的实际操作中面临诸多挑战。政府和监管部门需深入研究生成式AI的特点,与业界合作,共同寻找有效的监管策略,以确保技术创新与社会责任的平衡。
挑战二:教育范式变化
教育范式变化。随着AI大模型逐渐展现出越来越强大的能力,甚至可以媲美大学生的知识水平,教育领域的范式可能会发生重大变革,影响人类学习和教育方法。在这一过程中,教育者、政策制定者以及学生本身需要关注其中的机遇与挑战,确保AI技术为教育带来积极变革。
在知识传授方面,传统的教育方式或面临重大挑战。对于许多学科领域,人类可能不再需要死记硬背大量的知识,而是通过掌握如何有效运用AI工具来解决问题。这可能导致教育体系的重大调整,更加注重培养学生的创新能力、批判性思维和团队协作等软技能。为了满足这一变革,教育政策制定者和学校可能需要重新审视课程设计、评估标准和教学方法,以适应AI时代的需求。
此外,面对AI技术的普及,教育工作者也需要关注一些潜在问题。例如,如何确保AI技术在教育中的公平性和道德性,防止技术加剧社会不平等现象?教育者还需思考如何让学生保持对学习的热情,不被AI取代的恐惧所困扰。为了实现这一目标,教育者可以将AI作为辅助工具,引导学生主动参与学习,培养他们成为终身学习者。
挑战三:技术垄断
技术垄断可能也会带来挑战。基于GPT的大模型越来越接近AGI(通用人工智能),对于政府、社会关系的影响也会越来越大。技术垄断同时可能导致数据和算法资源的不公平分配,加大企业之间的差距。
例如,拥有大量数据和强大算力的科技巨头可能会成为AI技术的主要推动者,使中小型企业和创业公司难以与之竞争。这种垄断势力可能导致数据隐私和信息安全问题,因为这些企业可以利用其庞大的数据资源跟踪和分析用户行为。此外,技术垄断可能影响创新进程,因为垄断企业可能会抑制竞争对手的发展,从而限制新技术和应用的产生。
因此,政府和监管机构需要关注技术垄断所带来的挑战,寻求制定相应政策,以遏制垄断势力,促进公平竞争和创新。这也是一个值得思考的问题,未来是否会有必要对这些技术巨头进行监管或接管,以保障社会公平和创新环境。
小 结
正如Andrew Ng所说的 “人工智能是新电力,就像100年前电力改变了几乎所有产业,今天很难想象哪个行业未来几年不会被人工智能改变。” 生成式人工智能将改变多个行业并有助于解决现实世界的问题。
同时,也如Demis Hassabis 的观点所说的,“人工智能是人类创造的最强大技术,有助于解决许多全球最大的问题。但我们需要确保AI的发展使全人类受益,力量得到明智使用。” ,我们需要在把握投资机遇的同时,审慎思考如何在保障公平、道德和创新的前提下,充分发挥生成式人工智能的潜力,只有这样才能实现技术与人类和谐共生的愿景,共创美好未来。毫无疑问,随着技术的普及和成熟,未来世界将更智能、高效且充满机遇。
•Andrew Ng:人工智能专家、谷歌大脑(Google Brain)和百度研究院(Baidu Research)的前任负责人,专注于推广人工智能的应用和发展。
•Demis Hassabis:人工智能专家、DeepMind公司的创始人和首席执行官,致力于解决人工智能方面的核心问题,并将其应用于改善人类的生活。
“一村研究社”是一村资本打造的全新专栏,旨在研究与分享产业领域最新技术与消息,并针对有投资价值的赛道企业做价值评估,挖掘优质项目的潜在投资机会。我们期望通过投研联动,拓展公司同仁的眼界与新知,并搭建一个能与业界同行沟通交流的平台。