导读:云依然是运行优质大模型的最佳方式
2024年,Claude3无疑是大模型领域的耀眼新星。自3月初面世以来,无论是基准测试成绩,还是实际体验,Claude3都屡屡表现出优于GPT4的体验。Claude3背后的初创公司Anthropic也被认为是OpenAI的最强对手。
越智能的大模型越离不开强大的云计算能力的加持。今年,Anthropic与头部云厂商的合作进一步加强。3月28日,亚马逊云科技宣布已完成对Anthropic的40亿美元投资,从而成为Anthropic的最大投资者。
Anthropic将亚马逊云科技作为首选云服务提供商,计划利用亚马逊云科技自研芯片Amazon Trainium及Amazon Inferentia芯片构建、训练及部署其未来基础模型,并承诺为全球亚马逊云科技客户提供在Amazon Bedrock上对其未来基础模型的长期访问权限。
近日,亚马逊云科技向国内媒体分享了与Anthropic合作的最新进展。
图片来自摄图网
智能进化论认为,在生成式AI的竞争格局中,亚马逊云科技+Anthropic的组合,提供了更丰富的模型和工具选择,正在不断降低企业使用大模型的门槛。
同时,亚马逊云科技的市场影响力和庞大的客户基础,将有助于Anthropic扩大市场份额。借助Amazon Bedrock,Claude3能够触及更广泛的用户群体,包括那些对AI技术有着迫切需求但又缺乏专业技术的中小企业。双方合作也将进一步推动生成式AI技术的普及和应用。
具体来说,双方联手的优势体现在以下几个方面:
丰富的基础模型和工程化工具没有一款基础大模型能够满足所有业务场景需求。基于这样的共识,Anthropic与亚马逊云科技为企业提供了更丰富的使用大模型的方式,和更具性价比的选项。
一方面,Claude3一举推出3款产品Claude 3 Opus、Claude 3 Sonnet和Claude 3 Haiku,提供了更丰富的模型选择。根据不同模型的性能、速度和成本,企业可以做出更适配自身业务的大模型。
在实际测试中,中间一档的Claude3 Sonnet在“大海捞针”文本召回、代码生成、营销文案生成等方面表现更优,但成本比GPT-4 Turbo减少一半以上(GPT-4 Turbo 每百万token的输入/输出费用为 10/30 美元)。Claude3 Haiku的使用成本更低,而且生成速度更快。
另一方面,亚马逊云科技Amazon Bedrock为企业提供了丰富的大模型工程化能力,包括知识库功能、代理功能、模型微调等,不断降低企业应用大模型的门槛。
“大模型运行需要的算力并非仅凭传统的IDC数据中心可以轻松实现,云依然是运行优质大模型最好的地方。”亚马逊云科技大中华区产品技术总监王晓野表示。
比如,知识库功能 Knowledge Bases for Amazon Bedrock为基础模型和Agent提供来自企业私人数据源的上下文信息,帮企业构建检索增强生成 (RAG)应用。从 Amazon Bedrock 知识库检索到的所有信息均附有引文,可提高透明度并最大限度地减少幻觉。
代理功能 Agents for Amazon Bedrock就像大模型的手和脚,能够将复杂问题拆解,并自动调用相关API完成任务执行。
“基础模型能力和企业真正的生产运营之间,还存在一定的鸿沟。企业还需要一系列周边能力的帮助,才能正确、合理、安全、高效地使用大模型。这就是亚马逊云科技的价值所在。”亚马逊云科技大中华区产品部总经理陈晓建表示。
安全、负责任的AI安全、负责任的AI也是亚马逊云科技与Anthropic共同推动的目标之一。
虽然Anthropic创始团队来自OpenAI,但安全无害是Claude一直强调的一个优势。在技术文档中,Anthropic曾表示,Claude在训练过程中重点是有帮助、无害和诚实。
在实际测试中,Claude 3的幻觉相比前代模型明显下降。在处理挑战性开放问题时(100Q Hard),Claude 3的准确性也明显提升。
同样,亚马逊云科技也推出一系列的技术工具,帮助企业实现大模型的安全使用和隐私保护。
比如,Guardrails for Amazon Bedrock能够为Amazon Bedrock上的多种基础模型和代理提供保护、配置有害内容过滤器、通过自然语言描述来定义并拒绝生成被禁止的话题,并能够在基础模型的回复结果中屏幕个人隐私数据。
Amazon Bedrock传输中的数据和静态数据都会被加密,数据不会与模型提供者共享,也不会用于改进基础模型。同时Amazon Bedrock提供全面的监控和日志记录功能,为治理和审计需求提供支持,并符合包括 HIPAA、GDPR、ISO、SOC、CSA STAR 2级在内的合规资质。
更广泛的生成式AI应用生态大模型的领先优势不仅取决于核心技术,还取决于能否建立广泛的生态系统和合作伙伴关系。
随着大模型能力在企业更多场景的落地,将诞生海量的生成式AI原生应用。能否把握AI原生时代的巨大市场机遇,需要大模型厂商与云计算厂商强强联合。这也是外界看好Anthropic与亚马逊云科技合作的一大关键。
此前数年间,亚马逊云科技在人工智能和机器学习领域已经有了多年积累。目前,已经有超过10万企业用户使用亚马逊云科技的人工智能和机器学习服务。这些生态客户也将是生成式AI时代的头部客户。
目前,各行各业、各种规模的企业都已经在Amazon Bedrock上使用Claude大模型,包括ADP(美国自动数据处理公司)、桥水基金、科莱恩、丹娜法伯癌症研究院、Delta航空公司、英国基因组学研究所、辉瑞、PGA巡回赛等等。
自2023年9月,亚马逊云科技宣布对Anthropic投资40亿美元以来,生成式AI领域的竞争愈加激烈,双方的合作也还处在早期。让更多行业的企业开始采用生成式AI技术,亚马逊云科技与Anthropic无疑将成为这一进程中的重要推动力。
END
本文为「智能进化论」原创作品。