亚马逊云科技的基础大模型战略：从“Scaling Law撞墙”到持续投入

4天前 17 大屏时代

在人工智能的浪潮中，大模型（Large Language Models, LLMs）成为了技术进步的焦点。随着AI技术的飞速发展，关于“Scaling Law是否撞墙”的争论成为了学术界和产业界的重要话题。近期，亚马逊云科技在2024年re:Invent大会上发布了新的基础大模型系列Nova，展示了其在AI领域的长远布局。尽管大模型的增长潜力受到“Scaling Law”理论的挑战，亚马逊依然坚定地走在基础大模型的道路上，展现出它对这一领域的深刻理解和坚定信念。

Scaling Law的挑战：基础大模型的瓶颈？

所谓的“Scaling Law”，指的是大模型在随着规模扩大时，是否能保持或提高其性能。越来越多的研究者对这一理论提出质疑，认为随着数据量和计算能力的达到上限，AI模型的增长可能会面临物理和理论上的瓶颈。OpenAI的CEO Sam Altman坚信，AI领域并没有“墙”，而著名研究者Ilya Sutskever则表示，预训练大模型将不再是主流，未来会进入新的发展阶段。

这种看法引发了广泛的讨论，很多人认为大模型已经走到了一定的瓶颈，不如基于现有模型进行微调，提升推理效率和应用场景的优化。然而，亚马逊云科技显然并未被这些讨论所影响。相反，亚马逊云科技推出的Nova系列大模型，并未受到“Scaling Law撞墙”的影响，反而坚定了继续投入基础大模型的决心。

亚马逊云科技的坚定信念：基础大模型的潜力与价值

为什么亚马逊云科技会继续在基础大模型上加码投资？亚马逊云科技的观点可以从多个角度进行剖析。首先，尽管关于“Scaling Law”是否撞墙的问题仍然存在争议，但亚马逊相信，基础大模型的发展并未达到极限。正如亚马逊大中华区产品部总经理陈晓建所说，基础大模型仍处于一个非常早期的阶段，“到今天为止，基础大模型还远远没有达到非常成熟、已经不需要新的提供商入局的阶段。”

与此相对的是，亚马逊在全球云计算市场的领导地位，使得他们有能力继续在这一领域进行技术创新和投资。基础大模型的潜力远不止于当前的应用。随着数据存储和计算能力的进一步提升，尤其是在私有数据、行业数据和新兴技术（如量子计算、生物技术、物联网等）带来的数据源的推动下，基础大模型仍然有着巨大的前景。虽然现有的公共互联网数据可能接近饱和，但这些新型数据的出现将为基础大模型提供新的养分，推动技术的突破和创新。

数据的价值与未来突破

“Scaling Law撞墙”的争论集中在数据的瓶颈上，许多研究认为，大型语言模型的增长受限于数据的可用性和质量。即便如此，公共互联网数据并不能完全代表所有数据。人类世界还有大量未被数字化的数据，尤其是纸质文献、私密数据、物联网数据等。此外，随着新技术的不断涌现，例如量子计算和生物技术，它们所产生的全新数据将为未来的大模型训练提供丰富的资源。

亚马逊云科技深知这一点，并持续投入到数据技术的优化和积累中。陈晓建指出，数据的价值在基础大模型时代尤为重要。基础大模型不仅仅是对已有数据的利用，更在于如何通过新的数据获取方式、数据挖掘技术和AI合成数据来实现更大的突破。这意味着，即便在当前数据量已经接近上限的情况下，通过创新的技术手段，基础大模型依然能够突破瓶颈，推动技术的升级和演化。

基础大模型的商业价值与未来市场

亚马逊的基础大模型不仅仅是技术上的投资，更是商业上的战略布局。随着AI市场的竞争日益激烈，企业对大模型的需求逐渐增加。对于很多小公司和创业团队而言，训练出一个自有的大模型几乎是不可能的任务。亚马逊云科技通过推出Nova系列大模型，提供了一个可供企业直接使用的大模型解决方案，这为中小企业和开发者提供了巨大的便利。

对于创业公司来说，能够低成本使用高性能的大模型，意味着可以快速进入AI应用开发的快车道，避免了从零开始的资源消耗。亚马逊通过提供从基础模型到应用服务的全套工具，不仅为自己打开了巨大的市场空间，还在一定程度上激发了市场的创新。随着市场竞争的加剧，各大云服务商不断优化服务，推动AI应用的发展，从而为整个行业带来了更广阔的发展空间。

推动AI生态的良性发展

亚马逊云科技不仅在基础大模型上投入巨资，还通过与其他技术方向的深度结合推动AI生态的良性发展。例如，亚马逊在Bedrock平台上开源的合成数据生成项目、对大模型的智能体推理能力升级等，都展示了它在多种技术方向上的前瞻性布局。这些创新推动了AI技术的快速迭代，也为创业者和开发者提供了更多的选择和工具，进一步加速了AI产业的健康发展。