月之暗面科技有限公司与清华大学MADSys实验室联合发布了一项名为Mooncake的开源项目,旨在共建以KVCache为中心的大模型推理架构。2024年6月,双方曾联合发布Kimi底层的Mooncake推理系统设计方案,该方案基于PD分离和以存换算架构,显著提升了推理吞吐量,受到业界广泛关注。Mooncake项目从论文延伸而来,以超大规模KVCache缓存池为中心,通过以存换算的创新理念减少算力开...
麻省理工学院(MIT)计算机科学与人工智能实验室(CSAIL)孵化的创新公司 Liquid AI,宣布推出新一代液态神经网络(Liquid Neural Networks, LNN)架构。这一技术创新在多模态数据处理领域表现卓越,其效率和灵活性超越了当前广泛使用的 Transformer 模型。突破性技术:液态神经网络架构液态神经网络从神经科学、物理学和动力系统中汲取灵感,采用动态系统设计,能够高...
大屏时代 (DapingTime.com) 12月5日 消息 — 亚马逊近日宣布推出其第三代AI训练芯片——Trainum3。作为全球领先的电商巨头,亚马逊在人工智能和云计算领域的不断创新,再一次通过这一全新的硬件产品,进一步巩固了其在AI技术上的领导地位。Trainum3芯片是继第一代和第二代Trainum芯片之后的全新升级,专为AI模型的训练任务优化设计,旨在为大规模机器学习任务提供更高的计算...
在人工智能(AI)和生成式AI(AIGC)技术日益普及的今天,数据的价值愈加凸显,成为推动数字化转型和企业创新的核心资产。根据Gartner的预测,到2028年,企业软件应用程序中将有33%的应用具备自主性AI,企业对数据的依赖和利用将达到空前水平。在这一过程中,存储作为承载数据的关键基础设施,正在经历前所未有的变革。数据的力量:AI与数据的双向推动人工智能的发展,离不开三个关键要素:算力、算法和...