月之暗面科技有限公司与清华大学MADSys实验室联合发布了一项名为Mooncake的开源项目,旨在共建以KVCache为中心的大模型推理架构。2024年6月,双方曾联合发布Kimi底层的Mooncake推理系统设计方案,该方案基于PD分离和以存换算架构,显著提升了推理吞吐量,受到业界广泛关注。Mooncake项目从论文延伸而来,以超大规模KVCache缓存池为中心,通过以存换算的创新理念减少算力开...
在AI技术飞速发展的今天,我们对人工智能的期望越来越高。从日常生活到复杂的科学问题,AI逐渐走进我们的生活,而Kimi推出的最新AI模型K1,打破了传统的“做题机器”局限,不仅能分析数学、物理题目,还能对图片进行推理、风水分析,甚至识别古董,表现出令人惊叹的多维能力。K1的核心优势:思考与视觉的结合K1模型的最大亮点在于其综合的推理能力和视觉能力的结合。与之前的数学推理模型K0-Math相比,K1...