本文将分析大语言模型训练的GPU内存需求，主要包括三个方面：训练数十亿参数基于Transformer的LLM时，每个GPU设备需要多少GPU内存；估算内存需求的公式是什么；如果模型无法匹配内存，在实践中应采取哪些措施来减少内存需求。 我敢打赌，每个机器学习工程师 ...

今年的Intel Architecture Day上，更多有关Intel GPU的产品信息揭开面纱。这次Intel主要谈到了面向游戏玩家的Xe-HPG架构Alchemist GPU；以及面向数据中心的Xe-HPC架构GPU芯片Ponte Vecchio。后者被Intel形容为技术难度“堪比登月”的芯片，这也是我们第一次见到MCM（Multi-chip Module ...

中央处理器（英文Central Processing Unit，CPU）是一台计算机的运算核心和控制核心。CPU、内部存储器和输入/输出设备是电子 ...

在大模型蓬勃发展的时代，DeepSeek的出现为国产大算力GPU带来新机遇与挑战，壁仞科技最近有一个交流，在这一背景下的整体解决方案、技术创新及生态建设，探讨国产大算力GPU迎接DeepSeek机遇的策略与发展方向，以期为相关领域提供有价值的参考。 人工智能 ...

近日，西安电子科技大学盛凯教授团队的论文"Cherry: Breaking the GPU Memory Wall for Large-Scale GNN Training via Micro-Batching"被高性能计算领域的国际顶级会议——2025年国际超级计算会议（2025 ACM International Conference on Supercomputing, ACM ICS ...