关于 Janas 的报道

Janas 通过从 SSD 流式加载专家层的技术路径，实现了在有限物理内存设备上高效运行超大语言模型。这表明本地推理的瓶颈正在从纯内存容量向存储设备的 I/O 带宽和架构优化转移。