韩国边缘 AI 芯片公司 DEEPX 的第二代芯片 DX-M2 已完成流片,设计定稿、交给代工厂生产。EE Times 在 11 月 9 日报道了这一进展;11 月 10 日,DEEPX 又宣布 DX-M2 拿下 CES 2027 创新奖(AI 类别)。这颗芯片用三星 2 纳米 GAA 工艺制造,目标是在 5W 功耗内,让机器人、无人机这类设备本地跑起大模型。
按 DEEPX 的说法,DX-M2 可以在设备端推理 200 亿到 1000 亿参数的模型(实际激活约 30 亿到 200 亿参数),速度 10 到 30 tokens/秒,算力 80 TOPS。相比上一代 DX-M1,内存带宽从 50 GB/s 提到 150 GB/s,NPU 能效翻倍、再叠加 2nm 工艺又翻倍。芯片支持混合专家(MoE)大模型、推测解码与 TurboQuant 等新技术,瞄准的是机器人、AI PC、车载智能体与物联网设备。
更激进的一步在内存上。DEEPX 与三星内存部门合作了 18 个月,把 DX-M2 接上三星的 LPDDR5x-PIM(存内计算):把矩阵向量乘法这类访存密集型运算直接放在内存芯片里做。仿真显示,跑 Llama 3.1 8B 时生成速度最高可达 DX-M2 单独跑的 6.7 倍;代价是整体功耗涨到 2.7 倍,同一功耗包线内大约能换到 2 倍提升。需要提醒的是,这只是仿真数字,实测硬件还没出来,配套编译器也还在做。
时间表上,DX-M2 预计 2027 年 3 月拿到首批硅片、二季度开始客户送样,2027 年第四季度小批量量产、2028 年全面量产。下一代 DX-M3 定在 2028 年,改用 chiplet 架构、支持 LPDDR6 PIM,目标 1 ePOPS(INT8),主攻车厂与人形机器人。DEEPX 的上一代 DX-M1 已在量产,截至 10 月拿下 88 张商业订单、约 1330 万美元,现代汽车集团机器人实验室已在自家机器人平台上用它。
放在更大的图景里看,这颗芯片和谷歌刚发布的第八代 TPU 走的是两条路:谷歌一天加两款 TPU,拼的是数据中心的算力密度与保密推理;DX-M2 赌的是另一端——当数据中心扩建受电力掣肘,AI 算力会向设备端扩散。DEEPX 创始人兼 CEO Lokwon Kim 对 EE Times 的说法是,如果 1000 亿参数的模型能装进设备,数据中心流量能减少 80% 以上。当然,这仍是厂商的愿景,首批硅片要到明年 3 月才能见分晓。
来源:EE Times,原文


没有回复内容