转自：证券时报

证券时报e公司讯，跟着模子边界的扩大，推理老本和访存后果已成为欺压大模子边界哄骗的关节瓶颈。近期，字节进步豆包大模子团队提倡了全新的阑珊模子架构UltraMem，该架构灵验科罚了MoE推理时高额的访存问题，推理速率较MoE架构升迁2—6倍，推理老本最高可镌汰83%。该筹办还揭示了新架构的Scaling Law，证据其不仅具备优异的Scaling特质，更在性能上卓绝了MoE。施行结果标明，进修边界达2000万value的UltraMem模子，在同等蓄意资源下，可同期好意思满业界首先的推理速率和模子性能，为构建数十亿边界value或expert开导了新旅途。

海量资讯、精确解读，尽在新浪财经APP

牵扯剪辑：张靖笛 体育游戏app平台