快科技2月13日讯息开云(中国)Kaiyun·体育官方网站-登录入口，据报说念，字节跳跃豆包大模子Foundation团队近日晓喻了一项伏击创新效能——UltraMem寥落模子架构。

这一架构通过将臆度和参数解耦，在保证模子效果的同期，有用惩办了推理经过中的访存问题，为东说念主工智能领域带来了新的冲突。

据了解，UltraMem架构奥密地将臆度与参数远离，不仅确保了模子的不凡性能，更针对推理经过中的访存瓶颈刻薄了立异性惩办决议。

这一缱绻直击关键，有用搪塞了羼杂行家（MoE）模子在推理阶段弥远际遇的高访存资本挑战，该挑战以往极地面驱散了MoE模子的平庸运用。

收货于其畸形的架构缱绻，UltraMem显贵擢升了推理速率，相较于传统MoE架构，擢升幅度惊东说念主地达到了2至6倍。更令东说念主飞腾的是，该架构还已毕了推理资本的大幅度削减，最高降幅可达83%。

实验数据彰显了UltraMem架构的稠密实力：在检修范围达到2000万value的条目下，UltraMem模子在同等第别的臆度资源上，展现了业界顶尖的推理速率和性能露出。这一冲突为构建范围达到数十亿value或expert的模子铺平了说念路，预示着东说念主工智能领域将迎来愈加高效、经济的新发展方式。

【本文扫尾】如需转载请务必注明出处：快科技

株连裁剪：鹿角开云(中国)Kaiyun·体育官方网站-登录入口

著作试验举报

]article_adlist--> 　　声明：新浪网独家稿件，未经授权回绝转载。 -->