11月5日,百度正式开源最新基座模型文心5.5 Flash Base。模型采用MoE架构,总参数量2800亿,每个Token激活140亿参数,使用33.5万亿个Token完成预训练,预训练上下文长度最高128K,微调与推理阶段支持最长100万Token上下文。据量子位报道,该模型在知识、推理、数学、代码、多语言与长上下文等基准测试中取得同尺寸SOTA,超过DeepSeek-V4-Flash-Base、Hy3-preview-Base等模型。

来源:全球资讯与公开媒体报道