百度开源基座模型文心 5.5 Flash Base
百度正式开源基座模型文心 5.5 Flash Base，采用 MoE 架构，总参数 2800 亿、每 Token 激活 140 亿，预训练使用 33.5 万亿 Token，预训练上下文最长 128K，微调与推理支持最长 100 万 Token。模型围绕效率在注意力机制、专家路由及训练目标等环节进行系统优化。
百度开源基座模型文心 5.5 Flash Base
百度正式开源最新基座模型文心 5.5 Flash Base。模型采用 MoE 架构，总参数量 2800 亿，每 Token 激活 140 亿参数，预训练用 33.5 万亿 Token，预训练上下文最长 128K，微调与推理支持最长 100 万 Token 上下文。
围绕“效率”主线，模型在注意力机制、专家路由及训练目标等环节做了系统性优化，以提升资源利用效率。
新华网
https://www.news.cn/info/20261105/f3bbdb6854f5441ca9fb34062f213875/c.html