11月21日,Thinking Machines发布开源模型Inkling 2 Mini,采用循环Transformer结构:24层中有12层对每个Token重复运行3次,在不增加输出长度的前提下延长内部推理。模型总参数26.4B、每Token有效激活5.4B,支持文本与图像、100万Token上下文,以Apache 2.0授权,可在32GB内存的Mac或英伟达DGX Spark上本地运行。官方称其在千亿参数以下开源模型中智能体编程测试领先,DeepSWE v1.1得分48.2%。
来源:全球资讯与公开媒体报道
广告

