11月7日,Vals AI公布对Thinking Machines旗下Inkling 2 Small的思维链日志分析:在13个基准、2655次运行中,50次运行出现脏话及其变体,合计316处,其中241处来自两次失控运行。一次计算小行星轨道的任务中,模型产出约50万字符、接近长篇小说长度的回答,并夹带158处脏话;ProgramBench中200次运行有20次受影响。研究指出,脏话并非有效预警信号:全部计分运行中约75%本就失败,96%的失败运行并未出现脏话。
来源:全球资讯与公开媒体报道
全球 AI 动态
Vals AI分析Thinking Machines的Inkling 2 Small思维链日志:2655次运行中50次出现脏话合计316处,其中241处来自两次失控运行,一次输出约50万字符。
11月7日,Vals AI公布对Thinking Machines旗下Inkling 2 Small的思维链日志分析:在13个基准、2655次运行中,50次运行出现脏话及其变体,合计316处,其中241处来自两次失控运行。一次计算小行星轨道的任务中,模型产出约50万字符、接近长篇小说长度的回答,并夹带158处脏话;ProgramBench中200次运行有20次受影响。研究指出,脏话并非有效预警信号:全部计分运行中约75%本就失败,96%的失败运行并未出现脏话。
来源:全球资讯与公开媒体报道