きしだのHatena
id:nowokay
llama.cppのDeepSeek PRに手をいれてDeepSeek V4.1 Flash 1017を試しなおす。
DeepSeek V4.1 Flash 1017を試したのだけど、遅いしいつまでも結果が出ないしであきらめてました。 遅くなる原因と出力計算にバグありそうなのわかったので修正して試しなおしたら速くなってたけど、エージェントで動かない。 最初は27tok/secで出力していたものが、25000トークンで20tok/sec、10万トークンでは6tok/secま…