Groq の Language Processing Unitって、なんだ?

はじめに Groq が The Language Processing Unit なるものを発表しました。 futurumgroup.com Groqのプレスリリースは、こちら www.prnewswire.com The Language Processing Unit (LPU) 上記の記事によると、 LLM Llama-2 70B を1秒あたり100トークン以上の実行ができるようです。そして、4,000後のエッセイを1分強で生成…