@OpenAI の GPT-OSS 20b の @GroqInc 上のパフォーマンスは注目に値します - 383 ミリ秒のリクエスト時間は、人間にとって瞬時に感じられる時間にかなり近づいています。 そして、これは完全に些細なケースではなく、単純な構造化データ抽出のケースです。 Logfireのパブリックトレースは次のとおりです。
7.67K