はじめに
どんな人向けの記事?
生成 AI の日本語性能に興味のある方
OpenAIの gpt-oss に興味のある方
計測環境
1. EVO-X2(Ryzen AI Max+ 395, Radeon 8060S, UMA 128GB)
2. Mac Studio(M2 Ultra, 60-GPU, UMA 128GB)
3. RTX 3090(24GB)
概要
本記事ではOpenAIから公開された gpt-oss-20B/120B の推論速度、Shaberi3ベンチマーク評価結果をまとめる。
使用したモデル
推論速度測定
llama.cppのllama-be…
Source link
Views: 0