AI BENCHY Compare

Anthropic: Claude Opus 4.8 vs Google: Gemini 2.5 Flash

概要

Claude Opus 4.8 vs Gemini 2.5 Flash の benchmark 比較: Gemini 2.5 Flash が平均スコアでリードし、8.2 vs 7.7 です。 Gemini 2.5 Flash の benchmark コストが低く、$0.379 vs $1.270 です。 Claude Opus 4.8 の方が高速で、10.83s vs 15.49s です、成功率は 79.4% vs 69.8% です。

おすすめモデル: Gemini 2.5 Flash - ここでは最高スコア（8.2）で、Claude Opus 4.8 より約 3.4 倍低コストです。

ベンチマークは AI BENCHY テストスイートから次の日時に生成: 2026-07-02

指標	Claude Opus 4.8 Claude Opus 4.8 low リリース: 2026-05-28	Gemini 2.5 Flash Gemini 2.5 Flash medium リリース: 2025-06-17

指標	Claude Opus 4.8 Claude Opus 4.8 low リリース: 2026-05-28	Gemini 2.5 Flash Gemini 2.5 Flash medium リリース: 2025-06-17
スコア	7.7	8.2
順位	#38	#24
信頼性	10.0	10.0
一貫性	8.8	9.6
正解テスト
試行ごとの合格率	79.4%	69.8%
不安定なテスト	3	1
総実行回数	63	63
結果あたりのコスト	8.466	2.701
合計コスト	$1.270	$0.379
入力価格	$5.000 / 1M	$0.300 / 1M
出力価格	$25.000 / 1M	$2.500 / 1M
合計入力トークン	60,946	34,476
出力トークン	31,771	1,930
推論トークン	6,831	145,145
応答時間（平均）	10.83s	15.49s
応答時間（最大）	127.97s	95.48s
応答時間（合計）	227.39s	325.39s

生成ショーケース

Hamster playing table tennis

Prompt: Create a detailed SVG illustration of a hamster playing table tennis.

#38 Claude Opus 4.8

low

コスト: $0.031
時間: 14.1s
トークン: 1,345 tok

#24 Gemini 2.5 Flash

medium

無効なSVG

コスト: $0.000
時間: 274.0s
トークン: 0 tok

スコア上位モデル

スコア vs 総コスト

応答時間（平均）

スコア vs 応答時間（平均）

合計出力トークン

スコア vs 合計出力トークン

カテゴリ内訳

反AIトリック	スコア	一貫性	試行ごとの合格率	不安定なテスト	正解テスト	応答時間（平均）	入力トークン	出力トークン	推論トークン
Claude Opus 4.8	10.0	10.0	100.0%	0		3.30s	834	793	371
Gemini 2.5 Flash	8.4	10.0	75.0%	0		6.30s	492	255	10,233

コーディング	スコア	一貫性	試行ごとの合格率	不安定なテスト	正解テスト	応答時間（平均）	入力トークン	出力トークン	推論トークン
Claude Opus 4.8	6.6	4.6	77.8%	2		7.58s	10,590	3,637	809
Gemini 2.5 Flash	7.8	10.0	66.7%	0		41.01s	6,669	543	32,303

複合	スコア	一貫性	試行ごとの合格率	不安定なテスト	正解テスト	応答時間（平均）	入力トークン	出力トークン	推論トークン
Claude Opus 4.8	9.8	10.0	100.0%	0		20.84s	23,500	2,216	1,081
Gemini 2.5 Flash	10.0	10.0	100.0%	0		28.44s	12,522	303	11,922

データ解析と抽出	スコア	一貫性	試行ごとの合格率	不安定なテスト	正解テスト	応答時間（平均）	入力トークン	出力トークン	推論トークン
Claude Opus 4.8	6.3	5.8	66.7%	1		2.27s	10,503	310	0
Gemini 2.5 Flash	10.0	10.0	100.0%	0		4.06s	7,257	279	2,325

ドメイン特化	スコア	一貫性	試行ごとの合格率	不安定なテスト	正解テスト	応答時間（平均）	入力トークン	出力トークン	推論トークン
Claude Opus 4.8	5.3	10.0	33.3%	0		45.53s	975	23,311	3,908
Gemini 2.5 Flash	5.9	7.2	55.6%	1		37.34s	633	18	80,702

汎用知能	スコア	一貫性	試行ごとの合格率	不安定なテスト	正解テスト	応答時間（平均）	入力トークン	出力トークン	推論トークン
Claude Opus 4.8	10.0	10.0	100.0%	0		2.55s	708	231	0
Gemini 2.5 Flash	4.8	10.0	0.0%	0		4.86s	486	92	1,899

指示追従	スコア	一貫性	試行ごとの合格率	不安定なテスト	正解テスト	応答時間（平均）	入力トークン	出力トークン	推論トークン
Claude Opus 4.8	9.8	10.0	100.0%	0		2.78s	909	111	221
Gemini 2.5 Flash	9.8	10.0	100.0%	0		2.62s	615	69	1,203

パズル解決	スコア	一貫性	試行ごとの合格率	不安定なテスト	正解テスト	応答時間（平均）	入力トークン	出力トークン	推論トークン
Claude Opus 4.8	10.0	10.0	100.0%	0		3.01s	894	592	184
Gemini 2.5 Flash	7.7	10.0	66.7%	0		3.18s	558	126	2,499

ツール呼び出し	スコア	一貫性	試行ごとの合格率	不安定なテスト	正解テスト	応答時間（平均）	入力トークン	出力トークン	推論トークン
Claude Opus 4.8	10.0	10.0	100.0%	0		6.85s	11,775	370	35
Gemini 2.5 Flash	10.0	10.0	100.0%	0		6.20s	5,088	234	1,140

雑学	スコア	一貫性	試行ごとの合格率	不安定なテスト	正解テスト	応答時間（平均）	入力トークン	出力トークン	推論トークン
Claude Opus 4.8	3.0	10.0	0.0%	0		5.48s	258	200	222
Gemini 2.5 Flash	3.0	10.0	0.0%	0		2.76s	156	11	919

クイック比較

比較ペアを切り替え