AI BENCHY Compare

Google: Gemini 3.1 Flash Lite Preview vs Kwaipilot: KAT-Coder-Pro V2.5

概要

KAT-Coder-Pro V2.5 (low) が平均スコアでリードし、8.0 vs 7.8 です。 Gemini 3.1 Flash Lite Preview (medium) の benchmark コストが低く、$0.068 vs $0.220 です。 Gemini 3.1 Flash Lite Preview (medium) の方が高速で、3.96s vs 10.44s です、成功率は 61.9% vs 71.4% です。

おすすめモデルGemini 3.1 Flash Lite Preview (medium)スコアはここでの最高値に近く（7.8 vs 8.0）、KAT-Coder-Pro V2.5 (low) より約 3.2 倍低コストです。

ベンチマークは AI BENCHY テストスイートから次の日時に生成: 2026-07-14

指標	Gemini 3.1 Flash Lite Preview Gemini 3.1 Flash Lite Preview medium リリース: 2026-03-03	KAT-Coder-Pro V2.5 KAT-Coder-Pro V2.5 low リリース: 2026-07-14

指標	Gemini 3.1 Flash Lite Preview Gemini 3.1 Flash Lite Preview medium リリース: 2026-03-03	KAT-Coder-Pro V2.5 KAT-Coder-Pro V2.5 low リリース: 2026-07-14
スコア	7.8	8.0
順位	#42	#35
信頼性	10.0	9.9
一貫性	10.0	7.3
正解テスト
試行ごとの合格率	61.9%	71.4%
不安定なテスト	0	7
総実行回数	63	63
結果あたりのコスト	0.523	1.991
合計コスト	$0.068	$0.220
入力価格	$0.250 / 1M	$0.740 / 1M
出力価格	$1.500 / 1M	$2.960 / 1M
合計入力トークン	37,786	42,750
出力トークン	2,210	2,167
推論トークン	36,744	61,133
応答時間（平均）	3.96s	10.44s
応答時間（最大）	14.93s	51.34s
応答時間（合計）	83.06s	219.17s

生成ショーケース

Hamster playing table tennis

Prompt: Create a detailed SVG illustration of a hamster playing table tennis.

#42 Gemini 3.1 Flash Lite Preview

medium

コスト: $0.003
時間: 5.2s
トークン: 1,944 tok

#35 KAT-Coder-Pro V2.5

low

コスト: $0.016
時間: 47.6s
トークン: 5,182 tok

スコア上位モデル

スコア vs 総コスト

応答時間（平均）

スコア vs 応答時間（平均）

合計出力トークン

スコア vs 合計出力トークン

カテゴリ内訳

カテゴリ:

反AIトリック	スコア	一貫性	試行ごとの合格率	不安定なテスト	正解テスト	応答時間（平均）	入力トークン	出力トークン	推論トークン
Gemini 3.1 Flash Lite Preview	9.1	10.0	75.0%	0		2.33s	512	570	4,305
KAT-Coder-Pro V2.5	6.9	5.8	75.0%	2		4.20s	672	277	4,228

コーディング	スコア	一貫性	試行ごとの合格率	不安定なテスト	正解テスト	応答時間（平均）	入力トークン	出力トークン	推論トークン
Gemini 3.1 Flash Lite Preview	5.5	10.0	33.3%	0		4.09s	8,126	461	8,597
KAT-Coder-Pro V2.5	7.8	10.0	66.7%	0		24.87s	7,893	402	24,945

複合	スコア	一貫性	試行ごとの合格率	不安定なテスト	正解テスト	応答時間（平均）	入力トークン	出力トークン	推論トークン
Gemini 3.1 Flash Lite Preview	10.0	10.0	100.0%	0		14.93s	13,403	327	7,347
KAT-Coder-Pro V2.5	10.0	10.0	100.0%	0		14.59s	15,132	394	3,391

データ解析と抽出	スコア	一貫性	試行ごとの合格率	不安定なテスト	正解テスト	応答時間（平均）	入力トークン	出力トークン	推論トークン
Gemini 3.1 Flash Lite Preview	10.0	10.0	100.0%	0		2.29s	7,362	279	2,952
KAT-Coder-Pro V2.5	10.0	10.0	100.0%	0		4.19s	7,776	288	1,917

ドメイン特化	スコア	一貫性	試行ごとの合格率	不安定なテスト	正解テスト	応答時間（平均）	入力トークン	出力トークン	推論トークン
Gemini 3.1 Flash Lite Preview	3.0	10.0	0.0%	0		4.21s	639	18	5,325
KAT-Coder-Pro V2.5	4.1	4.4	44.5%	2		17.52s	771	35	16,877

汎用知能	スコア	一貫性	試行ごとの合格率	不安定なテスト	正解テスト	応答時間（平均）	入力トークン	出力トークン	推論トークン
Gemini 3.1 Flash Lite Preview	10.0	10.0	100.0%	0		3.16s	488	96	1,488
KAT-Coder-Pro V2.5	4.1	2.7	33.3%	1		2.32s	516	99	412

指示追従	スコア	一貫性	試行ごとの合格率	不安定なテスト	正解テスト	応答時間（平均）	入力トークン	出力トークン	推論トークン
Gemini 3.1 Flash Lite Preview	10.0	10.0	100.0%	0		1.91s	621	72	2,121
KAT-Coder-Pro V2.5	10.0	10.0	100.0%	0		2.53s	699	83	1,008

パズル解決	スコア	一貫性	試行ごとの合格率	不安定なテスト	正解テスト	応答時間（平均）	入力トークン	出力トークン	推論トークン
Gemini 3.1 Flash Lite Preview	7.7	10.0	66.7%	0		5.30s	566	141	1,896
KAT-Coder-Pro V2.5	6.4	4.4	77.8%	2		3.11s	696	289	1,820

ツール呼び出し	スコア	一貫性	試行ごとの合格率	不安定なテスト	正解テスト	応答時間（平均）	入力トークン	出力トークン	推論トークン
Gemini 3.1 Flash Lite Preview	10.0	10.0	100.0%	0		3.80s	5,909	234	912
KAT-Coder-Pro V2.5	10.0	10.0	100.0%	0		18.45s	8,391	282	834

雑学	スコア	一貫性	試行ごとの合格率	不安定なテスト	正解テスト	応答時間（平均）	入力トークン	出力トークン	推論トークン
Gemini 3.1 Flash Lite Preview	3.0	10.0	0.0%	0		2.68s	160	12	1,801
KAT-Coder-Pro V2.5	3.0	10.0	0.0%	0		17.06s	204	18	5,701

クイック比較

比較ペアを切り替え

KAT-Coder-Pro V2.5lowvsQwen3.5 Plus 2026-02-15medium Gemini 3.1 Flash Lite PreviewmediumvsGrok 4.5low KAT-Coder-Pro V2.5lowvsGPT-5.4 Minimedium Claude Opus 4.8lowvsGemini 3.1 Flash Lite Previewmedium KAT-Coder-Pro V2.5lowvsGLM 5.2high Gemini 3.1 Flash Lite PreviewmediumvsGPT-5.6 Terralow Gemini 3.1 Flash Lite PreviewmediumvsStep 3.7 Flashlow KAT-Coder-Pro V2.5lowvsQwen3.5-27Bmedium Gemini 3.1 Flash Lite PreviewmediumvsGPT-5.6 Lunahigh Gemini 3.1 Flash Lite PreviewmediumvsKAT-Coder-Pro V2.5high Claude Sonnet 5mediumvsKAT-Coder-Pro V2.5low KAT-Coder-Pro V2.5lowvsQwen3.6 Plusmedium