AI BENCHY Compare

Kwaipilot: KAT-Coder-Pro V2.5 vs OpenAI: GPT-5.4 Nano

概要

KAT-Coder-Pro V2.5 (high) が平均スコアでリードし、7.7 vs 7.5 です。 GPT-5.4 Nano (medium) の benchmark コストが低く、$0.107 vs $0.246 です。 GPT-5.4 Nano (medium) の方が高速で、11.95s vs 12.30s です、成功率は 63.5% vs 63.5% です。

おすすめモデルGPT-5.4 Nano (medium)スコアはここでの最高値に近く（7.5 vs 7.7）、KAT-Coder-Pro V2.5 (high) より約 2.3 倍低コストです。

ベンチマークは AI BENCHY テストスイートから次の日時に生成: 2026-07-14

指標	KAT-Coder-Pro V2.5 KAT-Coder-Pro V2.5 high リリース: 2026-07-14	GPT-5.4 Nano GPT-5.4 Nano medium リリース: 2026-03-17

指標	KAT-Coder-Pro V2.5 KAT-Coder-Pro V2.5 high リリース: 2026-07-14	GPT-5.4 Nano GPT-5.4 Nano medium リリース: 2026-03-17
スコア	7.7	7.5
順位	#53	#62
信頼性	10.0	10.0
一貫性	8.1	8.4
正解テスト
試行ごとの合格率	63.5%	63.5%
不安定なテスト	5	4
総実行回数	63	63
結果あたりのコスト	2.228	0.969
合計コスト	$0.246	$0.107
入力価格	$0.740 / 1M	$0.200 / 1M
出力価格	$2.960 / 1M	$1.250 / 1M
合計入力トークン	42,750	35,434
出力トークン	2,509	3,014
推論トークン	69,594	76,520
応答時間（平均）	12.30s	11.95s
応答時間（最大）	95.65s	94.06s
応答時間（合計）	258.34s	250.98s

生成ショーケース

Hamster playing table tennis

Prompt: Create a detailed SVG illustration of a hamster playing table tennis.

#53 KAT-Coder-Pro V2.5

high

コスト: $0.009
時間: 26.4s
トークン: 3,117 tok

#62 GPT-5.4 Nano

medium

コスト: $0.007
時間: 24.6s
トークン: 4,943 tok

スコア上位モデル

スコア vs 総コスト

応答時間（平均）

スコア vs 応答時間（平均）

合計出力トークン

スコア vs 合計出力トークン

カテゴリ内訳

カテゴリ:

反AIトリック	スコア	一貫性	試行ごとの合格率	不安定なテスト	正解テスト	応答時間（平均）	入力トークン	出力トークン	推論トークン
KAT-Coder-Pro V2.5	7.0	8.0	66.7%	1		3.17s	672	447	2,716
GPT-5.4 Nano	8.3	10.0	75.0%	0		4.52s	606	683	2,254

コーディング	スコア	一貫性	試行ごとの合格率	不安定なテスト	正解テスト	応答時間（平均）	入力トークン	出力トークン	推論トークン
KAT-Coder-Pro V2.5	6.4	7.9	44.4%	1		22.00s	7,893	422	20,461
GPT-5.4 Nano	6.1	4.7	66.7%	2		19.12s	7,305	516	20,778

複合	スコア	一貫性	試行ごとの合格率	不安定なテスト	正解テスト	応答時間（平均）	入力トークン	出力トークン	推論トークン
KAT-Coder-Pro V2.5	10.0	10.0	100.0%	0		13.44s	15,132	394	2,807
GPT-5.4 Nano	9.8	10.0	100.0%	0		24.13s	12,345	349	5,719

データ解析と抽出	スコア	一貫性	試行ごとの合格率	不安定なテスト	正解テスト	応答時間（平均）	入力トークン	出力トークン	推論トークン
KAT-Coder-Pro V2.5	10.0	10.0	100.0%	0		4.13s	7,776	278	1,960
GPT-5.4 Nano	10.0	10.0	100.0%	0		2.54s	7,140	234	516

ドメイン特化	スコア	一貫性	試行ごとの合格率	不安定なテスト	正解テスト	応答時間（平均）	入力トークン	出力トークン	推論トークン
KAT-Coder-Pro V2.5	2.9	4.4	22.2%	2		35.33s	771	33	35,701
GPT-5.4 Nano	5.9	7.2	55.6%	1		38.18s	619	60	43,325

汎用知能	スコア	一貫性	試行ごとの合格率	不安定なテスト	正解テスト	応答時間（平均）	入力トークン	出力トークン	推論トークン
KAT-Coder-Pro V2.5	5.1	10.0	0.0%	0		3.27s	516	139	647
GPT-5.4 Nano	4.5	10.0	0.0%	0		4.15s	477	179	443

指示追従	スコア	一貫性	試行ごとの合格率	不安定なテスト	正解テスト	応答時間（平均）	入力トークン	出力トークン	推論トークン
KAT-Coder-Pro V2.5	9.9	10.0	100.0%	0		2.67s	699	84	976
GPT-5.4 Nano	9.8	10.0	100.0%	0		1.88s	660	95	521

パズル解決	スコア	一貫性	試行ごとの合格率	不安定なテスト	正解テスト	応答時間（平均）	入力トークン	出力トークン	推論トークン
KAT-Coder-Pro V2.5	8.2	7.2	88.9%	1		3.38s	696	428	1,936
GPT-5.4 Nano	4.1	7.2	22.2%	1		3.79s	642	594	1,408

ツール呼び出し	スコア	一貫性	試行ごとの合格率	不安定なテスト	正解テスト	応答時間（平均）	入力トークン	出力トークン	推論トークン
KAT-Coder-Pro V2.5	10.0	10.0	100.0%	0		28.04s	8,391	268	896
GPT-5.4 Nano	10.0	10.0	100.0%	0		7.71s	5,445	234	382

雑学	スコア	一貫性	試行ごとの合格率	不安定なテスト	正解テスト	応答時間（平均）	入力トークン	出力トークン	推論トークン
KAT-Coder-Pro V2.5	3.0	10.0	0.0%	0		5.22s	204	16	1,494
GPT-5.4 Nano	3.0	10.0	0.0%	0		4.81s	195	70	1,174

クイック比較

比較ペアを切り替え