AI BENCHY Compare

Anthropic: Claude Sonnet 4.6 vs Kwaipilot: KAT-Coder-Pro V2.5

概要

Claude Sonnet 4.6 (medium) が平均スコアでリードし、7.8 vs 7.7 です。 KAT-Coder-Pro V2.5 (high) の benchmark コストが低く、$0.246 vs $1.418 です。 KAT-Coder-Pro V2.5 (high) の方が高速で、12.30s vs 17.06s です、成功率は 65.1% vs 63.5% です。

おすすめモデルKAT-Coder-Pro V2.5 (high)スコアはここでの最高値に近く（7.7 vs 7.8）、Claude Sonnet 4.6 (medium) より約 5.8 倍低コストです。

ベンチマークは AI BENCHY テストスイートから次の日時に生成: 2026-07-14

指標	Claude Sonnet 4.6 Claude Sonnet 4.6 medium リリース: 2026-02-17	KAT-Coder-Pro V2.5 KAT-Coder-Pro V2.5 high リリース: 2026-07-14

指標	Claude Sonnet 4.6 Claude Sonnet 4.6 medium リリース: 2026-02-17	KAT-Coder-Pro V2.5 KAT-Coder-Pro V2.5 high リリース: 2026-07-14
スコア	7.8	7.7
順位	#40	#53
信頼性	10.0	10.0
一貫性	9.1	8.1
正解テスト
試行ごとの合格率	65.1%	63.5%
不安定なテスト	2	5
総実行回数	63	63
結果あたりのコスト	10.904	2.228
合計コスト	$1.418	$0.246
入力価格	$3.000 / 1M	$0.740 / 1M
出力価格	$15.000 / 1M	$2.960 / 1M
合計入力トークン	49,112	42,750
出力トークン	54,703	2,509
推論トークン	29,970	69,594
応答時間（平均）	17.06s	12.30s
応答時間（最大）	46.35s	95.65s
応答時間（合計）	221.83s	258.34s

生成ショーケース

Hamster playing table tennis

Prompt: Create a detailed SVG illustration of a hamster playing table tennis.

#40 Claude Sonnet 4.6

medium

無効なSVG

コスト: $0.000
時間: 300.0s
トークン: 0 tok

#53 KAT-Coder-Pro V2.5

high

コスト: $0.009
時間: 26.4s
トークン: 3,117 tok

スコア上位モデル

スコア vs 総コスト

応答時間（平均）

スコア vs 応答時間（平均）

合計出力トークン

スコア vs 合計出力トークン

カテゴリ内訳

カテゴリ:

反AIトリック	スコア	一貫性	試行ごとの合格率	不安定なテスト	正解テスト	応答時間（平均）	入力トークン	出力トークン	推論トークン
Claude Sonnet 4.6	6.5	10.0	50.0%	0		2.98s	789	1,046	1,093
KAT-Coder-Pro V2.5	7.0	8.0	66.7%	1		3.17s	672	447	2,716

コーディング	スコア	一貫性	試行ごとの合格率	不安定なテスト	正解テスト	応答時間（平均）	入力トークン	出力トークン	推論トークン
Claude Sonnet 4.6	5.7	6.6	44.4%	1		33.29s	6,995	16,089	3,686
KAT-Coder-Pro V2.5	6.4	7.9	44.4%	1		22.00s	7,893	422	20,461

複合	スコア	一貫性	試行ごとの合格率	不安定なテスト	正解テスト	応答時間（平均）	入力トークン	出力トークン	推論トークン
Claude Sonnet 4.6	10.0	10.0	100.0%	0		46.35s	18,351	5,871	3,962
KAT-Coder-Pro V2.5	10.0	10.0	100.0%	0		13.44s	15,132	394	2,807

データ解析と抽出	スコア	一貫性	試行ごとの合格率	不安定なテスト	正解テスト	応答時間（平均）	入力トークン	出力トークン	推論トークン
Claude Sonnet 4.6	10.0	10.0	100.0%	0		13.90s	8,676	649	742
KAT-Coder-Pro V2.5	10.0	10.0	100.0%	0		4.13s	7,776	278	1,960

ドメイン特化	スコア	一貫性	試行ごとの合格率	不安定なテスト	正解テスト	応答時間（平均）	入力トークン	出力トークン	推論トークン
Claude Sonnet 4.6	2.9	7.2	11.1%	1		0ms	471	25,790	16,919
KAT-Coder-Pro V2.5	2.9	4.4	22.2%	2		35.33s	771	33	35,701

汎用知能	スコア	一貫性	試行ごとの合格率	不安定なテスト	正解テスト	応答時間（平均）	入力トークン	出力トークン	推論トークン
Claude Sonnet 4.6	10.0	10.0	100.0%	0		4.94s	564	256	433
KAT-Coder-Pro V2.5	5.1	10.0	0.0%	0		3.27s	516	139	647

指示追従	スコア	一貫性	試行ごとの合格率	不安定なテスト	正解テスト	応答時間（平均）	入力トークン	出力トークン	推論トークン
Claude Sonnet 4.6	10.0	10.0	100.0%	0		2.61s	792	318	552
KAT-Coder-Pro V2.5	9.9	10.0	100.0%	0		2.67s	699	84	976

パズル解決	スコア	一貫性	試行ごとの合格率	不安定なテスト	正解テスト	応答時間（平均）	入力トークン	出力トークン	推論トークン
Claude Sonnet 4.6	10.0	10.0	100.0%	0		5.31s	816	592	646
KAT-Coder-Pro V2.5	8.2	7.2	88.9%	1		3.38s	696	428	1,936

ツール呼び出し	スコア	一貫性	試行ごとの合格率	不安定なテスト	正解テスト	応答時間（平均）	入力トークン	出力トークン	推論トークン
Claude Sonnet 4.6	10.0	10.0	100.0%	0		7.48s	11,454	655	351
KAT-Coder-Pro V2.5	10.0	10.0	100.0%	0		28.04s	8,391	268	896

雑学	スコア	一貫性	試行ごとの合格率	不安定なテスト	正解テスト	応答時間（平均）	入力トークン	出力トークン	推論トークン
Claude Sonnet 4.6	3.0	10.0	0.0%	0		30.09s	204	3,437	1,586
KAT-Coder-Pro V2.5	3.0	10.0	0.0%	0		5.22s	204	16	1,494

クイック比較

比較ペアを切り替え