การเปรียบเทียบความสามารถของโมเดล AI
งานความรู้
Only models released within the past year are shown. Only benchmarks covering at least 3 of these models are shown. Unknown release dates are excluded; historical data is retained.
Vals Indexดัชนีรวม Vals
— means no published score for this candidate in this source, not zero.7/11 recent-year models have scores
| ลำดับ | โมเดล | Cost / Testค่าใช้จ่ายต่อการทดสอบ | Input costราคาอินพุตต่อล้านโทเคน | Output costราคาเอาต์พุตต่อล้าน token | Durationระยะเวลาทดสอบที่รายงาน | Input / Output Tokensการใช้ token อินพุต / เอาต์พุตที่รายงาน | |
|---|---|---|---|---|---|---|---|
| 1 | 70.85 | $18.7 | $2 | $10 | 86 min | 45.09B / 654.94M | |
| 2 | 70.18 | $28.12 | $4 | $20 | 85 min | 31.96B / 499.75M | |
| 3 | 69.24 | $13.37 | $4 | $20 | 44.97 min | 13.36B / 146.17M | |
| 4 | 65.02 | $21.28 | $10 | $50 | 33.65 min | 4.92B / 96.77M | |
| 5 | 63.94 | $3.61 | $2 | $10 | 44.4 min | 5.49B / 103.20M | |
| 6 | 58.71 | $3.17 | $0.1 | $0.5 | 49.8 min | 23.07B / 765.85M | |
| 7 | 52.32 | $0.45 | $0.1 | $0.5 | 32.38 min | 10.05B / 202.17M |
PandaNpc อัปเดต 21 ต.ค. 2569 06:01 UTC
แหล่งที่มา: Epoch AI, CC BY 4.0 · Vals.ai · Artificial Analysis (artificialanalysis.ai)
คำแนะนำคอลัมน์
- ลำดับ
- เป็นเพียงลำดับการแสดงผลเท่านั้น การจัดเรียงจะเปลี่ยนตัวเลขนี้ ไม่ใช่การจัดอันดับความสามารถที่เผยแพร่
- โมเดล
- ชื่อโมเดลที่ถูกประเมินและไอคอนผู้ให้บริการ เครื่องหมายขีดในคอลัมน์คะแนนหมายความว่าไม่มีคะแนนที่เผยแพร่ที่นี่ ไม่ใช่ศูนย์
- Cost / Test
- ค่าใช้จ่ายต่อการทดสอบ · USD
- Input cost
- ราคาอินพุตต่อล้านโทเคน · USD / 1M tokens
- Output cost
- ราคาเอาต์พุตต่อล้าน token · USD / 1M tokens
- Duration
- ระยะเวลาทดสอบที่รายงาน · s / min
- Input / Output Tokens
- การใช้ token อินพุต / เอาต์พุตที่รายงาน · tokens
- Vals.ai
- ค่าใช้จ่ายและเวลาถูกรายงานโดย Vals สำหรับเบนช์มาร์กนี้ ไม่ใช่ราคาหรือความหน่วงของโมเดลโดยทั่วไป ค่า API โดยประมาณของ CUA-bench ครอบคลุมการใช้งานในการประเมิน และเป็นค่าประมาณขอบเขตล่าง ไม่ใช่ค่าใช้จ่ายต่องาน เวลาต่อการกระทำเป็นค่าเฉลี่ย ไม่ใช่ค่ามัธยฐาน เครื่องหมายดอกจันระบุพฤติกรรม prompt-cache ในวันเปิดตัวที่ทำให้ค่าใช้จ่ายในการเขียนแคชเพิ่มขึ้น ค่าที่หายไปคือไม่ได้เผยแพร่ ไม่ใช่ศูนย์
- Vals Finance Agent v2Vals เอเจนต์การเงิน v2
- ทดสอบการวิเคราะห์ทางการเงินด้วยการค้นหา รายงานทางการเงิน และเครื่องมือคำนวณ รวมถึงการตรวจสอบข้อมูลข้ามเอกสาร การเปรียบเทียบผลประกอบการของบริษัท และการประเมินมูลค่า เมตริกหลักคือ Partial Credit ซึ่งเฉลี่ยจากการรันสามครั้ง การตรวจคำตอบจะได้รับน้ำหนักตามระดับความรุนแรง และข้อผิดพลาดร้ายแรงแบบ dealbreaker ทำให้คำถามนั้นได้คะแนนศูนย์ ยิ่งสูงยิ่งดี เมตริกนี้แตกต่างจากเมตริก All-Pass ที่แยกต่างหาก และไม่ใช่อัตราการผ่านทั้งคำถาม ระเบียบวิธีประเมิน ↗
- Harvey's Legal Agent Benchmarkเบนช์มาร์กเอเจนต์กฎหมาย Harvey
- ทดสอบเอเจนต์ในการอ่านและแก้ไขไฟล์เพื่อสร้างผลงานทางกฎหมายหลายขั้นตอน งานจะผ่านก็ต่อเมื่อเป็นไปตามข้อกำหนดการให้คะแนนทุกข้อ คะแนนคือค่าเฉลี่ยอัตราการผ่านงานจากผู้ตัดสินสองราย ยิ่งสูงยิ่งดี ไม่ใช่เปอร์เซ็นต์ของเกณฑ์แต่ละข้อที่ผ่าน และวัดเวิร์กโฟลว์ของเอเจนต์ด้านกฎหมาย ไม่ใช่คำถามการให้เหตุผลทางกฎหมายของ LegalBench ระเบียบวิธีประเมิน ↗
- Vals Indexดัชนีรวม Vals
- ดัชนีรวมของงานวิชาชีพในด้านต่างๆ เช่น การเงิน การเขียนโค้ด และกฎหมาย คะแนนร้อยละรวมผลลัพธ์ของ benchmark โดยใช้วิธีการถ่วงน้ำหนักของเวอร์ชันที่เผยแพร่นั้น คะแนนสูงหมายถึงประสิทธิภาพโดยรวมที่แข็งแกร่งขึ้น ไม่ใช่ความแม่นยำของงานเดียว โดเมนและน้ำหนักที่รวมอยู่เปลี่ยนไปตามเวอร์ชัน ดังนั้นจึงไม่ควรนำระเบียบวิธีใหม่ไปใช้ย้อนหลังกับสแนปช็อตคะแนนเวอร์ชันเก่า ระเบียบวิธีประเมิน ↗
- LegalBenchเบนช์มาร์กการให้เหตุผลทางกฎหมาย
- ทดสอบความเข้าใจและการให้เหตุผลจากข้อความทางกฎหมาย รวมถึงการระบุประเด็นทางกฎหมาย การระลึกและนำกฎไปใช้ และการตัดสินข้อสรุปทางกฎหมาย คะแนนคือความแม่นยำในคำถามการให้เหตุผลทางกฎหมาย ยิ่งสูงยิ่งดี ต่างจาก Harvey's Legal Agent Benchmark ตรงที่ไม่ได้วัดเอเจนต์ที่สร้างผลงานทางกฎหมายหลายขั้นตอนโดยการแก้ไขไฟล์ ระเบียบวิธีประเมิน ↗