การเปรียบเทียบความสามารถของโมเดล AI
งานความรู้
Only models released within the past year are shown. Only benchmarks covering at least 3 of these models are shown. Unknown release dates are excluded; historical data is retained.
LegalBenchเบนช์มาร์กการให้เหตุผลทางกฎหมาย
— means no published score for this candidate in this source, not zero.3/11 recent-year models have scores
| ลำดับ | โมเดล | Input costราคาอินพุตต่อล้านโทเคน | Output costราคาเอาต์พุตต่อล้าน token | Latencyเวลาแฝงที่รายงาน | |
|---|---|---|---|---|---|
| 1 | 88.51 | $10 | $50 | 12.4 s | |
| 2 | 88.3 | $4 | $20 | 12.62 s | |
| 3 | 86.97 | $5 | $25 | 4.42 s |
PandaNpc อัปเดต 21 ต.ค. 2569 06:01 UTC
แหล่งที่มา: Epoch AI, CC BY 4.0 · Vals.ai · Artificial Analysis (artificialanalysis.ai)
คำแนะนำคอลัมน์
- ลำดับ
- เป็นเพียงลำดับการแสดงผลเท่านั้น การจัดเรียงจะเปลี่ยนตัวเลขนี้ ไม่ใช่การจัดอันดับความสามารถที่เผยแพร่
- โมเดล
- ชื่อโมเดลที่ถูกประเมินและไอคอนผู้ให้บริการ เครื่องหมายขีดในคอลัมน์คะแนนหมายความว่าไม่มีคะแนนที่เผยแพร่ที่นี่ ไม่ใช่ศูนย์
- Input cost
- ราคาอินพุตต่อล้านโทเคน · USD / 1M tokens
- Output cost
- ราคาเอาต์พุตต่อล้าน token · USD / 1M tokens
- Latency
- เวลาแฝงที่รายงาน · s / min
- Vals.ai
- ค่าใช้จ่ายและเวลาถูกรายงานโดย Vals สำหรับเบนช์มาร์กนี้ ไม่ใช่ราคาหรือความหน่วงของโมเดลโดยทั่วไป ค่า API โดยประมาณของ CUA-bench ครอบคลุมการใช้งานในการประเมิน และเป็นค่าประมาณขอบเขตล่าง ไม่ใช่ค่าใช้จ่ายต่องาน เวลาต่อการกระทำเป็นค่าเฉลี่ย ไม่ใช่ค่ามัธยฐาน เครื่องหมายดอกจันระบุพฤติกรรม prompt-cache ในวันเปิดตัวที่ทำให้ค่าใช้จ่ายในการเขียนแคชเพิ่มขึ้น ค่าที่หายไปคือไม่ได้เผยแพร่ ไม่ใช่ศูนย์
- Vals Finance Agent v2Vals เอเจนต์การเงิน v2
- ทดสอบการวิเคราะห์ทางการเงินด้วยการค้นหา รายงานทางการเงิน และเครื่องมือคำนวณ รวมถึงการตรวจสอบข้อมูลข้ามเอกสาร การเปรียบเทียบผลประกอบการของบริษัท และการประเมินมูลค่า เมตริกหลักคือ Partial Credit ซึ่งเฉลี่ยจากการรันสามครั้ง การตรวจคำตอบจะได้รับน้ำหนักตามระดับความรุนแรง และข้อผิดพลาดร้ายแรงแบบ dealbreaker ทำให้คำถามนั้นได้คะแนนศูนย์ ยิ่งสูงยิ่งดี เมตริกนี้แตกต่างจากเมตริก All-Pass ที่แยกต่างหาก และไม่ใช่อัตราการผ่านทั้งคำถาม ระเบียบวิธีประเมิน ↗
- Harvey's Legal Agent Benchmarkเบนช์มาร์กเอเจนต์กฎหมาย Harvey
- ทดสอบเอเจนต์ในการอ่านและแก้ไขไฟล์เพื่อสร้างผลงานทางกฎหมายหลายขั้นตอน งานจะผ่านก็ต่อเมื่อเป็นไปตามข้อกำหนดการให้คะแนนทุกข้อ คะแนนคือค่าเฉลี่ยอัตราการผ่านงานจากผู้ตัดสินสองราย ยิ่งสูงยิ่งดี ไม่ใช่เปอร์เซ็นต์ของเกณฑ์แต่ละข้อที่ผ่าน และวัดเวิร์กโฟลว์ของเอเจนต์ด้านกฎหมาย ไม่ใช่คำถามการให้เหตุผลทางกฎหมายของ LegalBench ระเบียบวิธีประเมิน ↗
- Vals Indexดัชนีรวม Vals
- ดัชนีรวมของงานวิชาชีพในด้านต่างๆ เช่น การเงิน การเขียนโค้ด และกฎหมาย คะแนนร้อยละรวมผลลัพธ์ของ benchmark โดยใช้วิธีการถ่วงน้ำหนักของเวอร์ชันที่เผยแพร่นั้น คะแนนสูงหมายถึงประสิทธิภาพโดยรวมที่แข็งแกร่งขึ้น ไม่ใช่ความแม่นยำของงานเดียว โดเมนและน้ำหนักที่รวมอยู่เปลี่ยนไปตามเวอร์ชัน ดังนั้นจึงไม่ควรนำระเบียบวิธีใหม่ไปใช้ย้อนหลังกับสแนปช็อตคะแนนเวอร์ชันเก่า ระเบียบวิธีประเมิน ↗
- LegalBenchเบนช์มาร์กการให้เหตุผลทางกฎหมาย
- ทดสอบความเข้าใจและการให้เหตุผลจากข้อความทางกฎหมาย รวมถึงการระบุประเด็นทางกฎหมาย การระลึกและนำกฎไปใช้ และการตัดสินข้อสรุปทางกฎหมาย คะแนนคือความแม่นยำในคำถามการให้เหตุผลทางกฎหมาย ยิ่งสูงยิ่งดี ต่างจาก Harvey's Legal Agent Benchmark ตรงที่ไม่ได้วัดเอเจนต์ที่สร้างผลงานทางกฎหมายหลายขั้นตอนโดยการแก้ไขไฟล์ ระเบียบวิธีประเมิน ↗