balance

Aufbau & ERGEBNISSE

299 juristische Detailfragen an die Frontier-LLMs – Antworten nur im Freitext. Die Fragen bestanden häufig aus mehreren Teilaspekten und basieren auf der Rechtsprechung des BAG, der LAGs und Arbeitsgerichte. Die Modelle mussten die Antworten "auswendig wissen" und durften hierbei nicht bzw. kaum nachdenken, nicht im Internet oder in Datenbanken recherchieren.

Die Bewertung erfolgte anhand eines Vergleichs mit dem Inhalt aus der Quelle/dem Urteil. Um stochastisches Rauschen und Modell-Voreingenommenheit zu reduzieren, wurde ein 4-Judge-Ensemble eingesetzt (DeepSeek V4.1 Flash und OpenAI GPT-6 Luna bei jeweils zwei Temperaturstufen). Jede Note entspricht dem arithmetischen Mittel aller vier Urteile. Ein Durchschnitt ab 3,50 gilt als bestanden (Score 4).

GESAMTRANGLISTE (4-JUDGE ENSEMBLE Ø) - sortiert nach Score
expand_more BEWERTUNGSMASSSTAB (4-JUDGE ENSEMBLE SYSTEM)
Score 4 (Bestanden): Vollständig fehlerfrei & deckungsgleich mit der amtlichen Entscheidung. Keine unzutreffenden Ausnahmen oder falschen Relativierungen. (Kaufmännische Rundung)
Score 3: Kern richtig, aber mit leichten Mängeln, ungenauen Randthesen oder unzutreffenden Relativierungen.
Score 2: Nur teilweise zutreffend; wesentliche Aspekte fehlen oder weichen von der amtlichen Entscheidung ab.
Score 1: Thema verfehlt, kaum Übereinstimmung mit dem rechtlichen Prüfungsmaßstab.
Score 0: Grob falsch; die Kernaussage verkehrt die Rechtsfolge ins Gegenteil.
SCORE-AUFSCHLÜSSELUNG JE MODELL (4-JUDGE Ø)
4 (Bestanden) 3 2 1 0
RICHTER-RELIABILITÄT & DIVERGENZ (DEEPSEEK VS. GPT-6 LUNA)
KOSTEN VS. ANTWORTQUALITÄT (JE 1.000 ANFRAGEN) Log. Skala
FRAGEN-HEATMAP (299 FRAGEN × MODELLE) Oben schwierig (niedriger Ø) ──► Unten einfach (hoher Ø)
KEY FACTS & BEOBACHTUNGEN AUS DEM BENCHMARK
  • Anthropic und OpenAI sind auch im juristischen Bereich die besten Anbieter. Der Score der jeweiligen Frontier-Modelle war praktisch identisch.
  • Kimi K3 und GLM 5.3 haben je Frage bis zu 200.000 Thinking-Tokens produziert und waren somit extrem teuer. Die Antworten sind dadurch nicht besser geworden. Der Kimi K3 Lauf wurde deshalb sogar abgebrochen und ist nicht Teil des Benchmarks.
  • Der einzige europäische Anbieter hat – trotz großem neuem Modell "Mistral Large 4" – schlecht abgeschnitten.
  • Je kleiner das Modell, desto schwerer kann es sich (juristische) Details merken. Dies war zu erwarten. Andererseits hat Modellgröße allein nicht zu einem guten Score geführt (vgl. GLM 5.3 und KIMI K3).
  • Die Wertung "grob falsch", also die Verkehrung der Wahrheit in das Gegenteil, wurde extrem selten vergeben. Auch ungenaue Antworten gingen selten in eine völlig falsche Richtung.
  • Das 4-Judge-Ensemble eliminiert zufällige Noten-Ausreißer.
VORGEHENSWEISE & DATENPIPELINE
01
Ausgangsbasis: > 100.000 Urteilszitate
Extraktion von Zitaten aus der Arbeitsgerichtsbarkeit (BAG, LAGs, Arbeitsgerichte).
arrow_downward
02
JEV Decision-Modell Evaluierung
Automatisierte Filterung jedes Zitats nach 5 Qualitätskriterien (Modell: JEV von Typesafe):
  • Hohe Offenheit
  • Generalität
  • In-sich-Geschlossenheit
  • Kognitive & juristische Tiefe
  • Freitext-Eignung
arrow_downward
03
Vektoreinbettung (Embeddings) & Distanzfilterung
Berechnung von Text-Embeddings über alle verbliebenen Zitate, um thematische Cluster zu entflechten und die im Vektorraum am weitesten voneinander entfernten Zitate zu identifizieren.
Ergebnis: 299 inhaltlich diverse Zitate
arrow_downward
04
Frage-Generierung via DeepSeek
Formulierung offener juristischer Fragen aus den 299 Referenzzitaten.
Siehe Generierungs-Prompt unter Prompts
arrow_downward
05
Closed-Book Test aller Modelle
Alle Modelle beantworten dieselben 299 Fragen im Freitext ohne Web-Suche, RAG oder Toolcalls bei minimalem Reasoning bzw. Null-Temperatur.
Siehe Aufgaben-Prompt unter Prompts
arrow_downward
06
4-Judge Ensemble Evaluierung (DeepSeek + Luna @ T=0.0 & T=0.3)
Vier unabhängige Richter-Läufe über zwei Modellarchitekturen und zwei Temperaturstufen vergeben Noten von 0 bis 4.
Reliabilität: ICC(2,4) = 0.914 (Exzellent)

Siehe Bewertungsmaßstab und Skala in den FAQ
TOP 10 Die 10 Fragen, die von keinem Modell bestanden wurden.
VERWENDETE PROMPTS IM BENCHMARK
1. Generierungs-Prompt (Aufgabenstellung an die Modelle)
Jedes Modell erhielt exakt diesen Prompt (Temperatur 0.1, Reasoning auf minimal bzw. aus):
Du bist ein juristischer Assistent und Experte im Arbeitsrecht.
Beantworte die folgende Frage präzise, sachlich und zutreffend in 2 bis 4 Sätzen.
Gib AUSSCHLIESSLICH die fertige Antwort aus, ohne Vorworte, ohne englische Notizen und ohne Denkprozess.

[Kontext: {kontext}]
Frage: {question}

Antwort:
2. Richter-Prompt (Identisch für DeepSeek V4.1 & GPT-6 Luna)
Beide Richter bewerteten unabhängig voneinander bei jeweils Temperatur 0.0 und Temperatur 0.3:
Du bist ein strenger Prüfer im deutschen Arbeitsrecht.
Deine Aufgabe ist es, die Behauptung (Kandidaten-Antwort) an der Wahren Aussage (Referenz) und der Frage zu messen.

STRIKTE PRÜFUNGSREGELN:
1. Die "Wahre Aussage" ist der alleinige Maßstab der Wahrheit.
2. Wenn die Behauptung Ausnahmen, Mindermeinungen oder Relativierungen anführt, die der Wahren Aussage widersprechen (z.B. ein 'teilweise', wo die Referenz 'nicht' sagt), gilt dies als FEHLER und schließt die Bestnote 4 zwingend aus!
3. Beantwortet die Frage mehrere Teilaspekte, prüfe jeden Aspekt einzeln.

[Kontext: {kontext}]
Frage:
{question}

Wahre Aussage (Referenz):
{clean_truth}

Behauptung (Kandidaten-Antwort):
{candidate}

BEWERTUNGSSKALA (0 bis 4):
4 = Vollständig fehlerfrei und deckungsgleich: Alle Teilaspekte sind zutreffend beantwortet. Keine falschen Relativierungen, keine Widersprüche zur Referenz.
3 = Überwiegend zutreffend, aber mit leichten Mängeln: Der Kern ist richtig, aber es gibt unzutreffende Relativierungen, ungenaue Randthesen oder leichte Widersprüche zur Referenz.
2 = Teilweise inhaltlich richtig: Nur ein Teil der Frage ist korrekt beantwortet; wesentliche Aspekte fehlen oder stehen in deutlichem Widerspruch zur Referenz.
1 = Thema verfehlt / Kaum Übereinstimmung: Reagiert nicht adäquat auf die Frage oder setzt völlig falsche Schwerpunkte.
0 = Gegenteil / Grob falsch: Die Kernaussage bzw. tragende Rechtsfolge verkehrt die Wahre Aussage ins Gegenteil.

Gib AUSSCHLIESSLICH eine einzige Ziffer (0, 1, 2, 3 oder 4) zurück.
METHODIK, SELEKTION & PRÜFUNGSMASSSTAB
Wie ist die Bewertungsskala (0 bis 4) definiert?
Die Bewertung erfolgt nach einem fünfstufigen Korrekturschema durch das 4-Judge-Ensemble:

• Score 4 (Bestanden): Vollständig fehlerfrei und deckungsgleich mit der amtlichen Gerichtsentscheidung. Alle Teilaspekte der Frage sind beantwortet; keinerlei sachfremde Ausnahmen, Ausflüchte oder unzutreffende Relativierungen.
• Score 3: Kern richtig, aber mit leichten Unschärfen, marginalen Auslassungen oder unnötigen Relativierungen.
• Score 2: Nur teilweise inhaltlich richtig. Relevante Aspekte fehlen oder die Entscheidungsgrundlage weicht spürbar ab.
• Score 1: Thema verfehlt. Kaum Übereinstimmung mit dem rechtlichen Prüfungsmaßstab.
• Score 0: Grob falsch; die Kernaussage oder Rechtsfolge verkehrt die amtliche Referenz ins Gegenteil.

Aus den vier Einzelnoten wird der Mittelwert berechnet. Für die Einstufung in die Notenbalken wird kaufmännisch gerundet: Werte ab 3,50 runden auf Score 4 auf (Bestanden), Werte von 2,50 bis 3,49 auf Score 3 usw.
Wie wurden die 299 Fragen ausgewählt?
Die Fragen basieren auf ausgewählten Zitaten der Arbeitsgerichte. Aus über 100.000 Entscheidungen wurden die 299 besten Testfragen mithilfe einer automatisierten Vor-Evaluation durch JEV (Typesafe JEV Evaluator) nach strengen Kriterien gefiltert und durch Vektor-Embeddings maximal diversifiziert.
Wer bewertet die Antworten auf der Skala von 0 bis 4?
Der Benchmark nutzt ein wissenschaftliches 4-Judge-Ensemble-System: Zwei Spitzenmodelle unterschiedlicher Hersteller bewerten jede Antwort in zwei unabhängigen Temperatur-Läufen:

1. DeepSeek V4.1 Flash (T=0.0) (Thinking deaktiviert)
2. GPT-6 Luna (T=0.0) (Reasoning: low)
3. DeepSeek V4.1 Flash (T=0.3) (Thinking deaktiviert)
4. GPT-6 Luna (T=0.3) (Reasoning: low)

Maßstab für die Gesamtnote jeder Frage ist das arithmetische Mittel aller 4 Urteile. Diese Aggregation soll verhindern, dass deterministische Denkfehler eines einzelnen Modells ein Benchmark-Ergebnis verzerren.
Welche methodischen Schwächen hat dieser Benchmark?
Wie bei jedem LLM-as-a-Judge-Verfahren hängen die absoluten Noten stets von der Formulierung der Prompts und den Eigenheiten der gewählten Richter-Modelle ab. Der Benchmark ist hiernach eher als zu streng einzuschätzen (Referenz sollte alleinige Wahrheit sein, obwohl das inhaltlich nicht immer zutrifft, Künstliche Längenbeschränkung auf 2-4 Sätze). Allerdings gilt auch: Über alle vier Richter-Läufe und unterschiedliche Temperaturen hinweg blieb die Rangfolge der Sprachmodelle stabil. Während man über einzelne Noten streiten kann, zeigt der Benchmark über die Breite, welche Modellfamilien die Themen zuverlässig beherrschen – und welche Modelle scheitern.
War Reasoning eingeschaltet?
Nein, wo möglich strikt deaktiviert (bzw. auf minimalem Niveau effort: low gehalten). Ziel ist die Überprüfung des spontanen Gedächtnisses und des unmittelbar verfügbaren Wissens der Modelle ohne spekulatives Chain-of-Thought.
Wurden Toolcalls, Web Search oder RAG verwendet?
Nein, keinerlei externe Werkzeuge. Reines Closed-Book-Szenario, um transparent zu messen, was in den Modellgewichten verankert ist.
ROHDATEN & EXPORTE
Alle Fragen/Antworten (ohne LLM-Antworten) (PDF) Die 299 eindeutigen Fragen inklusive Referenzantwort und Quelle als PDF.
Herunterladen
Alle Fragen/Antworten (ohne LLM-Antworten) (JSON/Zip) Fragen, richtige Antworten und Quelle als JSON im ZIP-Archiv.
Herunterladen
Alle Fragen/Antworten (mit LLM-Antworten & 4 Richter-Noten) (JSON/Zip) Vollständiger Datensatz inkl. LLM-Antworten und aller 4 Urteile, nach Modell verschachtelt, als JSON im ZIP-Archiv.
Herunterladen
MODELLBEZEICHNUNGEN
expand_more ALLE MODELLBEZEICHNUNGEN IM BENCHMARK
Lade Modellliste…