299 juristische Detailfragen an die Frontier-LLMs – Antworten nur im Freitext. Die Fragen bestanden häufig aus mehreren Teilaspekten und basieren auf der Rechtsprechung des BAG, der LAGs und Arbeitsgerichte. Die Modelle mussten die Antworten "auswendig wissen" und durften hierbei nicht bzw. kaum nachdenken, nicht im Internet oder in Datenbanken recherchieren.
Die Bewertung erfolgte anhand eines Vergleichs mit dem Inhalt aus der Quelle/dem Urteil. Um stochastisches Rauschen und Modell-Voreingenommenheit zu reduzieren, wurde ein 4-Judge-Ensemble eingesetzt (DeepSeek V4.1 Flash und OpenAI GPT-6 Luna bei jeweils zwei Temperaturstufen). Jede Note entspricht dem arithmetischen Mittel aller vier Urteile. Ein Durchschnitt ab 3,50 gilt als bestanden (Score 4).
BEWERTUNGSMASSSTAB (4-JUDGE ENSEMBLE SYSTEM)
- Anthropic und OpenAI sind auch im juristischen Bereich die besten Anbieter. Der Score der jeweiligen Frontier-Modelle war praktisch identisch.
- Kimi K3 und GLM 5.3 haben je Frage bis zu 200.000 Thinking-Tokens produziert und waren somit extrem teuer. Die Antworten sind dadurch nicht besser geworden. Der Kimi K3 Lauf wurde deshalb sogar abgebrochen und ist nicht Teil des Benchmarks.
- Der einzige europäische Anbieter hat – trotz großem neuem Modell "Mistral Large 4" – schlecht abgeschnitten.
- Je kleiner das Modell, desto schwerer kann es sich (juristische) Details merken. Dies war zu erwarten. Andererseits hat Modellgröße allein nicht zu einem guten Score geführt (vgl. GLM 5.3 und KIMI K3).
- Die Wertung "grob falsch", also die Verkehrung der Wahrheit in das Gegenteil, wurde extrem selten vergeben. Auch ungenaue Antworten gingen selten in eine völlig falsche Richtung.
- Das 4-Judge-Ensemble eliminiert zufällige Noten-Ausreißer.
- Hohe Offenheit
- Generalität
- In-sich-Geschlossenheit
- Kognitive & juristische Tiefe
- Freitext-Eignung
Siehe Generierungs-Prompt unter Prompts
Siehe Aufgaben-Prompt unter Prompts
Siehe Bewertungsmaßstab und Skala in den FAQ
Du bist ein juristischer Assistent und Experte im Arbeitsrecht.
Beantworte die folgende Frage präzise, sachlich und zutreffend in 2 bis 4 Sätzen.
Gib AUSSCHLIESSLICH die fertige Antwort aus, ohne Vorworte, ohne englische Notizen und ohne Denkprozess.
[Kontext: {kontext}]
Frage: {question}
Antwort:
Du bist ein strenger Prüfer im deutschen Arbeitsrecht.
Deine Aufgabe ist es, die Behauptung (Kandidaten-Antwort) an der Wahren Aussage (Referenz) und der Frage zu messen.
STRIKTE PRÜFUNGSREGELN:
1. Die "Wahre Aussage" ist der alleinige Maßstab der Wahrheit.
2. Wenn die Behauptung Ausnahmen, Mindermeinungen oder Relativierungen anführt, die der Wahren Aussage widersprechen (z.B. ein 'teilweise', wo die Referenz 'nicht' sagt), gilt dies als FEHLER und schließt die Bestnote 4 zwingend aus!
3. Beantwortet die Frage mehrere Teilaspekte, prüfe jeden Aspekt einzeln.
[Kontext: {kontext}]
Frage:
{question}
Wahre Aussage (Referenz):
{clean_truth}
Behauptung (Kandidaten-Antwort):
{candidate}
BEWERTUNGSSKALA (0 bis 4):
4 = Vollständig fehlerfrei und deckungsgleich: Alle Teilaspekte sind zutreffend beantwortet. Keine falschen Relativierungen, keine Widersprüche zur Referenz.
3 = Überwiegend zutreffend, aber mit leichten Mängeln: Der Kern ist richtig, aber es gibt unzutreffende Relativierungen, ungenaue Randthesen oder leichte Widersprüche zur Referenz.
2 = Teilweise inhaltlich richtig: Nur ein Teil der Frage ist korrekt beantwortet; wesentliche Aspekte fehlen oder stehen in deutlichem Widerspruch zur Referenz.
1 = Thema verfehlt / Kaum Übereinstimmung: Reagiert nicht adäquat auf die Frage oder setzt völlig falsche Schwerpunkte.
0 = Gegenteil / Grob falsch: Die Kernaussage bzw. tragende Rechtsfolge verkehrt die Wahre Aussage ins Gegenteil.
Gib AUSSCHLIESSLICH eine einzige Ziffer (0, 1, 2, 3 oder 4) zurück.
• Score 4 (Bestanden): Vollständig fehlerfrei und deckungsgleich mit der amtlichen Gerichtsentscheidung. Alle Teilaspekte der Frage sind beantwortet; keinerlei sachfremde Ausnahmen, Ausflüchte oder unzutreffende Relativierungen.
• Score 3: Kern richtig, aber mit leichten Unschärfen, marginalen Auslassungen oder unnötigen Relativierungen.
• Score 2: Nur teilweise inhaltlich richtig. Relevante Aspekte fehlen oder die Entscheidungsgrundlage weicht spürbar ab.
• Score 1: Thema verfehlt. Kaum Übereinstimmung mit dem rechtlichen Prüfungsmaßstab.
• Score 0: Grob falsch; die Kernaussage oder Rechtsfolge verkehrt die amtliche Referenz ins Gegenteil.
Aus den vier Einzelnoten wird der Mittelwert berechnet. Für die Einstufung in die Notenbalken wird kaufmännisch gerundet: Werte ab 3,50 runden auf Score 4 auf (Bestanden), Werte von 2,50 bis 3,49 auf Score 3 usw.
1. DeepSeek V4.1 Flash (T=0.0) (Thinking deaktiviert)
2. GPT-6 Luna (T=0.0) (Reasoning: low)
3. DeepSeek V4.1 Flash (T=0.3) (Thinking deaktiviert)
4. GPT-6 Luna (T=0.3) (Reasoning: low)
Maßstab für die Gesamtnote jeder Frage ist das arithmetische Mittel aller 4 Urteile. Diese Aggregation soll verhindern, dass deterministische Denkfehler eines einzelnen Modells ein Benchmark-Ergebnis verzerren.
ALLE MODELLBEZEICHNUNGEN IM BENCHMARK
Lade Modellliste…