Die Arbeit des Modells prüfen: 25 Stunden Review, externe Physiker, Stichproben von JetBrains
Drei Beiträge vom 14. und 15. November beschreiben Arbeit mit KI-Modellen: ein Installationsskript für einen Rust-Testrunner, einen Beweis in der Teilchenphysik und eine Umfrage zu den Meinungen der Modelle selbst. Die Aufgaben haben nichts gemeinsam. Gemeinsam ist ihnen, dass jeder Autor einen Schritt außerhalb des Modells beschreibt, der entschied, ob man dem Ergebnis trauen konnte.
Der Maintainer von nextest ließ Claude Code und Codex ein Testgerüst mit Dutzenden Fällen auf mehreren Shells bauen, mit Fehlereinspeisung und einem TLS-Testserver, eine Arbeit, die nach seinen Worten sonst nicht in vertretbarer Zeit möglich gewesen wäre. Zwei Modelle prüften den Code danach automatisch. Die Fehler kamen in rund 25 Stunden Durchsicht von Hand an vier Wochenenden zutage: kein Test für die Standardinstallation, Hash-Vergleiche ohne Groß- und Kleinschreibung, keine Tests mit Strg+C unter Windows und Skripte, die Weiterleitungen von HTTPS auf HTTP erlaubten, samt Tests, die genau das bestätigten. Seine Erklärung: Nachdem ein Modell das falsche Verhalten in die Tests geschrieben hatte, lasen spätere Prüfer die bestandenen Tests als Beleg der Absicht.
Nathaniel Craigs Bericht im Wissenschaftsblog von OpenAI teilt die Arbeit anders auf. Er brachte die Strategie, GPT-6 Astra schlug vor, wie man die Kraftfelder auf feinere Gitter überträgt, zeigte die Konvergenz der Vergleiche und führte den detaillierten Beweis an. Sicherheit kam von drei Gittertheoretikern, die den Beweis lasen und nachfragten. Selbst danach nennt Craig das Ergebnis einen Kandidaten und zählt Eigenschaften auf, etwa die Reflexionspositivität bei endlichem Gitterabstand, die noch ungeprüft sind.
Der Versuch von JetBrains zeigt, warum eine einzelne Ausgabe ein schwacher Beleg ist. 50-mal gebeten, eine Sprache zufällig zu wählen, nannten die Modelle immer wieder dieselben wenigen Sprachen und griffen sie meist an; ein Modell verteidigte und kritisierte Gos Fehlerbehandlung in neuen Gesprächen fast gleich oft; manche wiederholten einen Satz wörtlich. Eine Antwort hätte wie eine Meinung ausgesehen. Fünfzig zeigten eine Gewohnheit.

Worauf zu achten ist
Keiner der drei behandelt die Ausgabe des Modells als fertig. Einer verließ sich auf einen Menschen, der jede Zeile liest, einer auf Fachleute außerhalb des Projekts, einer auf genug Wiederholungen, um ein Muster zu sehen. Projekte, die Coding-Agenten für Infrastruktur einsetzen, müssen entscheiden, welche dieser Prüfungen sie sich leisten können, denn der nextest-Beitrag zeigt, dass ein automatisches Review durch ein anderes Modell einen Fehler bestätigen kann, statt ihn zu finden.