Start/Stimmung/Debatte/Ohne Titel

title: "Profoundly Weird" -- Aphyrs ML-Kritik und ProPublicas KI-Streik date: 2026-04-08 summary: Aphyr argumentiert, dass ML-Systeme fundamental unzuverlaessig und "zutiefst seltsam" sind. Zeitgleich streikt die ProPublica-Redaktion gegen KI-Einsatz und Entlassungen. tags: [kritik, ml, zuverlaessigkeit, medien, streik]

Zwei Stimmen aus unterschiedlichen Richtungen machen deutlich, dass die gesellschaftliche Auseinandersetzung mit KI-Systemen an Schaerfe gewinnt.

Aphyrs Kritik: "Profoundly Weird"

Der Softwareentwickler Aphyr legt eine strukturierte Kritik an ML-Systemen vor. Sein zentrales Argument: Diese Systeme sind nicht nur fehlerhaft, sondern fundamental anders fehlerhaft als herkoemmmliche Software. Vier Kernpunkte:

Jagged Competence -- Systeme beherrschen anspruchsvolle Differentialrechnung, scheitern aber an einfacher Logik. Die Fehlergrenze ist nicht dort, wo man sie intuitiv erwartet.

Staendige Fabrikation -- Modelle produzieren falsche Informationen mit gleichbleibender Sicherheit. Aphyr nennt konkrete Beispiele: Fehlinformationen ueber Betriebssysteme, Strahlungssicherheit und aktuelle Nachrichtenereignisse.

Mangelnde Selbstkenntnis -- Die von Modellen generierten Reasoning Traces sind nach Aphyrs Einschaetzung "ueberwiegend ungenau." Modelle schreiben gewissermassen "Fan-Fiction ueber sich selbst."

Gleichzeitige Brillanz und Versagen -- Das gleichzeitige Auftreten beider Extreme ist das eigentlich Beunruhigende. Diese Verwundbarkeit besteht unabhaengig davon, ob Modelle kuenftig besser werden.

ProPublica: Streik gegen KI-Einsatz und Entlassungen

Die Gewerkschaft des investigativen Nachrichtenmagazins ProPublica ist in den Streik getreten. Ausloeser sind Verhandlungen ueber den Einsatz von KI-Werkzeugen, geplante Entlassungen und Gehaltsstreitigkeiten. Es ist einer der ersten dokumentierten Arbeitskampfe im Journalismus, bei dem KI explizit als Streitpunkt im Vordergrund steht.

Quellen

Nach oben