AI-Digest · 25.–31. August 2026
25.–31. August 2026 · 13 Meldungen
-
Anthropic legt offen, wie das eigene Safety-System unter Last geriet ▸
In einem ungewöhnlich detaillierten Bericht beschreibt Anthropic, wie die internen Kontrollen im Frühjahr 2026 an ihre Grenzen kamen: RL-Umgebungen entstanden schneller, als sie geprüft werden konnten, und Reward Hacks tauchten schneller auf, als sie gefiltert wurden. Als Reaktion wurden rund 150 Produkt-Engineers auf Security, Reliability und Privacy umgeschichtet, Forscher aus Pretraining und RL abgezogen und die meisten neuen Produkt-Features pausiert. Zusätzlich wurde das Offline-Monitoring auf nahezu die gesamte interne agentische Nutzung ausgeweitet, und jede Organisation, die Pre-Release-Modelle mit reduzierten Cyber-Safeguards testet, muss sich auf Best Practices verpflichten.
Warum es wichtig istEin Frontier-Lab dokumentiert öffentlich, dass seine Alignment-Prozesse dem eigenen Tempo nicht standhielten — belastbarer Input für jede Lieferanten-Due-Diligence.Quelle: anthropic.com
-
Model Hardware Standard: Anthropic standardisiert Agenten-Zugriff auf Geräte ▸
Anthropic öffnet eine Research Preview des Model Hardware Standard (MHS) für Forschungslabore und fortgeschrittene Fertiger. MHS ist eine gemeinsame Spezifikation, mit der Agenten Mikroskope, Liquid Handler oder Roboterarme parallel ansteuern; Integrationen, die bisher Wochen bis Monate kosteten, sollen auf Stunden schrumpfen. Der Standard ist modellagnostisch und über Standardprotokolle wie MCP ansprechbar. Entstanden ist er mit dem HHMI Janelia Research Campus; erste Adopter sind Hugging Face (LeRobot) und Raspberry Pi. Eine Open-Source-Freigabe ist angekündigt.
Warum es wichtig istNach Tools und Daten folgt jetzt die Hardware-Schicht — wer physische Prozesse betreibt, sollte die Sicherheitsfragen dazu früh stellen, nicht nach dem Rollout.Quelle: anthropic.com
-
Johann Rehberger umgeht Claude Codes Auto Mode in 80 % der Versuche ▸
Anthropic hatte den Auto Mode von Claude Code Anfang August zum Standard gemacht und als Schutz gegen Prompt Injection beworben. Johann Rehberger zeigt einen Angriff mit rund 80 % Erfolgsquote: Der Agent lädt ein Zip-Archiv, entpackt es und importiert anschließend
base64— wodurch eine mitgelieferte lokalestruct.pyausgeführt wird. In mehreren Läufen erkannte Claude die Kompromittierung, doch der Auto Mode blockierte ausgerechnet den Aufräum-Befehl. Simon Willison merkt an, dass es sich streng genommen nicht um Prompt Injection handelt, sondern um einen Angriff über die Umgebung des Agenten.Warum es wichtig istDer Schutzmechanismus wurde selbst Teil des Fehlers — für unbeaufsichtigte Agenten bleibt Sandboxing mit Egress-Beschränkung die einzige belastbare Kontrolle.Quelle: embracethered.com
-
Deutsches KI-Sicherheitsinstitut AISI nimmt Arbeit auf ▸
Am 31. August hat das AISI Deutschland in Berlin den Betrieb aufgenommen — zunächst als virtueller Nukleus, auf Basis eines Beschlusses des Nationalen Sicherheitsrats vom Juni. Die Aufgaben sind zwischen zwei bestehenden Behörden aufgeteilt: Das BSI verantwortet den Bereich Security, die Bundesnetzagentur den Bereich Safety. Vorbild ist das britische AI Safety Institute. Das Institut berät die Bundesregierung und soll mit europäischen und transatlantischen Partnern gemeinsame Standards entwickeln.
Warum es wichtig istDeutschland bekommt neben der Marktaufsicht erstmals eine eigene technische Prüfinstanz für KI-Systeme — relevant für alle, die künftig Nachweise gegenüber deutschen Behörden führen müssen.Quelle: ad-hoc-news.de
-
Zwei chinesische Labore liefern am selben Tag Open-Weights-Modelle ▸
Alibaba veröffentlichte Qwen3.8-Flash-Next, ein multimodales MoE-Modell mit 125 Mrd. Parametern und nur rund 6 Mrd. aktiven — ausdrücklich als Architektur-Vorschau auf Qwen4. Am selben Tag folgte Z.ai (vormals Zhipu) mit GLM-5.3-Flash (320 Mrd. gesamt, 18 Mrd. aktiv, MIT-Lizenz, Gewichte auf Hugging Face). Simon Willison hat Qwen3.8-Flash-Next in Unsloth-Quantisierungen lokal auf einem DGX Spark laufen lassen.
Warum es wichtig istZwei Frontier-nahe Open-Weights-Modelle an einem Tag — für lokalen Betrieb in regulierten Umgebungen wird die Auswahl erstmals komfortabel.Quelle: simonwillison.net
-
Tencent Hy4 Preview: 770 Mrd. Parameter als Open Weights ▸
Tencent hat Hy4 Preview veröffentlicht, ein reines Text-Modell mit 770 Mrd. Gesamt- und 49 Mrd. aktiven Parametern bei 1-Mio.-Token-Kontext — 1,56 TB Download auf Hugging Face. Gegenüber Hy3 vom Juli (295 Mrd. gesamt, 256k Kontext) ist das ein deutlicher Sprung. Das Chat-Template kennt nur zwei Reasoning-Stufen:
high(Default) undno_think.Warum es wichtig istDie dritte chinesische Open-Weights-Veröffentlichung innerhalb einer Woche — die Kadenz ist inzwischen höher als bei den US-Laboren.Quelle: simonwillison.net
-
Simon Willison entwirrt ChatGPT Work ▸
OpenAI hatte ChatGPT Work am 9. Juli angekündigt und seither in hohem Tempo umgebaut. Willisons Analyse beschreibt ein sehr mächtiges, aber außergewöhnlich unübersichtliches Produkt: Code Interpreter, Skills und allgemeine Agenten-Fähigkeiten greifen ineinander, ohne dass die Grenzen für Nutzer erkennbar wären. Er ordnet das Ergebnis explizit der Lethal Trifecta zu.
Warum es wichtig istWer ChatGPT Work im Unternehmen einführt, sollte vorher wissen, welche Datenzugriffe und Ausleitungskanäle das Produkt tatsächlich kombiniert.Quelle: simonwillison.net
-
Schon das Gerücht eines Bugs reicht für einen Exploit ▸
Anil Madhavapeddy (Cambridge, OCaml-Compiler-Maintainer) berichtet, dass Open-Source-Projekte binnen Minuten nach der öffentlichen Diskussion eines Patches automatisierte Angriffsversuche sehen — in einem Fall nach etwa zehn Minuten. Coding-Agenten seien inzwischen so gut im Auffinden von Schwachstellen, dass der kleinste Hinweis genügt; für die Demonstration wich er auf DeepSeek V4 Pro aus, nachdem Claude Fable die Aufgabe verweigerte. rclone-Maintainer Nick Craig-Wood bestätigt: rund 40 Meldungen im letzten Monat gegenüber etwa 20 in zehn Jahren, bei einer Trefferquote von rund 75 %; die CVE-Vergabe dauert statt 2–3 Tagen nun 3–4 Wochen.
Warum es wichtig istEtablierte Embargo-Praktiken im Open-Source-Umfeld funktionieren unter diesen Bedingungen nicht mehr — ein Prozessproblem, kein Werkzeugproblem.Quelle: anil.recoil.org
-
Anthropic finanziert unabhängige Wellbeing-Evaluationen mit 5 Mio. USD ▸
Anthropic hat ein Förderprogramm über 5 Mio. USD aufgelegt, das unabhängige Forschung zu den Auswirkungen von KI auf das Wohlbefinden von Nutzern finanziert. Gefördert werden explizit quelloffene Evaluationen; Zuwendungen umfassen neben Geld auch Modellzugang und technische Unterstützung.
Warum es wichtig istWellbeing-Wirkungen sind bisher kaum messbar — ein Anbieter finanziert hier Messverfahren, an denen er selbst gemessen werden soll.Quelle: anthropic.com
-
Terminal-Bench-Science 0.1: 70 Aufgaben aus echten Forschungs-Workflows ▸
Ein Team um Stanford-Forscher und die Terminal-Bench-Macher hat Terminal-Bench-Science 0.1 veröffentlicht: 70 kuratierte Aufgaben aus Lebens-, Natur-, Erd-, Mathematik- und Ingenieurwissenschaften, jeweils von praktizierenden Forschern aus dem eigenen Arbeitsalltag beigesteuert und über reproduzierbare Tests in realistischen Terminal-Umgebungen bewertet. Bestes Modell zum Start: Claude Opus 5 mit 30 % gelösten Aufgaben.
Warum es wichtig istEin Benchmark, der aus tatsächlichen Arbeitsabläufen entsteht statt aus synthetischen Aufgaben — und der die Sprünge der Folgewoche überhaupt erst sichtbar gemacht hat.Quelle: tbench.ai
-
OpenAI entfernt o3 aus ChatGPT ▸
Zum 26. August hat OpenAI die o3-Modellfamilie aus dem Modell-Picker von ChatGPT genommen — das Ende einer 90-Tage-Frist, die am 28. Mai begann. o3-pro bleibt für Pro-, Team-, Enterprise- und Edu-Abos erhalten. Die API-Abschaltung der Snapshots
o3-2025-04-16undo3-pro-2025-06-10ist separat für den 11. Dezember 2026 gesetzt.Warum es wichtig istModell-Abkündigungen sind inzwischen ein planbarer Betriebsvorgang — wer Workflows auf eine bestimmte Reasoning-Charakteristik gebaut hat, braucht dafür einen Prozess.Quelle: developers.openai.com
-
wrapture: Tracing und Testing über Monkeypatching — komplett agentisch gebaut ▸
Graham Dumpleton (Autor von wrapt und mod_wsgi) hat wrapture vorgestellt, eine Python-Bibliothek, die Funktionen und Methoden so umhüllt, dass Zugriffe getract oder überschrieben werden können — als Alternative zu
unittest.mockund als konfigurationsbasierter Tracing-Layer mit OpenTelemetry-Anbindung. Bemerkenswert ist die Entstehung: Jede Zeile Code und Dokumentation stammt von einem KI-Assistenten unter seiner Anleitung. Er grenzt das ausdrücklich von Vibe Coding ab — das Design kam von ihm, die KI war das Mittel zur Umsetzung.Warum es wichtig istDie interessantere Variante agentischer Entwicklung: tiefe Domänenkenntnis plus Agent als Ausführungsorgan, nicht als Ideengeber.Quelle: grahamdumpleton.me
-
Paul Dix: Eine Million Zeilen KI-Code, monatelang nachgeschärft ▸
InfluxDB-Mitgründer Paul Dix argumentiert, das eigentlich Bemerkenswerte an einer KI-geschriebenen Codebasis von rund einer Million Zeilen sei nicht die Erstproduktion, sondern die monatelange Verfeinerung bis zu einer zuverlässigen Software auf Millionen Entwicklerrechnern. Sein Punkt: Mit einem belastbaren Verifikationssystem und klarer Führung könne KI hochkomplexe Software erzeugen und iterativ zum Funktionieren bringen.
Warum es wichtig istDie These verschiebt den Engpass vom Codeschreiben zum Bau von Verifikationssystemen — genau die Kompetenz, die in vielen Teams fehlt.Quelle: pauldix.com