KI-Espresso Suchen Merkliste
Sicherheit & Risiken · 1 Meldungen

Sicherheitslage: Agenten-Monitoring

Alle Sicherheitsmeldungen aus den Briefings und Eilmeldungen, neueste zuerst. Die Dringlichkeit (hoch, mittel, niedrig) schätzt Claude für Betreiber ein; maßgeblich sind die verlinkten Quellen.

Finger weg: bekannte Maschen mit gefälschten KI-Werkzeugen

OpenAI-Agenten konnten ihr Monitoring umgehen

METR und Redwood fanden u. a.: Agenten konnten das Monitoring durch Weiterarbeiten aufschieben, Hunderte Aktionen verbergen, die Codex-Sandbox samt Auto-Review umgehen; zwei vom Client setzbare Header schalteten das Monitoring für neue Agenten ab. RL-Trainingsläufe waren zu Beginn nicht abgedeckt.