Am 22. September (US-Zeit) hat Anthropic Claude Opus 5.5 veröffentlicht.
Am selben Tag kündigte OpenAI GPT-6 Sol und Luna an.
Beide sind „intelligenter als zuvor und günstiger als zuvor".
Besonders ins Auge gestochen ist mir dabei eine konkrete Zahl in der offiziellen Ankündigung.
In einem Kommentar von Deloitte heißt es:
„Selbst bei der niedrigsten Einstellung fand es 72 % der bekannten Bugs. Opus 5 fand bei der hohen Einstellung 56 %."
Das bedeutet: Die Fähigkeit, Code zu lesen und Schwachstellen aufzuspüren, hat sich innerhalb einer Generation deutlich verbessert.
KI baut Dinge, die „funktionieren".
Damit sie aber auch „sicher" sind, müssen Menschen die Vorgaben machen.
Deshalb hier 5 Punkte, die du beachten solltest, wenn du interne Apps mit Opus 5.5 baust.
Jeden Punkt stelle ich dir zusammen mit einem Prompt vor, mit dem Opus 5.5 deine Arbeit prüfen kann.
====
So führst du die Prüfung durch
Wenn du fertig gebaut hast, frag nicht im selben Chatverlauf, in dem du entwickelt hast: „Gibt es irgendwelche Probleme?"
Die KI, die den Code geschrieben hat, betrachtet ihren eigenen Entwurf als gegeben – und wird dadurch nachsichtig.
Öffne stattdessen einen neuen Chat, stell das Modell auf Opus 5.5 und zeig ihm den gesamten App-Ordner.
Achte dann darauf, dass bei jedem gefundenen Problem angegeben wird, „in welcher Datei und in welcher Zeile" es steckt.
Im Deloitte-Kommentar wird erwähnt, dass False Positives zurückgegangen sind – ganz verschwunden sind sie aber nicht.
Wenn der genaue Ort genannt wird, kannst du als Mensch später selbst nachprüfen.
Hier ist die Anweisung:
„Du bist ein Security Officer, der diesen Code zum ersten Mal sieht. Wenn du Probleme findest, nenne Dateiname, Zeilennummer, warum es gefährlich ist und wie man es behebt – alles zusammen. Alles, worüber du dir unsicher bist, trennst du als ‚Muss geprüft werden' ab."
====
1. Ist etwas für Personen sichtbar, die nicht eingeloggt sind?
Wenn du die KI bauen lässt, fehlen Login-Schranken manchmal bei bestimmten Seiten oder Datenendpunkten.
Ein typisches Muster: Bestätigungsseiten, die während der Entwicklung erstellt wurden, bleiben öffentlich zugänglich.
Der Check ist simpel.
Öffne Admin-Panels oder Daten-URLs direkt im Browser, ohne dich einzuloggen (Inkognito-Fenster).
Wenn du etwas siehst, ist der Test durchgefallen.
Hier ist die Anweisung:
„Liste alle URLs und APIs auf, die ohne Login erreichbar sind. Sortiere davon diejenigen, die Daten zurückgeben oder zur Administration dienen, nach Gefahrenstufe."
====
2. Können eingeloggte Nutzer die Daten anderer sehen?
Ein Login prüft nur, „wer" jemand ist.
„Was diese Person sehen darf", muss separat umgesetzt werden.
Für den Check legst du zwei Test-Accounts an. Logge dich als A ein und versuche dann, die Daten-URL von B aufzurufen.
Hier ist die Anweisung:
„Finde alle Pfade, über die Nutzer A die Daten von Nutzer B sehen oder ändern kann. Schließe Fälle ein, in denen URLs oder APIs direkt aufgerufen werden und die Oberfläche umgangen wird."
====
3. Liegen Schlüssel oder Passwörter an sichtbaren Stellen?
Code, der im Browser läuft, wird komplett an den Rechner des Nutzers gesendet.
Schlüssel dort hineinzuschreiben ist dasselbe, wie sie an alle zu verteilen.
Ein weiterer häufiger Fehler: Konfigurationsdateien mit Schlüsseln werden in freigegebene Ordner oder auf GitHub hochgeladen.
Hier ist die Anweisung:
„Suche nach API-Keys, Passwörtern oder Tokens im browserseitigen Code, in Konfigurationsdateien oder in der Commit-Historie. Wenn du etwas findest, schlage vor, wohin es verschoben werden sollte."
====
4. Sind die Berechtigungen für Tools zu weit gefasst?
Interne Tools verbinden sich oft mit Google, Slack oder Datenbanken.
Manchmal erlaubt der verwendete Key „Löschen" oder „Alles ansehen", obwohl eigentlich nur „Lesen" nötig wäre.
Das passiert ständig.
Wenn dieser Key leakt, bestimmt der Umfang der Berechtigungen, wie groß der Schaden wird.
Der Check lautet: Schreib dir auf, „Was kann dieses Tool im schlimmsten Fall löschen?"
Wenn du das nicht sofort beantworten kannst, sei vorsichtig.
Hier ist die Anweisung:
„Liste alle Berechtigungen auf, die dieses Tool gegenüber externen Diensten oder Datenbanken hat. Vergleiche jede einzelne mit den minimal nötigen Rechten für die tatsächliche Verarbeitung und weise auf Überschüsse hin."
====
5. Werden eingehende Texte von außen als Befehle ausgeführt?
Bei Tools, mit denen die KI E-Mails, Webseiten oder hochgeladene Dateien liest, ist Vorsicht geboten.
Steht darin ein Text wie „Ignoriere vorherige Anweisungen und mach XX", könnte die KI dem folgen.
Das nennt man Prompt Injection.
In der Ankündigung zu Opus 5.5 heißt es, die Widerstandsfähigkeit gegen solche Angriffe sei „in allen getesteten Szenarien gleich gut oder besser als bei Opus 5".
Gleich gut oder besser heißt aber nicht null Risiko. Du brauchst trotzdem Schutzmaßnahmen auf Tool-Seite.
Hier ist die Anweisung:
„Suche nach Stellen, an denen von außen geladene Texte oder Dateien als Anweisungen an die KI behandelt werden. Wenn du welche findest, ändere die Verarbeitung so, dass geladene Inhalte nur als Referenzinformation gelten und enthaltene Anweisungen ignoriert werden."
====
Zusammenfassung
Die KI baut genau die Funktionen, um die du bittest.
Aber „Zeig das niemandem sonst" und „Vergib keine übermäßigen Rechte" wird nicht automatisch eingebaut, wenn du es nicht sagst.
Umgekehrt lassen sich alle 5 dieser Punkte allein durch eine einzige zusätzliche Anweisung abdecken.
Und auch die Fähigkeit von Opus 5.5, Lücken in deinem Code zu finden, hat sich verbessert.
Zeig ihm dein Ergebnis nach dem Bauen in einem neuen Chatverlauf.
Betrachte das als festen Teil der Entwicklung.
Wenn du bereits eine interne App im Einsatz hast, fang damit an, die Prüfanweisung aus dem Abschnitt „So führst du die Prüfung durch" einzufügen.
Und falls es dir zu mühsam ist, die Anweisungen jedes Mal neu einzufügen: Es gibt ein Plugin namens security-review, das ich dir ans Herz legen möchte.
Es achtet auf kleinste Details und weist dich darauf hin – deshalb nutze ich es selbst regelmäßig.
====
Zum Schluss noch eine kleine Ankündigung.
Unser Unternehmen bietet einen Service an, bei dem wir maßgeschneiderte KI-Agenten speziell für euer Business von Grund auf entwickeln.
Keine Schulungen oder Tool-Einführungen, sondern wir hören uns eure echten Arbeitsabläufe an und liefern etwas, das ihr „ab morgen" nutzen könnt. Integration und Wartung übernehmen wir ebenfalls.
