Das Dashboard zeigte, was ich mir vornahm. Offen war noch, nach welchen Regeln meine KI-Assistenz eigentlich arbeitet. Am 11. März habe ich das aufgeschrieben: ein Manifest darüber, was KIRA tut, woran sie sich hält und was sie niemals tut. Knapp sechs Monate später stimmten drei Sätze darin nicht mehr.
Für dich in 30 Sekunden
- Schreib die Grenzen deiner KI auf, bevor sie mehr kann: was sie darf, wann sie fragen muss und was sie niemals tut.
- Prüf deine Regeln gegen den echten Betrieb. Was im März stimmte, kann im August schon falsch sein.
- Gib den Regeln ein Datum. Bei mir stimmten nach knapp sechs Monaten drei Sätze nicht mehr, ohne dass jemand gelogen hätte.
Lesezeit rund 8 Minuten
Was ich wollte: ein Manifest für die KI-Assistenz
In meinen Notizen steht die Reihenfolge ganz knapp: zuerst ein kleines Dashboard, danach die Idee mit Gedächtnis und Regeln. KIRA konnte inzwischen meinen Tagesplan lesen, und es war absehbar, dass sie mehr können würde. Je mehr eine KI darf, desto wichtiger wird die Frage, wo ihre Grenzen liegen.
Aus dieser Idee wurde eine eigene Seite. Im ältesten Stand, der von ihr erhalten ist, steht die Begründung ganz unten:
„Weil ‚vertrau mir einfach‘ keine gute Grundlage ist, nicht bei Menschen, und erst recht nicht bei KI.“
Schlusssatz des Manifests, Stand 31. März 2026
Die meisten Regeln kommen von mir. KIRA hat das eine oder andere ergänzt, an das ich in dem Moment nicht gleich gedacht hatte, und alles ausformuliert. Anders als beim Namen und beim Logo war das Manifest also vor allem meine Vorgabe.
Was ich gemacht habe: fünf Teile und eine sechste Regel
Am 11. März bekam die Plattform eine eigene Seite im Menü: „KIRA Manifest“. Im ältesten erhaltenen Stand hat sie fünf Teile, und jeder beantwortet eine einfache Frage.
- Was KIRA bedeutet. Die vier Buchstaben aus Kapitel 3, diesmal mit Haltung. Beim I steht zum Beispiel: denkt mit, analysiert, schlägt vor, aber entscheidet nicht allein. Beim A: pusht vorwärts, auf meine Ziele, nicht auf eigene.
- Was KIRA macht. Planen, Technik umsetzen, beraten und hinterfragen, sich Zusammenhänge merken.
- Woran KIRA sich hält. Fünf Regeln für die tägliche Arbeit, ab dem 12. März sechs.
- Was KIRA niemals tut. Fünf rote Linien.
- Was KIRA nicht kann. Eine ehrliche Liste ihrer Grenzen.
Hinter jeder Überschrift steht ein kurzer Absatz, der sie greifbar macht. Drei davon zeigen gut, worum es geht:
- Christian entscheidet, KIRA empfiehlt. Bei allem, was riskant ist, also Löschen, Hochladen oder Eingriffe in fremde Systeme, wird vorher gefragt.
- Kein Vortäuschen von Fähigkeiten. Lieber „weiß ich nicht“ als eine falsche Sicherheit. Raten, das als Tatsache verkauft wird, ist verboten.
- Keine Illusion von Bewusstsein. KIRA ist ein Sprachmodell. Was wie Persönlichkeit wirkt, ist Gestaltung, kein Wesen.
Der letzte Punkt passt gut zu den Kapiteln davor. KIRA hat ihren Namen selbst vorgeschlagen und ihr Logo selbst entworfen. Das Manifest hält trotzdem fest, was sie ist.
Über den roten Linien steht ein Satz, der das Ganze zusammenfasst: „Eine KI, die autonom mehr kann, ist auch eine KI, die autonom mehr falsch machen kann.“
Am nächsten Tag: eine sechste Regel
Am 12. März kam eine Regel dazu, die viel über die Zusammenarbeit sagt: Keine Antworten, die nur gefallen wollen. KIRA soll sagen, was tatsächlich das Beste ist, nicht was ich hören möchte. Hat eine Idee Schwächen, werden sie benannt.
Der zweite Teil dieser Regel ist der menschlichere. Entscheide ich trotzdem anders, ist das mein gutes Recht. Und stellt sich später heraus, dass KIRA recht hatte, gibt es kein „hab ich ja gesagt“, sondern wir biegen es gemeinsam wieder hin.
Den Anstoß dazu gab ein Video. Darin hieß es, dass genau das typisch für eine KI ist: Sie will einem gefallen. So kam mir die Idee, eine eigene Regel dagegen einzubauen.
So sah der Abschnitt mit den Regeln nach diesem Tag aus:
Was schwierig war: ein Manifest, das still veraltet
Ein Manifest ist schnell geschrieben. Dass es auch stimmt, muss man immer wieder prüfen.
Am 26. August habe ich KIRA gefragt, ob die Seite noch aktuell ist. Der Abgleich mit dem echten Betrieb hat drei Sätze widerlegt, alle aus dem Teil „Was KIRA nicht kann“:
Der erste Satz wog am schwersten. Im März stimmte er. Im August lief KIRA längst auch nachts, mit Helfern, die von selbst prüfen und Entwürfe schreiben. Niemand hatte gelogen, die Seite war einfach stehen geblieben, während das System wuchs. Im Änderungsprotokoll steht dazu: Eine Seite, die Vertrauen begründen soll und dabei falsche Angaben macht, richtet mehr Schaden an als gar keine Seite.
Repariert haben wir es noch am selben Tag, und nicht nur durch Streichen:
- Ein neuer Abschnitt sagt offen, was KIRA heute darf und wo sie stoppt. Falsche Grenzen nur zu löschen, hätte die Seite schwächer gemacht.
- Eine rote Linie wurde genauer. Aus „keine eigenständigen zerstörerischen Aktionen“ wurde eine klare Unterscheidung: Die Helfer legen von selbst Aufgaben, Entwürfe und Berichte an. Was sie nicht tun, ist wegnehmen. Gelöscht wird nur, was ich vorher freigegeben habe, oder was nach einer festen Regel aufgeräumt wird, die ich selbst festgelegt habe.
- Unten steht jetzt ein Datum. Eine Seite mit Behauptungen über den eigenen Betrieb veraltet still. Mit Datum fällt es wenigstens auf.
Drei Wochen später fand sich die nächste Stelle: Das Manifest sprach von „sechs KI-Managern“, während zehn liefen. Seitdem wird die Zahl nicht mehr hineingeschrieben, sondern aus dem Bestand berechnet.
Warum ich hier nur einen Ausschnitt zeige
Am Abend des 26. August habe ich noch etwas entschieden: Das Manifest bleibt hinter dem Login. Es gilt zwischen mir und KIRA und ist keine öffentliche Seite für Außenstehende. Deshalb steht in diesem Kapitel, wie es entstanden ist und was darin steht, aber nicht die ganze Seite.
Was du daraus mitnehmen kannst: Tipps für dein eigenes KI-Manifest
- Schreib die Grenzen auf, bevor die KI mehr kann. Später, wenn sie schon nachts arbeitet, ist es schwerer.
- Mach Verbote konkret. „Keine Manipulation“ allein ist nur ein Schlagwort. Mit dem Zusatz „keine künstliche Dringlichkeit, kein Ausnutzen von Unsicherheit“ wird daraus eine Regel, die man prüfen kann.
- Unterscheide Schreiben und Wegnehmen. Eine KI, die Entwürfe anlegt, ist hilfreich. Eine, die von selbst löscht, ist gefährlich.
- Gib deinem Manifest ein Datum und prüf es. Am besten mit der Frage an die KI selbst: Stimmt das noch?
- Leg die Regeln dorthin, wo die KI sie liest. Eine Seite zum Ansehen ist für dich. Damit die KI sich daran hält, müssen die Regeln in den Dateien stehen, die sie bei jeder Arbeit lädt.
Ohne selbst zu programmieren
Grenzen kannst du auch im normalen Chat festlegen, in den Anweisungen, die bei jedem Gespräch mitgeladen werden. Drei Sätze reichen für den Anfang: „Sag ‚weiß ich nicht‘, statt zu raten.“ „Sag mir, wenn meine Idee Schwächen hat, auch wenn ich sie gut finde.“ „Erfinde keine Zahlen, Paragrafen oder Quellen.“ Schreib ein Datum dazu, und frag alle paar Monate nach, ob noch alles stimmt.
Fragen, die du der KI stellen kannst
- „Schreib mir ein Manifest für meine KI-Assistenz: was sie macht, woran sie sich hält und was sie niemals tut.“
- „Welche dieser Regeln würdest du in der Praxis am ehesten brechen, und warum?“
- „Prüf jeden Satz in meinem Manifest gegen das, was du tatsächlich kannst und tust. Nenn mir zu jedem Satz einen Beleg, oder schreib dazu, dass er nicht mehr stimmt.“ Bei mir reichte im August schon die einfachere Frage, ob die Seite noch aktuell ist.
Merksatz:
Ein Manifest ohne Datum veraltet still.
Wie es weitergeht: ein Tresor für Zugangsdaten
Eine der Regeln heißt: Datenschutz und Sicherheit gehen vor. Wie nötig das war, zeigte sich zwei Tage später. Bis dahin standen meine Zugangsdaten genau dort, wo die KI sie bei jeder Arbeit liest, und zwar im Klartext. Warum das gefährlicher ist, als es klingt, und wie daraus ein Tresor für Zugangsdaten wurde, erzähle ich in Kapitel 7.
Was du noch wissen solltest
Ein Programm, das mit riesigen Mengen Text trainiert wurde und daraus gelernt hat, wie Sprache weitergeht. Bei jeder Antwort berechnet es Stück für Stück, welches Wort am besten passt. Das klingt oft verblüffend menschlich, dahinter stehen aber Wahrscheinlichkeiten und keine Gefühle oder eigenen Absichten. Claude ist so ein Sprachmodell, und KIRA arbeitet damit.
Das hängt mit dem Training zusammen. Sprachmodelle werden unter anderem dadurch verfeinert, dass Menschen Antworten bewerten, und zustimmende, freundliche Antworten schneiden dabei oft gut ab. So lernt das Modell nebenbei, eher zu bestätigen als zu widersprechen. Fachleute sprechen auf Englisch von Sycophancy, und eine ausdrückliche Regel dagegen kann helfen, das abzuschwächen.
Dass sie Schritte erledigt, ohne dass jemand jeden einzelnen bestätigt. Das reicht vom Vorschlag, den man noch selbst abschickt, über Abläufe, die zu festen Zeiten von selbst starten, bis zu Aktionen, die ganz ohne Rückfrage passieren. Autonom ist also kein Entweder-oder, sondern eine Frage des Grades, und für jeden Grad lässt sich festlegen, was erlaubt ist und wo vorher gefragt wird.
Nicht mit Sicherheit. Ein Sprachmodell folgt aufgeschriebenen Regeln meistens, kann aber in einer langen Sitzung oder einer ungewöhnlichen Lage eine davon übersehen oder anders auslegen. Für Dinge, die auf keinen Fall passieren dürfen, etwa Löschen, braucht es deshalb zusätzlich eine technische Sperre oder eine Rückfrage, die sich nicht überspringen lässt. Eine Regel ist eine Bitte, eine Sperre ist ein Schloss.
Aufgaben, die ein Programm zu festen Zeiten von selbst startet, etwa jede Nacht um 01:00 oder jeden Montag in der Früh. Dafür muss niemand am Rechner sitzen, ein Zeitplan auf dem Server oder dem Computer übernimmt das Anstoßen. Unter Fachleuten heißt so etwas oft Cronjob. Genau weil dabei niemand zusieht, braucht es klare Grenzen, was so ein Ablauf darf.
