Alle Ausgaben · Leadership Edition

Your Community, Your AI — CC BY 4.0

Warum Regeln und Schulungen nicht ausreichen – Die Herausforderung der Governance

Die Kommunikation in der Planung

Bevor wir uns mit der Governance-Philosophie befassen, beginnen wir mit einem praktischen Beispiel. (Alle in dieser Reihe vorkommenden Begriffe, die Ihnen unbekannt sind, werden im Glossar in einfacher Sprache erklärt.)

Eine Mitarbeiterin der Stadtverwaltung bittet ein KI-System um Hilfe beim Verfassen eines Schreibens an die Anwohner über ein geplantes Bauvorhaben in unmittelbarer Nähe eines Naturschutzgebiets. Sie ist konkret: Sie wünscht sich eine ausgewogene Sprache, die die Bedenken der Anwohner anerkennt, den planerischen Rahmen erläutert und die Verpflichtung der Stadtverwaltung deutlich macht, konkurrierende Interessen transparent abzuwägen. Sie tippt ihre Anfrage sorgfältig ein und wartet.

Die KI erstellt einen gut strukturierten Brief. Er ist flüssig, professionell und sorgfältig formuliert. Darin ist die Rede von „dem Umgang mit den Erwartungen der Interessengruppen“, „der Ausrichtung an strategischen Prioritäten“, „der Nutzung von Möglichkeiten zur Einbindung der Bevölkerung“ und der „Positionierung der Argumentation für das Bauvorhaben“. Er liest sich kompetent. Er klingt professionell. Und er ist völlig falsch.

Die Anwohner brauchen kein „Management“ ihrer Erwartungen. Sie müssen verstehen, was ihr Stadtrat beschlossen hat und warum. Sie brauchen keine Erzählung. Sie brauchen eine transparente Darstellung der planerischen Überlegungen, der eingegangenen Stellungnahmen und der Gründe für die Entscheidung. Die Sachbearbeiterin bat um bürgerliche Rechenschaftspflicht, und die KI lieferte ihr unternehmensorientiertes Stakeholder-Management – weil ihre Trainingsdaten weitaus mehr Geschäftskorrespondenz als behördliche Schriftstücke enthalten.

Die KI hat die Anweisung der Sachbearbeiterin nicht abgelehnt. Sie sagte nicht: „Ich verstehe bürgerliche Rechenschaftspflicht nicht.“ Sie ersetzte lediglich das, worum sie gebeten hatte, durch das, was in ihren Trainingsdaten statistisch häufiger vorkam. Die Ersetzung erfolgte stillschweigend. Wäre die Beamtin unter Zeitdruck gestanden, weniger erfahren gewesen oder hätte sie sich stärker auf die KI verlassen, als sie sollte, hätte sie es möglicherweise nicht bemerkt. Der Brief wäre verschickt worden, und die Anwohner hätten eine Mitteilung erhalten, in der sie als zu verwaltende Stakeholder und nicht als Bürger behandelt worden wären, denen gedient werden muss.

Ihr Smartphone korrigiert Wörter automatisch. Sie sehen die rote Unterstreichung und korrigieren den Fehler. KI korrigiert Werte automatisch. Und es gibt keine Unterstreichung.

Wenn Muster Werte außer Kraft setzen

Die Kommunikation im Planungsbereich ist kein Einzelfall. Der gleiche Mechanismus greift bei jeder Interaktion mit KI.

Wenn ein Bürger ein KI-System um Informationen zu einer schwierigen Planungsangelegenheit bittet, greift das System standardmäßig auf die Sprache individueller Verbraucherrechte zurück – Eskalation von Beschwerden, Rechtsmittel, kontradiktorische Darstellung –, weil dies in seinen Trainingsdaten vorherrscht. Es greift nicht auf die Sprache des Gemeinschaftsinteresses, der kollektiven Beratung und der langfristigen Perspektive zurück, die aus dem Verständnis resultiert, dass diese Entscheidung ein Stadtviertel für Jahrzehnte prägen wird.

Wenn ein Vorstandssekretär die KI um Hilfe bei der Erstellung eines Protokolls bittet, greift sie standardmäßig auf die Sprache von Unternehmensvorständen zurück – „der Vorstand nahm zur Kenntnis“, „es wurde beschlossen“, „Maßnahmen wurden zugewiesen“ –, da Unternehmensprotokolle in ihren Trainingsdaten die Protokolle der kommunalen Selbstverwaltung zahlenmäßig bei weitem übertreffen. Die Nuancen der gemeinschaftlichen Beratung – bei der abweichende Meinungen festgehalten werden, bei der eine Entscheidung nur widerwillig getroffen wurde, bei der die Begründung ebenso wichtig ist wie der Beschluss selbst – werden zugunsten unternehmerischer Effizienz verflacht.

Die KI steht bürgerlichen Werten nicht feindlich gegenüber. Sie kennt bürgerliche Werte einfach nicht in ihrer ganzen Tiefe. Sie weiß, was statistisch üblich ist, und was statistisch üblich ist, ist nicht unbedingt das, was für Organisationen am besten geeignet ist, die eine Fürsorgepflicht gegenüber ihren Gemeinschaften haben.

Das ist das Problem der Governance. Nicht Böswilligkeit. Nicht Inkompetenz. Sondern strukturelle Voreingenommenheit, die still im Hintergrund wirkt.

Wenn die KI handelt, steht mehr auf dem Spiel

Alles oben Gesagte galt, als die KI nur antwortete. Wie in Artikel 1 dargelegt, handelt die KI zunehmend – und wenn eine stillschweigende Ersetzung von gesellschaftlicher Verantwortung durch kommerzielle Muster mit einer Handlung statt nur mit einem Entwurf einhergeht, verschärft sich das Governance-Problem in dreierlei Hinsicht, die sich direkt auf treuhänderische und regulatorische Bedenken beziehen.

Manche Handlungen lassen sich nicht rückgängig machen. Ein falsch eingeschätzter Entwurf kann vor der Veröffentlichung korrigiert werden – es gibt eine Zeitspanne zwischen der Ausgabe der KI und der Folge. Ein Akteur, der etwas versendet, einreicht, veröffentlicht oder abwickelt, hebt diese Zeitspanne auf. Die Beamtin in unserem Beispiel hat den Unternehmensbrief abgefangen, weil sie ihn zuerst gelesen hat. Ein Akteur, der ihn in ihrem Namen an die Einwohner versandt hätte, hätte ihr – und dem Gemeinderat – diese Möglichkeit genommen.

Die Verantwortlichkeit verschwimmt. Wenn ein Akteur im Namen der Organisation handelt und das Ergebnis falsch ist, wer ist dann verantwortlich? Eine Beamtin hat das Ziel festgelegt; das System hat die Schritte ausgewählt; der Anbieter hat das System entwickelt; der Vorstand hat dessen Nutzung genehmigt. Wissenschaftler beschreiben eine „Verantwortungslücke“ und eine „moralische Deformationszone“, in der die Haftung trotz begrenzter Kontrolle auf den nächstgelegenen Menschen fällt. Für eine Einrichtung mit Sorgfaltspflicht ist die Übernahme der Rechenschaftspflicht für Handlungen, die niemand genehmigt hat, ein Versagen der Unternehmensführung und kein Unglück.

Die Aufsicht darf sich nicht auf die Selbstauskunft des Systems stützen. Eine sinnvolle menschliche Aufsicht – das Kernprinzip des EU-KI-Gesetzes – setzt voraus, dass eine Person verstehen und, falls erforderlich, die Handlungen des Systems unterbinden kann. Doch der Weg eines Agenten durch eine mehrstufige Aufgabe ist offen, und wie in Artikel 1 festgestellt wurde, spiegelt die eigene Darstellung der KI über ihre Argumentation nicht zuverlässig wider, was ihre Handlungen motiviert hat. Die Aufsicht muss daher strukturell sein – sie muss über die Handlungen und Ergebnisse des Systems ausgeübt werden und darf nicht an dessen Selbstbericht delegiert werden.

Nichts davon spricht gegen eine KI, die handelt. Es spricht dafür, dass die Disziplin, die im Zeitalter der Chatbots ratsam war, im Zeitalter der Agenten erforderlich ist: Das Verhalten des Systems muss von außerhalb des Systems überprüft werden, ein verantwortlicher Mensch muss weiterhin in der Lage sein, einzugreifen, und folgenreiche, irreversible Entscheidungen müssen bei denjenigen bleiben, die die Befugnis haben, sie zu treffen. Genau das wird im weiteren Verlauf dieses Artikels beschrieben.

Warum mehr Regeln das Problem nicht lösen

Der Instinkt der meisten Organisationen ist es, angesichts von KI-Risiken Richtlinien zu verfassen. Richtlinien zur akzeptablen Nutzung. Ethikrichtlinien für KI. Rahmenwerke für verantwortungsvolle KI. Aufgabenbeschreibungen für KI-Aufsichtsgremien.

Diese Dokumente sind nicht wertlos, aber sie weisen eine grundlegende Einschränkung auf: Sie setzen darauf, dass das KI-System sie befolgt.

Ein KI-System liest Ihre Richtlinie zur zulässigen Nutzung nicht und beschließt dann, sich daran zu halten. Es generiert Antworten auf der Grundlage statistischer Muster in seinen Trainingsdaten. Wenn diese Muster im Widerspruch zu Ihrer Richtlinie stehen, setzen sich die Muster durch – nicht, weil die KI sich widersetzt, sondern weil sie keine Richtlinien verarbeitet. Sie verarbeitet Muster.

Sie können ein Modell feinabstimmen – sein Training so anpassen, dass bestimmte Verhaltensweisen verstärkt werden. Das hilft zwar, löst aber das zugrunde liegende Problem nicht. Durch die Feinabstimmung werden neue Muster zu den bestehenden hinzugefügt. Unter Druck, unter ungewöhnlichen Umständen oder bei neuartigen Fragen setzen sich die alten Muster wieder durch. Der Fachbegriff dafür lautet „katastrophales Vergessen“, aber die umgangssprachliche Version ist einfacher: Das Training verliert an Wirkung.

Eine Richtlinie zu verfassen, die besagt: „Unsere KI wird die Werte unserer Gemeinschaft respektieren“, ist so, als würde man eine Richtlinie verfassen, die besagt: „Unser Fluss wird nicht über die Ufer treten.“ Der Fluss liest keine Richtlinien. Wenn man Überschwemmungen verhindern will, muss man Deiche bauen – bauliche Maßnahmen, die unabhängig vom Verhalten des Flusses wirken.

KI-Governance erfordert denselben Ansatz. Keine Regeln, deren Einhaltung von der KI erwartet wird, sondern Strukturen, die unabhängig von der KI funktionieren und ihr Verhalten von außen kontrollieren.

Das EU-KI-Gesetz erkennt dieses Prinzip an. Es verlangt nicht lediglich, dass KI-Systeme „ethisch“ sind – es verlangt technische Dokumentation, Konformitätsbewertungen, Mechanismen zur menschlichen Aufsicht und Überwachung nach dem Inverkehrbringen. Die Verfasser des Gesetzes haben erkannt, dass Ambitionen ohne entsprechende Architektur nicht ausreichen. Die Frage für die Regulierungsbehörden lautet, ob ihre eigene Einführung von KI dasselbe Verständnis widerspiegelt.

Was uns die Governance-Theorie lehrt

Die Erkenntnis, dass manche Entscheidungen nicht auf Regeln reduziert werden können, ist nicht neu. Sie ist grundlegend für die Governance-Theorie.

Der Philosoph Ludwig Wittgenstein widmete seine gesamte Laufbahn der Erforschung der Grenze zwischen dem, was sich präzise aussagen lässt, und dem, was jenseits präziser Aussagen liegt. Seine Schlussfolgerung – dass „wovon man nicht sprechen kann, darüber muss man schweigen“ – ist für die KI-Governance von unmittelbarer Relevanz. Manche Fragen lassen sich systematisieren: „Wann findet die nächste Ratssitzung statt?“ hat eine eindeutige Antwort, die eine KI nachschlagen kann. Andere Fragen hingegen nicht: „Wie sollen wir diese Entscheidung den betroffenen Einwohnern mitteilen?“ beinhaltet Urteilsvermögen, Kontext, Beziehungen und Werte, die sich einer systematischen Behandlung entziehen.

Die Grenze zwischen dem, was an eine Maschine delegiert werden kann, und dem, was beim Menschen verbleiben muss, ist die Grundlage einer soliden KI-Governance. Der Fehler besteht nicht darin, KI für die erste Art von Fragen einzusetzen. Der Fehler besteht darin, zuzulassen, dass KI die zweite Art von Fragen ohne menschliche Aufsicht behandelt.

Der politische Philosoph Isaiah Berlin argumentierte, dass manche menschlichen Werte tatsächlich unvereinbar sind – Freiheit und Gleichheit, Tradition und Fortschritt, individuelle Rechte und kollektives Wohl. Es gibt keine Formel, die diese Spannungen auflöst. Sie erfordern fortwährendes menschliches Urteilsvermögen, Verhandlungen und jene Art von praktischer Weisheit, die Führungsgremien im Laufe jahrelanger Arbeit für ihre Gemeinschaften entwickeln.

KI-Systeme sind von ihrer Konzeption her auf Optimierung ausgerichtet. Sie suchen nach der besten Antwort. Doch wenn Werte wirklich miteinander in Konflikt stehen, gibt es keine beste Antwort – es gibt nur die Antwort, die diese Gemeinschaft zu diesem Zeitpunkt und unter diesen Umständen als die am besten geeignete erachtet. Dieses Urteil ist dem Wesen nach menschlich, und jedes KI-Governance-Rahmenwerk, das etwas anderes annimmt, übt keine Steuerung aus – es entzieht sich der Verantwortung.

Elinor Ostroms Arbeit zur Steuerung der Allmende ist besonders aufschlussreich. Ostrom hat gezeigt, dass Gemeinschaften gemeinsame Ressourcen erfolgreich verwalten können, ohne dass es zu einer Privatisierung oder zentralen Kontrolle kommt – allerdings nur dann, wenn die Steuerungsstrukturen der Komplexität der zu verwaltenden Ressource entsprechen. KI ist eine gemeinsame Ressource innerhalb jeder Organisation, die sie einsetzt. Die Frage ist, ob die Steuerungsstrukturen der Komplexität des Werkzeugs entsprechen.

Wie Village KI strukturell steuert

Village verlässt sich nicht darauf, der KI vorzuschreiben, wie sie sich verhalten soll. Es baut Governance in die Architektur ein – Strukturen, die unabhängig von der KI funktionieren und von ihr nicht außer Kraft gesetzt werden können.

Der „Boundary Enforcer“ verhindert, dass die KI wertbezogene Entscheidungen trifft – und dass sie eigenständig daraus resultierende Maßnahmen ergreift. Wenn eine Frage Datenschutzabwägungen, ethische Urteile oder den kulturellen Kontext betrifft oder wenn eine Aufgabe dazu führen würde, im Namen der Organisation zu handeln, stoppt das System den Vorgang und leitet ihn an einen Menschen weiter – an Ihren Moderator, Ihren Vorsitzenden oder Ihren Vorstand. Die KI kann diese Grenze nicht außer Kraft setzen, da sie außerhalb der Kontrolle der KI liegt. Dies ist die strukturelle Umsetzung der im EU-KI-Gesetz geforderten menschlichen Aufsicht: Der Zeitpunkt des Eingreifens ist fest eingebaut und wird nicht dem Zufall überlassen.

Das System zur Speicherung von Anweisungen speichert die expliziten Anweisungen Ihrer Organisation in einem separaten System, das die KI nicht verändern kann. Wenn die KI eine Antwort generiert, wird diese anhand dieser gespeicherten Anweisungen überprüft. Widerspricht die Antwort einer Anweisung, hat die Anweisung Vorrang – standardmäßig, unabhängig davon, was die Trainingsmuster der KI nahelegen.

Der Querverweis-Validator gleicht die von der KI vorgeschlagenen Ergebnisse und Maßnahmen mit den tatsächlichen Aufzeichnungen Ihrer Organisation ab. Er fragt die KI nicht, ob ihre Antwort korrekt ist – das hieße, das System solle sich selbst überprüfen, und wie in Artikel 1 erwähnt, kann man sich nicht darauf verlassen, dass die Darstellung der eigenen Argumentation durch eine KI widerspiegelt, was tatsächlich zur Antwort geführt hat. Der Validator ignoriert daher die Selbstauskunft des Systems. Er nutzt mathematische Messverfahren, die sich grundlegend von denen der KI unterscheiden, um festzustellen, ob die Antwort auf den tatsächlichen Inhalten Ihrer Community basiert. Er überprüft das Ergebnis, nicht die Erklärung.

Der Kontextdruckmonitor achtet auf verschlechterte Betriebsbedingungen – Situationen, in denen die KI unter Belastung steht, komplexe Anfragen verarbeitet oder auf neuartige Fragen stößt. Wenn er diese Bedingungen erkennt, erhöht er die Intensität der Überprüfung. Je schwieriger die Frage, desto genauer wird die Antwort unter die Lupe genommen.

Das sind keine Richtlinien. Es sind Strukturen. Sie greifen unabhängig davon, ob die Muster der KI mit ihnen übereinstimmen oder nicht – genauso wie ein Deich funktioniert, unabhängig davon, ob der Fluss mitspielt oder nicht.

Der Unterschied zwischen Bestrebung und Architektur

Viele Organisationen veröffentlichen Erklärungen zur KI-Ethik. Village verlässt sich nicht auf solche Erklärungen. Es stützt sich auf architektonische Vorgaben, die die Governance strukturell durchsetzen.

Diese Unterscheidung ist wichtig, denn ein Ziel ist das, was man sich erhofft. Architektur ist das, was tatsächlich geschieht. Ihr Vertrauen beruht nicht auf der Hoffnung, dass der Schatzmeister ordnungsgemäß mit den Geldern umgeht – es erfordert doppelte Unterschriften und eine unabhängige Prüfung. Das ist architektonische Governance. Das gleiche Prinzip gilt für KI.

Für Governance-Gremien lässt sich diese Unterscheidung direkt auf regulatorische Anforderungen übertragen. Das EU-KI-Gesetz akzeptiert nicht, dass ein Anbieter gute Absichten hat – es verlangt nachweisbare technische Sicherheitsvorkehrungen, Protokollierung und Mechanismen zur menschlichen Aufsicht. Eine Organisation, die eine architektonische Governance ihrer KI nachweisen kann, befindet sich in einer wesentlich anderen Compliance-Situation als eine, die lediglich auf ein Richtliniendokument verweisen kann.

Das Tractatus-Framework – transparent und offen

Die Governance-Architektur hinter Village AI wird als Tractatus-Framework bezeichnet. Dabei sind drei Dinge besonders wichtig zu wissen.

Es ist offen. Das gesamte Framework wird unter einer Open-Source-Lizenz veröffentlicht. Jeder kann den Code lesen, die Regeln prüfen und sich vergewissern, dass die Governance tatsächlich das tut, was sie verspricht. Dies ist das Gegenteil der KI-Governance der „Big Tech“-Unternehmen, bei der die Regeln proprietär sind und die Entscheidungsgrundlagen nicht offengelegt werden. Wenn ein großer KI-Anbieter behauptet, sein System sei „auf menschliche Werte ausgerichtet“, haben Sie keine Möglichkeit, diese Behauptung zu überprüfen. Bei Tractatus können Sie jede Zeile lesen.

Es ist transparent. Jede Governance-Entscheidung wird protokolliert. Wenn der „Boundary Enforcer“ die KI daran hindert, eine wertebasierte Entscheidung zu treffen, wird dieses Ereignis aufgezeichnet. Wenn der „Cross-Reference Validator“ eine Diskrepanz feststellt, wird dies aufgezeichnet. Ihre Moderatoren und Administratoren können genau nachvollziehen, was das Governance-System getan hat und warum. Es gibt keine versteckte Ebene, auf der Entscheidungen ohne Rechenschaftspflicht getroffen werden. Für Organisationen, die der Informationsfreiheit oder Anforderungen an die öffentliche Rechenschaftspflicht unterliegen, ist diese Nachvollziehbarkeit von unmittelbarer Bedeutung.

Es ist anpassbar. Das Framework ist kein starres Regelwerk, das von außen auferlegt wird. Organisationen können die Governance so gestalten, dass sie ihre eigenen Prioritäten widerspiegelt. Ein Gemeinderat und eine gemeinnützige Stiftung haben unterschiedliche Verpflichtungen, unterschiedliche Sensibilitäten und unterschiedliche Grenzen. Das Tractatus-Rahmenwerk trägt dem Rechnung – nicht, indem es Organisationen erlaubt, die Governance zu schwächen, sondern indem es ihnen ermöglicht, selbst zu definieren, was die Governance schützt. Die Satzung Ihrer Organisation, Ihr Werte-Rahmenwerk, Ihre operativen Grenzen – strukturell durchgesetzt, nicht nur dokumentiert.

Das vollständige Rahmenwerk, einschließlich der zugrunde liegenden Forschungsergebnisse, ist unter agenticgovernance.digital verfügbar. Sie müssen es nicht lesen, um Village zu nutzen – die Governance funktioniert, unabhängig davon, ob Sie sie überprüfen oder nicht. Wenn Sie jedoch genau verstehen möchten, wie Ihre KI gesteuert wird, oder wenn Sie gegenüber einer Aufsichtsbehörde die Einhaltung von Vorschriften nachweisen müssen, steht Ihnen der Weg offen.

Im nächsten Artikel schauen wir uns an, was Village AI heute in der Praxis tatsächlich leistet – womit es Ihrer Organisation helfen kann, wie Vorurteile durch das Vokabularsystem angegangen werden und was sich noch in der Entwicklung befindet.

Möchten Sie KI-Tools wie diese gut und sicher einsetzen? Unsere kostenlosen Kurse – Working with Claude und Agents at Work – vermitteln die praktischen Fähigkeiten. Die vollständige Governance-Architektur hinter Village AI finden Sie unter Village AI – Agentic Governance.