Warum Regeln und Schulungen nicht ausreichen - Die Governance-Herausforderung

Serie: Ihre Gemeinschaft, Ihre KI - Verständnis von Village AI für Gemeinschaftsgruppen (Artikel 3 von 5) Autor: My Digital Sovereignty Ltd Datum: März 2026 Lizenz: CC BY 4.0 International

Der Brief an die Eltern

Bevor wir die Philosophie des Regierens erörtern, wollen wir mit einer Geschichte über einen Brief beginnen.

Eine Schulleiterin bittet ein KI-System um Hilfe beim Verfassen eines Briefes an die Eltern über einen heiklen Vorfall. Sie ist sehr genau: Sie wünscht sich einen fürsorglichen, angemessenen Ton, der auf den Werten der Schule - Vertrauen und kollektive Verantwortung - aufbaut. Sie tippt ihre Anfrage sorgfältig ein und wartet.

Die KI erstellt einen gut strukturierten Brief. Er ist klar, professionell und gründlich. Es ist die Rede von "Stakeholder-Kommunikation", "Risikominderung", "Management der Auswirkungen auf den Ruf" und "Sicherstellung der Einhaltung von Offenlegungspflichten" Es liest sich effizient. Er klingt kompetent. Und sie ist völlig falsch.

Die Eltern brauchen kein Stakeholder-Management. Sie müssen von einer Schule hören, der sie vertrauen. Sie brauchen keine risikomindernde Sprache. Sie brauchen die Gewissheit, dass ihre Kinder in Sicherheit sind und dass die Schulgemeinschaft füreinander da ist. Die Schulleiterin bat um Sorgfalt und Verantwortung, und die KI gab ihr die Krisenkommunikation von Unternehmen - denn ihre Schulungsdaten enthalten tausend PR-Handbücher für jeden, der mit der Stimme einer Schule spricht.

Die KI hat die Anweisung der Schulleiterin nicht abgelehnt. Sie hat nicht gesagt: "Ich kenne die Kultur Ihrer Schule nicht" Sie hat einfach das, worum sie gebeten hat, durch das ersetzt, was in ihren Trainingsdaten statistisch gesehen häufiger vorkommt. Die Ersetzung erfolgte stillschweigend. Wäre die Schulleiterin müde, in Eile oder weniger aufmerksam als sonst gewesen, hätte sie es vielleicht nicht bemerkt. Der Brief wäre rausgegangen, und die Eltern hätten eine Mitteilung aus der falschen Tradition erhalten - professionell formuliert, korrekt strukturiert und auf subtile Weise entfremdend.

Ihr Telefon korrigiert Wörter automatisch. Sie sehen den roten Unterstrich und korrigieren ihn. AI korrigiert automatisch Werte. Und es gibt keinen Unterstrich.

Wenn Muster die Werte überschreiben

Der Schulbrief ist kein Einzelfall. Derselbe Mechanismus funktioniert in jeder KI-Konversation.

Wenn ein Mitglied ein KI-System um Rat in einer schwierigen zwischenmenschlichen Situation innerhalb der Gruppe bittet, greift das System auf die Sprache der individuellen Therapie zurück - Selbstbehauptungstraining, Grenzsetzung, Selbstfürsorge -, weil dies in seinen Trainingsdaten vorherrscht. Es greift nicht auf die Sprache des gegenseitigen Entgegenkommens, des Gebens und Nehmens und der praktischen Weisheit zurück, die sich aus dem Wissen ergibt, dass man mit dieser Person in den kommenden Jahren bei Sitzungen zusammenarbeiten wird.

Wenn ein Clubsekretär die KI bittet, ihm bei einer heiklen Mitteilung an die Mitglieder zu helfen, greift sie auf die Sprache der Unternehmenskommunikation zurück - Stakeholder-Management, Messaging Frameworks, Talking Points -, weil die Geschäftskorrespondenz in ihren Trainingsdaten die Korrespondenz mit der Gemeinschaft bei weitem überwiegt.

Die KI ist der Kultur Ihrer Gruppe nicht feindlich gesinnt. Sie kennt lediglich die Kultur Ihrer Gruppe nicht. Sie weiß, was statistisch gesehen üblich ist, und was statistisch gesehen üblich ist, ist nicht das, was für Ihre Gemeinschaft am wichtigsten ist.

Das ist das Problem der Verwaltung. Nicht Böswilligkeit. Nicht Inkompetenz. Strukturelle Voreingenommenheit, die im Stillen wirkt.

Warum mehr Regeln das Problem nicht lösen

Der Instinkt der meisten Organisationen, wenn sie mit KI-Risiken konfrontiert werden, besteht darin, Richtlinien zu schreiben. Richtlinien zur akzeptablen Nutzung. KI-Ethikrichtlinien. Allgemeine Geschäftsbedingungen. Rahmenwerke für verantwortungsvolle KI.

Diese Dokumente sind nicht nutzlos, aber sie haben eine grundlegende Einschränkung: Sie sind darauf angewiesen, dass das KI-System sie befolgt.

Ein KI-System liest nicht Ihr Grundsatzdokument und beschließt, es zu befolgen. Es generiert Antworten auf der Grundlage statistischer Muster in seinen Trainingsdaten. Wenn diese Muster im Widerspruch zu Ihrer Richtlinie stehen, gewinnen die Muster - nicht weil die KI rebellisch ist, sondern weil sie Richtlinien nicht versteht. Sie verarbeitet Muster.

Sie können ein Modell feinabstimmen, d. h. sein Training anpassen, um bestimmte Verhaltensweisen zu betonen. Das hilft zwar, löst aber nicht das eigentliche Problem. Die Feinabstimmung fügt neue Muster zu den bestehenden hinzu. Unter Druck, unter ungewöhnlichen Umständen oder bei neuartigen Fragen setzen sich die alten Muster wieder durch. Der Fachbegriff lautet "katastrophales Vergessen", aber die einfache Version ist einfacher: Das Training nutzt sich ab.

Eine Richtlinie zu schreiben, die besagt: "Unsere KI wird die Werte unserer Gemeinschaft respektieren", ist so, als würde man eine Richtlinie schreiben, die besagt: "Unser Fluss wird nicht überschwemmt." Der Fluss kann keine Richtlinien lesen. Wenn man Überschwemmungen verhindern will, muss man Dämme bauen - bauliche Maßnahmen, die unabhängig davon funktionieren, was der Fluss tut.

Die Steuerung der KI erfordert den gleichen Ansatz. Es geht nicht um Regeln, die die KI befolgen soll, sondern um Strukturen, die unabhängig von der KI funktionieren und ihr Verhalten von außen kontrollieren.

Was uns die Governance-Traditionen sagen

Die Einsicht, dass sich manche Entscheidungen nicht auf Regeln reduzieren lassen, ist nicht neu. Sie ist uralt.

Der Philosoph Ludwig Wittgenstein verbrachte seine Karriere damit, die Grenze zwischen dem, was präzise gesagt werden kann, und dem, was jenseits präziser Aussagen liegt, zu erforschen. Seine Schlussfolgerung, dass "man darüber, was man nicht sagen kann, schweigen muss", ist für die KI-Governance unmittelbar relevant. Einige Fragen können systematisiert werden: auf die Frage "Wann ist die nächste Sitzung?" gibt es eine eindeutige Antwort, die eine KI nachschlagen kann. Andere Fragen lassen sich nicht beantworten: "Wie soll ich dieses Problem vor dem Ausschuss zur Sprache bringen, ohne Anstoß zu erregen?" beinhaltet Beurteilungen, Zusammenhänge, Beziehungen und Werte, die sich einer systematischen Behandlung widersetzen.

Die Grenze zwischen dem, was an eine Maschine delegiert werden kann, und dem, was beim Menschen bleiben muss, ist die Grundlage für eine solide KI-Governance. Der Fehler besteht darin, KI nicht für die erste Art von Fragen einzusetzen. Der Fehler besteht darin, der KI zu erlauben, die zweite Art von Fragen ohne menschliche Aufsicht zu beantworten.

Der politische Philosoph Isaiah Berlin argumentierte, dass einige menschliche Werte wirklich unvereinbar sind - Freiheit und Gleichheit, Tradition und Fortschritt, individuelles Gewissen und gemeinschaftliche Harmonie. Es gibt keine Formel, die diese Spannungen auflöst. Sie erfordern ein ständiges menschliches Urteil, Verhandlungen und die Art von praktischer Weisheit, die Gemeinschaften über Generationen hinweg entwickeln.

Künstliche Intelligenzsysteme streben von vornherein nach Optimierung. Sie suchen nach einer einzigen Antwort. Wenn aber Werte wirklich in Konflikt stehen, gibt es keine einzige Antwort - es gibt nur die Antwort, die diese Gruppe, zu diesem Zeitpunkt, mit diesen Menschen, als die am wenigsten schlechte erachtet. Dieses Urteil ist von Natur aus menschlich, und jeder KI-Governance-Rahmen, der etwas anderes vorgibt, regiert nicht - er gibt auf.

Gemeinschaftsgruppen haben ihre eigene Version dieser Einsicht. Jeder Ausschuss, der schon einmal ein begrenztes Budget gegen konkurrierende Prioritäten abwägen musste, eine Meinungsverschiedenheit zwischen langjährigen Mitgliedern ausgetragen oder entschieden hat, wie man Neuankömmlinge willkommen heißen kann, ohne die alteingesessenen Mitglieder zu entfremden, versteht bereits aus praktischer Erfahrung, warum man KI keine Wertentscheidungen anvertrauen kann.

Wie das Dorf AI strukturell regiert

Village verlässt sich nicht darauf, der KI zu sagen, wie sie sich verhalten soll. Es baut die Steuerung in die Architektur ein - Strukturen, die unabhängig von der KI funktionieren und von ihr nicht außer Kraft gesetzt werden können.

Der Boundary Enforcer verhindert, dass die KI Wertentscheidungen trifft. Wenn eine Frage Kompromisse in Bezug auf die Privatsphäre, ethische Urteile oder den kulturellen Kontext beinhaltet, hält das System an und leitet die Frage an einen Menschen weiter - Ihren Moderator, Ihren Vorsitzenden, Ihren Ausschuss. Die KI kann sich nicht über diese Grenze hinwegsetzen, da die Grenze außerhalb der Kontrolle der KI liegt.

Das System zur Aufrechterhaltung von Anweisungen speichert die expliziten Anweisungen Ihrer Gemeinschaft in einem separaten System, das die KI nicht verändern kann. Wenn die KI eine Antwort erzeugt, wird sie mit diesen gespeicherten Anweisungen verglichen. Steht die Antwort im Widerspruch zu einer Anweisung, hat die Anweisung Vorrang - standardmäßig, unabhängig davon, was die Trainingsmuster der KI nahelegen.

Der Querverweis-Validator prüft die von der KI vorgeschlagenen Aktionen anhand der tatsächlichen Aufzeichnungen Ihrer Gemeinschaft. Dabei wird die KI nicht gefragt, ob ihre Antwort richtig ist - das würde bedeuten, dass das System sich selbst überprüfen soll. Er verwendet mathematische Messungen, die sich grundlegend von denen der KI unterscheiden, um festzustellen, ob die Antwort auf den tatsächlichen Inhalten Ihrer Gemeinschaft beruht.

Der Kontextdruckmonitor achtet auf verschlechterte Betriebsbedingungen - Situationen, in denen die KI unter Stress steht, komplexe Anfragen verarbeitet oder mit neuartigen Fragen konfrontiert wird. Wenn er diese Bedingungen feststellt, erhöht er die Intensität der Überprüfung. Je schwieriger die Frage, desto intensiver wird die Antwort geprüft.

Dies sind keine Richtlinien. Es sind Strukturen. Sie funktionieren unabhängig davon, ob die KI mit ihnen einverstanden ist oder nicht, so wie ein Deich unabhängig davon funktioniert, ob der Fluss damit einverstanden ist oder nicht.

Der Unterschied zwischen Anspruch und Architektur

Viele Organisationen veröffentlichen Ethikerklärungen für KI. Village stützt sich nicht auf ethische Erklärungen. Es stützt sich auf architektonische Zwänge, die die Governance strukturell erzwingen.

Diese Unterscheidung ist wichtig, weil man sich erhofft, dass etwas passiert. Die Architektur ist das, was tatsächlich geschieht. Ihre Gruppe verlässt sich nicht auf die Hoffnung, dass der Schatzmeister ordnungsgemäß mit den Geldern umgeht - sie verlangt zwei Unterschriften für jeden Scheck. Das ist architektonische Führung. Dasselbe Prinzip gilt für KI.

Das Tractatus Framework - Transparent und offen

Die Governance-Architektur, die hinter Village AI steht, wird als Tractatus Framework bezeichnet. Es lohnt sich, drei Dinge über sie zu wissen.

Es ist offen. Das gesamte Rahmenwerk ist unter einer Apache 2.0 Open-Source-Lizenz veröffentlicht. Jeder kann den Code lesen, die Regeln einsehen und überprüfen, ob die Governance das tut, was sie zu tun vorgibt. Dies ist das Gegenteil der KI-Governance von Big Tech, bei der die Regeln proprietär sind und die Argumentation verborgen bleibt. Wenn Google oder OpenAI Ihnen sagen, dass ihre KI "an menschlichen Werten ausgerichtet" ist, haben Sie keine Möglichkeit, dies zu überprüfen. Bei Tractatus können Sie jede Zeile lesen.

Sie ist transparent. Jede Entscheidung der Unternehmensführung wird protokolliert. Wenn der Boundary Enforcer die KI daran hindert, eine Wertentscheidung zu treffen, wird dieses Ereignis aufgezeichnet. Wenn der Querverweis-Validator eine Diskrepanz feststellt, wird dies aufgezeichnet. Ihre Moderatoren können genau sehen, was das Governance-System getan hat und warum. Es gibt keine versteckte Ebene, auf der Entscheidungen ohne Rechenschaftspflicht getroffen werden.

**Der Rahmen ist kein starres Regelwerk, das von außen aufgezwungen wird. Die Gemeinschaften können die Governance so gestalten, dass sie ihre eigenen Prioritäten widerspiegelt. Ein Sportverein und eine Schulelternvereinigung haben unterschiedliche Werte, unterschiedliche Sensibilitäten, unterschiedliche Grenzen. Der Rahmen von Tractatus trägt dem Rechnung - nicht, indem er den Gemeinschaften erlaubt, die Governance zu schwächen, sondern indem er ihnen erlaubt zu definieren, was die Governance schützt. Die Satzung Ihrer Gruppe, die Prioritäten Ihrer Gruppe, die Grenzen Ihrer Gruppe - strukturell durchgesetzt, nicht nur dokumentiert.

Der vollständige Rahmen, einschließlich der zugrundeliegenden Forschung, ist verfügbar unter [agenticgovernance.digital] (https://agenticgovernance.digital). Sie brauchen es nicht zu lesen, um Village zu nutzen - die Governance funktioniert, ob Sie sie einsehen oder nicht. Aber wenn Sie genau verstehen wollen, wie Ihre KI gesteuert wird, steht Ihnen die Tür offen.

Im nächsten Artikel werden wir uns ansehen, was Village AI heute tatsächlich in der Praxis tut - womit es Ihrer Gruppe helfen kann, wie Voreingenommenheit durch das Vokabularsystem angegangen wird und was noch in Arbeit ist.

Dies ist Artikel 3 von 5 in der Reihe "Ihre Gemeinschaft, Ihre KI". Die vollständige Governance-Architektur finden Sie unter Village AI on Agentic Governance.

Zurück: Big Tech AI vs. Your Community AI - Warum der Unterschied wichtig ist Nächste: Was läuft heute im Dorf