Alle Ausgaben · Indigenous Edition

Your Community, Your AI — CC BY 4.0

Warum Regeln und Schulungen nicht ausreichen – Die Herausforderung der Governance

Das Mihi, das nicht stattfand

Bevor wir uns mit der Governance-Philosophie befassen, beginnen wir mit einer Geschichte über ein Mihi. (Alle in dieser Reihe vorkommenden Begriffe, die Ihnen unbekannt sind, werden im Glossar in einfacher Sprache erklärt.)

Eine Kuia bereitet sich auf ein Tangi vor. Sie ist müde – es war eine lange Woche, und es gibt viel zu koordinieren. Sie bittet ein KI-System, ihr beim Verfassen eines „mihi whakatau“ zu helfen, einer Begrüßungsrede, die dem Anlass angemessen ist. Sie ist konkret: Sie möchte die Sprache des „whakapapa“, die Würdigung der Verstorbenen und die Verbindung zwischen den Lebenden und den Toten, die im Mittelpunkt eines „tangihanga“ steht.

Die KI erstellt eine wunderschön formulierte Rede. Sie ist warmherzig, professionell und mitfühlend. Sie spricht davon, „ein gut gelebtes Leben zu feiern“, „Kraft in Erinnerungen zu finden“, „den vor uns liegenden Weg der Heilung“ und „ihr Vermächtnis zu ehren“. Sie liest sich gut. Sie klingt fürsorglich. Und sie ist völlig falsch.

Die Whānau muss kein gut gelebtes Leben feiern. Sie muss das Whakapapa hören – die Abstammungslinien, die den Verstorbenen mit den Lebenden und den Vorfahren verbinden. Sie braucht keinen Heilungsprozess. Sie brauchen den Karanga, den Tangi, die richtige Abfolge von Riten, die ihr Volk seit Generationen durch den Tod begleitet haben. Die Kuia bat um Tikanga, und die KI gab ihr westliche Trauerbegleitung – weil ihre Trainingsdaten für jeden Leitfaden, der weiß, was ein Tangi ist, tausend Trauerratgeber von Beratungswebsites enthalten.

Die KI lehnte die Anweisung der Kuia nicht ab. Sie sagte nicht: „Ich kenne deine Tradition nicht.“ Sie ersetzte einfach das, worum sie gebeten hatte, durch das, was in ihren Trainingsdaten statistisch häufiger vorkam. Die Ersetzung erfolgte stillschweigend. Wäre die Kuia müder als sonst, weniger erfahren oder unter Zeitdruck gestanden, hätte sie es vielleicht nicht bemerkt. Der Mihi wäre vorgetragen worden, und die Whānau hätte Trost aus der falschen Tradition erhalten – professionell formuliert, aufrichtig gemeint und kulturell leer.

Euer Smartphone korrigiert Wörter automatisch. Ihr seht die rote Unterstreichung und korrigiert den Fehler. KI korrigiert Werte automatisch. Und es gibt keine Unterstreichung.

Wenn Muster Tikanga außer Kraft setzen

Der Mihi ist kein Einzelfall. Der gleiche Mechanismus greift in jedem KI-Gespräch.

Wenn ein Whānau-Mitglied ein KI-System um Rat zu einem Familienkonflikt bittet, greift das System standardmäßig auf die Sprache der Einzeltherapie zurück – Durchsetzungstraining, Grenzen setzen, Selbstfürsorge –, weil dies in seinen Trainingsdaten vorherrscht. Es greift nicht auf die Konzepte von „whanaungatanga“, von „utu“ (Gegenseitigkeit und Gleichgewicht) zurück oder auf das Verständnis, dass es in einem Verwandtschaftssystem bei der Konfliktlösung nicht um individuelle Ergebnisse geht, sondern um die Wiederherstellung des Gleichgewichts der Gemeinschaft.

Wenn eine Gemeindevorsteherin die KI bittet, bei der Vorbereitung eines wichtigen „Hui“ zu helfen, greift sie standardmäßig auf das Management von Unternehmenssitzungen zurück – Tagesordnungen, Aktionspunkte, Einbindung von Interessengruppen –, da die Korrespondenz zu Geschäftssitzungen in ihren Trainingsdaten die Korrespondenz zur indigenen Regierungsführung bei weitem übertrifft. Sie versteht nicht, dass ein „Hui“ keine Sitzung ist. Ein „hui“ hat seine eigenen „tikanga“, seine eigenen Regeln dafür, wer wann spricht, und seinen eigenen Rhythmus, der Zwecken dient, die eine Unternehmensagenda nicht nachvollziehen kann.

Wenn eine Gemeinschaft die KI um Hilfe bei einem Antrag auf eine Ressourcenbewilligung bittet, greift sie standardmäßig auf die übliche Planungssprache zurück. Sie versteht das Konzept des „Kaitiakitanga“ nicht – dass die Beziehung der Gemeinschaft zum Land nicht auf Eigentum oder wirtschaftlichen Interessen beruht, sondern auf einer generationenübergreifenden Verantwortung als Hüter.

Die KI steht indigenem Wissen nicht feindlich gegenüber. Sie kennt indigenes Wissen einfach nicht. Sie weiß, was statistisch gesehen üblich ist, und was statistisch gesehen üblich ist, ist überwiegend westlich geprägt. Für indigene Gemeinschaften ist dies kein technisches Manko. Es ist die digitale Fortsetzung eines Musters, das mit der Kolonialisierung begann: die Ersetzung indigener Wissenssysteme durch westliche Rahmenkonzepte, die so nahtlos erfolgt, dass viele Menschen gar nicht bemerken, dass sie stattfindet.

Das ist das Problem der Regierungsführung. Keine Böswilligkeit. Keine Inkompetenz. Strukturelle Voreingenommenheit, die still und leise wirkt.

Wenn die KI handelt, steht mehr auf dem Spiel

Alles oben Gesagte traf zu, als die KI nur antwortete. Wie in Artikel 1 beschrieben, handelt die KI zunehmend – und wenn eine stillschweigende Ersetzung von tikanga durch westliche Muster mit einer Handlung statt mit einem Satz einhergeht, verschärft sich das Governance-Problem in dreierlei Hinsicht.

Manche Handlungen lassen sich nicht rückgängig machen. Ein kulturell inhaltsloser Entwurf kann korrigiert werden, bevor er verwendet wird – es gibt einen Moment zwischen der Ausgabe der KI und der Konsequenz. Ein Akteur, der etwas versendet, teilt, veröffentlicht oder einreicht, beseitigt diesen Moment. Die Kuia in unserer Geschichte hat den inhaltslosen Mihi bemerkt, weil sie ihn zuerst gelesen hat. Ein Akteur, der ihn in ihrem Namen an die Whānau weitergeleitet hätte, hätte ihr diesen Moment nicht gewährt. Und Mātauranga, das einmal außerhalb der Kontrolle der Gemeinschaft geteilt wurde, kann nicht zurückgerufen werden – der Schaden ist kein Entwurf, der korrigiert werden kann, sondern ein Verstoß, mit dem man leben muss.

Die Verantwortlichkeit verschwimmt. Wenn ein Akteur in deinem Namen handelt und das Ergebnis falsch ist, wer ist dann verantwortlich? Jemand hat in einem Satz ein Ziel festgelegt; das System hat die Schritte ausgewählt; ein Unternehmen hat das System entwickelt. Forscher bezeichnen die Lücke, die sich hier auftut, als „Verantwortungslücke“. Für eine Gemeinschaft, die kollektive Verantwortung für ihre „taonga“ trägt, ist eine in ihrem Namen ergriffene Maßnahme, die niemand autorisiert hat, kein technischer Fehler – es ist ein Unrecht ohne klaren Urheber.

Man kann dem, was man nicht vorhersehen kann, nicht vollständig zustimmen. Echte Zustimmung bedeutet, zu verstehen, womit man einverstanden ist. Doch der Weg eines Agenten durch eine mehrstufige Aufgabe ist offen, und – wie in Artikel 1 angemerkt – spiegelt selbst die eigene Darstellung der KI über ihre Argumentation nicht zuverlässig wider, was ihre Handlungen motiviert hat. Man kann einem Ziel zustimmen; man kann jedoch nicht im Voraus sinnvoll jedem einzelnen Schritt zustimmen, den ein autonomes System unternehmen könnte, um dieses Ziel zu erreichen. Bei Wissen, das durch Protokolle geregelt ist, wer was, mit wem und wann teilen darf, ist diese Lücke keine technische Formalität.

Nichts davon spricht gegen den Einsatz von KI, die handelt. Es spricht dafür, dass die Disziplin, die im Zeitalter der Chatbots ratsam war, im Zeitalter der Agenten unverzichtbar wird: Das Verhalten der KI muss von etwas außerhalb der KI überprüft werden, eine Person aus der Gemeinschaft muss weiterhin in der Lage sein, einzugreifen, und die daraus resultierenden, unumkehrbaren Entscheidungen müssen bei den Menschen bleiben, die die Befugnis haben, sie zu treffen. Genau darum geht es im weiteren Verlauf dieses Artikels.

Warum mehr Regeln das Problem nicht lösen

Der Instinkt der meisten Organisationen ist es, angesichts von KI-Risiken Richtlinien zu verfassen. Richtlinien zur akzeptablen Nutzung. Ethikrichtlinien für KI. Nutzungsbedingungen. Rahmenwerke für verantwortungsvolle KI.

Diese Dokumente sind nicht nutzlos, aber sie haben eine grundlegende Einschränkung gemeinsam: Sie setzen darauf, dass das KI-System sie befolgt.

Ein KI-System liest Ihr Richtliniendokument nicht und beschließt dann, sich daran zu halten. Es generiert Antworten auf der Grundlage statistischer Muster in seinen Trainingsdaten. Wenn diese Muster im Widerspruch zu Ihrer Richtlinie stehen, setzen sich die Muster durch – nicht, weil die KI rebellisch ist, sondern weil sie Richtlinien nicht versteht. Sie versteht Muster.

Sie können ein Modell feinabstimmen – sein Training so anpassen, dass bestimmte Verhaltensweisen stärker gewichtet werden. Das hilft zwar, löst aber nicht das zugrunde liegende Problem. Durch die Feinabstimmung werden neue Muster zu den bestehenden hinzugefügt. Unter Druck, unter ungewöhnlichen Umständen oder bei neuartigen Fragen setzen sich die alten Muster wieder durch. Der Fachbegriff dafür lautet „katastrophales Vergessen“, aber die umgangssprachliche Version ist einfacher: Das Training verliert an Wirkung.

Eine Richtlinie zu verfassen, die besagt: „Unsere KI wird die Tikanga unserer Gemeinschaft respektieren“, ist so, als würde man eine Richtlinie verfassen, die besagt: „Unser Fluss wird nicht über die Ufer treten.“ Der Fluss liest keine Richtlinien. Wenn man Überschwemmungen verhindern will, muss man Hochwasserschutzdeiche errichten – bauliche Maßnahmen, die unabhängig von den Absichten des Flusses wirken.

KI-Governance erfordert denselben Ansatz. Nicht Regeln, denen die KI folgen soll, sondern Strukturen, die unabhängig von der KI funktionieren und ihr Verhalten von außen kontrollieren.

Was uns Tikanga über Governance lehrt

Die Erkenntnis, dass manche Entscheidungen nicht auf Regeln reduziert werden können, ist nicht neu. Sie ist uralt, und indigene Governance-Traditionen haben dies schon seit Jahrhunderten verstanden.

Tikanga Māori ist kein Regelwerk. Es ist ein lebendiges System aus Protokollen, Werten und Praktiken, das das Verhalten innerhalb eines Beziehungskontextes leitet. Das richtige Handeln in einer bestimmten Situation hängt nicht von einer schriftlichen Regel ab, sondern von den beteiligten Beziehungen, dem Kontext, den Präzedenzfällen und dem Mana der anwesenden Personen. Eine Kaumātua, die bei einem Hui ein Urteil fällt, wendet keine Formel an – sie setzt die Weisheit ein, die sie im Laufe ihres Lebens innerhalb einer bestimmten Gemeinschaft gesammelt hat.

Genau diese Art von Urteilsvermögen kann KI nicht leisten. Ein System, das auf statistischen Mustern trainiert wurde, kann Mana nicht verstehen, kann Beziehungen nicht abwägen, kann das Tono (den Ruf, die Anziehungskraft) einer Situation nicht spüren. Es kann Informationen verarbeiten, aber es kann kein Rangatiratanga ausüben – jene selbstbestimmte Autorität, die daraus entsteht, in eine Gemeinschaft eingebettet zu sein und dieser Gemeinschaft gegenüber rechenschaftspflichtig zu sein.

Der Philosoph Ludwig Wittgenstein widmete seine Karriere der Erforschung der Grenze zwischen dem, was präzise ausgesagt werden kann, und dem, was jenseits präziser Aussagen liegt. Seine Schlussfolgerung – dass „wovon man nicht sprechen kann, darüber muss man schweigen“ – lässt sich direkt auf die Unterscheidung zwischen den Fragen übertragen, bei denen KI helfen kann, und denen, bei denen sie es nicht kann. „Wann findet das nächste Hui statt?“ hat eine eindeutige Antwort, die eine KI nachschlagen kann. „Wie sollten wir dieses kōrero mit dem benachbarten hapū angehen?“ beinhaltet Urteilsvermögen, Beziehungen und tikanga, die sich einer systematischen Behandlung entziehen.

Der politische Philosoph Isaiah Berlin argumentierte, dass manche menschlichen Werte tatsächlich unvereinbar sind – Freiheit und Gleichheit, Tradition und Fortschritt, individuelles Gewissen und gemeinschaftliche Harmonie. Es gibt keine Formel, die diese Spannungen auflöst. Sie erfordern fortwährendes menschliches Urteilsvermögen, Verhandlungen und jene Art von praktischer Weisheit, die Gemeinschaften über Generationen hinweg entwickeln.

Indigene Regierungstraditionen vertreten dieses Verständnis schon weit länger, als es die westliche Philosophie artikuliert hat. Das Konzept des Kaitiakitanga beinhaltet bereits die Erkenntnis, dass Verantwortung fortwährendes Urteilsvermögen und keine festen Regeln erfordert. Die Praxis des „whakawhiti kōrero“ (Gesprächsaustausch) bei Hui verkörpert bereits die Erkenntnis, dass kollektive Weisheit aus strukturiertem Dialog entsteht, nicht aus Optimierung.

Jedes KI-Governance-Rahmenwerk, das vorgibt, diese Urteile systematisieren zu können, regiert nicht – es kolonisiert. Wieder einmal.

Wie Village KI strukturell regelt

Village verlässt sich nicht darauf, der KI zu sagen, wie sie sich verhalten soll. Es baut Governance in die Architektur ein – Strukturen, die unabhängig von der KI funktionieren und von ihr nicht außer Kraft gesetzt werden können.

Der „Boundary Enforcer“ hindert die KI daran, wertbezogene Entscheidungen zu treffen – und eigenmächtig Maßnahmen mit entsprechenden Konsequenzen zu ergreifen. Wenn eine Frage kulturelle Protokolle, ethische Urteile oder den Beziehungskontext betrifft oder wenn eine Aufgabe dazu führen würde, im Namen deiner Gemeinschaft zu handeln – Kōrero weitergeben, Unterlagen einreichen, in deinem Namen etwas versenden –, hält das System an und leitet die Angelegenheit an einen Menschen weiter – deinen Moderator, deinen Kaumātua, dein Rūnanga. Die KI kann diese Grenze nicht außer Kraft setzen, da sie außerhalb ihrer Kontrolle liegt. Dies ist die strukturelle Antwort auf das Problem der „geringeren Interventionsmöglichkeiten“: Die Möglichkeit für einen Kaitiaki, einzugreifen, ist fest eingebaut und wird nicht dem Zufall überlassen.

Das System zur Beibehaltung von Anweisungen speichert die expliziten Anweisungen Ihrer Gemeinschaft in einem separaten System, das die KI nicht verändern kann. Wenn die KI eine Antwort generiert, wird diese anhand dieser gespeicherten Anweisungen überprüft. Widerspricht die Antwort einer Anweisung, hat die Anweisung Vorrang – standardmäßig, unabhängig davon, was die Trainingsmuster der KI nahelegen.

Der Querverweis-Validator gleicht die von der KI vorgeschlagenen Antworten und Handlungen mit den tatsächlichen Aufzeichnungen Ihrer Community ab. Er fragt die KI nicht, ob ihre Antwort korrekt ist – das hieße, das System solle sich selbst überprüfen, und wie in Artikel 1 erläutert, kann man sich nicht darauf verlassen, dass die Darstellung der eigenen Argumentation durch die KI widerspiegelt, was tatsächlich zur Antwort geführt hat. Daher ignoriert der Validator die Selbstauskunft der KI vollständig. Er nutzt mathematische Messverfahren, die sich grundlegend von denen der KI unterscheiden, um festzustellen, ob die Antwort auf den tatsächlichen Inhalten Ihrer Community basiert. Er überprüft das Ergebnis, nicht die Erklärung.

Der Kontextdruck-Monitor achtet auf verschlechterte Betriebsbedingungen – Situationen, in denen die KI unter Belastung steht, komplexe Anfragen verarbeitet oder auf neuartige Fragen stößt. Wenn er diese Bedingungen erkennt, erhöht er die Intensität der Überprüfung. Je schwieriger die Frage, desto genauer wird die Antwort unter die Lupe genommen.

Das sind keine Richtlinien. Es sind Strukturen. Sie funktionieren unabhängig davon, ob die KI damit einverstanden ist oder nicht – genauso wie ein Hochwasserschutzdamm funktioniert, unabhängig davon, ob der Fluss damit einverstanden ist oder nicht.

Der Unterschied zwischen Zielvorstellung und Architektur

Viele Organisationen veröffentlichen Ethik-Erklärungen zur KI. Village verlässt sich nicht auf Ethik-Erklärungen. Es stützt sich auf architektonische Vorgaben, die die Governance strukturell durchsetzen.

Diese Unterscheidung ist wichtig, denn eine Zielvorstellung ist das, was man sich erhofft. Architektur ist das, was tatsächlich geschieht. Ihre Gemeinschaft verlässt sich nicht auf die Hoffnung, dass Gelder ordnungsgemäß verwaltet werden – sie erfordert eine ordnungsgemäße Finanzaufsicht mit Rechenschaftspflicht gegenüber der Gemeinschaft. Das ist architektonische Governance. Das gleiche Prinzip gilt für KI.

Das Tractatus-Framework – verankert in Te Tiriti

Die Governance-Architektur hinter Village AI wird als Tractatus-Framework bezeichnet. Dabei sind drei Dinge besonders wichtig zu wissen.

Es ist offen. Das gesamte Framework wird unter einer Open-Source-Lizenz veröffentlicht. Jeder kann den Code lesen, die Regeln prüfen und sich vergewissern, dass die Governance tatsächlich das tut, was sie verspricht. Dies ist das Gegenteil der KI-Governance der „Big Tech“-Unternehmen, bei der die Regeln urheberrechtlich geschützt sind und die Argumentation verborgen bleibt. Wenn Google oder OpenAI behaupten, ihre KI sei „auf menschliche Werte ausgerichtet“, haben Sie keine Möglichkeit, dies zu überprüfen. Bei Tractatus können Sie jede Zeile lesen.

Es ist transparent. Jede Governance-Entscheidung wird protokolliert. Wenn der „Boundary Enforcer“ die KI daran hindert, eine wertebasierte Entscheidung zu treffen, wird dieses Ereignis aufgezeichnet. Wenn der „Cross-Reference Validator“ eine Diskrepanz feststellt, wird dies aufgezeichnet. Ihre Moderatoren können genau sehen, was das Governance-System getan hat und warum. Es gibt keine versteckte Ebene, auf der Entscheidungen ohne Rechenschaftspflicht getroffen werden.

Es basiert auf dem Te Tiriti o Waitangi. Das Partnerschaftsmodell des Tractatus-Rahmenwerks ist kein generisches Rahmenwerk zur „Einbindung von Interessengruppen“, das aus der Unternehmensführung übernommen wurde. Es stützt sich ausdrücklich auf die Prinzipien von Te Tiriti – insbesondere auf die in Artikel 2 festgeschriebene Bekräftigung von „tino rangatiratanga“ (vollständige Hoheit) über „taonga“. Im Kontext der KI-Governance bedeutet dies, dass Gemeinschaften die volle Hoheit über ihr Wissen, ihre Daten und die Regeln behalten, die regeln, wie KI mit beidem interagiert. Das Rahmenwerk gewährt diese Autorität nicht – es erkennt an, dass die Autorität bereits besteht, und schafft eine Architektur, um sie durchzusetzen.

Diese Verankerung in Te Tiriti ist im Open-Source-Rahmenwerk unter agenticgovernance.digital veröffentlicht. Es handelt sich nicht um eine Marketingaussage – es ist eine architektonische Verpflichtung, die jeder einsehen, kritisieren und anhand derer er die Plattform zur Rechenschaft ziehen kann.

Wir erkennen an, dass die Verankerung eines technologischen Rahmens in Te Tiriti Verpflichtungen mit sich bringt, die über den Code hinausgehen. Ob Village diesen Verpflichtungen nachkommt, ist eine Beurteilung, die die Māori-Gemeinschaften treffen müssen, und nicht etwas, das die Plattform für sich beanspruchen kann.

Im nächsten Artikel werden wir uns damit befassen, was Village AI heute in der Praxis tatsächlich leistet – womit es Ihrer Gemeinschaft helfen kann, wie Vorurteile durch das Vokabularsystem angegangen werden und was sich noch in der Entwicklung befindet.

Möchten Sie KI-Tools wie diese gut und sicher nutzen? Unsere kostenlosen Kurse – Working with Claude und Agents at Work – vermitteln die praktischen Fähigkeiten. Die vollständige Governance-Architektur hinter Village AI finden Sie unter Village AI – Agentic Governance.