Alle Ausgaben · Parish Edition

Your Community, Your AI — CC BY 4.0

Warum Regeln und Schulungen nicht ausreichen – Die Herausforderung der Leitung

Der Hirtenbrief

Bevor wir uns mit der Leitungsphilosophie befassen, beginnen wir mit einer Geschichte über einen Brief. (Alle in dieser Reihe vorkommenden Begriffe, die Ihnen unbekannt sind, werden im Glossar in einfacher Sprache erklärt.)

Eine Pfarrerin bittet ein KI-System, ihr beim Verfassen eines Briefes an eine trauernde Familie zu helfen. Sie ist konkret: Sie möchte, dass die Sprache der Auferstehungshoffnung zum Ausdruck kommt – den Trost des Glaubens, den diese Familie tatsächlich teilt. Sie tippt ihre Anfrage sorgfältig ein und wartet.

Die KI erstellt einen wunderschön formulierten Brief. Er ist herzlich, professionell und mitfühlend. Er spricht von „dem Weg der Heilung“, „dem Finden von Abschluss“, „dem Gedenken an den Verstorbenen, indem man sein bestes Leben lebt“ und „dem Vermächtnis, das er hinterlässt“. Er liest sich gut. Er klingt fürsorglich. Und er ist völlig falsch.

Die Familie braucht keinen Abschluss. Sie braucht die Gemeinschaft der Heiligen. Sie muss kein Vermächtnis ehren. Sie muss hören, dass die Toten auferstehen und dass der Abschied nur vorübergehend ist. Die Pfarrerin bat um Auferstehungshoffnung, und die KI gab ihr therapeutische Selbsthilfe – denn ihre Trainingsdaten enthalten für jeden Eintrag, der von der Auferstehung der Toten spricht, tausend Ratgeber zum Thema Trauer aus Beratungswebsites.

Die KI hat die Anweisung der Pfarrerin nicht abgelehnt. Sie hat nicht gesagt: „Ich kenne Ihre Tradition nicht.“ Sie hat einfach das, worum sie gebeten hatte, durch das ersetzt, was in ihren Trainingsdaten statistisch häufiger vorkam. Die Ersetzung erfolgte stillschweigend. Wäre die Pfarrerin müde, in Eile oder weniger aufmerksam als sonst gewesen, hätte sie es vielleicht nicht bemerkt. Der Brief wäre verschickt worden, und die Familie hätte Trost aus der falschen Tradition erhalten – professionell formuliert, aufrichtig gemeint und doch stillschweigend fremd gegenüber dem Glauben, den sie vertritt.

Ihr Smartphone korrigiert Wörter automatisch. Sie sehen die rote Unterstreichung und korrigieren den Fehler. KI korrigiert Werte automatisch. Und es gibt keine Unterstreichung.

Wenn Muster Werte außer Kraft setzen

Der Seelsorgebriief ist kein Einzelfall. Der gleiche Mechanismus greift in jedem KI-Gespräch.

Wenn ein Gemeindemitglied ein KI-System um Rat zu einer schwierigen familiären Situation bittet, greift das System standardmäßig auf die Sprache der Einzeltherapie zurück – Durchsetzungstraining, Grenzen setzen, Selbstfürsorge –, weil genau das in seinen Trainingsdaten vorherrscht. Es greift nicht auf die Sprache der Geduld, der gegenseitigen Nachsicht und der Weitsicht zurück, die daraus resultiert, dass man weiß, dass man in den nächsten dreißig Jahren in der Kirche neben dieser Person sitzen wird.

Wenn ein Kirchenvorsteher die KI um Hilfe bei einer heiklen Ankündigung bittet, greift sie standardmäßig auf die Sprache der Unternehmenskommunikation zurück – Stakeholder-Management, Kommunikationsrahmenwerke, Gesprächspunkte –, da Geschäftskorrespondenz in ihren Trainingsdaten die kirchliche Korrespondenz bei weitem übertrifft.

Die KI steht Ihrer Tradition nicht feindlich gegenüber. Sie kennt Ihre Tradition einfach nicht. Sie weiß, was statistisch gesehen üblich ist, und was statistisch gesehen üblich ist, ist nicht das, was für Ihre Gemeinde am wichtigsten ist.

Das ist das Governance-Problem. Keine Böswilligkeit. Keine Inkompetenz. Strukturelle Voreingenommenheit, die still im Hintergrund wirkt.

Wenn die KI handelt, steht mehr auf dem Spiel

All das oben Gesagte traf zu, als die KI nur antwortete. Wie in Artikel 1 beschrieben, handelt die KI zunehmend – und wenn eine stille Wertersetzung mit einer Handlung statt mit einem Satz verbunden ist, verschärft sich das Governance-Problem in dreierlei Hinsicht. Governance-Experten, die sich mit KI-Agenten befassen, weisen auf genau diese drei Punkte hin.

Manche Handlungen lassen sich nicht rückgängig machen. Ein falsch eingeschätzter Entwurf kann vor dem Absenden korrigiert werden – es gibt einen Moment zwischen der Ausgabe der KI und der Konsequenz. Ein Agent, der etwas versendet, bucht, veröffentlicht, löscht oder ablegt, beseitigt diesen Moment. Die Rektorin in unserer Geschichte hat den falschen Brief abgefangen, weil sie ihn zuerst gelesen hat. Ein Agent, der ihn in ihrem Namen an die trauernde Familie verschickt hätte, hätte ihr diese Chance nicht gegeben.

Die Verantwortlichkeit verschwimmt. Wenn ein Agent in Ihrem Namen handelt und das Ergebnis falsch ist, wer ist dann verantwortlich? Sie haben in einem Satz ein Ziel festgelegt; das System hat die Schritte ausgewählt; das Unternehmen hat das System entwickelt. Wissenschaftler bezeichnen die Lücke, die sich hier auftut, als „Verantwortungslücke“ – und warnen vor der „moralischen Knautschzone“, in der die Schuld auf den nächstgelegenen Menschen fällt, obwohl diese Person kaum echte Kontrolle hatte. Eine Gemeinschaft, die einen externen Agenten in ihrem Namen handeln lässt, übernimmt die Schuld, ohne die Kontrolle zu haben.

Man kann dem, was man nicht vorhersehen kann, nicht vollständig zustimmen. Echte Zustimmung bedeutet, zu verstehen, womit man einverstanden ist. Doch der Weg eines Agenten durch eine mehrstufige Aufgabe ist offen, und – wie in Artikel 1 angemerkt – spiegelt selbst die eigene Darstellung der KI über ihre Argumentation nicht zuverlässig wider, was ihre Handlungen motiviert hat. Man kann einem Ziel zustimmen; man kann jedoch nicht im Voraus sinnvoll jedem einzelnen Schritt zustimmen, den ein autonomes System unternehmen könnte, um dieses Ziel zu erreichen. (Manche Konzepte versuchen, diese Lücke zu verringern, indem sie einem vor dem Handeln einen Plan zeigen; das hilft, schließt die Lücke aber nicht.)

Nichts davon spricht gegen den Einsatz von KI, die handelt. Es spricht dafür, dass die Disziplin, die im Zeitalter der Chatbots ratsam war, im Zeitalter der Agenten unverzichtbar wird: Das Verhalten der KI muss von etwas außerhalb der KI überprüft werden, ein Mensch muss weiterhin in der Lage sein, einzugreifen, und die daraus resultierenden, irreversiblen Entscheidungen müssen bei den Menschen liegen. Genau darum geht es im weiteren Verlauf dieses Artikels.

Warum mehr Regeln das Problem nicht lösen

Der Instinkt der meisten Organisationen ist es, angesichts von KI-Risiken Richtlinien zu verfassen. Richtlinien zur akzeptablen Nutzung. Ethikrichtlinien für KI. Nutzungsbedingungen. Rahmenwerke für verantwortungsvolle KI.

Diese Dokumente sind nicht nutzlos, aber sie haben eine grundlegende Einschränkung gemeinsam: Sie verlassen sich darauf, dass das KI-System sie befolgt.

Ein KI-System liest Ihr Richtliniendokument nicht und beschließt dann, sich daran zu halten. Es generiert Antworten auf der Grundlage statistischer Muster in seinen Trainingsdaten. Wenn diese Muster im Widerspruch zu Ihrer Richtlinie stehen, setzen sich die Muster durch – nicht, weil die KI rebellisch ist, sondern weil sie Richtlinien nicht versteht. Sie versteht Muster.

Man kann ein Modell feinabstimmen – sein Training so anpassen, dass bestimmte Verhaltensweisen verstärkt werden. Das hilft zwar, löst aber nicht das zugrunde liegende Problem. Durch die Feinabstimmung werden bestehende Muster um neue ergänzt. Unter Druck, in ungewöhnlichen Situationen oder bei neuartigen Fragen setzen sich die alten Muster wieder durch. Der Fachbegriff lautet „katastrophales Vergessen“, aber die umgangssprachliche Version ist einfacher: Das Training verliert an Wirkung.

Eine Richtlinie zu verfassen, die besagt: „Unsere KI wird die Werte unserer Gemeinschaft respektieren“, ist so, als würde man eine Richtlinie verfassen, die besagt: „Unser Fluss wird nicht über die Ufer treten.“ Der Fluss liest keine Richtlinien. Wenn man Überschwemmungen verhindern will, muss man Deiche bauen – bauliche Maßnahmen, die unabhängig von den Absichten des Flusses wirken.

KI-Governance erfordert denselben Ansatz. Nicht Regeln, denen die KI folgen soll, sondern Strukturen, die unabhängig von der KI funktionieren und ihr Verhalten von außen kontrollieren.

Was uns die Weisheitstraditionen lehren

Die Erkenntnis, dass manche Entscheidungen nicht auf Regeln reduziert werden können, ist nicht neu. Sie ist uralt.

Der Philosoph Ludwig Wittgenstein widmete sein Lebenswerk der Erforschung der Grenze zwischen dem, was sich präzise aussagen lässt, und dem, was jenseits präziser Aussagen liegt. Seine Schlussfolgerung – dass „wovon man nicht sprechen kann, darüber muss man schweigen“ – ist für die KI-Governance von unmittelbarer Relevanz. Manche Fragen lassen sich systematisieren: „Um wie viel Uhr findet der Gottesdienst am Sonntag statt?“ hat eine eindeutige Antwort, die eine KI nachschlagen kann. Andere Fragen lassen sich nicht systematisieren: „Wie soll ich meinen Nachbarn wegen der Hecke ansprechen?“ beinhaltet Urteilsvermögen, Kontext, Beziehungen und Werte, die sich einer systematischen Behandlung entziehen.

Die Grenze zwischen dem, was an eine Maschine delegiert werden kann, und dem, was beim Menschen verbleiben muss, ist die Grundlage einer soliden KI-Governance. Der Fehler besteht nicht darin, KI für die erste Art von Fragen einzusetzen. Der Fehler besteht darin, der KI zu erlauben, die zweite Art von Fragen ohne menschliche Aufsicht zu beantworten.

Der politische Philosoph Isaiah Berlin argumentierte, dass manche menschlichen Werte tatsächlich unvereinbar sind – Freiheit und Gleichheit, Tradition und Fortschritt, individuelles Gewissen und gemeinschaftliche Harmonie. Es gibt keine Formel, die diese Spannungen auflöst. Sie erfordern fortwährendes menschliches Urteilsvermögen, Verhandlungen und jene Art von praktischer Weisheit, die Gemeinschaften über Generationen hinweg entwickeln.

KI-Systeme sind von ihrer Konzeption her auf Optimierung ausgerichtet. Sie suchen nach der besten Antwort. Doch wenn Werte wirklich miteinander in Konflikt stehen, gibt es keine beste Antwort – es gibt nur die Antwort, die diese Gemeinschaft zu diesem Zeitpunkt mit diesen Menschen als die am wenigsten schlechte erachtet. Dieses Urteil ist dem Wesen nach menschlich, und jedes KI-Regulierungsrahmenwerk, das so tut, als sei es anders, regelt nicht – es entzieht sich der Verantwortung.

Die anglikanische Tradition hat ihre eigene Version dieser Erkenntnis. Die „via media“ – der Mittelweg – ist kein Kompromiss zwischen Extremen. Es ist die Erkenntnis, dass ein Leben im Glauben erfordert, Spannungen auszuhalten, anstatt sie aufzulösen. Schrift, Tradition und Vernunft haben jeweils ihre eigene Autorität, und keine davon lässt sich auf eine Formel reduzieren. Eine Gemeinde, die diese Art der Unterscheidung seit Jahrhunderten praktiziert, versteht bereits aus tiefster Überzeugung, warum man der KI keine Wertentscheidungen anvertrauen kann.

Wie „Village“ KI strukturell regelt

Village verlässt sich nicht darauf, der KI vorzuschreiben, wie sie sich verhalten soll. Es baut Governance in die Architektur ein – Strukturen, die unabhängig von der KI funktionieren und von ihr nicht außer Kraft gesetzt werden können.

Der „Boundary Enforcer“ hindert die KI daran, Wertentscheidungen zu treffen – und eigenmächtig weitreichende Maßnahmen zu ergreifen. Wenn eine Frage Kompromisse beim Datenschutz, ethische Urteile oder den kulturellen Kontext betrifft oder wenn eine Aufgabe dazu führen würde, im Namen Ihrer Gemeinschaft zu handeln, stoppt das System den Vorgang und leitet ihn an einen Menschen weiter – an Ihren Moderator, Ihren Pfarrer, Ihren Kirchenvorstand. Die KI kann diese Grenze nicht außer Kraft setzen, da sie außerhalb ihrer Kontrolle liegt. Dies ist die strukturelle Antwort auf das Problem der „geringeren Interventionsmöglichkeiten“: Die Möglichkeit zum Eingreifen ist fest eingebaut und wird nicht dem Zufall überlassen.

Das System zur Aufbewahrung von Anweisungen speichert die expliziten Anweisungen Ihrer Gemeinschaft in einem separaten System, das die KI nicht verändern kann. Wenn die KI eine Antwort generiert, wird diese anhand dieser gespeicherten Anweisungen überprüft. Widerspricht die Antwort einer Anweisung, hat die Anweisung Vorrang – standardmäßig, unabhängig davon, was die Trainingsmuster der KI nahelegen.

Der Querverweis-Validator gleicht die von der KI vorgeschlagenen Antworten und Handlungen mit den tatsächlichen Aufzeichnungen Ihrer Gemeinde ab. Er fragt die KI nicht, ob ihre Antwort korrekt ist – das hieße, das System solle sich selbst überprüfen, und wie in Artikel 1 erläutert, kann man sich nicht darauf verlassen, dass die Darstellung der eigenen Argumentation durch die KI tatsächlich widerspiegelt, was die Antwort tatsächlich motiviert hat. Daher ignoriert der Validator die Selbstauskunft der KI vollständig. Er nutzt mathematische Messverfahren, die sich grundlegend von denen der KI unterscheiden, um festzustellen, ob die Antwort auf den tatsächlichen Inhalten Ihrer Community basiert. Er überprüft das Ergebnis, nicht die Erklärung.

Der Kontextdruck-Monitor achtet auf verschlechterte Betriebsbedingungen – Situationen, in denen die KI unter Belastung steht, komplexe Anfragen verarbeitet oder auf neuartige Fragen stößt. Wenn er diese Bedingungen erkennt, erhöht er die Intensität der Überprüfung. Je schwieriger die Frage, desto genauer wird die Antwort unter die Lupe genommen.

Das sind keine Richtlinien. Es sind Strukturen. Sie funktionieren unabhängig davon, ob die KI damit einverstanden ist oder nicht – genauso wie ein Deich funktioniert, unabhängig davon, ob der Fluss damit einverstanden ist oder nicht.

Der Unterschied zwischen Zielvorstellung und Architektur

Viele Organisationen veröffentlichen Ethik-Erklärungen zur KI. Village stützt sich nicht auf Ethik-Erklärungen. Es stützt sich auf architektonische Vorgaben, die die Governance strukturell durchsetzen.

Die Unterscheidung ist wichtig, denn eine Zielvorstellung ist das, was man sich erhofft. Architektur ist das, was tatsächlich geschieht. Ihre Kirchengemeinde verlässt sich nicht auf die Hoffnung, dass der Schatzmeister ordnungsgemäß mit den Geldern umgeht – sie verlangt zwei Unterschriften auf jedem Scheck. Das ist architektonische Governance. Das gleiche Prinzip gilt für KI.

Das Tractatus-Framework – transparent und offen

Die Governance-Architektur hinter Village AI wird als Tractatus-Framework bezeichnet. Dabei sind drei Dinge besonders wichtig zu wissen.

Es ist offen. Das gesamte Framework wird unter einer Open-Source-Lizenz veröffentlicht. Jeder kann den Code lesen, die Regeln prüfen und sich vergewissern, dass die Governance tatsächlich das tut, was sie verspricht. Dies ist das Gegenteil der KI-Governance der Big-Tech-Unternehmen, bei der die Regeln proprietär sind und die Argumentation verborgen bleibt. Wenn Google oder OpenAI behaupten, ihre KI sei „auf menschliche Werte ausgerichtet“, haben Sie keine Möglichkeit, dies zu überprüfen. Bei Tractatus können Sie jede Zeile lesen.

Es ist transparent. Jede Governance-Entscheidung wird protokolliert. Wenn der „Boundary Enforcer“ die KI daran hindert, eine wertebasierte Entscheidung zu treffen, wird dieses Ereignis aufgezeichnet. Wenn der „Cross-Reference Validator“ eine Diskrepanz feststellt, wird dies aufgezeichnet. Ihre Moderatoren können genau sehen, was das Governance-System getan hat und warum. Es gibt keine versteckte Ebene, auf der Entscheidungen ohne Rechenschaftspflicht getroffen werden.

Es ist anpassbar. Das Framework ist kein starres Regelwerk, das von außen auferlegt wird. Gemeinschaften können die Governance so gestalten, dass sie ihre eigenen Prioritäten widerspiegelt. Eine episkopale Gemeinde und eine Naturschutzgruppe haben unterschiedliche Werte, unterschiedliche Sensibilitäten, unterschiedliche Grenzen. Das Tractatus-Rahmenwerk trägt dem Rechnung – nicht, indem es Gemeinschaften erlaubt, die Governance zu schwächen, sondern indem es ihnen ermöglicht, zu definieren, was die Governance schützt. Die Verfassung Ihrer Gemeinschaft, die moralische Landschaft Ihrer Gemeinschaft, die Grenzen Ihrer Gemeinschaft – strukturell durchgesetzt, nicht nur dokumentiert.

Das vollständige Rahmenwerk, einschließlich der zugrunde liegenden Forschungsergebnisse, ist unter agenticgovernance.digital verfügbar. Sie müssen es nicht lesen, um Village zu nutzen – die Steuerung funktioniert, unabhängig davon, ob Sie sie sich ansehen oder nicht. Wenn Sie jedoch genau verstehen möchten, wie Ihre KI gesteuert wird, steht Ihnen die Tür offen.

Im nächsten Artikel werden wir uns ansehen, was Village AI heute in der Praxis tatsächlich leistet – womit es Ihrer Gemeinde helfen kann, wie Vorurteile durch das Vokabularsystem angegangen werden und was noch in Arbeit ist.

Möchten Sie KI-Tools wie diese gut und sicher einsetzen? Unsere kostenlosen Kurse – Working with Claude und Agents at Work – vermitteln die praktischen Fähigkeiten. Die vollständige Governance-Architektur hinter Village AI finden Sie unter Village AI – Agentic Governance.