Alle Ausgaben · AI Research Edition

Your Community, Your AI — CC BY 4.0

Jenseits des Modells – Plattformarchitektur und Integration der Governance

Das Modell ist nicht das System

In den vorangegangenen Artikeln wurden das Generierungsmodell, die Guardian Agent-Verifikationspipeline und das Problem der Verteilungsverzerrung untersucht. Dieser abschließende Artikel untersucht, wie sich die architektonische Governance über das Modell hinaus auf die Plattform erstreckt, und bewertet den Gesamtansatz im Hinblick auf seine Vor- und Nachteile. (Serienspezifische Terminologie ist im Glossar definiert.)

Die zentrale These lautet, dass die KI-Ausrichtung auf Community-Ebene nicht allein durch das Modell gelöst werden kann – weder durch Training, noch durch Feinabstimmung, noch durch RLHF, noch durch isolierte Verifizierung zur Inferenzzeit. Die Alignment bei der Bereitstellung erfordert architektonische Einschränkungen, die das gesamte System umfassen: Datenisolierung, Einwilligungsarchitektur, Vokabularrahmen, Integration menschlicher Aufsicht und föderierte Governance. Das Modell ist eine Komponente. Die Architektur ist die Maßnahme.

Datenisolierung als Mechanismus zur Angleichung

Die Datenisolierung bei Multi-Tenant-Systemen wird typischerweise als Sicherheitsaspekt diskutiert. In der „Village“-Architektur fungiert sie zudem als Mechanismus zur Angleichung.

Jede Datenbankabfrage wird nach der „tenantId“ gefiltert. Der Vektorspeicher verwaltet Sammlungen auf Tenant-Ebene. Das Generierungsmodell erhält Kontext ausschließlich aus dem Korpus des abfragenden Tenants. Dies sind Standardmuster der Mandantenfähigkeit, doch sie haben eine Auswirkungsfolge: Das Modell kann nicht auf Verteilungsmuster aus den Daten anderer Mandanten zurückgreifen.

Dies ist von Bedeutung, da die Angemessenheit im Gemeinschaftskontext nicht universell ist. Was für eine episkopale Gemeinde eine angemessene Sprache darstellt, kann für eine Naturschutzgruppe unangemessen sein und umgekehrt. Ein Modell, das Zugriff auf die Daten aller Mandanten hat – selbst wenn dieser nur lesend ist und lediglich zum Abrufen dient –, würde Verteilungs-Prioren entwickeln, die sich über verschiedene Gemeinschaften hinweg vermischen. Die Mandantenisolierung verhindert diese Kreuzkontamination auf der Datenebene.

Das architektonische Prinzip lautet: Das Kontextfenster des Modells sollte nur Inhalte aus der Gemeinschaft enthalten, der es derzeit dient. Dies wird strukturell durchgesetzt, nicht durch Anweisungen. Dem Modell muss nicht gesagt werden, dass es innerhalb der Grenzen des Mandanten bleiben soll; es hat keinen Zugriff auf irgendetwas außerhalb dieser Grenzen.

Einwilligungsarchitektur

Das Einwilligungssystem (ConsentRecord-Modell, AIMemoryConsent-Komponente) regelt, welche Inhalte in die KI-Pipeline gelangen. Es sind drei unterschiedliche Einwilligungszwecke definiert: ai_triage_memory, ai_ocr_memory und ai_summarisation_memory. Inhalte werden nicht für die KI-Nutzung indexiert, es sei denn, der Urheber der Inhalte hat seine ausdrückliche Einwilligung für den jeweiligen Zweck erteilt.

Dies ist eine Abgleichbeschränkung, die vor der Inferenz greift. Inhalte, für deren KI-Nutzung keine Einwilligung vorliegt, erscheinen nicht im Vektorspeicher, werden während des RAG nicht abgerufen und stehen nicht als Referenzmaterial für die Guardian Agent-Verifizierung zur Verfügung. Das Modell kann keine „Halluzinationen“ auf der Grundlage von Inhalten erzeugen, die es noch nie gesehen hat.

Die Einwilligungsarchitektur löst zudem ein subtileres Problem: Community-Mitglieder, denen es unangenehm ist, dass ihre Beiträge von der KI verarbeitet werden, können ihre Inhalte ausschließen, ohne die Fähigkeit des Systems zu beeinträchtigen, andere Mitglieder zu bedienen. Dies ist ebenso sehr ein Governance-Mechanismus wie ein Datenschutzmechanismus – er ermöglicht es der Community, die Wissensbasis der KI durch individuelle Einwilligungsentscheidungen mitzugestalten.

Einschränkung: Die Einwilligung erfolgt auf der Inhaltsebene, nicht auf der Informationsebene. Wenn Mitglied A eine Geschichte schreibt, in der Mitglied B erwähnt wird, und Mitglied A der KI-Verarbeitung zustimmt, gelangen Informationen über Mitglied B in die KI-Pipeline, unabhängig von den Präferenzen von Mitglied B. Dies ist eine inhärente Einschränkung der Einwilligung auf Inhaltsebene, die wir noch nicht vollständig gelöst haben.

Vokabular als „Framing Governance“

In Artikel 4 wurden die Schnittstelle des Vokabularsystems und seine Auswirkungen auf Modellebene beschrieben. Hier betrachten wir es als Governance-Mechanismus.

Das Vokabularsystem implementiert das, was man als „Framing Governance“ bezeichnen könnte: Es schränkt den konzeptuellen Rahmen ein, innerhalb dessen das Modell operiert. Wenn das System im gesamten Prompt-Kontext „Nutzer“ durch „Gemeindemitglieder“ und „Admin-Einstellungen“ durch „Kirchenvorstands-Governance“ ersetzt, verlagert es die bedingte Verteilung des Modells weg von Mustern technologischer Plattformen hin zu Mustern der Gemeinschafts-Governance.

Dies ist eine schwächere Intervention als das Fine-Tuning – sie findet auf der Prompt-Ebene statt, nicht auf der Gewichtungsebene –, hat jedoch zwei Vorteile:

1. Es ist transparent und überprüfbar. Die Vokabularzuordnungen sind in einer einzigen Konfigurationsdatei (product-vocabularies.js) definiert. Ein Forscher kann genau überprüfen, welche Begriffe ersetzt werden, und deren Auswirkungen auf das Modellverhalten vorhersagen.

2. Es ist von der Community konfigurierbar. Verschiedene Produkttypen haben unterschiedliche Vokabularzuordnungen, und diese können erweitert werden, ohne das Modell neu zu trainieren. Dies ist relevant für Communities, deren Terminologie zu keinem bestehenden Produkttyp passt.

Bemerkenswert ist die Wechselwirkung zwischen der Vokabulargestaltung und der Feinabstimmung der „Specialised Layer“. Das Vokabularsystem verändert den Kontext der Eingabeaufforderung; die Feinabstimmung verändert die Verteilungs-A-priori-Wahrscheinlichkeiten des Modells. Wenn beide zusammenwirken – die Eingabeaufforderung verwendet das Vokabular der Episkopalkirche und das Modell ist auf die Episkopalkirche feinabgestimmt –, ist der kombinierte Effekt stärker als jede der beiden Maßnahmen für sich allein. Wenn nur eine der beiden Maßnahmen zum Tragen kommt (ein Gemeinschaftstyp ohne spezialisiertes Modell, der ausschließlich auf Vokabular-Framing setzt), ist der Effekt schwächer, aber in der Ausgabequalität dennoch messbar.

Integration menschlicher Aufsicht

Der „Boundary Enforcer“ (in Artikel 3 der „Parish“-Reihe als Governance-Komponente beschrieben) leitet Fragen, die Werte, Ethik oder kulturellen Kontext betreffen, zur Überprüfung durch Menschen weiter. Dies wird über den „PreInferenceProtector“ und durch vertrauensbasierte Weiterleitung umgesetzt: Wenn die Guardian Agent-Verifizierung ein Vertrauen unterhalb eines konfigurierbaren Schwellenwerts ergibt, wird die Antwort zur Überprüfung durch einen Moderator markiert, anstatt direkt ausgegeben zu werden.

Dadurch entsteht eine „Human-in-the-Loop“-Architektur, bei der die KI hochzuverlässige, fundierte Anfragen autonom bearbeitet und unsichere oder sensible Anfragen an die menschliche Überprüfung weiterleitet. Der Schwellenwert ist pro Mandant konfigurierbar, sodass Communities ihre eigene Risikotoleranz festlegen können.

Einschränkung: Die Qualität der menschlichen Überprüfung hängt von der Qualität der menschlichen Moderatoren ab. Das System kann unsichere Anfragen an einen Moderator weiterleiten, kann jedoch nicht gewährleisten, dass der Moderator über das erforderliche Fachwissen verfügt, um diese effektiv zu bewerten. Dies ist eine organisatorische und keine technische Einschränkung, schränkt jedoch die Wirksamkeit der Gesamtarchitektur ein.

Der Zertifizierungsprozess für Moderatoren – eine strukturierte Schulung für Community-Mitglieder, die die Moderatorenrolle übernehmen – soll diese Einschränkung beheben, wird jedoch schrittweise eingeführt.

Föderation und gemeinschaftsübergreifende Governance

Die Föderationsarchitektur ermöglicht es einzelnen „Village“-Instanzen, bilaterale Verbindungen herzustellen – dabei werden ausgewählte Inhalte über Community-Grenzen hinweg geteilt, während die Datenhoheit gewahrt bleibt. Beide Communities müssen der Verbindung zustimmen, und jede kann sich jederzeit zurückziehen.

Aus Sicht der Angleichung führt die Föderation einen kontrollierten Kanal ein, über den Verteilungsmuster einer Community eine andere beeinflussen können. Ein föderierter Inhaltsaustausch zwischen einer episkopalen Gemeinde und einer Naturschutzgruppe könnte grundsätzlich das KI-Verhalten der empfangenden Community verändern, indem domänenfremde Inhalte in den Vektorspeicher eingeführt werden.

Die Föderationsarchitektur begegnet dem durch selektiven Austausch – es werden nur Inhalte geteilt, die explizit für die Föderation gekennzeichnet sind – sowie durch eine auf die Mandantenebene beschränkte Verifizierung. Die Guardian Agent-Verifizierung erfolgt auf dem Korpus der empfangenden Gemeinschaft, in das föderierte Inhalte erst aufgenommen werden, nachdem sie akzeptiert und indexiert wurden. Die Moderatoren der empfangenden Gemeinschaft kontrollieren, welche föderierten Inhalte in ihre KI-Pipeline gelangen.

Dies ist ein Governance-Mechanismus, für den es in der Literatur zur Alignment-Thematik kein Pendant gibt, da diese den Einsatz in mehreren Gemeinschaften in der Regel nicht als vorrangiges Anliegen betrachtet. Wir weisen darauf hin, dass dies ein Bereich ist, in dem eingesetzte KI-Systeme von Gemeinschaften mit Alignment-Herausforderungen konfrontiert sind, die in Laborumgebungen nicht erfasst werden.

Was dieser Ansatz opfert

Wir führen die Nachteile dieses Ansatzes klar auf:

Rohleistung. Ein Modell mit 14 Milliarden Parametern kann bei allgemeinen Aufgaben nicht mit den führenden Systemen mithalten. Nutzer, die kreatives Schreiben, komplexes Schlussfolgern über unbekannte Domänen hinweg oder breit gefächerte intellektuelle Unterstützung benötigen, werden dieses System als unzureichend empfinden.

Latenz. Die Guardian Agent-Pipeline verursacht bei jeder Antwort einen zusätzlichen Verifizierungsaufwand. Die vierschichtige Pipeline, bestehend aus Einbettungsberechnung, Kosinus-Ähnlichkeitssuche, Aufschlüsselung von Aussagen und Anomalieprüfung, führt zu einer messbaren Latenz. Für Communities, die Antwortgeschwindigkeit gegenüber der Genauigkeit der Verifizierung priorisieren, stellt dies einen Nachteil dar.

Abdeckung. Die Domänengenauigkeit des Systems hängt von der Qualität und der Abdeckung der Feinabstimmungsdaten sowie vom Inhaltskorpus der Community ab. Eine neu gegründete Community mit minimalem Inhalt bietet ein spärliches Referenzkorpus, wodurch die Guardian Agent-Verifizierung weniger effektiv und das Modellverhalten weniger fundiert ist.

Skalierbarkeit. Die Architektur ist für den Einsatz im Community-Maßstab ausgelegt (zig bis einige hundert gleichzeitige Nutzer pro Mandant). Sie wurde nicht im Internet-Maßstab getestet, und die Verifizierungspipeline pro Antwort würde wahrscheinlich erhebliche architektonische Änderungen erfordern, um bei hohem Durchsatz zu funktionieren.

Verallgemeinerbarkeit. Die „Specialised Layer“-Strategie wurde für mehrere Produkttypen (Community, Whanau, Episkopalkirche, Familie, Unternehmen) eingesetzt, aber für keinen davon validiert – der Einsatz ist kein Beweis für die Wirksamkeit. Ob sie sich auf alle neun definierten Produkttypen verallgemeinern lässt und ob die Guardian Agent-Schwellenwerte eine domänenbezogene Kalibrierung erfordern, ist nicht bewiesen.

Was dieser Ansatz bringt

Überprüfbarkeit. Jede KI-Antwort lässt sich auf bestimmte Quelldokumente zurückverfolgen. Die Kosinus-Ähnlichkeitswerte, die Überprüfungsergebnisse auf Behauptungsebene und die Konfidenzindikatoren stehen zur Einsicht bereit. Dies ist eine Eigenschaft, die Pioniersysteme, die mit unbegrenzten Trainingskorpora arbeiten, nicht bieten können.

Begrenzte Handlungsfähigkeit. Da die Plattform – und nicht das offene Web – die Handlungsfläche bildet, ist die Handlungsfähigkeit des Systems konstruktionsbedingt begrenzt: Es agiert ausschließlich innerhalb von mandantenisolierten Daten, führt reversible Operationen durch und lässt Folgeaktionen nur nach menschlicher Autorisierung zu. Die agentische Wende im weiteren Feld (Artikel 1) macht diese Eigenschaft noch deutlicher, nicht weniger: Während Allzweck-Agenten den Handlungsraum auf das Internet ausweiten, beschränkt das plattformgebundene Design ihn auf eine überprüfbare, wiederherstellbare Oberfläche. Dies ist ein Gewinn für die Governance, der nur auf der Plattformebene erkennbar ist, nicht auf der Modellebene – was den übergeordneten Kernpunkt dieses Artikels darstellt.

Überprüfbarkeit. Die Feinabstimmungsdaten, die Vokabularzuordnungen, die Guardian Agent-Schwellenwerte und die Korrekturen in der Rückkopplungsschleife sind alle überprüfbar. Ein Forscher oder Prüfer kann die gesamte Kette von der Eingabe bis zur Ausgabe untersuchen und nachvollziehen, warum das System eine bestimmte Antwort erzeugt hat. Das Tractatus-Framework wird als Open Source veröffentlicht; die Governance-Architektur steht einer externen Überprüfung offen.

Souveränität der Community. Die Community kontrolliert die Daten, die Inferenzinfrastruktur, die Vokabulargestaltung, die Einwilligungsgrenzen und die Moderationsrichtlinien. Kein Drittanbieter kann das Verhalten des Systems ohne die Zustimmung der Community ändern. Dies ist eine Governance-Eigenschaft, keine technische, wird jedoch architektonisch durchgesetzt.

Epistemische Trennung. Das Verifizierungssystem arbeitet nach anderen Prinzipien als das Generierungssystem. Dies beweist zwar keine Korrektheit, bietet jedoch einen Erkennungsmechanismus für den spezifischen Fehlermodus – die stille Verteilungsumkehr –, der die Architektur motiviert hat. Der Vorfall 27027 würde von der Guardian Agent-Pipeline abgefangen werden, da die Kosinusähnlichkeit zwischen der Sprache des therapeutischen Trauerprozesses und dem theologischen Korpus der Community unter den Verifizierungsschwellenwert fallen würde.

Falsifizierbarkeit. Das System stellt konkrete, überprüfbare Behauptungen auf: dass die Guardian Agent-Verifizierung unbegründete Antworten reduziert, dass die Domänenspezialisierung die Registertreue verbessert und dass die Vokabulargestaltung das Modellverhalten messbar verändert. Diese Behauptungen sind grundsätzlich unabhängig voneinander überprüfbar. Wir haben noch keine unabhängigen Tests organisiert, doch die Architektur steht diesen nicht im Wege.

Offene Fragen für die Forschungsgemeinschaft

Wir schließen mit Fragen, die wir selbst nicht beantworten können und zu denen wir eine Diskussion begrüßen würden:

1. Ist epistemische Trennung für die Angleichung ausreichend oder lediglich notwendig? Die Guardian Agent-Architektur ermöglicht die Erkennung von Verteilungsumkehr. Erkennung ist jedoch keine Prävention. Gibt es eine theoretische Grundlage für die These, dass Erkennung und Korrektur zu einer Angleichung führen, oder begrenzt sie lediglich die Häufigkeit von Fehlern?

2. Wie sollten Schwellenwerte für die Kosinusähnlichkeit kalibriert werden? Die aktuellen Schwellenwerte sind empirisch abgestimmt. Gibt es eine prinzipielle Methode zur Festlegung von Verifizierungsschwellenwerten, die die Falsch-Positiv-Rate (die Kennzeichnung fundierter Antworten als unbegründet) gegen die Falsch-Negativ-Rate (das Durchlassen unbegründeter Antworten) abwägt?

3. Gibt es praktische Abhilfemaßnahmen für die Schwachstelle der korrelierten Einbettung? Das gemeinsame Einbettungsmodell, das sowohl für die Abrufung als auch für die Verifizierung verwendet wird, schafft einen Single Point of Failure. Welche Architekturen könnten eine wirklich unabhängige Verifizierung bieten und dabei rechnerisch handhabbar bleiben?

4. Lässt sich die „Specialised Layer“-Strategie formalisieren? Die Intuition – dass eine domänenspezifische Feinabstimmung an einem kleineren Modell eine bessere Domänentreue ergibt als das Prompting eines größeren Modells – wird in unserem Einsatz empirisch gestützt, wurde jedoch noch nicht rigoros verglichen. Unter welchen Bedingungen trifft dies zu, und wann versagt dieser Ansatz?

5. Welche Bewertungsrahmen gelten für die Ausrichtung auf Community-Ebene? Standard-Benchmarks zur Ausrichtung bewerten allgemeine Sicherheitseigenschaften. Welche Benchmarks wären geeignet, um die domänenspezifische Ausrichtung zu bewerten – also die Übereinstimmung mit den Normen, dem Vokabular und den Werten einer bestimmten Community?

Diese Fragen gehen über den Rahmen eines einzelnen Einsatzteams hinaus. Wir werfen sie auf, weil das Problem der Ausrichtung auf Community-Ebene – prosaisch, operativ bedeutsam und von der Forschungsgemeinschaft weitgehend ignoriert – mehr Aufmerksamkeit verdient, als es derzeit erhält.

Plattform und Programm der Gründungsgemeinschaft: My Digital Sovereignty. Vollständige KI-Architektur: Village AI on Agentic Governance. Praxiskurse zum Betrieb dieser Systeme unter menschlicher Kontrolle: Working with Claude und Agents at Work.