Alle Ausgaben · Leadership Edition

Your Community, Your AI — CC BY 4.0

KI der Big Tech vs. gemeinschaftlich gesteuerte KI – Warum der Unterschied wichtig ist

Wo die KI der Big Tech ihre „Manieren“ lernt

Stellen Sie sich vor, was passiert, wenn ein System ausschließlich mit Daten aus dem offenen Internet trainiert wird – Marketingmaterialien, Beiträgen in sozialen Medien und Enzyklopädieeinträgen. Das System wäre sprachgewandt, in gewissem Sinne breit informiert und in der Lage, zu fast jedem Thema flüssige Texte zu verfassen. Aber es hätte eine bestimmte Sicht auf die Welt – kommerziell geprägt, kontroversionsbewusst, selbstbewusst im Ton, unabhängig von der Tiefe. Es wüsste, wie man autoritär klingt, ohne unbedingt fundiert zu sein.

So werden Big-Tech-KI-Systeme in der Praxis trainiert.

Die bekanntesten Big-Tech-KI-Systeme – die großen kommerziellen Chatbots und mittlerweile auch die darauf aufbauenden Agenten – werden mit riesigen Mengen an Text trainiert, der aus dem Internet gesammelt wurde. Milliarden von Seiten. Das Ergebnis ist ein System, das über fast alles diskutieren kann – dessen Standardwerte, Annahmen und Instinkte jedoch von dem geprägt sind, was im Internet überrepräsentiert ist.

Das Internet überrepräsentiert:

• Englischsprachige Inhalte (und innerhalb des Englischen vor allem amerikanisches Englisch)
• Wirtschafts- und Marketingsprache
• Individualistische Sichtweisen („Was springt für Sie dabei heraus?“)
• Säkulare, therapeutisch geprägte Sprache für emotionale und ethische Fragen
• Technischen und fachlichen Unternehmensdiskurs
• Inhalte aus den letzten zwanzig Jahren mit begrenzter historischer Tiefe

Das Internet unterrepräsentiert:

• Sprache der bürgerlichen und kommunalen Verwaltung
• Traditionen gemeinschaftlicher Entscheidungsfindung
• Rahmenbedingungen für öffentliche Rechenschaftspflicht
• Praktiken der deliberativen Demokratie
• Die operative Realität kleiner, lokal verwurzelter Gemeinschaftsorganisationen
• Die tatsächlichen Unterlagen, Protokolle und Beschlüsse Ihrer Organisation

Wenn ein Bürger eine Anfrage zu einem Ratsbeschluss einreicht und eine KI eines Big-Tech-Unternehmens bei der Ausarbeitung der Antwort hilft, greift sie auf die Sprache der Unternehmenskommunikation zurück – nicht, weil sie diese als angemessen eingeschätzt hat, sondern weil diese in ihren Trainingsdaten dominiert. Sie greift nicht auf die Konventionen der öffentlichen Rechenschaftspflicht, die Sprache der Bürgerpflicht oder den gemessenen Ton zurück, der für ein Gremium angemessen ist, das seiner Gemeinschaft Rechenschaft schuldig ist, da diese Muster in den Daten, aus denen sie gelernt hat, statistisch selten sind.

Dies ist kein Fehler, der durch bessere Eingabeaufforderungen korrigiert werden kann. Er ist struktureller Natur. Der Charakter des Systems wird durch sein Training bestimmt, und sein Training war das Internet.

Was „lokal trainiert“ tatsächlich bedeutet

Village AI funktioniert anders, und der Unterschied besteht nicht darin, dass es kleiner oder weniger leistungsfähig ist. Der Unterschied liegt darin, wo die KI ihre Muster lernt. (Alle unbekannten Begriffe in dieser Serie werden im Glossar in einfacher Sprache definiert.)

Ein Village AI für Ihre Organisation wird auf drei Inhaltsebenen trainiert:

Die Plattformebene. Dies ist das Fundament – wie die Village-Plattform funktioniert, welche Funktionen verfügbar sind und wie man sich im System zurechtfindet. Jedes „Village“ teilt diese Ebene. Das bedeutet, dass sich ein neues Mitglied Ihrer Organisation zurechtfinden und verstehen kann, wie man auf Dokumente zugreift oder an einer Videokonferenz teilnimmt, ohne dass ihm diese Grundlagen von Grund auf beigebracht werden müssen.

Die Organisationsebene. Das ist es, was Ihr „Village“ zu Ihrem macht. Die KI lernt aus den Inhalten, die Ihre Organisation tatsächlich erstellt hat – Sitzungsprotokolle, Ankündigungen, Veranstaltungsberichte, Richtlinien und veröffentlichte Berichte. Wenn ein Bürger fragt: „Was hat der Gemeinderat im letzten Quartal bezüglich des Gemeindezentrums beschlossen?“, kann die KI die Antwort aus den eigenen Unterlagen Ihrer Organisation liefern – und nicht anhand einer Vermutung darüber, was Gemeinderäte im Allgemeinen besprechen.

Einwilligung bei jedem Schritt. Keine Inhalte gelangen ohne ausdrückliche Genehmigung in das Training der KI. Ein Mitglied, das Inhalte beisteuert, kann wählen, ob dieser Beitrag in die Wissensdatenbank der KI aufgenommen wird. Als eingeschränkt gekennzeichnete Inhalte bleiben eingeschränkt – strukturell, nicht nur durch Richtlinien. Die KI kann nicht auf das zugreifen, was ihr nie zur Verfügung gestellt wurde. Im Rahmen der DSGVO ist diese Unterscheidung zwischen strukturellen und richtlinienbasierten Einschränkungen von Bedeutung: Strukturelle Kontrollen sind nachweisbar durchsetzbar; richtlinienbasierte Kontrollen hängen von der Einhaltung der Vorschriften ab.

Das Ergebnis ist ein System, das Ihre Organisation kennt – und nicht die vom Internet ermittelte Annäherung daran, wie eine Organisation wie die Ihre aussehen könnte. Wenn es beim Verfassen einer Mitteilung an Stakeholder hilft, greift es auf die Muster Ihrer bisherigen Kommunikation zurück, nicht auf Vorlagen für Unternehmensnewsletter. Wenn es eine Frage zu Ihren Entscheidungen beantwortet, stützt es sich auf Ihre Aufzeichnungen, nicht auf einen statistischen Durchschnitt.

Wer hat die Schlüssel in der Hand?

Bisher ging es bei dem Kontrast darum, wessen Muster die KI in sich trägt. Doch wie in Artikel 1 dargelegt, gibt die KI zunehmend nicht mehr nur Antworten – sie handelt. Sobald ein System im Namen der Organisation handeln kann, wird eine zweite Unterscheidung ebenso entscheidend wie die erste: wer die Schlüssel in der Hand hat.

Wenn ein Agent eines Big-Tech-Unternehmens eine Aufgabe ausführt – ein Formular ausfüllt, eine Mitteilung versendet, einen Datensatz ablegt, eine Online-Transaktion durchführt –, dann wurden ihm die Schlüssel übergeben: Zugriff auf die Daten der Organisation, manchmal auch auf ihre Konten und Systeme, sowie die Befugnis, in ihrem Namen zu handeln. Diese Handlungen finden auf der Infrastruktur des Anbieters statt, unter dessen Regeln, wobei die Standardvoreinstellungen des Anbieters die einzelnen Schritte bestimmen. Handelt der Agent falsch, erfährt die Organisation dies möglicherweise erst im Nachhinein, da ein autonomer Agent weniger Eingriffsmöglichkeiten bietet. Und die Zuweisung der Verantwortlichkeit ist wirklich schwierig – der Beamte hat ein Ziel festgelegt; das System des Anbieters hat die Maßnahmen ausgewählt. Für eine Einrichtung, die gegenüber Wählern und Aufsichtsbehörden rechenschaftspflichtig ist, stellt dies ein erhebliches Governance-Risiko dar, keine Erleichterung.

Village AI basiert auf dem gegenteiligen Prinzip. Wenn es überhaupt handelt, dann innerhalb der Grenzen der Organisation, auf Infrastruktur in Ihrem Zuständigkeitsbereich und nach Regeln, die Ihr Vorstand oder Rat festlegt – und, was entscheidend ist: seine Reichweite ist bewusst begrenzt, sodass ein verantwortlicher Mensch jederzeit eingreifen kann. Es wird Entwürfe erstellen, Vorschläge unterbreiten, organisieren und Prioritäten setzen; es wird jedoch nicht eigenständig im Namen der Organisation Entscheidungen treffen, Verpflichtungen eingehen oder Transaktionen durchführen, ohne dass eine Person in den Prozess eingebunden ist. Die Kontrolle verbleibt bei der Organisation. Artikel 3 erläutert, wie dies durchgesetzt wird; Artikel 4 legt fest, was heute in Ihrem Namen handelt.

Der entscheidende Punkt für den Moment: Im Zeitalter der Chatbots lautete die Governance-Frage: „Wessen Muster trägt unsere KI?“ Im Zeitalter der Agenten muss der Vorstand zusätzlich fragen: „Wer hat die Kontrolle, wenn sie handelt – und ist diese Aufsicht strukturell verankert oder lediglich versprochen?“

Guardian Agents: Die Verifizierungsschicht

Selbst eine lokal trainierte KI kann Fehler machen. Sie könnte ein Detail falsch zuordnen, zwei Entscheidungen verwechseln oder eine Antwort generieren, die plausibel klingt, aber nicht auf Ihren tatsächlichen Aufzeichnungen basiert. Das liegt in der Natur der Technologie – sie sagt plausible Texte voraus, und plausibel ist nicht dasselbe wie korrekt.

Hier kommt Guardian Agents ins Spiel.

Guardian Agents sind unabhängige Verifizierungsschichten, die jede KI-Antwort überprüfen, bevor sie das Mitglied erreicht. Es handelt sich dabei nicht um zusätzliche KI – es sind messungsbasierte Prüfungen, die strukturell von der KI getrennt sind, die sie überwachen, sodass der Beobachter nicht die blinden Flecken des Beobachteten teilt.

Hier ist, was sie tun, in leicht verständlichen Worten:

Der erste Wächter nimmt die Antwort der KI und misst, wie genau sie mit dem tatsächlichen Inhalt in den Unterlagen Ihrer Organisation übereinstimmt. Nicht, ob sie korrekt klingt – sondern ob sie mathematisch mit echten Dokumenten vergleichbar ist. Wenn die KI angibt: „Der Vorstand hat im September beschlossen, Mittel für den Spielplatz bereitzustellen“, prüft der Wächter, ob Ihr Vorstandsprotokoll tatsächlich einen solchen Beschluss enthält.

Der zweite Wächter zerlegt die Antwort in einzelne Aussagen und prüft jede davon separat. Eine KI-Antwort könnte drei Aussagen enthalten – zwei korrekte und eine erfundene. Der zweite Wächter identifiziert die Erfindung, selbst wenn die Antwort insgesamt überzeugend klingt.

Der dritte Wächter überwacht im Zeitverlauf ungewöhnliche Muster – Veränderungen im Verhalten der KI, wiederholte Fehler, Ausgaben, die sich definierten Grenzen nähern. Er überwacht den Zustand des Systems, nicht nur einzelne Antworten.

Der vierte Wächter lernt aus dem Feedback Ihrer Community. Wenn ein Mitglied eine KI-Antwort als nicht hilfreich markiert – eine einfache Interaktion reicht dafür aus –, untersucht das System, was schiefgelaufen ist, klassifiziert die Ursache und passt sich an. Moderatoren können diese Korrekturen überprüfen und verfeinern, doch der Lernprozess beginnt bei den normalen Mitgliedern. Im Laufe der Zeit passt sich die KI immer besser an das tatsächliche Wissen Ihrer Organisation an, nicht weniger.

Jede KI-Antwort in Village ist mit einem Konfidenzindikator versehen, der dem Mitglied anzeigt, wie fundiert die Antwort ist. Eine hohe Konfidenz bedeutet, dass der Wächter starke Übereinstimmungen in Ihren Unterlagen gefunden hat. Eine niedrige Konfidenz bedeutet, dass die Antwort eher spekulativ ist. Mitglieder können jede KI-Aussage bis zu ihrer Quelle zurückverfolgen – zu dem konkreten Dokument, Protokoll oder Datensatz, auf dem sie basiert.

Dies ist keine Funktion, die die KI der Big-Tech-Unternehmen bietet, da deren KI nicht auf Ihren Unterlagen basiert. Sie stützt sich auf das Internet, und es gibt keine praktikable Möglichkeit, Milliarden von Seiten an Trainingsdaten anhand einer einzigen Antwort zu überprüfen.

Die Compliance-Dimension

Für Kontrollgremien hat der Unterschied zwischen Big-Tech-KI und gemeinschaftlich gesteuerter KI direkte regulatorische Auswirkungen.

Datenverantwortlichkeit. Gemäß der DSGVO ist der Datenverantwortliche dafür verantwortlich, wie personenbezogene Daten verarbeitet werden. Wenn Ihre Organisation ein Big-Tech-KI-System nutzt und Daten von Betroffenen auf die Server dieses Anbieters fließen, stellen sich Fragen zur Verantwortlichkeit, zur gemeinsamen Verantwortlichkeit und zu angemessenen Datenverarbeitungsvereinbarungen. Village AI verarbeitet Daten innerhalb einer Infrastruktur, die Ihre Organisation kontrolliert, ohne dass Daten an externe KI-Anbieter fließen.

Das Recht auf Erklärung. Artikel 22 der DSGVO und die Erwägungsgründe des EU-KI-Gesetzes legen fest, dass von automatisierten Entscheidungen betroffene Personen aussagekräftige Informationen über die zugrunde liegende Logik erhalten können. KI-Systeme von Big-Tech-Unternehmen sind proprietär – die Gründe für ihre Ergebnisse können nicht eingesehen werden. Das Governance-Framework von Village AI, das Tractatus, ist Open Source und überprüfbar. Jede Governance-Entscheidung wird protokolliert und kann eingesehen werden.

Datenaufbewahrungsort. Für Organisationen, die nationalen Anforderungen an die Datenhoheit unterliegen, ist der Ort der Datenverarbeitung von Bedeutung. KI-Systeme der „Big Tech“-Unternehmen verarbeiten Daten in der Regel in Rechtsräumen, die vom Anbieter festgelegt werden. Die Infrastruktur von „Village“ kann so konfiguriert werden, dass sie sich in einem bestimmten Rechtsraum befindet – in der aktuellen Bereitstellung ist dies die Europäische Union.

Risikoklassifizierung. Das EU-KI-Gesetz klassifiziert KI-Systeme nach ihrem Risikograd. KI, die in der öffentlichen Verwaltung oder bei Entscheidungen eingesetzt wird, die den Zugang von Einzelpersonen zu grundlegenden Dienstleistungen betreffen, kann in höhere Risikoklassen eingestuft werden. Die Nutzung eines Systems, dessen Governance transparent, überprüfbar und unter der Kontrolle der Organisation steht, stellt eine wesentlich andere regulatorische Situation dar als die Nutzung eines undurchsichtigen Systems eines Drittanbieters.

Dies sind keine theoretischen Bedenken. Es handelt sich um praktische Fragen, die ein verantwortungsbewusster Treuhänder, Stadtrat oder Vorstandsmitglied vor jeder Entscheidung über den Einsatz von KI stellen sollte.

Der Kompromiss

Village AI ist bewusst enger gefasst als die großen kommerziellen Systeme. Es ist nicht dafür ausgelegt, Gedichte zu schreiben, fotorealistische Bilder zu generieren oder jedes erdenkliche Thema abzudecken – und im Zeitalter der Agenten geht es nicht um bloße Bandbreite. Der für ein Leitungsgremium entscheidende Kompromiss ist nicht Eloquenz um der Eloquenz willen, sondern Verwahrung und Kontrolle. Ein fokussiertes System, das Ihre Organisation kennt, Ihre Daten innerhalb Ihrer eigenen Grenzen hält und Ihrer Governance gegenüber rechenschaftspflichtig bleibt – und das, wenn es handelt, nur dort handelt, wo eine verantwortliche Person noch eingreifen kann –, ist für ein Gremium mit Sorgfaltspflicht wertvoller als ein leistungsfähigeres System, für das es keine Rechenschaft ablegen kann.

Was es stattdessen bietet, ist Rechenschaftspflicht gegenüber Ihrer Gemeinschaft – deren Inhalte, Werte und Governance-Rahmenbedingungen – verbunden mit der Gewissheit, dass seine Reaktionen auf Ihren tatsächlichen Aufzeichnungen beruhen und nicht auf statistischen Mustern des Internets.

Für eine Organisation, die Hilfe bei der Erstellung von Mitteilungen, der Beantwortung von Fragen der Mitglieder zu Gemeinschaftsaktivitäten, der Zusammenfassung von Vorstandsunterlagen oder der Koordination von Veranstaltungsinformationen benötigt – ist dies keine Einschränkung. Es ist das für diesen Zweck geeignete Werkzeug. Und wenn dieses Werkzeug handelt, anstatt nur zu antworten, tut es dies unter der Kontrolle und Rechenschaftspflicht der Organisation.

Die Frage lautet nicht: „Welche KI ist leistungsfähiger?“ Die Frage lautet: „Für welche KI kann Ihre Organisation die Verantwortung übernehmen – und die Kontrolle behalten, wenn sie handelt?“

Möchten Sie solche KI-Tools gut und sicher einsetzen? Unsere kostenlosen Kurse – Working with Claude und Agents at Work – vermitteln die praktischen Fähigkeiten. Die vollständige Guardian Agents-Architektur hinter Village AI finden Sie unter Village AI – Agentic Governance.