Alle Ausgaben · Business Edition

Your Community, Your AI — CC BY 4.0

Warum Regeln und Schulungen nicht ausreichen – Die Herausforderung der Unternehmensführung

Der Kundenbrief

Bevor wir uns mit der Philosophie der Unternehmensführung befassen, beginnen wir mit einer Geschichte über einen Brief. (Alle in dieser Reihe vorkommenden Begriffe, die Ihnen unbekannt sind, werden im Glossar in einfacher Sprache erklärt.)

Eine Geschäftsführerin bittet ein KI-System um Hilfe beim Verfassen eines Schreibens an eine langjährige Kundin, deren Konto in Verzug geraten ist. Sie gibt genaue Vorgaben: Der Ton soll die langjährige Geschäftsbeziehung – fünfzehn Jahre zuverlässiger Zusammenarbeit – würdigen und gleichzeitig den ausstehenden Betrag klar benennen. Der Kunde durchlebt gerade eine schwierige Phase, und der Brief muss bestimmt, aber respektvoll sein. Sie tippt ihre Anfrage sorgfältig ein und wartet.

Die KI erstellt einen gut strukturierten Brief. Er ist professionell, klar und korrekt formatiert. Darin ist die Rede von „ausstehenden Verbindlichkeiten“, „innerhalb von 14 Tagen erforderlichen Abhilfemaßnahmen“, „Weiterleitung an unsere Inkassoabteilung“ und „unserer Pflicht, die Interessen aller Beteiligten zu schützen“. Er liest sich gut. Er klingt professionell. Und er ist völlig falsch.

Der Kunde braucht keine Drohung mit dem Inkasso. Er muss wissen, dass die Geschäftsbeziehung geschätzt wird und dass ein Zahlungsplan zur Verfügung steht. Die Geschäftsführerin bat um Entschlossenheit im Kontext der Geschäftsbeziehung, und die KI lieferte ihr eine Standardformulierung für die Forderungsbeitreibung – weil ihre Trainingsdaten tausend Inkassoschreiben für jedes einzelne enthalten, das Entschlossenheit mit echter Fürsorge für eine langjährige Partnerschaft in Einklang bringt.

Die KI hat die Anweisung der Geschäftsführerin nicht abgelehnt. Sie hat nicht gesagt: „Ich verstehe Ihre Beziehung zu diesem Kunden nicht.“ Sie hat einfach das, was sie verlangt hatte, durch das ersetzt, was in ihren Trainingsdaten statistisch häufiger vorkam. Die Ersetzung erfolgte stillschweigend. Wäre die Geschäftsführerin beschäftigt, abgelenkt oder weniger aufmerksam als sonst gewesen, hätte sie es vielleicht nicht bemerkt. Das Schreiben wäre verschickt worden, und eine fünfzehnjährige Geschäftsbeziehung hätte eine taktlose Aufforderung erhalten – professionell formuliert, korrekt formatiert und völlig unangemessen.

Dein Smartphone korrigiert Wörter automatisch. Du siehst die rote Unterstreichung und korrigierst den Fehler. KI korrigiert Werte automatisch. Und es gibt keine Unterstreichung.

Wenn Muster Werte außer Kraft setzen

Der Kundenbrief ist kein Einzelfall. Der gleiche Mechanismus greift bei jeder Interaktion mit KI.

Wenn ein Teammitglied ein KI-System um Rat zu einer Meinungsverschiedenheit am Arbeitsplatz bittet, greift das System standardmäßig auf die Sprache der amerikanischen Personalabteilung zurück – formelle Beschwerdeverfahren, Dokumentation für Rechtsstreitigkeiten, „Schaffung einer Papierspur“ –, weil dies in seinen Trainingsdaten vorherrscht. Es greift nicht auf die Sprache der Mediation, der kooperativen Problemlösung oder des pragmatischen Gesprächs zurück, die für kleinere Organisationen charakteristisch ist, in denen Menschen seit Jahren zusammenarbeiten.

Wenn ein Manager die KI bittet, ihm dabei zu helfen, dem Team eine schwierige Entscheidung zu vermitteln, greift sie standardmäßig auf Kommunikationsmuster aus der Unternehmenswelt zurück – Stakeholder-Management, Kernbotschaften, kontrollierte Informationsweitergabe –, da die interne Kommunikation von Fortune-500-Unternehmen in ihren Trainingsdaten die durchdachte Führungskommunikation kleiner Unternehmen bei weitem übertrifft.

Die KI steht der Kultur Ihres Unternehmens nicht feindlich gegenüber. Sie kennt sie einfach nicht. Sie weiß, was statistisch üblich ist, und was statistisch üblich ist, ist nicht unbedingt das, was für Ihr Unternehmen angemessen ist.

Das ist das Governance-Problem. Keine Böswilligkeit. Keine Inkompetenz. Strukturelle Voreingenommenheit, die still im Hintergrund wirkt.

Wenn die KI handelt, steigt der Einsatz

All das galt, als KI lediglich antwortete. Wie in Artikel 1 beschrieben, handelt KI zunehmend – und wenn eine stille Wertersetzung eher mit einer Handlung als mit einem Satz verbunden ist, verschärft sich das Governance-Problem in dreierlei Hinsicht. Governance-Experten, die sich mit KI-Agenten befassen, weisen auf genau diese drei Punkte hin.

Manche Handlungen lassen sich nicht rückgängig machen. Ein falsch eingeschätzter Entwurf kann vor dem Versenden korrigiert werden – es gibt einen Moment zwischen der Ausgabe der KI und der Konsequenz. Ein Agent, der etwas versendet, ablegt, verbucht, löscht oder bezahlt, beseitigt diesen Moment. Die Direktorin in unserer Geschichte hat den taktlosen Brief noch rechtzeitig bemerkt, weil sie ihn zuerst gelesen hat. Ein Agent, der ihn in ihrem Namen per E-Mail an diesen fünfzehnjährigen Kunden verschickt hätte, hätte ihr diese Chance nicht gegeben.

Die Verantwortlichkeit verschwimmt. Wenn ein Agent in Ihrem Namen handelt und das Ergebnis falsch ist, wer ist dann verantwortlich? Sie haben in einem Satz ein Ziel festgelegt; das System hat die Schritte ausgewählt; das Unternehmen hat das System entwickelt. Wissenschaftler bezeichnen die Lücke, die sich hier auftut, als „Verantwortungslücke“ – und warnen vor der „moralischen Deformationszone“, in der die Schuld auf den nächstgelegenen Menschen fällt, obwohl diese Person kaum echte Kontrolle hatte. Für ein Unternehmen, das gegenüber Kunden, Mitarbeitern und Aufsichtsbehörden rechenschaftspflichtig bleibt, ist das Übernehmen von Schuld ohne Kontrolle kein hypothetisches Risiko.

Man kann dem, was man nicht vorhersehen kann, nicht vollständig zustimmen. Echte Zustimmung bedeutet, zu verstehen, womit man einverstanden ist. Doch der Weg eines Agenten durch eine mehrstufige Aufgabe ist offen, und – wie in Artikel 1 angemerkt – spiegelt selbst die eigene Darstellung der KI über ihre Argumentation nicht zuverlässig wider, was ihre Handlungen motiviert hat. Man kann einem Ziel zustimmen; man kann jedoch nicht im Voraus sinnvoll jedem einzelnen Schritt zustimmen, den ein autonomes System unternehmen könnte, um dieses Ziel zu erreichen. (Manche Konzepte versuchen, diese Lücke zu verringern, indem sie einem vor dem Handeln einen Plan zeigen; das hilft zwar, schließt die Lücke aber nicht.)

Nichts davon spricht gegen den Einsatz von KI, die handelt. Es spricht dafür, dass die Disziplin, die im Zeitalter der Chatbots ratsam war, im Zeitalter der Agenten unverzichtbar wird: Das Verhalten der KI muss von etwas außerhalb der KI überprüft werden, ein Mensch muss weiterhin in der Lage sein, einzugreifen, und die daraus resultierenden, irreversiblen Entscheidungen müssen bei den Menschen bleiben. Genau darum geht es im weiteren Verlauf dieses Artikels.

Warum mehr Regeln das Problem nicht lösen

Der Instinkt der meisten Organisationen ist es, angesichts von KI-Risiken Richtlinien zu verfassen. Richtlinien zur akzeptablen Nutzung. Ethikrichtlinien für KI. Nutzungsbedingungen. Rahmenwerke für verantwortungsvolle KI.

Diese Dokumente sind nicht nutzlos, aber sie haben eine grundlegende Einschränkung gemeinsam: Sie verlassen sich darauf, dass das KI-System sie befolgt.

Ein KI-System liest Ihr Richtliniendokument nicht und beschließt dann, sich daran zu halten. Es generiert Antworten auf der Grundlage statistischer Muster in seinen Trainingsdaten. Wenn diese Muster im Widerspruch zu Ihrer Richtlinie stehen, setzen sich die Muster durch – nicht, weil die KI rebellisch ist, sondern weil sie Richtlinien nicht versteht. Sie versteht Muster.

Man kann ein Modell feinabstimmen – sein Training so anpassen, dass bestimmte Verhaltensweisen verstärkt werden. Das hilft zwar, löst aber nicht das zugrunde liegende Problem. Durch die Feinabstimmung werden bestehende Muster um neue ergänzt. Unter Druck, unter ungewöhnlichen Umständen oder bei neuartigen Fragen setzen sich die alten Muster wieder durch. Der Fachbegriff lautet „katastrophales Vergessen“, aber die umgangssprachliche Version ist einfacher: Das Training verliert an Wirkung.

Eine Richtlinie zu verfassen, die besagt: „Unsere KI wird die Werte unserer Organisation respektieren“, ist so, als würde man eine Richtlinie verfassen, die besagt: „Unser Fluss wird nicht über die Ufer treten.“ Der Fluss liest keine Richtlinien. Wenn man Überschwemmungen verhindern will, muss man Deiche bauen – bauliche Maßnahmen, die unabhängig von den Absichten des Flusses wirken.

KI-Governance erfordert denselben Ansatz. Nicht Regeln, denen die KI folgen soll, sondern Strukturen, die unabhängig von der KI funktionieren und ihr Verhalten von außen kontrollieren.

Was uns Governance-Traditionen lehren

Die Erkenntnis, dass manche Entscheidungen nicht auf Regeln reduziert werden können, ist nicht neu. Sie ist uralt.

Der Philosoph Ludwig Wittgenstein widmete seine Karriere der Erforschung der Grenze zwischen dem, was sich präzise aussagen lässt, und dem, was jenseits präziser Aussagen liegt. Seine Schlussfolgerung – dass „wovon man nicht sprechen kann, darüber muss man schweigen“ – ist für die KI-Governance von unmittelbarer Relevanz. Manche Fragen lassen sich systematisieren: „Wie hoch ist der Kontostand auf Konto 4072?“ hat eine eindeutige Antwort, die eine KI nachschlagen kann. Andere Fragen hingegen nicht: „Wie sollen wir das Preisgespräch mit diesem bestimmten Kunden führen?“ beinhaltet Urteilsvermögen, Kontext, Beziehungen und Werte, die sich einer systematischen Behandlung entziehen.

Die Grenze zwischen dem, was an eine Maschine delegiert werden kann, und dem, was beim Menschen verbleiben muss, ist die Grundlage einer soliden KI-Governance. Der Fehler besteht nicht darin, KI für die erste Art von Fragen einzusetzen. Der Fehler besteht darin, der KI zu erlauben, die zweite Art von Fragen ohne menschliche Aufsicht zu beantworten.

Der politische Philosoph Isaiah Berlin argumentierte, dass manche menschlichen Werte tatsächlich unvereinbar sind – Effizienz und Gründlichkeit, Wachstum und Stabilität, individuelle Initiative und kollektive Koordination. Es gibt keine Formel, die diese Spannungen auflöst. Sie erfordern fortwährendes menschliches Urteilsvermögen, Verhandlungen und jene Art von praktischer Weisheit, die Organisationen im Laufe jahrelanger Zusammenarbeit entwickeln.

KI-Systeme sind von ihrer Konzeption her auf Optimierung ausgerichtet. Sie suchen nach einer einzigen Antwort. Doch wenn Werte wirklich im Konflikt stehen, gibt es keine einzige Antwort – es gibt nur die Antwort, die diese Organisation zu diesem Zeitpunkt mit diesen Menschen als das richtige Gleichgewicht erachtet. Dieses Urteil ist von Natur aus menschlich, und jedes KI-Governance-Rahmenwerk, das so tut, als wäre es anders, übt keine Steuerung aus – es entzieht sich der Verantwortung.

Die genossenschaftliche Tradition hat ihre eigene Version dieser Erkenntnis. Demokratische Mitgliederkontrolle – ein Mitglied, eine Stimme – ist keine Effizienzmaßnahme. Es ist die Erkenntnis, dass legitime Entscheidungen die Beteiligung der Betroffenen erfordern. Eine Genossenschaft, die diese Art der Steuerung bereits seit Jahrzehnten praktiziert, versteht aus tiefster Überzeugung, warum man der KI keine Entscheidungen über Werte anvertrauen kann.

Wie Village die KI strukturell steuert

Village verlässt sich nicht darauf, der KI zu sagen, wie sie sich verhalten soll. Es baut Governance in die Architektur ein – Strukturen, die unabhängig von der KI funktionieren und von ihr nicht außer Kraft gesetzt werden können.

Der „Boundary Enforcer“ hindert die KI daran, wertbezogene Entscheidungen zu treffen – und eigenmächtig weitreichende Maßnahmen zu ergreifen. Wenn eine Frage Kompromisse beim Datenschutz, ethische Urteile oder den Beziehungskontext betrifft oder wenn eine Aufgabe dazu führen würde, im Namen Ihrer Organisation zu handeln, stoppt das System den Vorgang und leitet ihn an einen Menschen weiter – Ihren Vorgesetzten, Ihren Direktor, Ihren Vorstand. Die KI kann diese Grenze nicht außer Kraft setzen, da sie außerhalb ihrer Kontrolle liegt. Dies ist die strukturelle Antwort auf das Problem der „geringeren Interventionsmöglichkeiten“: Die Möglichkeit zum Eingreifen ist fest eingebaut und wird nicht dem Zufall überlassen.

Das System zur Speicherung von Anweisungen speichert die expliziten Anweisungen Ihrer Organisation in einem separaten System, das die KI nicht verändern kann. Wenn die KI eine Antwort generiert, wird diese anhand dieser gespeicherten Anweisungen überprüft. Widerspricht die Antwort einer Anweisung, hat die Anweisung Vorrang – standardmäßig, unabhängig davon, was die Trainingsmuster der KI nahelegen.

Der Querverweis-Validator gleicht die von der KI vorgeschlagenen Antworten und Maßnahmen mit den tatsächlichen Aufzeichnungen Ihrer Organisation ab. Er fragt die KI nicht, ob ihre Antwort korrekt ist – das hieße, das System solle sich selbst überprüfen, und wie in Artikel 1 erläutert, kann man sich nicht darauf verlassen, dass die Darstellung der eigenen Argumentation durch die KI tatsächlich widerspiegelt, was die Antwort tatsächlich motiviert hat. Daher ignoriert der Validator die Selbstauskunft der KI vollständig. Er nutzt mathematische Messverfahren, die sich grundlegend von denen der KI unterscheiden, um festzustellen, ob die Antwort auf den tatsächlichen Inhalten Ihrer Organisation basiert. Er überprüft die Arbeit, nicht die Erklärung.

Der Kontextdruck-Monitor achtet auf verschlechterte Betriebsbedingungen – Situationen, in denen die KI unter Belastung steht, komplexe Anfragen verarbeitet oder auf neuartige Fragen stößt. Wenn er diese Bedingungen erkennt, erhöht er die Intensität der Überprüfung. Je schwieriger die Frage, desto genauer wird die Antwort unter die Lupe genommen.

Das sind keine Richtlinien. Es sind Strukturen. Sie funktionieren unabhängig davon, ob die KI damit einverstanden ist oder nicht – genauso wie ein Deich funktioniert, unabhängig davon, ob der Fluss damit einverstanden ist oder nicht.

Der Unterschied zwischen Zielvorstellung und Architektur

Viele Organisationen veröffentlichen Ethik-Erklärungen zur KI. Village stützt sich nicht auf Ethik-Erklärungen. Es stützt sich auf architektonische Vorgaben, die die Governance strukturell durchsetzen.

Diese Unterscheidung ist wichtig, denn eine Zielvorstellung ist das, was man sich erhofft. Architektur ist das, was tatsächlich geschieht. Ihr Unternehmen verlässt sich nicht auf die Hoffnung, dass der Finanzbeauftragte ordnungsgemäß mit den Geldern umgeht – es verlangt eine doppelte Autorisierung bei Zahlungen, die einen bestimmten Schwellenwert überschreiten. Das ist architektonische Governance. Das gleiche Prinzip gilt für KI.

Das Tractatus-Framework – transparent und offen

Die Governance-Architektur hinter Village AI wird als Tractatus-Framework bezeichnet. Dabei sind drei Dinge besonders wichtig zu wissen.

Es ist offen. Das gesamte Framework wird unter einer Open-Source-Lizenz veröffentlicht. Jeder kann den Code lesen, die Regeln prüfen und sich vergewissern, dass die Governance tatsächlich das tut, was sie verspricht. Dies ist das Gegenteil der KI-Governance der „Big Tech“-Unternehmen, bei der die Regeln proprietär sind und die Argumentation verborgen bleibt. Wenn Google oder OpenAI behaupten, ihre KI sei „auf menschliche Werte ausgerichtet“, haben Sie keine Möglichkeit, dies zu überprüfen. Bei Tractatus können Sie jede Zeile lesen.

Es ist transparent. Jede Governance-Entscheidung wird protokolliert. Wenn der „Boundary Enforcer“ die KI daran hindert, eine wertebasierte Entscheidung zu treffen, wird dieses Ereignis aufgezeichnet. Wenn der „Cross-Reference Validator“ eine Diskrepanz feststellt, wird dies aufgezeichnet. Ihre Führungskräfte können genau sehen, was das Governance-System getan hat und warum. Es gibt keine versteckte Ebene, auf der Entscheidungen ohne Rechenschaftspflicht getroffen werden.

Es ist anpassbar. Das Framework ist kein starres Regelwerk, das von außen auferlegt wird. Organisationen können die Governance so gestalten, dass sie ihre eigenen Prioritäten widerspiegelt. Eine Anwaltskanzlei und eine Lebensmittelgenossenschaft haben unterschiedliche Sensibilitäten, unterschiedliche Compliance-Anforderungen und unterschiedliche Grenzen. Das Tractatus-Rahmenwerk trägt dem Rechnung – nicht, indem es Organisationen erlaubt, die Governance zu schwächen, sondern indem es ihnen ermöglicht, selbst zu definieren, was die Governance schützt. Die Satzung Ihrer Organisation, Ihre Leitwerte, Ihre Compliance-Anforderungen – strukturell durchgesetzt, nicht nur dokumentiert.

Das vollständige Rahmenwerk, einschließlich der zugrunde liegenden Forschungsergebnisse, ist unter agenticgovernance.digital verfügbar. Sie müssen es nicht lesen, um Village zu nutzen – die Governance funktioniert, unabhängig davon, ob Sie sie überprüfen oder nicht. Wenn Sie jedoch genau verstehen möchten, wie Ihre KI gesteuert wird, steht Ihnen die Tür offen.

Im nächsten Artikel werden wir uns ansehen, was Village AI heute in der Praxis tatsächlich leistet – womit es Ihrem Unternehmen helfen kann, wie Vorurteile durch das Vokabularsystem angegangen werden und woran noch gearbeitet wird.

Möchten Sie KI-Tools wie diese gut und sicher einsetzen? Unsere kostenlosen Kurse – Working with Claude und Agents at Work – vermitteln die praktischen Fähigkeiten. Die vollständige Governance-Architektur hinter Village AI finden Sie unter Village AI – Agentic Governance.