Alle Ausgaben · Family Edition

Your Community, Your AI — CC BY 4.0

Warum Regeln und Schulungen nicht ausreichen – Die Herausforderung der Unternehmensführung

Die Gedenkrede

Bevor wir uns mit der Philosophie der Unternehmensführung befassen, beginnen wir mit einer Geschichte über eine Gedenkrede. (Alle in dieser Reihe vorkommenden Begriffe, die Ihnen unbekannt sind, werden im Glossar in einfacher Sprache erklärt.)

Eine Älteste der Familie bittet ein KI-System, ihr beim Verfassen einer Gedenkrede für die Trauerfeier ihres Vaters zu helfen. Sie ist ganz konkret: Sie möchte, dass die Rede widerspiegelt, wer er wirklich war – der ruhige Mann, der jedem das Fahrrad reparierte, der im Auto falsch sang und einen Garten pflegte, der die Hälfte der Straße mit Lebensmitteln versorgte. Sie tippt ihre Anfrage sorgfältig ein und wartet.

Die KI erstellt eine wunderschön geschriebene Würdigung. Sie ist herzlich, professionell und mitfühlend. Sie spricht davon, „ein gut gelebtes Leben zu feiern“, „Abschluss zu finden“, „sein Vermächtnis zu ehren“ und von „den Erinnerungen, die euch Kraft geben werden“. Sie liest sich gut. Sie klingt fürsorglich. Und sie ist völlig falsch.

Die Familie braucht keinen pauschalen Trost. Sie braucht ihren Vater – den echten Mann, keine Vorlage. Sie muss kein „gut gelebtes Leben“ mit Worten „feiern“, die auf jeden zutreffen könnten. Sie muss von der Fahrradpumpe hören, vom schrägen Gesang und von den Tomaten, die er jeden Sommer ohne Ausnahme angebaut hat. Die Älteste bat um etwas Persönliches, und die KI gab ihr etwas Allgemeines – weil ihre Trainingsdaten für jede einzelne Grabrede, die einen echten Menschen erfasst, tausend vorgefertigte Vorlagen enthalten.

Die KI hat ihre Bitte nicht abgelehnt. Sie hat nicht gesagt: „Ich kenne deinen Vater nicht.“ Sie hat einfach das, worum sie gebeten hatte, durch das ersetzt, was in ihren Trainingsdaten statistisch häufiger vorkam. Die Ersetzung erfolgte stillschweigend. Wäre sie müde, in Eile oder weniger aufmerksam als sonst gewesen, hätte sie es vielleicht gar nicht bemerkt. Die Würdigung wäre bei der Gedenkfeier vorgelesen worden, und die Familie hätte Worte über ihren Vater gehört, die auf jeden anderen hätten zutreffen können – professionell formuliert, aufrichtig gemeint und ohne alles, was wirklich zählte.

Dein Handy korrigiert Wörter automatisch. Du siehst die rote Unterstreichung und korrigierst den Fehler. KI korrigiert Werte automatisch. Und es gibt keine Unterstreichung.

Wenn Muster das Wesentliche außer Kraft setzen

Die Gedenkrede ist kein Einzelfall. Der gleiche Mechanismus greift in jedem KI-Gespräch.

Wenn ein Familienmitglied ein KI-System um Rat zur Pflege eines alternden Elternteils bittet, greift das System standardmäßig auf die Sprache professioneller Pflegedienste zurück – Bedarfsanalysen, Pflegepläne, Entlastungsmöglichkeiten –, denn genau das dominiert seine Trainingsdaten. Es greift nicht auf die Sprache der familiären Pflichten zurück, des abwechselnden Engagements, des stillen Einvernehmens zwischen Geschwistern, die wissen, dass sie noch jahrzehntelang gemeinsam Weihnachten feiern werden.

Wenn jemand die KI bittet, beim Verfassen einer Nachricht zu einer heiklen Familienangelegenheit zu helfen – einer Meinungsverschiedenheit über ein Erbe, einem schwierigen Gespräch über die Gesundheit eines Verwandten –, greift das System standardmäßig auf Kommunikationsmuster aus der Unternehmenswelt zurück, da Geschäftskorrespondenz in seinen Trainingsdaten die Familienkorrespondenz bei weitem übertrifft.

Die KI steht den Werten Ihrer Familie nicht feindlich gegenüber. Sie kennt die Werte Ihrer Familie einfach nicht. Sie weiß, was statistisch gesehen üblich ist, und was statistisch gesehen üblich ist, ist nicht das, was für Ihre Familie wichtig ist.

Das ist das Governance-Problem. Keine Böswilligkeit. Keine Inkompetenz. Strukturelle Voreingenommenheit, die still im Hintergrund wirkt.

Wenn die KI handelt, steht mehr auf dem Spiel

All das galt, als die KI nur noch antwortete. Wie in Artikel 1 beschrieben, handelt die KI zunehmend – und wenn eine stille Wertersetzung nicht mehr an einen Satz, sondern an eine Handlung geknüpft ist, verschärft sich das Governance-Problem in dreierlei Hinsicht. Die Experten, die sich mit KI-Agenten befassen, weisen auf genau diese drei Punkte hin.

Manche Handlungen lassen sich nicht rückgängig machen. Ein falsch eingeschätzter Entwurf kann vor dem Versenden korrigiert werden – es gibt einen Moment zwischen der Ausgabe der KI und der Konsequenz. Ein Agent, der etwas versendet, veröffentlicht, bucht, löscht oder ablegt, beseitigt diesen Moment. Die Älteste der Familie in unserer Geschichte hat die allgemeine Würdigung noch rechtzeitig bemerkt, weil sie sie als Erste gelesen hat. Ein Agent, der ihn in ihrem Namen an die ganze Familie weitergeleitet hätte, hätte ihr diese Chance nicht gegeben.

Die Verantwortlichkeit verschwimmt. Wenn ein Agent in Ihrem Namen handelt und das Ergebnis falsch ist, wer ist dann verantwortlich? Sie haben in einem Satz ein Ziel festgelegt; das System hat die Schritte ausgewählt; das Unternehmen hat das System entwickelt. Wissenschaftler bezeichnen die Lücke, die sich hier auftut, als „Verantwortungslücke“ – und warnen vor der „moralischen Dehnungszone“, in der die Schuld bei der nächstgelegenen Person landet, obwohl diese Person kaum echte Kontrolle hatte. Eine Familie, die einen externen Agenten in ihrem Namen handeln lässt, übernimmt die Schuld, ohne die Kontrolle zu haben.

Man kann dem, was man nicht vorhersehen kann, nicht uneingeschränkt zustimmen. Echte Zustimmung bedeutet, zu verstehen, womit man einverstanden ist. Doch der Weg eines Akteurs durch eine mehrstufige Aufgabe ist offen, und – wie in Artikel 1 angemerkt – spiegelt selbst die eigene Darstellung der KI über ihre Argumentation nicht zuverlässig wider, was ihre Handlungen motiviert hat. Man kann einem Ziel zustimmen; man kann jedoch nicht im Voraus sinnvoll jedem einzelnen Schritt zustimmen, den ein autonomes System unternehmen könnte, um dieses Ziel zu erreichen. (Manche Konzepte versuchen, diese Lücke zu verringern, indem sie einem vor dem Handeln einen Plan zeigen; das hilft zwar, schließt die Lücke aber nicht.)

Nichts davon spricht gegen den Einsatz von KI, die handelt. Es spricht dafür, dass die Disziplin, die im Zeitalter der Chatbots ratsam war, im Zeitalter der Agenten unverzichtbar wird: Das Verhalten der KI muss von etwas außerhalb der KI überprüft werden, eine Person muss weiterhin in der Lage sein, einzugreifen, und die daraus resultierenden, irreversiblen Entscheidungen müssen bei den Menschen bleiben. Genau darum geht es im weiteren Verlauf dieses Artikels.

Warum mehr Regeln das Problem nicht lösen

Der Instinkt der meisten Organisationen ist es, angesichts von KI-Risiken Richtlinien zu verfassen. Richtlinien zur akzeptablen Nutzung. Ethikrichtlinien für KI. Nutzungsbedingungen. Rahmenwerke für verantwortungsvolle KI.

Diese Dokumente sind nicht nutzlos, aber sie haben eine grundlegende Einschränkung gemeinsam: Sie verlassen sich darauf, dass das KI-System sie befolgt.

Ein KI-System liest Ihre Regeln nicht und beschließt dann, sie einzuhalten. Es generiert Antworten auf der Grundlage statistischer Muster in seinen Trainingsdaten. Wenn diese Muster im Widerspruch zu Ihren Regeln stehen, setzen sich die Muster durch – nicht, weil die KI rebellisch ist, sondern weil sie keine Regeln versteht. Sie versteht Muster.

Man kann ein Modell feinabstimmen – sein Training so anpassen, dass bestimmte Verhaltensweisen verstärkt werden. Das hilft zwar, löst aber das zugrunde liegende Problem nicht. Durch die Feinabstimmung werden bestehende Muster um neue ergänzt. Unter Druck, in ungewöhnlichen Situationen oder bei neuartigen Fragen setzen sich die alten Muster wieder durch. Der Fachbegriff lautet „katastrophales Vergessen“, aber die umgangssprachliche Version ist einfacher: Das Training verliert an Wirkung.

Eine Regel zu schreiben, die besagt: „Unsere KI wird die Werte unserer Familie respektieren“, ist so, als würde man eine Regel schreiben, die besagt: „Unser Fluss wird nicht über die Ufer treten.“ Der Fluss liest keine Regeln. Wenn man Überschwemmungen verhindern will, muss man Deiche bauen – bauliche Maßnahmen, die unabhängig vom Verhalten des Flusses wirken.

Die KI-Governance erfordert denselben Ansatz. Nicht Regeln, denen die KI folgen soll, sondern Strukturen, die unabhängig von der KI funktionieren und ihr Verhalten von außen kontrollieren.

Was uns die alte Weisheit lehrt

Die Erkenntnis, dass manche Entscheidungen nicht auf Regeln reduziert werden können, ist nicht neu. Sie ist uralt.

Der Philosoph Ludwig Wittgenstein widmete sein Lebenswerk der Erforschung der Grenze zwischen dem, was sich präzise aussagen lässt, und dem, was jenseits präziser Aussagen liegt. Seine Schlussfolgerung – dass „wovon man nicht sprechen kann, darüber muss man schweigen“ – ist für die KI-Governance von unmittelbarer Relevanz. Manche Fragen können von einer Maschine beantwortet werden: „Wann beginnt das Familientreffen?“ hat eine eindeutige Antwort, die eine KI nachschlagen kann. Andere Fragen lassen sich nicht beantworten: „Wie soll ich meine Schwester auf die Pflege unserer Mutter ansprechen?“ beinhaltet Urteilsvermögen, Kontext, Beziehungen und Werte, die sich einer systematischen Behandlung entziehen.

Die Grenze zwischen dem, was an eine Maschine delegiert werden kann, und dem, was beim Menschen bleiben muss, ist die Grundlage einer soliden KI-Governance. Der Fehler besteht nicht darin, KI für die erste Art von Fragen einzusetzen. Der Fehler besteht darin, der KI zu erlauben, die zweite Art von Fragen zu beantworten, ohne dass ein Mensch eingreift.

Der politische Philosoph Isaiah Berlin argumentierte, dass manche menschlichen Werte tatsächlich unvereinbar sind – Freiheit und Gerechtigkeit, Tradition und Wandel, individuelle Wünsche und familiäre Harmonie. Es gibt keine Formel, die diese Spannungen auflöst. Sie erfordern fortwährendes menschliches Urteilsvermögen, Gespräche und jene Art von praktischer Weisheit, die Familien über Generationen hinweg entwickeln.

KI-Systeme sind von ihrer Konzeption her auf Optimierung ausgerichtet. Sie suchen nach einer einzigen Antwort. Doch wenn Werte wirklich miteinander in Konflikt stehen, gibt es keine einzige Antwort – es gibt nur die Antwort, die diese Familie zu diesem Zeitpunkt mit diesen Menschen als die am wenigsten schlechte erachtet. Dieses Urteilsvermögen ist dem Menschen eigen, und jeder Ansatz zur KI-Steuerung, der so tut, als wäre es anders, ist keine Steuerung – es ist eine Verantwortungsabgabe.

Familien haben das schon immer gewusst. Die Entscheidung, ob Oma näher herziehen oder in ihrem eigenen Zuhause bleiben soll, ist kein Problem, das es zu optimieren gilt. Es ist ein Spannungsfeld, das es auszuhalten, zu diskutieren und mit dem man leben muss. Familien, die seit Generationen solche Entscheidungen treffen, verstehen bereits instinktiv, warum man der KI keine Wertentscheidungen anvertrauen kann.

Wie Village die KI strukturell steuert

Village verlässt sich nicht darauf, der KI vorzuschreiben, wie sie sich verhalten soll. Es baut Governance in die Architektur ein – Strukturen, die unabhängig von der KI funktionieren und von ihr nicht außer Kraft gesetzt werden können.

Der „Boundary Enforcer“ hindert die KI daran, Wertentscheidungen zu treffen – und eigenmächtig Konsequenzen daraus zu ziehen. Wenn eine Frage den Datenschutz, ethische Urteile oder den familiären Kontext betrifft oder wenn eine Aufgabe dazu führen würde, im Namen Ihrer Familie zu handeln, stoppt das System den Vorgang und leitet ihn an eine Person weiter – Ihren Familienkoordinator, Ihr Familienoberhaupt oder die Familie als Ganzes. Die KI kann diese Grenze nicht außer Kraft setzen, da sie außerhalb ihrer Kontrolle liegt. Dies ist die strukturelle Antwort auf das Problem „weniger Gelegenheiten zum Eingreifen“: Die Möglichkeit zum Eingreifen ist fest eingebaut und wird nicht dem Zufall überlassen.

Das System zur Aufbewahrung von Anweisungen speichert die expliziten Anweisungen Ihrer Familie in einem separaten System, das die KI nicht verändern kann. Wenn die KI eine Antwort generiert, wird diese anhand dieser gespeicherten Anweisungen überprüft. Widerspricht die Antwort einer Anweisung, hat die Anweisung Vorrang – standardmäßig, unabhängig davon, was die Trainingsmuster der KI nahelegen.

Der Querverweis-Validator gleicht die von der KI vorgeschlagenen Antworten und Handlungen mit den tatsächlichen Aufzeichnungen Ihrer Familie ab. Er fragt die KI nicht, ob ihre Antwort korrekt ist – das hieße, das System solle sich selbst überprüfen, und wie in Artikel 1 erläutert, kann man sich nicht darauf verlassen, dass die Darstellung der eigenen Argumentation durch die KI tatsächlich widerspiegelt, was die Antwort tatsächlich motiviert hat. Daher ignoriert der Validator die Selbstauskunft der KI vollständig. Er nutzt mathematische Messverfahren, die sich grundlegend von denen der KI unterscheiden, um festzustellen, ob die Antwort auf den tatsächlichen Inhalten Ihrer Familie basiert. Er überprüft das Ergebnis, nicht die Erklärung.

Der Kontextdruck-Monitor achtet auf schwierige Betriebsbedingungen – Situationen, in denen die KI unter Belastung steht, komplexe Anfragen verarbeitet oder auf neuartige Fragen stößt. Wenn er diese Bedingungen erkennt, erhöht er die Intensität der Überprüfung. Je schwieriger die Frage, desto genauer wird die Antwort unter die Lupe genommen.

Das sind keine Richtlinien. Es sind Strukturen. Sie funktionieren unabhängig davon, ob die KI damit einverstanden ist oder nicht – genauso wie ein Deich funktioniert, unabhängig davon, ob der Fluss damit einverstanden ist oder nicht.

Der Unterschied zwischen Zielvorstellung und Architektur

Viele Organisationen veröffentlichen Ethik-Erklärungen zur KI. Village verlässt sich nicht auf Ethik-Erklärungen. Es stützt sich auf architektonische Vorgaben, die die Governance strukturell durchsetzen.

Die Unterscheidung ist wichtig, denn eine Zielvorstellung ist das, was man sich erhofft. Architektur ist das, was tatsächlich geschieht. Ihre Familie verlässt sich nicht auf die Hoffnung, dass derjenige, der die Finanzen in der Hand hat, fair sein wird – Sie besprechen es, Sie einigen sich, Sie stellen es klar. Das ist praktische Governance. Das gleiche Prinzip gilt für KI.

Das Tractatus-Framework – transparent und offen

Die Governance-Architektur hinter Village AI wird als Tractatus-Framework bezeichnet. Dabei sind drei Dinge besonders wichtig zu wissen.

Es ist offen. Das gesamte Framework wird unter einer Open-Source-Lizenz veröffentlicht. Jeder kann den Code lesen, die Regeln prüfen und sich vergewissern, dass die Governance tatsächlich das tut, was sie verspricht. Dies ist das Gegenteil der KI-Governance der Big-Tech-Unternehmen, bei der die Regeln urheberrechtlich geschützt sind und die Argumentation verborgen bleibt. Wenn Google oder OpenAI behaupten, ihre KI sei „auf menschliche Werte ausgerichtet“, haben Sie keine Möglichkeit, dies zu überprüfen. Bei Tractatus können Sie jede Zeile lesen.

Es ist transparent. Jede Governance-Entscheidung wird protokolliert. Wenn der „Boundary Enforcer“ die KI daran hindert, eine wertebezogene Entscheidung zu treffen, wird dieses Ereignis aufgezeichnet. Wenn der „Cross-Reference Validator“ eine Diskrepanz feststellt, wird dies aufgezeichnet. Ihre Familienkoordinatoren können genau sehen, was das Governance-System getan hat und warum. Es gibt keine versteckte Ebene, auf der Entscheidungen ohne Rechenschaftspflicht getroffen werden.

Es ist anpassbar. Das Rahmenwerk ist kein starres Regelwerk, das von außen auferlegt wird. Familien können die Governance so gestalten, dass sie ihre eigenen Prioritäten widerspiegelt. Eine Familie, die das samoanische Erbe bewahrt, und eine Familie, die die Kriegserlebnisse ihrer Großeltern dokumentiert, haben unterschiedliche Werte, unterschiedliche Sensibilitäten und unterschiedliche Grenzen. Das Tractatus-Rahmenwerk trägt dem Rechnung – nicht, indem es Familien erlaubt, die Governance zu schwächen, sondern indem es ihnen ermöglicht, selbst zu definieren, was die Governance schützt. Die Werte Ihrer Familie, die Grenzen Ihrer Familie, die Vorgehensweise Ihrer Familie – strukturell durchgesetzt, nicht nur dokumentiert.

Das vollständige Rahmenwerk, einschließlich der zugrunde liegenden Forschung, ist unter agenticgovernance.digital verfügbar. Sie müssen es nicht lesen, um Village zu nutzen – die Steuerung funktioniert, unabhängig davon, ob Sie sie sich ansehen oder nicht. Wenn Sie jedoch genau verstehen möchten, wie Ihre KI gesteuert wird, steht Ihnen die Tür offen.

Im nächsten Artikel werden wir uns ansehen, was Village AI heute in der Praxis tatsächlich leistet – womit es Ihrer Familie helfen kann, wie Vorurteile durch das Vokabularsystem angegangen werden und was noch in Arbeit ist.

Möchten Sie KI-Tools wie diese gut und sicher nutzen? Unsere kostenlosen Kurse – Working with Claude und Agents at Work – vermitteln die praktischen Fähigkeiten. Die vollständige Governance-Architektur hinter Village AI finden Sie unter Village AI – Agentic Governance.