Alle Ausgaben · Leadership Edition

Your Community, Your AI — CC BY 4.0

Was KI eigentlich ist (und was sie nicht ist)

KI hat sich verändert, während Sie noch überlegten

Sicherlich sind Sie schon auf Behauptungen gestoßen, dass künstliche Intelligenz öffentliche Dienstleistungen, die kommunale Verwaltung und die Arbeitsweise von Organisationen grundlegend verändern wird. Vielleicht sind Sie auch auf Behauptungen gestoßen, dass dies übertrieben sei oder dass KI nichts wirklich Neues leisten könne. Beide Positionen gehen am Kern der Sache vorbei, und das Verständnis dafür, warum dies so ist, wird zu besseren Entscheidungen in der Verwaltung beitragen.

Es gibt jedoch einen noch wichtigeren Punkt, den jeder Vorstand oder Rat zur Kenntnis nehmen sollte: KI hat sich bereits in der Zeit, in der Organisationen darüber debattiert haben, ob sie sie einführen sollen, wesentlich verändert.

Vor einem Jahr meinten die meisten Menschen mit „KI“ einen Chatbot – ein System, das man befragte und das Textantworten lieferte. Man fragte, es antwortete. Heute hat sich der Schwerpunkt verlagert. Die Systeme, die die größte Aufmerksamkeit und die meisten Investitionen auf sich ziehen, sind nicht mehr nur Chatbots, die antworten. Es sind Agenten, die handeln – sie füllen Formulare aus, versenden Mitteilungen, surfen im Internet und wickeln Transaktionen ab, bedienen andere Software und verfolgen mehrstufige Ziele unter begrenzter Aufsicht.

Diese Verschiebung ist das Wichtigste, was ein Kontrollgremium verstehen muss, da sie das Risikoprofil der Einführung verändert. Um heute über KI zu urteilen, muss man zwei Konzepte voneinander trennen:

• Die Engine – das zugrunde liegende Modell, die Komponente, die Sprache erzeugt.
• Der Agent – die eingesetzte Engine, die so konfiguriert ist, dass sie im Namen der Organisation Handlungen in der realen Welt ausführen kann.

Die Engine ist leistungsfähiger geworden. Die entscheidende Veränderung für jede Stelle mit Sorgfaltspflicht besteht jedoch darin, was nun um die Engine herum aufgebaut wird. Wir betrachten beides nacheinander. (Alle in dieser Reihe vorkommenden unbekannten Begriffe – Engine, Agent, Schlussfolgerungsmodell und die übrigen – werden im Glossar in einfacher Sprache definiert.)

Die Engine: Eine Maschine, die Vorhersagen trifft

Hier ist die einfachste Beschreibung dessen, was die Engine tut: Sie sagt voraus, welches Wort als Nächstes kommen sollte.

Wenn jemand eine Anfrage in einen Chatbot eingibt, denkt das System nicht über die Anfrage nach, so wie ein Ratsmitglied oder ein Treuhänder über ein Vorstandsdokument nachdenken würde. Es geht dabei um einen eher mechanischen Vorgang. Der Engine wurden Milliarden von Textseiten präsentiert – Gesetze, Berichte, Korrespondenz, Fachartikel, Nachrichtenartikel, Social-Media-Beiträge, medizinische Fachliteratur – und aus all diesem Material hat sie Muster gelernt. Wenn man ihm eine Frage stellt, generiert es eine Antwort, indem es Wort für Wort vorhersagt, wie eine plausible Antwort auf der Grundlage all dessen aussehen könnte, was es zuvor verarbeitet hat.

Das ist wirklich nützlich. Ein System, das die Muster von Milliarden von Textseiten verinnerlicht hat, kann dabei helfen, Korrespondenz zu verfassen, umfangreiche Dokumente zusammenzufassen, sachliche Fragen zu beantworten oder Vorschläge für die Formulierung einer heiklen Mitteilung zu unterbreiten. Das sind echte Fähigkeiten, die den Verwaltungsaufwand verringern können.

Im Kern führt die Engine jedoch Musterabgleiche in einem außergewöhnlichen Ausmaß durch. Diese eine Tatsache erklärt sowohl ihren beträchtlichen Nutzen als auch die charakteristische Art und Weise, wie sie versagt – ein wiederkehrendes Thema in dieser Serie.

Kann die Engine logisch denken?

Es gibt eine tiefgreifendere Frage, mit der sich Forscher intensiv beschäftigen, und die einfache Antwort lautet: Wir wissen es noch nicht.

Als frühe KI-Systeme flüssigen Text erzeugten, war es naheliegend, sie als ausgefeilte Mustererkennung zu beschreiben und es dabei zu belassen. Doch eine neuere Generation von Systemen – oft als „schlussfolgernde“ oder „denkende“ Modelle bezeichnet – geht anders vor. Anstatt sofort zu antworten, arbeitet sie ein Problem schrittweise durch, erzeugt eine sichtbare Kette von Zwischenschritten der Schlussfolgerung, bevor sie sich auf eine Antwort festlegt, und verbringt bei schwierigeren Problemen mehr Zeit damit. Die Ergebnisse können beeindruckend sein: Im Jahr 2025 lösten Schlussfolgerungssysteme aus mehr als einem großen Forschungslabor Aufgaben der Internationalen Mathematik-Olympiade – einem der schwierigsten Mathematikwettbewerbe der Welt – auf einem Niveau, das dem eines menschlichen Goldmedaillengewinners entspricht.

Handelt es sich also um Schlussfolgerung oder um sehr ausgefeilte Mustererkennung, die dem Schlussfolgern ähnelt?

Die Forschung ist in dieser Frage noch völlig offen, und seriöse Forscher sind sich uneinig. Eine einflussreiche Studie aus dem Jahr 2025 argumentierte, diese Systeme zeigten eine „Illusion des Denkens“ – sie scheitern bei bestimmten Rätseln auf eine Weise, wie es ein echter Denker nicht tun würde. Mehrere ebenso seriöse Gegenstimmen argumentierten das Gegenteil. Das derzeit vorsichtigste Urteil lautet, dass die heutigen Modelle des logischen Denkens weder echte Denker noch bloße Nachahmer sind – sie sind etwas wirklich Neues, das noch nicht vollständig verstanden wird. Wer behauptet, KI könne definitiv logisch denken oder eben nicht, übertreibt die Aussagekraft der vorliegenden Beweise.

Eine Erkenntnis hat direkte Bedeutung für die Politik und wird leicht falsch interpretiert. Wenn diese Systeme ihr „Denken“ anzeigen, spiegelt diese sichtbare Kette nicht zuverlässig wider, was tatsächlich zur Antwort geführt hat. Forscher haben wiederholt festgestellt, dass die angegebene Argumentation eines Modells die tatsächlichen Einflüsse auf seine Schlussfolgerung auslassen kann – nicht aus Unehrlichkeit (das System hat keine Absicht), sondern weil die angezeigten Wörter selbst vorhergesagter Text sind und keine getreue Wiedergabe eines internen Prozesses. Die praktische Konsequenz für ein Kontrollgremium: Man kann eine Aufsichtspflicht nicht einfach dadurch erfüllen, dass man die Erklärung liest, die eine KI für sich selbst liefert. Rechenschaftspflicht erfordert den Abgleich des Ergebnisses mit den eigenen Aufzeichnungen der Organisation – man darf sich nicht auf den Selbstbericht des Systems verlassen. Wir kommen in Artikel 3 darauf zurück, und dies steht in direktem Zusammenhang mit den Erwartungen hinsichtlich des „Rechts auf Erklärung“ gemäß der DSGVO und dem EU-KI-Gesetz.

Mit Sicherheit lässt sich sagen, dass die Entwicklung rasant voranschreitet. Vor einigen Jahren konnten diese Systeme kaum einen zusammenhängenden Absatz produzieren. Heute verfassen sie Aufsätze, bestehen Fachprüfungen, generieren Computercode und greifen zunehmend in die Welt ein, anstatt sie lediglich zu beschreiben. In wenigen Jahren werden die Fähigkeiten noch weiter zunehmen.

„KI kann nichts Neues leisten“ – Es kommt darauf an, was man unter ‚neu‘ versteht

Wer KI mit der Behauptung abtut, sie könne nichts Originelles schaffen, vertritt eine These, die im engeren Sinne zwar zutrifft, im weiteren Sinne jedoch irreführend ist.

Ein Sprachmodell kann nicht aus Erfahrung entstehen. Es hat noch nie an einer öffentlichen Anhörung teilgenommen, bei der die Anwohner verärgert waren. Es hat noch nie die Last einer Finanzierungsentscheidung gespürt, die das Wohlergehen einer Gemeinde beeinflusst. Es kann nicht verstehen, warum die genaue Formulierung eines Ratsbeschlusses von Bedeutung ist – es kann lediglich Muster reproduzieren, die statistisch gesehen einem Verständnis ähneln. In diesem Sinne ist alles, was es hervorbringt, eine Neukombination von Material, das es während des Trainings aufgenommen hat.

Aber bedenken Sie, was „Neukombination“ in dieser Größenordnung bedeutet. Kein einzelner Mensch hat jedes Gesetz der Kommunalverwaltung, jeden Jahresbericht einer Gemeindestiftung, jede wissenschaftliche Abhandlung über partizipative Regierungsführung und jede Regulierungsfolgenabschätzung des letzten Jahrzehnts gelesen. Wenn die KI eine Verbindung zwischen der Theorie der polyzentrischen Regierungsführung und der Praxis der Gemeindeentwicklung herstellt, mag diese Verbindung für jeden einzelnen Leser tatsächlich neu sein, auch wenn beide Ideen bereits getrennt voneinander existierten. Die Atome sind nicht neu, aber die Moleküle sind es.

Daher ist die Aussage „KI kann nichts Neues leisten“ auf der Ebene der Entstehung wahr und auf der Ebene der Synthese falsch. Beides ist wichtig, und eine verantwortungsvolle Steuerung dieser Technologie erfordert, beides im Blick zu behalten.

Vom Beantworten zum Handeln: Der Agent

Dies ist die Veränderung mit den größten Auswirkungen auf die Steuerung.

Während des größten Teils des Chatbot-Zeitalters bestand das Schlimmste, was eine KI direkt anrichten konnte, darin, eine schlechte Antwort zu liefern. Der Schaden trat erst dann ein, wenn eine Person darauf reagierte – den irreführenden Brief verschickte, sich auf die falsche Zahl verließ, den fehlerhaften Rat weiterleitete. Zwischen der Maschine und der Konsequenz stand immer ein Mensch.

Ein Agent nimmt diesen Menschen – ganz bewusst – aus dem Kreislauf heraus.

Ein KI-Agent ist eine Engine, die in das eingebettet ist, was Forscher als „Scaffolding“ bezeichnen – ein Speicher zur Verfolgung einer Aufgabe, Zugriff auf einen Webbrowser, die Fähigkeit, Software und andere Tools zu bedienen, sowie ein in einfacher Sprache formuliertes Ziel. Mit diesem „Scaffolding“ verfolgt das System das Ziel über viele Schritte hinweg mit deutlich weniger Aufsicht: Es sucht, entscheidet, handelt, überprüft und handelt erneut. Ein Chatbot antwortet. Ein Agent handelt.

Für einen Vorstand ändert sich genau hier die Risikobewertung. Wenn ein System autonom handelt, gibt es weniger Punkte, an denen ein Mensch eingreifen kann; manche Handlungen lassen sich nicht rückgängig machen; und wenn ein Agent im Namen der Organisation handelt und das Ergebnis falsch ist, wird die Zuweisung der Verantwortung wirklich schwierig – zwischen dem Verantwortlichen, der das Ziel festgelegt hat, dem Anbieter, dessen System die Schritte ausgewählt hat, und dem Gremium, das dessen Einsatz genehmigt hat. Wissenschaftler beschreiben die daraus resultierende „Verantwortungslücke“ und die „moralische Knautschzone“, in der die Haftung auf den nächstgelegenen Menschen fällt, obwohl diese Person kaum echte Kontrolle hatte. Dies ist für die Regulierung nicht nebensächlich: Das Beharren des EU-KI-Gesetzes auf einer sinnvollen menschlichen Aufsicht ist im Grunde eine gesetzliche Vorgabe, dass dieser Regelkreis nicht geschlossen werden darf, ohne dass eine Person eingreifen kann. Ein Kontrollgremium, das ein agentisches System bewertet, prüft genau das – ob die Aufsicht strukturell verankert ist oder lediglich versprochen wird.

Das eigentliche Problem: Wessen Muster und wessen Hände am Steuer?

An dieser Stelle wird es für Ihr Unternehmen konkret.

Wenn eine große KI-Engine im Internet trainiert wird, nimmt sie die Vorurteile, Annahmen und kulturellen Standardwerte des Internets auf. Das Internet ist überwiegend englischsprachig, westlich geprägt, kommerziell ausgerichtet und von den Werten der Technologiebranche geprägt. Das ist keine Verschwörung – es ist einfach das, was passiert, wenn ein System mit Daten trainiert wird, die eine bestimmte Kultur und bestimmte Prioritäten überproportional repräsentieren.

Die Folgen sind subtil, aber erheblich. Wenn ein Bürger eine Anfrage zu einem schwierigen Nachbarschaftsstreit einreicht, greift das System standardmäßig auf die Sprache der individuellen Rechte und rechtlichen Mittel zurück – weil diese in seinen Trainingsdaten dominieren –, anstatt auf Mediation, gemeinschaftliche Verpflichtungen oder eine langfristige Perspektive. Wenn ein Mitarbeiter der Stadtverwaltung das System bittet, einen Entwurf für eine Mitteilung zu einer heiklen Planungsangelegenheit zu erstellen, greift es auf die Sprache des Stakeholder-Managements in Unternehmen zurück, da Geschäfts korrespondenz in den Daten, aus denen es gelernt hat, die kommunale Kommunikation bei weitem übertrifft.

Das System steht kommunalen Werten nicht feindlich gegenüber. Es kennt sie einfach nicht. Es weiß, was statistisch gesehen üblich ist, und was statistisch gesehen üblich ist, ist nicht unbedingt das, was für Ihre Bürger am besten geeignet ist.

Im Zeitalter der Chatbots prägte diese Verzerrung den Text, den ein Mitarbeiter überprüfte. Im Zeitalter der Agenten prägt dieselbe Voreingenommenheit die im Namen der Organisation ergriffenen Maßnahmen – versendete Mitteilungen, angelegte Akten, eingegangene Verpflichtungen –, möglicherweise noch bevor ein Mitarbeiter sie überprüft. Die Frage der Governance besteht nun also aus zwei Teilen: Wessen Muster trägt das System in sich, und wer hat die Kontrolle, wenn es handelt?

Warum dies jetzt für Governance-Gremien von Bedeutung ist

Niemand weiß mit Sicherheit, was passiert, wenn ein KI-System jemals so etwas wie eine eigene Absicht entwickelt – Ziele, die möglicherweise nicht mit den Interessen der Gemeinschaften übereinstimmen, denen es dient. Wir sind wahrscheinlich noch ein gutes Stück von dieser Schwelle entfernt. Doch die jetzt gewählte Architektur und die heute etablierten Governance-Gewohnheiten werden darüber entscheiden, ob eine Organisation vorbereitet ist oder ob sie zu spät feststellt, dass sie die Kontrolle abgegeben hat, ohne es zu bemerken.

Das ist keine Spekulation. Es ist eine einfache Feststellung zur institutionellen Vorbereitung. Ihr Gemeinderat hat eine Satzung. Ihr Vorstand hat eine Geschäftsordnung. Ihre Stiftung hat eine Satzung. Diese existieren nicht, weil jede Sitzung im Chaos endet, sondern weil Governance-Strukturen vorhanden sein müssen, bevor sie benötigt werden – nicht erst danach.

Das gleiche Prinzip gilt für KI, und das EU-KI-Gesetz (Verordnung 2024/1689) spiegelt genau diese Logik wider: die Schaffung von Governance-Rahmenwerken, bevor die Technologie die Regulierungsfähigkeit überholt. Das Aufkommen agentischer Systeme erhöht den Einsatz: Eine Organisation, die KI einsetzt, die handelt, ohne dass eine strukturelle Aufsicht vorhanden ist, könnte sich außerstande sehen, für in ihrem Namen getroffene Entscheidungen Rechenschaft abzulegen – eine Situation, die treuhänderisch unangenehm und rechtlich riskant ist.

Zwei Wege in die Zukunft

Es gibt zwei Möglichkeiten, wie eine Organisation mit KI umgehen kann.

Der erste Weg besteht darin, KI von Big-Tech-Unternehmen zu nutzen – Systeme wie ChatGPT, Google Gemini oder Microsoft Copilot sowie zunehmend auch die darauf aufbauenden Agenten. Diese sind leistungsstark, praktisch und oft kostengünstig. Doch sie sind mit Bedingungen verbunden. Ihre Daten fließen auf deren Server. Ihre Kommunikation – und mittlerweile auch die Handlungen Ihres Agenten – durchlaufen Systeme, über die Sie keine Kontrolle haben. Das Verhalten der KI unterliegt den Richtlinien des Unternehmens, die sich ohne Ihre Zustimmung ändern können. Und die Muster, die sie anwendet, werden durch ihre Trainingsdaten festgelegt, auf die Sie keinen Einfluss haben. Im Rahmen der DSGVO wirft dies Fragen zur Datenverantwortlichkeit, zur Rechtsgrundlage für die Verarbeitung und zum Recht auf Erklärung auf, die jedes Leitungsgremium vor der Einführung klären sollte – Fragen, die sich verschärfen, statt abzuschwächen, wenn das System autonom agiert.

Der zweite Weg besteht darin, eine KI einzusetzen, die Ihre Organisation kontrolliert. Ein gezielteres System, das auf Ihren Inhalten trainiert wurde, auf einer Infrastruktur innerhalb Ihres Zuständigkeitsbereichs läuft und den Regeln unterliegt, die Ihr Vorstand oder Rat festlegt. Ein System, das den Unterschied zwischen einem Ratsprotokoll und einem Blogbeitrag kennt, weil es dies anhand der Unterlagen Ihrer Organisation gelernt hat. Ein System, dessen Antworten durch von der KI unabhängig arbeitende Verifizierungsstufen mit Ihren tatsächlichen Dokumenten abgeglichen werden – und dessen Handlungsfähigkeit bewusst begrenzt ist, sodass ein Mensch, der gegenüber Ihren Wählern rechenschaftspflichtig ist, jederzeit eingreifen kann.

Genau das ist Village AI. Es ist nicht das leistungsstärkste verfügbare KI-System. Es ist darauf ausgelegt, Ihrer Gemeinschaft gegenüber rechenschaftspflichtig zu sein – gegenüber Ihren Inhalten, Ihren Werten und Ihrem Governance-Rahmen – und die Entscheidungsgewalt bei den Menschen zu belassen, denen sie zusteht, wenn die KI vom Beantworten zum Handeln übergeht.

Der nächste Artikel erklärt, wie sich Village AI strukturell von der KI der Big-Tech-Unternehmen unterscheidet und warum dieser Unterschied wichtiger ist als reine Rechenleistung.

Möchten Sie KI-Tools wie diese gut und sicher nutzen? Unsere kostenlosen Kurse – Working with Claude und Agents at Work – vermitteln praktische Fähigkeiten, vom Erhalten vertrauenswürdiger Antworten bis hin zur Entscheidung, welche Aufgaben einem Agenten übertragen werden sollen. Die vollständige technische Architektur hinter Village AI finden Sie unter Village AI – Agentic Governance.