Alle Ausgaben · Parish Edition

Your Community, Your AI — CC BY 4.0

Was KI eigentlich ist (und was sie nicht ist)

KI hat sich verändert, während Sie zugeschaut haben

Sie haben wahrscheinlich schon oft gehört, dass künstliche Intelligenz alles verändern wird. Vielleicht haben Sie auch schon gehört, dass es sich nur um eine Modeerscheinung handelt oder dass sie nichts wirklich Neues leisten kann. Beide Standpunkte gehen am Kern der Sache vorbei, und wenn Sie verstehen, warum das so ist, können Sie bessere Entscheidungen für Ihre Gemeinde treffen.

Aber es gibt noch etwas anderes, das es zunächst zu beachten gilt: KI hat sich bereits in der kurzen Zeit verändert, in der darüber diskutiert wurde.

Vor einem Jahr meinten die meisten Menschen mit „KI“ einen Chatbot – ein Fenster, in das man eine Frage eingab und eine Antwort erhielt. Man fragte, sie antwortete. Das war der gesamte Ablauf. Heute hat sich der Schwerpunkt verlagert. Die Systeme, die die meiste Aufmerksamkeit und die meisten Investitionen auf sich ziehen, sind nicht mehr nur Chatbots, die antworten. Es sind Agenten, die handeln – Termine vereinbaren, Formulare ausfüllen, im Internet surfen, Code schreiben und ausführen, Nachrichten versenden.

Dies ist die wichtigste Veränderung, die es zu verstehen gilt, und der Rest dieses Artikels baut darauf auf. Um die heutige KI zu verstehen, muss man zwei Konzepte voneinander trennen:

• Die Engine – das zugrunde liegende Modell, das, was Sprache erzeugt.
• Der Agent – die Engine, die zum Einsatz kommt und so vernetzt ist, dass sie in Ihrem Namen Handlungen in der Welt ausführen kann.

Die Engine ist immer leistungsfähiger geworden. Doch die größere Veränderung für gewöhnliche Gemeinschaften besteht darin, was die Menschen nun um die Engine herum aufbauen. Gehen wir nacheinander auf beide ein. (Alle unbekannten Begriffe in dieser Reihe – Engine, Agent, Schlussfolgerungsmodell und die übrigen – werden im Glossar in einfacher Sprache definiert.)

Die Engine: Eine Maschine, die Vorhersagen trifft

Hier ist die einfachste Beschreibung dessen, was die Engine tut: Sie sagt voraus, welches Wort als Nächstes kommen sollte.

Wenn Sie eine Nachricht in einen Chatbot eingeben, denkt das System nicht so über Ihre Frage nach, wie Sie oder Ihr Rektor darüber nachdenken würden. Es geht dabei um einen viel mechanischeren Vorgang. Der Engine wurden Milliarden von Textseiten präsentiert – Bücher, Websites, Gespräche, Predigten, juristische Dokumente, Rezepte, medizinische Fachartikel, Diskussionen in sozialen Medien – und aus all diesen Texten hat sie Muster gelernt. Wenn Sie ihm eine Frage stellen, generiert es eine Antwort, indem es Wort für Wort vorhersagt, wie eine plausible Antwort auf der Grundlage all dessen, was es zuvor gesehen hat, aussehen könnte.

Das ist wirklich nützlich. Ein System, das die Muster von Milliarden von Textseiten verinnerlicht hat, kann dir helfen, einen Brief zu entwerfen, ein langes Dokument zusammenzufassen, eine sachliche Frage zu beantworten oder Vorschläge zu machen, wie man eine schwierige Mitteilung formulieren könnte. Das sind echte Fähigkeiten, und sie sparen echte Zeit.

Im Kern führt die Engine jedoch Musterabgleiche in einem außergewöhnlichen Ausmaß durch. Diese eine Tatsache erklärt sowohl, worin sie erstaunlich gut ist, als auch, wo sie still und leise Fehler macht – ein Punkt, auf den wir im Laufe dieser Serie immer wieder zurückkommen werden.

Kann die Engine logisch denken?

Es gibt eine tiefgreifendere Frage, mit der sich Forscher intensiv beschäftigen, und die einfache Antwort lautet: Wir wissen es noch nicht.

Als frühe KI-Systeme flüssigen Text erzeugten, war es naheliegend, sie als ausgefeilte Mustererkennung zu beschreiben und es dabei zu belassen. Doch eine neuere Generation von Systemen – oft als „schlussfolgernde“ oder „denkende“ Modelle bezeichnet – geht anders vor. Anstatt sofort zu antworten, arbeitet sie ein Problem schrittweise durch und erzeugt eine sichtbare Kette von Zwischenschritten, bevor sie sich auf eine Antwort festlegt. Bei schwierigeren Problemen benötigt sie dafür mehr Zeit. Die Ergebnisse können bemerkenswert sein: Im Jahr 2025 lösten Schlussfolgerungssysteme aus mehr als einem großen Forschungslabor Aufgaben der Internationalen Mathematik-Olympiade – einem der schwierigsten Mathematikwettbewerbe der Welt – auf einem Niveau, das dem eines menschlichen Goldmedaillengewinners entsprach.

Ist das nun Schlussfolgerung oder handelt es sich um sehr ausgefeilte Mustererkennung, die so verpackt ist, dass sie wie Schlussfolgerung aussieht?

Die Forschung ist in dieser Frage noch völlig offen, und seriöse Fachleute sind sich uneinig. Eine einflussreiche Studie aus dem Jahr 2025 argumentierte, diese Systeme seien teilweise eine „Illusion des Denkens“ – dass sie bei bestimmten Rätseln auf eine Weise scheitern, wie es ein echter Denker nicht tun würde. Mehrere ebenso seriöse Gegenargumente vertraten die gegenteilige Ansicht. Das derzeit vorsichtigste Urteil lautet, dass die heutigen Schlussfolgerungsmodelle weder echte Denker noch bloße Nachahmer sind – sie sind etwas wirklich Neues, das wir noch nicht vollständig verstehen. Wer Ihnen sagt, KI könne definitiv schlussfolgern oder könne es definitiv nicht, übertreibt das, was die Beweislage stützt.

Eine Erkenntnis ist für Ihren Bereich von Bedeutung, und sie lässt sich leicht falsch interpretieren – lesen Sie sie daher sorgfältig durch. Wenn diese Systeme Ihnen ihr „Denken“ zeigen, spiegelt diese sichtbare Kette nicht zuverlässig wider, was tatsächlich zur Antwort geführt hat. Forscher haben wiederholt festgestellt, dass die von einem Modell angegebene Argumentation die tatsächlichen Einflüsse auf seine Schlussfolgerung auslassen kann – nicht, weil die Maschine im menschlichen Sinne unehrlich wäre (sie hat keine Absichten), sondern weil die Wörter, die sie Ihnen zeigt, selbst nur weiterer vorhergesagter Text sind und keine echte Wiedergabe eines inneren Prozesses. Die praktische Konsequenz: Man kann eine KI nicht zur Rechenschaft ziehen, indem man einfach die Erklärung liest, die sie für sich selbst liefert. Diese Tatsache allein ist einer der Gründe, warum eine gemeinschaftlich gesteuerte Governance – die die Ausgabe anhand Ihrer tatsächlichen Aufzeichnungen überprüft, anstatt dem Selbstbericht der KI zu vertrauen – so wichtig ist. Wir kommen in Artikel 3 darauf zurück.

Was wir sagen können, ist Folgendes: Die Entwicklung verläuft rasant. Vor einigen Jahren konnten diese Systeme kaum einen zusammenhängenden Absatz formulieren. Heute schreiben sie Aufsätze, bestehen berufliche Prüfungen, generieren funktionsfähigen Computercode und greifen zunehmend in die Welt ein, anstatt sie nur zu beschreiben. Die nächsten Jahre werden erneut größere Fähigkeiten mit sich bringen.

„KI kann nichts Neues leisten“ – Es kommt darauf an, was man unter „neu“ versteht

Menschen, die KI mit der Behauptung abtun, sie könne nichts Originelles schaffen, vertreten eine These, die im engeren Sinne zwar zutrifft, im weiteren Sinne jedoch irreführend ist.

Eine Maschine kann nicht aus Erfahrung schöpfen. Sie hat noch nie bei einer trauernden Familie gesessen. Sie hat noch nie die Last einer Entscheidung gespürt, die Menschen betrifft, die sie liebt. Sie kann nicht verstehen, warum die Worte der Beerdigungszeremonie von Bedeutung sind – sie kann lediglich Muster reproduzieren, die statistisch gesehen einem Verständnis ähneln. In diesem Sinne ist alles, was sie hervorbringt, eine Neukombination von Material, das sie während des Trainings aufgenommen hat.

Aber bedenken Sie, was „Neukombination“ in diesem Maßstab tatsächlich bedeutet. Kein einzelner Mensch hat jeden Kirchenvater, jeden Gemeindebrief der letzten hundert Jahre, jedes Gesetz zur Leitung von Wohltätigkeitsorganisationen und jede Abhandlung über Trauer gelesen. Wenn die KI eine Verbindung zwischen der Theorie der polyzentrischen Governance und der anglikanischen Ekklesiologie herstellt, ist diese Verbindung für jeden einzelnen Menschen wirklich neu, auch wenn beide Ideen bereits getrennt voneinander existierten. Ein Pfarrer, der Hooker gelesen hat, aber nicht Ostrom, würde diese Synthese als aufschlussreich empfinden; ein Ökonom, der Ostrom gelesen hat, aber nicht Hooker, würde sie aus der anderen Perspektive als aufschlussreich empfinden. Die Atome sind nicht neu, aber die Moleküle sind es.

„KI kann nichts Neues leisten“ ist also auf der Ebene der Entstehung wahr und auf der Ebene der Synthese falsch. Beides ist wichtig, und eine ernsthafte Auseinandersetzung mit dieser Technologie erfordert, beides im Blick zu behalten.

Vom Antworten zum Handeln: Der Akteur

Nun zu der Veränderung, die für Ihre Gemeinde am wichtigsten ist.

Während des größten Teils des Chatbot-Zeitalters war das Schlimmste, was eine KI direkt anrichten konnte, eine falsche Antwort zu geben. Der Schaden entstand erst, wenn ein Mensch darauf reagierte – den irreführenden Brief verschickte, der falschen Zahl vertraute, den fehlerhaften Rat weiterleitete. Zwischen der Maschine und der Konsequenz stand immer eine Person.

Ein Agent nimmt diese Person – ganz bewusst – aus dem Kreislauf heraus.

Ein KI-Agent ist eine Engine, die in das eingebettet ist, was Forscher als „Scaffolding“ bezeichnen – ein Speicher, damit er den Überblick über eine Aufgabe behalten kann, Zugriff auf einen Webbrowser, die Fähigkeit, Software-Tools und andere Programme zu nutzen, sowie ein Ziel, das Sie ihm in einfacher Sprache vorgeben. Mit diesem Scaffolding kann das System das Ziel über viele Schritte hinweg mit deutlich weniger Aufsicht verfolgen: Es kann suchen, entscheiden, handeln, das Ergebnis überprüfen und erneut handeln. Ein Chatbot antwortet. Ein Agent handelt.

Deshalb fühlt sich KI plötzlich anders an, obwohl sich die zugrunde liegenden Engines nicht über Nacht verändert haben. Das Neue ist größtenteils die Hülle. Die Branche trennt die beiden bewusst voneinander: Die Engine liefert die rohen Fähigkeiten, und das Scaffolding verwandelt diese Fähigkeiten in etwas, das in der realen Welt funktioniert. Ein Großteil des jüngsten Fortschritts bei dem, was KI tun kann – im Gegensatz zu dem, was sie sagen kann –, ist auf ein besseres Gerüst zurückzuführen, nicht auf eine neue Art von Intelligenz.

Die bekannten Agent-Produkte der Jahre 2025 und 2026 – jene, die für Sie im Internet surfen, einen Computer bedienen oder Software schreiben und ausführen – werden fast ausschließlich von großen amerikanischen Technologieunternehmen entwickelt, und wir werden im nächsten Artikel untersuchen, was das für Ihre Daten bedeutet. Behalten Sie vorerst diesen Gedanken im Hinterkopf: Die Frage lautet nicht mehr nur „Was wird mir die KI sagen?“, sondern „Was wird die KI tun, und kann ich sie rechtzeitig stoppen, wenn etwas schiefgeht?“

Denn hier liegt der Haken, über den die Forschung eindeutig Klarheit schafft: Wenn ein System eigenständig handelt, gibt es weniger Möglichkeiten zum Eingreifen. Manche Handlungen lassen sich nicht mehr rückgängig machen, sobald sie einmal ausgeführt wurden. Und wenn ein Agent in Ihrem Namen handelt – unter Verwendung Ihrer Daten, Ihrer Konten, Ihrer Befugnisse – und etwas schiefgeht, wird es wirklich schwer zu sagen, wer verantwortlich ist: Sie, der Sie in einem Satz ein Ziel festgelegt haben, oder das Unternehmen, dessen System die Schritte ausgewählt hat. Das bedeutet keineswegs, dass Agenten schlecht sind. Es bedeutet, dass die Bedeutung der Frage, welchen Agenten Sie nutzen und wie dieser gesteuert wird, gerade erheblich zugenommen hat.

Das eigentliche Problem: Wessen Muster und wessen Hände am Steuer?

Hier wird es für Ihre Gemeinde konkret.

Wenn eine große KI-Engine im Internet trainiert wird, nimmt sie die Vorurteile, Annahmen und kulturellen Standardwerte des Internets auf. Das Internet ist überwiegend englischsprachig, westlich geprägt, kommerziell ausgerichtet und von den Werten einer Handvoll Technologieunternehmen geprägt. Das ist keine Verschwörung – es ist einfach das, was passiert, wenn man ein System mit Daten trainiert, die eine bestimmte Kultur und bestimmte Prioritäten überproportional stark repräsentieren.

Die Folgen sind subtil, aber real. Wenn ein Gemeindemitglied eine KI um Rat zu einer schwierigen familiären Situation bittet, greift das System standardmäßig auf die Sprache der Therapie und Selbsthilfe zurück – denn genau das dominiert seine Trainingsdaten. Es greift nicht auf die Sprache des Gebets, der Seelsorge oder der Gemeinschaft der Heiligen zurück, da diese Traditionen statistisch unterrepräsentiert sind. Wenn ein Kirchenvorsteher das System bittet, einen Brief an die Gemeinde zu einem heiklen Thema zu verfassen, greift es auf Muster der Unternehmenskommunikation zurück, da die Geschäftskorrespondenz in den Daten, aus denen es gelernt hat, die kirchliche Korrespondenz bei weitem übertrifft.

Das System steht Ihrer Tradition nicht feindlich gegenüber. Es kennt Ihre Tradition einfach nicht. Es weiß, was statistisch gesehen üblich ist, und was statistisch gesehen üblich ist, ist nicht das, was für Ihre Gemeinde am wichtigsten ist.

Im Zeitalter der Chatbots prägte diese Voreingenommenheit die Worte, die Sie lesen. Im Zeitalter der Agenten prägt dieselbe Voreingenommenheit die Maßnahmen, die in Ihrem Namen ergriffen werden. Ein Agent, der die Werte Ihrer Gemeinde nicht versteht, wird diese nicht nur schlecht beschreiben – er könnte sogar still und leise gegen sie handeln, während er glaubt, zu helfen. Das eigentliche Problem mit KI besteht also mittlerweile aus zwei Teilen: Wessen Muster trägt sie in sich, und wessen Hände liegen an den Steuerelementen, wenn sie handelt?

Warum das gerade jetzt wichtig ist

Niemand weiß mit Sicherheit, was passiert, wenn ein KI-System jemals so etwas wie eine eigene Absicht entwickelt – Ziele und Prioritäten, die möglicherweise nicht mit unseren übereinstimmen. Wir sind wahrscheinlich noch ein gutes Stück von dieser Schwelle entfernt. Doch die Architektur, die wir jetzt aufbauen, und die Führungsgewohnheiten, die wir heute etablieren, werden darüber entscheiden, ob wir vorbereitet sind, wenn dieser Moment kommt, oder ob wir zu spät feststellen, dass wir die Kontrolle abgegeben haben, ohne es zu merken.

Das ist keine Science-Fiction. Es ist eine einfache Feststellung zur institutionellen Bereitschaft. Ihre Gemeinde hat eine Satzung. Ihr Kirchenvorstand hat eine Geschäftsordnung. Ihre Diözese hat Kanones. Diese existieren nicht, weil jede Sitzung im Chaos endet, sondern weil Führungsstrukturen vorhanden sein müssen, bevor sie gebraucht werden – nicht erst danach.

Das gleiche Prinzip gilt für KI – und es gilt umso dringlicher, da KI nicht mehr nur berät, sondern handelt.

Zwei Wege in die Zukunft

Es gibt zwei Möglichkeiten, wie eine Kirchengemeinde mit KI umgehen kann.

Der erste Weg besteht darin, die KI der „Big Tech“-Unternehmen zu nutzen – die Chatbots und, in zunehmendem Maße, die von den größten amerikanischen Technologieunternehmen entwickelten Agenten. Diese sind leistungsstark, praktisch und oft kostenlos oder günstig. Aber sie sind an Bedingungen geknüpft. Ihre Daten fließen auf deren Server. Ihre Unterhaltungen – und mittlerweile auch die Handlungen Ihres Agenten – durchlaufen Systeme, über die Sie keine Kontrolle haben. Das Verhalten der KI unterliegt den Richtlinien des Unternehmens, die sich ohne Ihre Zustimmung ändern können. Und die Verhaltensmuster der KI werden durch ihre Trainingsdaten bestimmt, auf die Sie keinen Einfluss haben.

Der zweite Weg besteht darin, eine KI zu nutzen, die von Ihrer Gemeinde kontrolliert wird. Ein gezielteres System, das auf Ihren Inhalten trainiert wurde, auf von Ihnen kontrollierter Hardware läuft und nach Regeln funktioniert, die Ihre Gemeinde festlegt. Ein System, das den Unterschied zwischen einem Gemeindebrief und einem Blogbeitrag kennt, weil Ihre Gemeinde es dies beigebracht hat. Ein System, dessen Antworten von unabhängigen Beobachtern, die getrennt von der KI selbst agieren, anhand Ihrer tatsächlichen Aufzeichnungen überprüft werden – und dessen Handlungsfähigkeit bewusst begrenzt ist, sodass ein Mensch jederzeit eingreifen kann.

Genau das ist Village AI. Es ist nicht darauf ausgelegt, einen Wettstreit um reine Leistungsstärke mit den Systemen der Big Tech zu gewinnen. Es ist darauf ausgelegt, Ihrer Gemeinde treu zu bleiben – Ihren Inhalten, Ihren Werten und Ihrer Leitung – und Ihnen die Kontrolle zu sichern, wenn die KI vom Beantworten zum Handeln übergeht.

Der nächste Artikel erklärt, wie sich Village AI strukturell von der KI der Big-Tech-Unternehmen unterscheidet und warum dieser Unterschied – gerade jetzt – wichtiger ist als reine Rechenleistung.

Möchten Sie KI-Tools wie diese gut und sicher nutzen? Unsere kostenlosen Kurse – Working with Claude und Agents at Work – vermitteln praktische Fähigkeiten, von der Einholung vertrauenswürdiger Antworten bis hin zur Entscheidung, welche Aufgaben einem Agenten übertragen werden sollen. Die vollständige technische Architektur hinter Village AI finden Sie unter Village AI – Agentic Governance.