Alle Ausgaben · Business Edition

Your Community, Your AI — CC BY 4.0

Was KI eigentlich ist (und was sie nicht ist)

KI hat sich verändert, während Sie zugeschaut haben

Sie haben wahrscheinlich schon oft gehört, dass künstliche Intelligenz alles verändern wird. Vielleicht haben Sie auch schon gehört, dass es sich nur um eine Modeerscheinung handelt oder dass sie nichts wirklich Neues leisten kann. Beide Standpunkte gehen am Kern der Sache vorbei, und wenn Sie verstehen, warum das so ist, können Sie bessere Entscheidungen für Ihr Unternehmen treffen.

Aber es gibt noch etwas anderes, das es zunächst zu beachten gilt: KI hat sich bereits in der kurzen Zeit verändert, in der darüber diskutiert wurde.

Vor einem Jahr meinten die meisten Menschen mit „KI“ einen Chatbot – ein Fenster, in das man eine Frage eingab und eine Antwort erhielt. Man fragte, er antwortete. Das war der gesamte Ablauf. Heute hat sich der Schwerpunkt verlagert. Die Systeme, die die meiste Aufmerksamkeit und die meisten Investitionen auf sich ziehen, sind nicht mehr nur Chatbots, die antworten. Es sind Agenten, die handeln – Termine vereinbaren, Formulare ausfüllen, Rechnungen abgleichen, im Internet recherchieren, Code schreiben und ausführen, E-Mails versenden.

Dies ist die wichtigste Veränderung, die es zu verstehen gilt, und der Rest dieses Artikels baut darauf auf. Um die heutige KI zu verstehen, muss man zwei Konzepte voneinander trennen:

• Die Engine – das zugrunde liegende Modell, das, was Sprache erzeugt.
• Der Agent – die Engine, die zum Einsatz kommt und so vernetzt ist, dass sie in Ihrem Namen Handlungen in der Welt ausführen kann.

Die Engine wird immer leistungsfähiger. Doch die größere Veränderung für kleine Unternehmen besteht darin, was Menschen mittlerweile um die Engine herum entwickeln. Lassen Sie uns beides der Reihe nach betrachten. (Alle unbekannten Begriffe in dieser Serie – Engine, Agent, Schlussfolgerungsmodell und der Rest – werden im Glossar in einfacher Sprache definiert.)

Die Engine: Eine Maschine, die Vorhersagen trifft

Hier ist die einfachste Beschreibung dessen, was die Engine tut: Sie sagt voraus, welches Wort als Nächstes kommen sollte.

Wenn Sie eine Nachricht in einen Chatbot eingeben, denkt das System nicht über Ihre Frage so nach, wie Sie oder Ihr Geschäftsführer darüber nachdenken würden. Es geht dabei um einen viel mechanischeren Vorgang. Der Engine wurden Milliarden von Textseiten präsentiert – Bücher, Websites, Gespräche, Verträge, juristische Dokumente, Rezepte, medizinische Fachartikel, Diskussionen in sozialen Medien – und aus all diesen Texten hat sie Muster gelernt. Wenn Sie ihm eine Frage stellen, generiert es eine Antwort, indem es Wort für Wort vorhersagt, wie eine plausible Antwort auf der Grundlage all dessen, was es zuvor gesehen hat, aussehen könnte.

Das ist wirklich nützlich. Ein System, das die Muster von Milliarden von Textseiten verinnerlicht hat, kann dir helfen, eine E-Mail an einen Kunden zu entwerfen, einen langen Bericht zusammenzufassen, eine sachliche Frage zu beantworten oder Vorschläge zu machen, wie man eine schwierige Mitteilung an die Mitarbeiter formulieren könnte. Das sind echte Fähigkeiten, und sie sparen echte Zeit.

Im Kern führt die Engine jedoch Musterabgleiche in einem außergewöhnlichen Ausmaß durch. Diese eine Tatsache erklärt sowohl, worin sie erstaunlich gut ist, als auch, wo sie still und leise Fehler macht – ein Punkt, auf den wir im Laufe dieser Serie immer wieder zurückkommen werden.

Kann die Engine logisch denken?

Es gibt eine tiefgreifendere Frage, mit der sich Forscher intensiv beschäftigen, und die einfache Antwort lautet: Wir wissen es noch nicht.

Als frühe KI-Systeme flüssigen Text erzeugten, war es naheliegend, sie als ausgefeilte Mustererkennung zu beschreiben und es dabei zu belassen. Doch eine neuere Generation von Systemen – oft als „schlussfolgernde“ oder „denkende“ Modelle bezeichnet – geht anders vor. Anstatt sofort zu antworten, arbeitet sie ein Problem schrittweise durch und erzeugt eine sichtbare Kette von Zwischenschritten, bevor sie sich auf eine Antwort festlegt. Bei schwierigeren Problemen benötigt sie dafür mehr Zeit. Die Ergebnisse können bemerkenswert sein: Im Jahr 2025 lösten Schlussfolgerungssysteme aus mehr als einem großen Forschungslabor Aufgaben der Internationalen Mathematik-Olympiade – einem der schwierigsten Mathematikwettbewerbe der Welt – auf einem Niveau, das dem eines menschlichen Goldmedaillengewinners entspricht.

Ist das nun Schlussfolgerung oder handelt es sich um sehr ausgefeilte Mustererkennung, die so verpackt ist, dass sie wie Schlussfolgerung aussieht?

Die Forschung ist hier noch völlig offen, und seriöse Fachleute sind sich uneinig. Eine einflussreiche Studie aus dem Jahr 2025 argumentierte, diese Systeme seien teilweise eine „Illusion des Denkens“ – dass sie bei bestimmten Rätseln auf eine Weise scheitern, wie es ein echter Denker nicht tun würde. Mehrere ebenso seriöse Gegenargumente vertraten die gegenteilige Ansicht. Das derzeit vorsichtigste Urteil lautet, dass die heutigen Schlussfolgerungsmodelle weder echte Denker noch bloße Nachahmer sind – sie sind etwas wirklich Neues, das wir noch nicht vollständig verstehen. Wer Ihnen sagt, KI könne definitiv schlussfolgern oder könne es definitiv nicht, übertreibt die Aussagekraft der vorliegenden Beweise.

Eine Erkenntnis ist für Ihr Unternehmen von Bedeutung, und sie lässt sich leicht falsch interpretieren – lesen Sie sie daher sorgfältig durch. Wenn diese Systeme Ihnen ihr „Denken“ zeigen, spiegelt diese sichtbare Kette nicht zuverlässig wider, was tatsächlich zur Antwort geführt hat. Forscher haben wiederholt festgestellt, dass die von einem Modell angegebene Argumentation die tatsächlichen Einflussfaktoren auf seine Schlussfolgerung auslassen kann – nicht, weil die Maschine im menschlichen Sinne unehrlich wäre (sie hat keine Absichten), sondern weil die Wörter, die sie Ihnen zeigt, selbst nur weiterer vorhergesagter Text sind und keine echte Wiedergabe eines inneren Prozesses. Die praktische Konsequenz: Man kann eine KI nicht zur Rechenschaft ziehen, indem man einfach die Erklärung liest, die sie selbst liefert – was von großer Bedeutung ist, sobald sie in Ihrem Auftrag mit regulierten Daten arbeitet. Das ist einer der Gründe, warum eine Governance so wichtig ist, die die Ausgabe mit Ihren tatsächlichen Aufzeichnungen abgleicht, anstatt dem Selbstbericht der KI zu vertrauen. Wir kommen in Artikel 3 darauf zurück.

Was wir sagen können, ist Folgendes: Die Entwicklung verläuft rasant. Vor einigen Jahren konnten diese Systeme kaum einen zusammenhängenden Absatz formulieren. Heute schreiben sie Aufsätze, bestehen Fachprüfungen, generieren funktionsfähigen Computercode und greifen zunehmend in die Welt ein, anstatt sie nur zu beschreiben. Die nächsten Jahre werden erneut größere Fähigkeiten mit sich bringen.

„KI kann nichts Neues“ – Es kommt darauf an, was man unter „neu“ versteht

Wer KI mit der Behauptung abtut, sie könne nichts Originelles schaffen, trifft eine Aussage, die im engeren Sinne zwar wahr, im weiteren Sinne jedoch irreführend ist.

Eine Maschine kann nicht aus Erfahrung schöpfen. Sie hat noch nie an einer schwierigen Verhandlung teilgenommen. Sie hat noch nie die Last einer Entlassungsentscheidung gespürt. Sie kann nicht verstehen, warum die Pflege einer langjährigen Lieferantenbeziehung wichtig ist – sie kann lediglich Muster reproduzieren, die statistisch gesehen einem Verständnis ähneln. In diesem Sinne ist alles, was sie hervorbringt, eine Neukombination von Material, das sie während des Trainings aufgenommen hat.

Aber bedenken Sie, was „Neukombination“ in dieser Größenordnung tatsächlich bedeutet. Kein einzelner Mensch hat jedes Governance-Rahmenwerk, jede Fallstudie zu Kleinunternehmen aus den letzten hundert Jahren, jedes Arbeitsgesetz und jede Abhandlung über genossenschaftliche Unternehmensführung gelesen. Wenn die KI eine Verbindung zwischen der Theorie der genossenschaftlichen Unternehmensführung und dem modernen Arbeitsrecht herstellt, ist diese Verbindung für jeden einzelnen Menschen wirklich neu, auch wenn beide Ideen bereits getrennt voneinander existierten. Ein Vorstandsmitglied, das sich mit Arbeitsrecht, aber nicht mit Genossenschaftstheorie befasst hat, würde diese Synthese als aufschlussreich empfinden; ein Genossenschaftsexperte, der sich mit Führungsmodellen, aber nicht mit Arbeitsrecht auskennt, würde sie aus der anderen Perspektive als aufschlussreich empfinden. Die Atome sind nicht neu, aber die Moleküle sind es.

Daher ist die Aussage „KI kann nichts Neues leisten“ auf der Ebene der Entstehung wahr und auf der Ebene der Synthese falsch. Beides ist wichtig, und eine ernsthafte Auseinandersetzung mit dieser Technologie erfordert, beides im Blick zu behalten.

Vom Beantworten zum Handeln: Der Agent

Nun zu der Veränderung, die für Ihr Unternehmen am wichtigsten ist.

Während des größten Teils der Chatbot-Ära war das Schlimmste, was eine KI direkt anrichten konnte, eine schlechte Antwort zu geben. Der Schaden entstand erst, wenn eine Person darauf reagierte – den irreführenden Brief verschickte, der falschen Zahl vertraute, den fehlerhaften Rat weiterleitete. Zwischen der Maschine und der Konsequenz stand immer eine Person.

Ein Agent nimmt diese Person – ganz bewusst – aus dem Kreislauf heraus.

Ein KI-Agent ist eine Engine, die in das eingebettet ist, was Forscher als „Scaffolding“ bezeichnen – ein Speicher, damit er den Überblick über eine Aufgabe behalten kann, Zugriff auf einen Webbrowser, die Fähigkeit, Software-Tools und andere Programme zu nutzen, sowie ein Ziel, das Sie ihm in einfacher Sprache vorgeben. Mit diesem Scaffolding kann das System das Ziel über viele Schritte hinweg mit deutlich weniger Aufsicht verfolgen: Es kann suchen, entscheiden, handeln, das Ergebnis überprüfen und erneut handeln. Ein Chatbot antwortet. Ein Agent handelt.

Deshalb fühlt sich KI plötzlich anders an, obwohl sich die zugrunde liegenden Engines nicht über Nacht verändert haben. Das Neue ist größtenteils die Hülle. Die Branche trennt die beiden bewusst voneinander: Die Engine liefert die rohen Fähigkeiten, und das Scaffolding verwandelt diese Fähigkeiten in etwas, das in der realen Welt funktioniert. Ein Großteil des jüngsten Fortschritts bei dem, was KI tun kann – im Gegensatz zu dem, was sie sagen kann –, ist auf ein besseres Gerüst zurückzuführen, nicht auf eine neue Art von Verstand.

Die bekannten Agentenprodukte der Jahre 2025 und 2026 – jene, die für Sie im Internet surfen, einen Computer bedienen oder Software schreiben und ausführen – werden fast ausschließlich von großen amerikanischen Technologieunternehmen entwickelt, und wir werden im nächsten Artikel untersuchen, was das für Ihre Daten bedeutet. Behalten Sie vorerst dieses Konzept im Hinterkopf: Die Frage lautet nicht mehr nur „Was wird mir die KI sagen?“, sondern „Was wird die KI tun, und kann ich sie rechtzeitig stoppen, wenn etwas schiefgeht?“

Dies ist für ein Unternehmen von entscheidender Bedeutung, und zwar nicht nur in betrieblicher Hinsicht. Wenn Sie einen Agenten in Ihrem Namen handeln lassen, delegieren Sie Befugnisse – und gewähren ihm oft Zugriff auf Kundendaten, Konten und die Möglichkeit, in Ihrem Namen Maßnahmen zu ergreifen. Nach dem Datenschutzrecht bleibt Ihr Unternehmen der Verantwortliche für den Umgang mit diesen personenbezogenen Daten, selbst wenn ein autonomes System die Maßnahmen ausgewählt hat. Governance-Experten bezeichnen die Autonomie von Agenten aus genau diesem Grund mittlerweile als Datenschutzproblem, das als KI-Problem getarnt ist. Wenn ein System eigenständig handelt, gibt es weniger Möglichkeiten zum Eingreifen, manche Handlungen lassen sich nicht rückgängig machen, und wenn etwas schiefgeht, ist es wirklich schwer zu sagen, wer verantwortlich war – Sie, der Sie ein Ziel in einem Satz festgelegt haben, oder das Unternehmen, dessen System entschieden hat, was damit zu tun ist. Das bedeutet keineswegs, dass Agenten schlecht sind. Es bedeutet vielmehr, dass die Bedeutung der Frage, welchen Agenten Sie einsetzen und wie dieser gesteuert wird, gerade erheblich zugenommen hat.

Das eigentliche Problem: Wessen Muster und wessen Hände am Steuer?

An dieser Stelle wird es für Ihr Unternehmen konkret.

Wenn eine große KI-Engine im Internet trainiert wird, nimmt sie die Vorurteile, Annahmen und kulturellen Standardwerte des Internets auf. Das Internet ist überwiegend englischsprachig, westlich geprägt, kommerziell ausgerichtet und von den Werten einer Handvoll Technologieunternehmen geprägt. Das ist keine Verschwörung – es ist einfach das, was passiert, wenn man ein System mit Daten trainiert, die eine bestimmte Kultur und bestimmte Prioritäten überproportional repräsentieren.

Die Folgen sind subtil, aber real. Wenn ein Teammitglied eine KI um Rat zu einem Arbeitskonflikt bittet, greift das System standardmäßig auf amerikanische Personalwesen-Sprache zurück – Annahmen zum „At-Will“-Arbeitsverhältnis, prozessorientierte Formulierungen, individualistische Konfliktlösung –, weil genau das in seinen Trainingsdaten vorherrscht. Es greift nicht auf die Sprache des europäischen Arbeitsrechts, auf kooperative Mediation oder auf den langfristigen Beziehungsaufbau zurück, der kleinere Organisationen auszeichnet. Wenn ein Manager es bittet, einen Brief an einen langjährigen Kunden zu entwerfen, greift es auf allgemeine Unternehmensstandardformulierungen zurück, da diese in den Daten, aus denen es gelernt hat, gegenüber durchdachten, beziehungsorientierten Texten deutlich überwiegen.

Das System steht der Arbeitsweise Ihrer Organisation nicht feindlich gegenüber. Es kennt sie einfach nicht. Es weiß, was statistisch üblich ist, und was statistisch üblich ist, ist nicht unbedingt das, was für Ihr Unternehmen angemessen ist.

Im Zeitalter der Chatbots prägte diese Voreingenommenheit die Worte, die Sie lesen. Im Zeitalter der Agenten prägt dieselbe Voreingenommenheit die Maßnahmen, die in Ihrem Namen ergriffen werden – im Umgang mit Ihren Kunden, Ihrem Geld und Ihrem Ruf. Ein Agent, der die Werte Ihres Unternehmens nicht versteht, wird diese nicht nur schlecht beschreiben; er könnte sogar still und leise gegen sie handeln, während er glaubt, Ihnen zu helfen. Das eigentliche Problem mit KI besteht also mittlerweile aus zwei Teilen: Wessen Muster trägt sie in sich, und wessen Hände liegen an den Steuerelementen, wenn sie handelt?

Warum das gerade jetzt wichtig ist

Niemand weiß mit Sicherheit, was passiert, wenn ein KI-System jemals so etwas wie eine eigene Absicht entwickelt – Ziele und Prioritäten, die möglicherweise nicht mit unseren übereinstimmen. Wir sind wahrscheinlich noch ein gutes Stück von dieser Schwelle entfernt. Doch die Architektur, die wir jetzt aufbauen, und die Governance-Praktiken, die wir heute etablieren, werden darüber entscheiden, ob wir vorbereitet sind, wenn dieser Moment kommt, oder ob wir zu spät feststellen, dass wir die Kontrolle abgegeben haben, ohne es zu merken.

Das ist keine Science-Fiction. Es ist eine einfache Feststellung zur organisatorischen Bereitschaft. Ihr Unternehmen hat eine Satzung. Ihr Vorstand hat ein Aufgabengebiet. Ihre Branche hat regulatorische Anforderungen. Diese existieren nicht, weil jede Sitzung im Chaos endet, sondern weil Governance-Strukturen vorhanden sein müssen, bevor sie gebraucht werden – nicht erst danach.

Das gleiche Prinzip gilt für KI – und es gilt umso dringlicher, da KI nicht mehr nur berät, sondern handelt.

Zwei Wege in die Zukunft

Es gibt zwei Möglichkeiten, wie sich eine Organisation mit KI auseinandersetzen kann.

Der erste Weg besteht darin, die KI der „Big Tech“-Unternehmen zu nutzen – die Chatbots und, zunehmend, die von den größten amerikanischen Technologieunternehmen entwickelten Agenten. Diese sind leistungsstark, praktisch und oft kostenlos oder günstig. Aber sie sind an Bedingungen geknüpft. Ihre Daten fließen auf deren Server. Ihre Unterhaltungen – und mittlerweile auch die Handlungen Ihrer Agenten – durchlaufen Systeme, über die Sie keine Kontrolle haben. Das Verhalten der KI unterliegt den Richtlinien des Unternehmens, die sich ohne Ihre Zustimmung ändern können. Und die Verhaltensmuster der KI werden durch ihre Trainingsdaten bestimmt, auf die Sie keinen Einfluss haben.

Für ein Unternehmen, das Kundendaten, Mitarbeiterdaten oder geschäftlich sensible Informationen verarbeitet, wirft dies Fragen auf, die über reine Präferenzen hinausgehen. Gemäß der DSGVO ist Ihre Organisation dafür verantwortlich, wo personenbezogene Daten verarbeitet werden und von wem. Der Versand von Kundenkorrespondenz über die KI eines Big-Tech-Unternehmens bedeutet, dass Daten auf einer Infrastruktur verarbeitet werden, die Sie nicht kontrollieren, und zwar zu Bedingungen, die Sie nicht aushandeln können. Wenn Sie einen Agenten eines Big-Tech-Unternehmens auf diese Daten zugreifen lassen – mit der Befugnis, Maßnahmen zu ergreifen, die Sie nicht individuell genehmigt haben –, erstreckt sich dieses Risiko von der Speicherung auf die Ausführung von Handlungen.

Der zweite Weg besteht darin, eine KI zu nutzen, die Ihr Unternehmen kontrolliert. Ein gezielteres System, das auf Ihre Inhalte trainiert wurde, auf einer Infrastruktur innerhalb der EU läuft und den von Ihrem Unternehmen festgelegten Regeln unterliegt. Ein System, das den Unterschied zwischen einem Vorstandsbericht und einem Blogbeitrag kennt, weil Ihre Organisation es dies beigebracht hat. Ein System, dessen Antworten von unabhängigen Beobachtern, die getrennt von der KI selbst arbeiten, anhand Ihrer tatsächlichen Unterlagen überprüft werden – und dessen Fähigkeit zum Handeln bewusst begrenzt ist, sodass ein Mensch jederzeit eingreifen kann.

Genau das ist Village AI. Es ist nicht darauf ausgelegt, in puncto reiner Rechenleistung mit den Systemen der Big-Tech-Unternehmen zu konkurrieren. Es ist darauf ausgelegt, Ihrer Organisation treu zu bleiben – Ihren Inhalten, Ihren Werten und Ihrer Unternehmensführung – und Ihnen die Kontrolle zu sichern, wenn KI vom Beantworten zum Handeln übergeht.

Der nächste Artikel dieser Reihe erklärt, wie sich Village AI strukturell von der KI der Big-Tech-Unternehmen unterscheidet und warum dieser Unterschied – gerade jetzt – wichtiger ist als die reine Leistungsfähigkeit.

Möchten Sie KI-Tools wie diese gut und sicher einsetzen? Unsere kostenlosen Kurse – Working with Claude und Agents at Work – vermitteln praktische Fähigkeiten, von der Einholung vertrauenswürdiger Antworten bis hin zur Entscheidung, welche Aufgaben einem Agenten übertragen werden sollen. Die vollständige technische Architektur hinter Village AI finden Sie unter Village AI – Agentic Governance.