Die souveräne Entscheidung – wessen Computer, wessen Gesetze

Agents at Work — CC BY 4.0

Sie haben einen Agenten entwickelt. Hier ist eine Frage, die Ihnen der Entwickler nie gestellt hat: Auf wessen Computer läuft er eigentlich, und welchen Gesetzen unterliegen Ihre Daten, während sie sich dort befinden?

Für die meisten Menschen lautet die ehrliche Antwort: „Einem sehr großen Unternehmen, in einem anderen Land, unter den Gesetzen dieses Landes“ – und sie haben noch nie darüber nachgedacht, weil das Tool einfach funktioniert. In dieser Lektion geht es darum, darüber nachzudenken, denn bei einigen Aufgaben, die ein Agent ausführt, verändert die Antwort die Art und Weise, wie du ihn entwickeln solltest.

Der Kompromiss, ganz offen gesagt

Hier gibt es einen echten Kompromiss, und so zu tun, als wäre es anders, hilft niemandem .

• Ein öffentlich zugängliches Tool – die großen, in den USA gehosteten Modelle – ist derzeit in der Regel die leistungsfähigste Option. Es ist aber auch die Option, bei der Ihre Daten Ihrer Kontrolle entgleiten: Sie befinden sich auf einer Infrastruktur, die einem Unternehmen unter der Gerichtsbarkeit eines anderen Landes gehört. Nach dem US-amerikanischen CLOUD können US-Behörden auf Daten zugreifen, die von US-amerikanischen Anbietern gespeichert werden, unabhängig davon, wo auf der Welt sie sich physisch befinden. Für viele alltägliche Aufgaben ist dieser Kompromiss in Ordnung, und man würde ihn bewusst eingehen.
• Eine souveräne Option – ein Modell, das auf Ihrem eigenen Rechner oder auf einer von Ihnen kontrollierten Infrastruktur in Neuseeland oder der EU läuft – sorgt dafür, dass die Daten unter Ihrer Kontrolle bleiben. Ihre Daten bleiben unter Ihrer Kontrolle und unterliegen Ihrem Recht. Die Kosten sind ebenfalls real: Die Lösung ist möglicherweise weniger leistungsfähig, der Einrichtungsaufwand ist höher, und sie verfügt nicht über den Schliff der großen öffentlichen Tools.

Keine der beiden ist „die richtige Antwort“. Es geht darum, die Entscheidung bewusst zu treffen, abgestimmt auf das, womit der Agent in Berührung kommt – und das ist Anker 3: KI-Kompetenz als Fundament, angewandt auf die Infrastruktur statt auf Anweisungen.

Wann die Verwahrung Vorrang haben sollte

Gehen Sie noch einmal die Datenfrage aus Stufe 1 durch. Je mehr der Agent mit den personenbezogenen Daten anderer Menschen in Berührung kommt – Bewerber, Patienten, Mitglieder, whānau –, desto mehr wiegt die Verwahrungsseite des Abwägungsprozesses . „Es ist bequemer mit dem öffentlichen Tool“ ist eine schwache Antwort, wenn das, was man ihm zuführt, ein Stapel von Leben anderer Menschen ist, die treuhänderisch verwahrt werden.

An dieser Stelle verliert die te Tiriti-Verpflichtung auch ihren abstrakten Charakter. Wenn ein Akteur auf Informationen zugreift, die Māori betreffen oder ihm gehören – Einzelpersonen, whānau, hapū, iwi –, ist die Frage, wessen Infrastruktur und wessen Governance hier zum Tragen kommt, keine technische Fußnote; sondern eine Verpflichtung zur Datenhoheit (Tier 4 greift dies angemessen auf). Ein Agent, der diese Daten stillschweigend ins Ausland an ein öffentliches Modell übermittelt, ist genau die Entscheidung, die nicht standardmäßig getroffen werden sollte.

Das gleiche Muster, eine andere Grundlage

Die gute Nachricht ist, dass sich nichts von dem, was Sie gelernt haben, ändert. Das Entwicklungsmuster aus der letzten Lektion – Umfang, Kriterien, Leitplanken, Test – ist identisch, unabhängig davon, ob das Modell auf einem öffentlichen Tool oder auf einer souveränen Infrastruktur läuft. Dem Design des Agenten ist es egal, wo die Inferenz stattfindet. Die souveräne Option erfordert also keine anderen Fähigkeiten; es ist derselbe Agent, der auf einer von Ihnen kontrollierten Infrastruktur läuft.

Das ist die Richtung, in die unsere eigene Arbeit zielt – das „Village“ existiert, um das souveräne Ende dieses Spektrums zu bilden: dieselbe Art von Agent, der auf Infrastruktur unter neuseeländischer und europäischer Gerichtsbarkeit läuft statt im Ausland. Man kann ehrlich sagen, dass dieses Ende des Spektrums noch jünger und unausgereifter ist als die ausgefeilten öffentlichen Tools; die Demo ist ein Ausgangspunkt, kein fertiges Produkt. Aber der Grund für ihre Existenz ist genau diese Erkenntnis: damit „die Kontrolle behalten“ nicht bedeuten muss, „auf einen Agenten zu verzichten“.

Der Schritt zur Eigenentwicklung

Stellen Sie sich bei dem Agenten, den Sie entwickeln würden, die Frage, die das Tool nie stellt:

• Womit kommt es in Berührung –mit meinen Daten oder mit denen anderer Personen, die treuhänderisch verwahrt werden?
• Wo findet die Inferenz statt – auf wessen Computer, in wessen Rechtsraum?
• Rechtfertigt die Sensibilität der Daten den Kompromiss zwischen Funktionalität – öffentlich und leistungsfähig – oder Souveränität und Kontrolle durch mich?

Manchmal ist die Antwort das öffentliche Tool, das man bewusst wählt. Manchmal ist es eine souveräne Infrastruktur, weil bei diesen Daten die Verwahrung wichtiger ist als der äußere Glanz. Die falsche Antwort ist die, die du nie wirklich gegeben hast.

Weiter

Stufe 4: Den Agenten in Betrieb nehmen, ihn während der Ausführung beobachten, das Recht, dem Sie tatsächlich unterliegen, und die Pflichten, die Sie gegenüber den Menschen auf der anderen Seite davon haben.