Zunächst die Frage nach den Daten

Agents at Work — CC BY 4.0

Es gibt eine Gewohnheit, die mehr dazu beiträgt, dich vor Problemen zu bewahren, als alles andere in diesem Kurs, und sie gehört ganz an den Anfang der Entwicklung eines Agenten, nicht ans Ende. Bevor du darüber nachdenkst, was der Agent tun wird, frag dich, womit er in Berührung kommt: Wessen Daten sind im Spiel, wohin gelangen sie und wer kann darauf zugreifen, sobald sie deine Hände verlassen? Das ist der Kern von Anchor 3 – wessen Daten und wer entscheidet – und es ist die eine Gewohnheit, die mir am meisten Kummer erspart hat.

Du kennst diese Frage bereits aus „Working with Claude“ – die Verwahrungsfrage, die gestellt wird, bevor du irgendetwas in einen Chatbot einfügst. Agenten vergrößern das Problem aus zwei Gründen.

Warum ein Agent den Einsatz erhöht

Erstens sieht ein Agent nicht nur das, was du ihm gibst. Verbinde ihn mit deinen Systemen – dem gemeinsamen Laufwerk, dem Posteingang, der Kundendatenbank – und er kann selbstständig auf Daten zugreifen, weit mehr, als du jemals von Hand einfügen würdest. Was auch immer du verbindest, ist der Wirkungsradius.

Zweitens agiert er unbeaufsichtigt. Wenn du einen Lebenslauf in einen Assistenten einfügst, sitzt du zumindest daneben. Ein Agent, der Bewerbungen über Nacht sichht, bewegt die persönlichen Daten anderer Menschen herum, während niemand hinschaut. Die Frage der Datenhoheit ist nicht mehr nur eine einmalige Überprüfung an der Tastatur, sondern wird zu einer Eigenschaft des gesamten Systems: Worauf kann dieses Ding zugreifen, was leitet es weiter und wo landet das?

Was das Gesetz tatsächlich sagt (Neuseeland)

Man muss kein Jurist sein, aber drei Punkte aus dem Datenschutzgesetz verändern die Art und Weise, wie man entwickelt:

• Die Eingabeaufforderung zählt. Der Datenschutzbeauftragte hat unmissverständlich erklärt, dass Ihre Sicherheitspflicht auch die Informationen umfasst, die Sie in ein KI-Tool eingeben. Die Eingabe der Daten eines Kunden oder Bewerbers in ein öffentliches LLM – eines, das die Daten möglicherweise speichert oder damit trainiert – ist keine Grauzone; genau darum geht es beim Sicherheitsprinzip. (Deshalb ist „wir haben die Lebensläufe einfach in ChatGPT eingefügt“ genau der Satz, der einen Personalvermittler sofort stutzig machen sollte.)
• Erfassen Sie nur das Nötigste. Sie sollten einem Agenten keine identifizierenden Angaben zuführen, die für die Aufgabe nicht erforderlich sind. Wenn die Aufgabe „nach Fähigkeiten sortieren“ lautet, braucht es weder den Namen noch das Foto noch das Geburtsdatum.
• Wo die Daten landen, ist entscheidend. Die Weitergabe personenbezogener Daten an einen anderen Dienst – insbesondere an einen im Ausland – kann eine Offenlegung darstellen, für die Sie einen Grund benötigen. Ob eine bestimmte Konfiguration diese Grenze überschreitet, ist wirklich unklar, und genau deshalb müssen Sie diese Entscheidung treffen, bevor Sie den Agenten aktivieren, nicht danach.

Dies ist allgemeine Information, keine Rechtsberatung – aber der Kern der Sache ist einfach: Die Frage nach den Daten ist eine rechtliche Frage, nicht nur eine Frage der Höflichkeit.

Ein Hinweis zu Māori-Daten

Sollte Ihr Agent auf Informationen über Personen mit den Kennungen Māori, whānau, hapū oder iwi zugreifen, betrachten Sie dies als einen Punkt, der ein gemeinsames Gespräch erfordert, nicht als eine Entscheidung, die Sie allein treffen können. Die Datenhoheit bei Māori – das Prinzip, dass Māori-Daten der der Māori-Verwaltung unterliegen – ist eine verbindliche Verpflichtung, und die Menschen, denen sie gehören, sind diejenigen, die entscheiden, wie eine angemessene Nutzung aussieht. Dass ein Agent diese Daten stillschweigend über Nacht erfasst, ist genau die Art von Entscheidung, die nicht standardmäßig getroffen werden sollte.

Die Vorgehensweise

Bevor Sie einen Agenten mit irgendetwas verbinden oder ihn auf einen Stapel Dateien richten, schreiben Sie drei Zeilen auf:

• Wessen Daten sind davon betroffen – meine oder die von jemandem, der mir diese anvertraut hat?
• Wohin gelangen sie, sobald der Agent sie hat – welche Dienste, wessen Infrastruktur, wessen Gesetze?
• Was würde mir ein gutes Gefühl geben – die Anonymisierung der Daten, die Speicherung auf Tools, die ich kontrolliere, oder einfach, diese bestimmten Daten gar nicht erst weiterzugeben?

Wenn du diese Fragen nicht beantworten kannst, bist du noch nicht bereit, den Agenten zu entwickeln – du bist bereit für das Gespräch, in dem entschieden wird, ob du es tun solltest.

Wohin das führt

Frage sechs aus der Triage – wessen Daten, wessen Entscheidung – erweist sich als der Dreh- und Angelpunkt, um den sich der gesamte Kurs dreht. Das ist der Grund, warum der „Recruiter“ unser ausgefeiltestes Beispiel ist, warum „identitätsblind“ ein Gestaltungsprinzip in Stufe 2 ist und warum manche Aufgaben weiterhin von Menschen erledigt werden, egal wie clever die Tools auch werden. In Stufe 1 ging es um Entscheidungen. Als Nächstes, in Stufe 2, beginnen wir mit der Konzeption – wir legen den Aufgabenbereich eines Agenten so fest, dass er nur auf das zugreifen kann, was er soll, und bauen die Schranke auf, an der ein Mensch entscheidet.