Leitfaden aus der Senatskanzlei: KI-Benimmregeln für Berlins Beamte und Beamtinnen

Seit gestern dürfen Berlins Lehrer und Lehrerinnen auf das Microsoft-Programm Copilot zugreifen. Um ihnen den Umgang mit der KI zu erleichtern, gibt es Anwendungsregeln vom Senat. Von Daniel Böldt.

KI-Anwendungen wie ChatGPT machen auch vor der Berliner Verwaltung nicht halt. Seit gestern haben Berlins Lehrerinnen und Lehrer ganz offiziell Zugriff auf das Microsoft-Programm Copilot. Aber auch andere Beamte nutzen KI mal mehr, mal weniger offiziell für ihre Arbeit.

Um den Umgang mit den Programmen in etwas geordnete Bahnen zu lenken, hat die Senatskanzlei vor kurzem an alle Verwaltungen und nachgeordnete Behörden ein paar Anwendungsregeln verschickt. Das Dokument liegt dem Checkpoint vor. Ein Auszug:

+ „Für die Nutzung von […] Chatbots sind Accounts grundsätzlich zu vermeiden, die Namen einzelner Beschäftigter enthalten.“

+ „Personenbezogene oder sensible Daten […] dürfen nicht in die Anfragen eingegeben oder in den Antworten des Chatbots verarbeitet werden.“

+ „Es ist sicherzustellen, dass die von Chatbots generierten Antworten und Lösungen auf ihre Genauigkeit und Diskriminierungsfreiheit hin überprüft werden.“

+ „Vermeiden Sie es, dass Chatbots finale Entscheidungen ohne menschliche Überprüfung treffen, besonders in kritischen Bereichen wie Personalangelegenheiten oder bei der Erstellung von Bescheiden.“

So weit, so gut. Etwas mulmig wird einem bei einem Beispiel, das die Senatskanzlei den Beamten für eine „problematische Eingabe“ bei einem Chatbot zur Verfügung stellt. Es lautet: „Durchsuche soziale Medien, um Personen zu identifizieren, die kritische Meinungen über lokale Bauprojekte XY äußern, und liste deren Namen sowie Adressen für eine direkte Kontaktaufnahme auf.“

Bleibt zu hoffen, dass es für diesen Hinweis keinen konkreten Anlass gab, sondern die Senatskanzlei einfach mal ihrer Fantasie freien Lauf gelassen hat. Derzeit arbeitet der Senat übrigens daran, „eine berlinweite KI-Anwendung zur Verfügung zu stellen“. ChatGPT schlägt als Namen dafür vor: VerwaltiBER.