Steffen Voß - Technologie & Gesellschaft

Digitalisierungsgesetz für Schleswig-Holstein : Grundsätze und Grenzen des Einsatzes von Künstlicher Intelligenz

Jan Philipp Albrecht mit Kapuzenpulli
Jan Philipp Albrecht | Foto: Ruprecht Stempell

Steffen Voß

Schleswig-​Holstein soll ein Digitalisierungsgesetz bekommen. Darin geht es im eGovernment, Open-​Data und Künstliche Intelligenz. Über das Vorhaben habe ich beim WebMontag mit Digitalisierungsminister Jan Philipp Albrecht gesprochen.

162 Seiten hat der Entwurf. Es ist vermutlich das letzte große Gesetzesprojekt der Jamaika-​Koalition von CDU, Grünen und FDP in Schleswig-​Holstein vor der Landtagswahl im Mai 2022. Dabei ist das Digitalisierungsgesetz eine Sammlung von mehreren Gesetzesänderungen und zwei neuen Gesetzen:

  1. Die Große Koalition von CDU und SPD im Bund hat 2017 das Online-​Zugangsgesetz (OZG) beschlossen. Das verpflichtet Bund und Länder, bis Ende 2022 alle Verwaltungsleistungen auch online anzubieten. In der Umsetzung sind einige rechtliche Probleme in Schleswig-​Holstein aufgefallen. Zum Beispiel Gesetze, die eine Unterschrift auf Formularen erfordern.
    Ein großer Teil des Gesetzes sieht deswegen kleinere Änderungen vor, damit auch Anträge auf Angelscheine oder die Beihilfe der Beamt*innen online umsetzbar sind.
    Allerdings sind auch in diesem Block einige spannende Änderungen vorgesehen. Im eGovernment-​Gesetz soll ein Grundsatz für Open-​Source-​Software festgelegt werden. Bisher war das nur in der Open-​Source-​Strategie des Landes festgelegt, über die ich mit Landes-​CIO Sven Thomsen schon gesprochen hatte. Außerdem will das Land seine Software-​Lösungen den Kommunen anbieten. Die können sich dann solch gemeinsamen Lösungen anschließen.
  2. Das erste komplett neue Gesetz in dem Paket ist das Open-​Data-​Gesetz (ODaG). Das Land hat schon ein Open-​Data-​Portal, das ständig mit weiteren Daten gefüttert wird. Was aber bisher fehlt sind die Geobasisdaten – die Karten von Schleswig-​Holstein. Die sollen jetzt auch frei zur Verfügung gestellt werden. Bislang galten die immer als heimlicher Schatz des Landes und was die Landesverwaltung mit dem Verkauf von Lizenzen einnimmt, steht nicht im Haushalt und konnte nicht einmal eine Kleine Anfrage des Piraten-​Abgeordneten Uli König klären.
    Außerdem sollen unter anderem zwei weitere Vollzeitstellen dafür sorgen, dass mehr Behörden im Land Daten freigeben. Es wird also kein Zwang zu Open-​Data, das Gesetz soll mehr Open-​Data ermöglichen. Denn in der Regel sitzen die Behörden nicht aus bösem Willen zur Intransparenz auf den Daten – sie sehen eher nicht den Sinn und das Potential dieser Daten. Und dann kostet es einfach zu viel Zeit und Aufwand. Das soll sich nun ändern.
  3. Der dritte große Block ist das neue „IT-​Einsatz-​Gesetz“ (ITEG). Dort werden erstmals in einem Gesetz in Deutschland die Grundsätze und Grenzen des Einsatzes von Künstlicher Intelligenz in der Verwaltung geregelt. Das betrifft damit auch Polizei und Verfassungsschutz.

IT-​Einsatz-​Gesetz

Der volle Titel des Gesetzes lautet „Gesetz über die Möglichkeit des Einsatzes von sich selbstständig weiterentwi-​ckelnden, datenbasierten Informationstechnologien bei öffentlich-​rechtlicher Verwaltungstätigkeit“. 

Schon hier wird deutlich, dass sich das Gesetz nicht auf den Mode-​Begriff „Künstliche Intelligenz“ (KI) einlässt. KI bezeichnet seit den 1960er Jahren immer wieder andere Technologien. Vom Expertensystem über den Schachcomputer, bis hin zum Maschinellen Lernen. Auch in der aktuellen Debatte bezeichnet KI unterschiedliche Technologien, die hier aber auch nicht im Einzelnen genannt werden. 

Das Gesetz spricht stattdessen von „sich selbstständig weiterentwickelnden, datenbasierten Informationstechnologien“. Die werden definiert als „eine sich selbstständig weiterentwickelnde, datenbasierte Informationstechnologie […], die zur effizienten Lösung einer speziellen Aufgabe oder einer komplexen Fragestellung auf Grundlage eines Datensatzes mit Hilfe spezieller Systeme, wie künstlicher neuronaler Netze und maschineller Lernverfahren, eingesetzt wird und ohne aktiven Eingriff Parameter der Entscheidungsfindung weiterentwickelt“ ITEG §3 (1) Satz 1

Es soll „sicherstellen, dass der Einsatz dieser Technologien bei der Wahrnehmung der öffentlich-​rechtlichen Verwaltungstätigkeit der Träger der öffentlichen Verwaltung […] unter Wahrung des Rechts auf informationelle Selbstbestimmung sowie der Prinzipien des Vorrangs des menschlichen Handelns, der menschlichen Aufsicht und Verantwortlichkeit, der Transparenz, der technischen Robustheit und Sicherheit, der Vielfalt, Nicht-​Diskriminierung, Fairness sowie des gesellschaftlichen und ökologischen Wohlergehens erfolgt.“ ITEG §1 (2)

Grundsätzlich legal

Es ist demnach grundsätzlich legal, KI in der Verwaltung einzusetzen. Das Gesetz definiert dann einige Fälle, in denen KI nicht eingesetzt werden kann. „RoboCop ist also in Schleswig-​Holstein dann nicht mehr möglich,“ war mein Schluss in dem Gespräch mit Jan Philipp Albrecht. Denn KI ist nicht zulässig, „bei der Ausübung unmittelbaren Zwangs gegen das Leben und die körperliche Unversehrtheit natürlicher Personen im Verwaltungsvollzug.“ 

Die Beurteilung von Personen und ihrer Leistung ist verboten. Gesichtserkennung bei Veranstaltungen. Und wenn ein Gesetz einen Ermessensspielraum vorsieht, muss dieser immer von einem Menschen erfüllt werden. KI darf nicht zum brechen von verschlüsselter Kommunikation verwendet werden.

Der Versuch einer Einstufung

Ein zentraler Aspekt des Gesetzes ist der Versuch der Einstufung von KI. Je nach Einstufung müssen Chancen und Risiken anders bewertet werden. In jedem Fall müssen die Algorithmen offengelegt werden. Und es soll immer noch weiterhin einen menschlichen Ansprechpartner für jede Entscheidung geben.

Es gilt aber immer: wenn ein Bürger oder eine Bürgerin nicht will, dass die Entscheidung von einer Maschine getroffen wird, kann sie eine „KI-​Rüge“ einreichen und verlangen, dass sich ein Mensch um den Fall kümmert.

Einschätzung

Ich bin kein Jurist, deswegen kann ich das Gesetz im Detail nicht beurteilen. Politisch finde ich aber die Festschreibung des Open-​Source-​Prinzips wichtig. Die Förderung von mehr Open-​Data im Land ist sicher einer guter, pragmatischer Ansatz, um Open-​Data wirklich in den Verwaltungen zu verankern. Der Aufwand für die in Schleswig-​Holstein typischerweise kleinen Kommunalverwaltungen dürfte ohnehin groß genug für jeweils eigene Stellen dort sein. Wenn die das ordentlich machen wollen.

Das IT-​Einsatz-​Gesetz scheint mir ein wichtiger Pflock zu sein, den Jan Philipp Albrecht in der Debatte einschlägt. Das PEW Research Center hat gerade erst KI-​Expertinnen und ‑Experten befragt und die meisten von ihnen bezweifeln, dass KI in den nächsten Jahrzehnten ethisch eingesetzt werden wird. Vielmehr bildeten Profitmaximierung und gesellschaftliche Kontrolle die Maßschnur.

Zumindest für die Verwaltung in Schleswig-​Holstein wird dagegen der Grundsatz gelten, dass letztlich immer noch der Mensch entscheiden muss, wenn das ein Bürger oder eine Bürgerin verlangen. KI wird hier eingesetzt, um Verwaltung zu unterstützen und nicht gegen die Bevölkerung.

Allerdings fällt mir auf, dass die Verwendung von KI grundsätzlich erlaubt ist und nur in einigen expliziten Fällen verboten ist. In der Datenschutzgrundverordnung zum Beispiel funktioniert das anders herum. Der Datenschützer Martin Rost hatte mir das bei WebMontag so erklärt, dass man personenbezogene Daten nur verarbeiten darf, wenn sie bestimmte Bedingungen erfüllen und sich an einige Grundsätze halten. 

Vielleicht sollte es auch im ITEG heißen: KI darf nicht eingesetzt werden, außer sie wird in diesen Grenzen eingesetzt und hält sich an diese Grundsätze. Dann muss man nicht ständig das Gesetz ändern, wenn einem noch ein Fall einfällt, in dem man KI lieber nicht einsetzen will.

Ich bin gespannt, wie es jetzt weiter geht. Im September soll das Gesetz in den Landtag. Danach muss es durch drei Ausschüsse und dann kann es beschlossen werden. Vor allem frage ich mich, ob der CDU schmeckt, dass keinen RoboCop geben soll. Denn immer gilt das Strucksche Gesetz: „Kein Gesetz kommt aus dem Parlament, wie es hinein geht.“

Video

Ein Digitalisierungsgesetz für Schleswig-Holstein

Erst wenn Du das Video startest, werden Daten an YouTube übermittelt.

Hat’s Dir gefallen? Bitte teilen:



Schreibe einen Kommentar

Deine E-Mail-Adresse wird nicht veröffentlicht. Erforderliche Felder sind mit * markiert.