Grundsätze und Grenzen des Einsatzes von Künstlicher Intelligenz

Schles­wig-Hol­stein soll ein Digi­ta­li­sie­rungs­ge­setz bekom­men. Dar­in geht es im eGo­vern­ment, Open-Data und Künst­li­che Intel­li­genz. Über das Vor­ha­ben habe ich beim Web­Mon­tag mit Digi­ta­li­sie­rungs­mi­nis­ter Jan Phil­ipp Albrecht gesprochen.

162 Sei­ten hat der Ent­wurf. Es ist ver­mut­lich das letz­te gro­ße Geset­zes­pro­jekt der Jamai­ka-Koali­ti­on von CDU, Grü­nen und FDP in Schles­wig-Hol­stein vor der Land­tags­wahl im Mai 2022. Dabei ist das Digi­ta­li­sie­rungs­ge­setz eine Samm­lung von meh­re­ren Geset­zes­än­de­run­gen und zwei neu­en Gesetzen:

1. Die Gro­ße Koali­ti­on von CDU und SPD im Bund hat 2017 das Online-Zugangs­ge­setz (OZG) beschlos­sen. Das ver­pflich­tet Bund und Län­der, bis Ende 2022 alle Ver­wal­tungs­leis­tun­gen auch online anzu­bie­ten. In der Umset­zung sind eini­ge recht­li­che Pro­ble­me in Schles­wig-Hol­stein auf­ge­fal­len. Zum Bei­spiel Geset­ze, die eine Unter­schrift auf For­mu­la­ren erfor­dern.
   Ein gro­ßer Teil des Geset­zes sieht des­we­gen klei­ne­re Ände­run­gen vor, damit auch Anträ­ge auf Angel­schei­ne oder die Bei­hil­fe der Beamt*innen online umsetz­bar sind.
   Aller­dings sind auch in die­sem Block eini­ge span­nen­de Ände­run­gen vor­ge­se­hen. Im eGo­vern­ment-Gesetz soll ein Grund­satz für Open-Source-Soft­ware fest­ge­legt wer­den. Bis­her war das nur in der Open-Source-Stra­te­gie des Lan­des fest­ge­legt, über die ich mit Lan­des-CIO Sven Thom­sen schon gespro­chen hat­te. Außer­dem will das Land sei­ne Soft­ware-Lösun­gen den Kom­mu­nen anbie­ten. Die kön­nen sich dann solch gemein­sa­men Lösun­gen anschließen.
2. Das ers­te kom­plett neue Gesetz in dem Paket ist das Open-Data-Gesetz (ODaG). Das Land hat schon ein Open-Data-Por­tal, das stän­dig mit wei­te­ren Daten gefüt­tert wird. Was aber bis­her fehlt sind die Geo­ba­sis­da­ten – die Kar­ten von Schles­wig-Hol­stein. Die sol­len jetzt auch frei zur Ver­fü­gung gestellt wer­den. Bis­lang gal­ten die immer als heim­li­cher Schatz des Lan­des und was die Lan­des­ver­wal­tung mit dem Ver­kauf von Lizen­zen ein­nimmt, steht nicht im Haus­halt und konn­te nicht ein­mal eine Klei­ne Anfra­ge des Pira­ten-Abge­ord­ne­ten Uli König klä­ren.
   Außer­dem sol­len unter ande­rem zwei wei­te­re Voll­zeit­stel­len dafür sor­gen, dass mehr Behör­den im Land Daten frei­ge­ben. Es wird also kein Zwang zu Open-Data, das Gesetz soll mehr Open-Data ermög­li­chen. Denn in der Regel sit­zen die Behör­den nicht aus bösem Wil­len zur Intrans­pa­renz auf den Daten – sie sehen eher nicht den Sinn und das Poten­ti­al die­ser Daten. Und dann kos­tet es ein­fach zu viel Zeit und Auf­wand. Das soll sich nun ändern.
3. Der drit­te gro­ße Block ist das neue „IT-Ein­satz-Gesetz“ (ITEG). Dort wer­den erst­mals in einem Gesetz in Deutsch­land die Grund­sät­ze und Gren­zen des Ein­sat­zes von Künst­li­cher Intel­li­genz in der Ver­wal­tung gere­gelt. Das betrifft damit auch Poli­zei und Verfassungsschutz.

IT-Einsatz-Gesetz

Der vol­le Titel des Geset­zes lau­tet „Gesetz über die Mög­lich­keit des Ein­sat­zes von sich selbst­stän­dig wei­ter­ent­wi-ckeln­den, daten­ba­sier­ten Infor­ma­ti­ons­tech­no­lo­gien bei öffent­lich-recht­li­cher Verwaltungstätigkeit“. 

Schon hier wird deut­lich, dass sich das Gesetz nicht auf den Mode-Begriff „Künst­li­che Intel­li­genz“ (KI) ein­lässt. KI bezeich­net seit den 1960er Jah­ren immer wie­der ande­re Tech­no­lo­gien. Vom Exper­ten­sys­tem über den Schach­com­pu­ter, bis hin zum Maschi­nel­len Ler­nen. Auch in der aktu­el­len Debat­te bezeich­net KI unter­schied­li­che Tech­no­lo­gien, die hier aber auch nicht im Ein­zel­nen genannt werden. 

Das Gesetz spricht statt­des­sen von „sich selbst­stän­dig wei­ter­ent­wi­ckeln­den, daten­ba­sier­ten Infor­ma­ti­ons­tech­no­lo­gien“. Die wer­den defi­niert als „eine sich selbst­stän­dig wei­ter­ent­wi­ckeln­de, daten­ba­sier­te Infor­ma­ti­ons­tech­no­lo­gie […], die zur effi­zi­en­ten Lösung einer spe­zi­el­len Auf­ga­be oder einer kom­ple­xen Fra­ge­stel­lung auf Grund­la­ge eines Daten­sat­zes mit Hil­fe spe­zi­el­ler Sys­te­me, wie künst­li­cher neu­ro­na­ler Net­ze und maschi­nel­ler Lern­ver­fah­ren, ein­ge­setzt wird und ohne akti­ven Ein­griff Para­me­ter der Ent­schei­dungs­fin­dung wei­ter­ent­wi­ckelt“ ITEG §3 (1) Satz 1

Es soll „sicher­stel­len, dass der Ein­satz die­ser Tech­no­lo­gien bei der Wahr­neh­mung der öffent­lich-recht­li­chen Ver­wal­tungs­tä­tig­keit der Trä­ger der öffent­li­chen Ver­wal­tung […] unter Wah­rung des Rechts auf infor­ma­tio­nel­le Selbst­be­stim­mung sowie der Prin­zi­pi­en des Vor­rangs des mensch­li­chen Han­delns, der mensch­li­chen Auf­sicht und Ver­ant­wort­lich­keit, der Trans­pa­renz, der tech­ni­schen Robust­heit und Sicher­heit, der Viel­falt, Nicht-Dis­kri­mi­nie­rung, Fair­ness sowie des gesell­schaft­li­chen und öko­lo­gi­schen Wohl­erge­hens erfolgt.“ ITEG §1 (2)

Grundsätzlich legal

Es ist dem­nach grund­sätz­lich legal, KI in der Ver­wal­tung ein­zu­set­zen. Das Gesetz defi­niert dann eini­ge Fäl­le, in denen KI nicht ein­ge­setzt wer­den kann. „Robo­Cop ist also in Schles­wig-Hol­stein dann nicht mehr mög­lich,“ war mein Schluss in dem Gespräch mit Jan Phil­ipp Albrecht. Denn KI ist nicht zuläs­sig, „bei der Aus­übung unmit­tel­ba­ren Zwangs gegen das Leben und die kör­per­li­che Unver­sehrt­heit natür­li­cher Per­so­nen im Verwaltungsvollzug.“ 

Die Beur­tei­lung von Per­so­nen und ihrer Leis­tung ist ver­bo­ten. Gesichts­er­ken­nung bei Ver­an­stal­tun­gen. Und wenn ein Gesetz einen Ermes­sens­spiel­raum vor­sieht, muss die­ser immer von einem Men­schen erfüllt wer­den. KI darf nicht zum bre­chen von ver­schlüs­sel­ter Kom­mu­ni­ka­ti­on ver­wen­det werden.

Der Versuch einer Einstufung

Ein zen­tra­ler Aspekt des Geset­zes ist der Ver­such der Ein­stu­fung von KI. Je nach Ein­stu­fung müs­sen Chan­cen und Risi­ken anders bewer­tet wer­den. In jedem Fall müs­sen die Algo­rith­men offen­ge­legt wer­den. Und es soll immer noch wei­ter­hin einen mensch­li­chen Ansprech­part­ner für jede Ent­schei­dung geben.

• In der Stu­fe 1 fin­den sich Assis­tenz­sys­tem, die die Arbeit von Men­schen nur unter­stüt­zen. Der Mensch ent­schei­det jeweils, ob er das Sys­tem nut­zen will oder nicht.
• In der Stu­fe 2 dele­giert der Mensch Auf­ga­ben dau­er­haft an ein Sys­tem, das nur sehr ein­deu­ti­ge Ent­schei­dun­gen selbst tref­fen darf.
• In der Stu­fe 3 darf das Sys­tem auch kom­ple­xe­re Ent­schei­dun­gen selbst treffen

Es gilt aber immer: wenn ein Bür­ger oder eine Bür­ge­rin nicht will, dass die Ent­schei­dung von einer Maschi­ne getrof­fen wird, kann sie eine „KI-Rüge“ ein­rei­chen und ver­lan­gen, dass sich ein Mensch um den Fall kümmert.

Einschätzung

Ich bin kein Jurist, des­we­gen kann ich das Gesetz im Detail nicht beur­tei­len. Poli­tisch fin­de ich aber die Fest­schrei­bung des Open-Source-Prin­zips wich­tig. Die För­de­rung von mehr Open-Data im Land ist sicher einer guter, prag­ma­ti­scher Ansatz, um Open-Data wirk­lich in den Ver­wal­tun­gen zu ver­an­kern. Der Auf­wand für die in Schles­wig-Hol­stein typi­scher­wei­se klei­nen Kom­mu­nal­ver­wal­tun­gen dürf­te ohne­hin groß genug für jeweils eige­ne Stel­len dort sein. Wenn die das ordent­lich machen wollen.

Das IT-Ein­satz-Gesetz scheint mir ein wich­ti­ger Pflock zu sein, den Jan Phil­ipp Albrecht in der Debat­te ein­schlägt. Das PEW Rese­arch Cen­ter hat gera­de erst KI-Exper­tin­nen und ‑Exper­ten befragt und die meis­ten von ihnen bezwei­feln, dass KI in den nächs­ten Jahr­zehn­ten ethisch ein­ge­setzt wer­den wird. Viel­mehr bil­de­ten Pro­fit­ma­xi­mie­rung und gesell­schaft­li­che Kon­trol­le die Maßschnur.

Zumin­dest für die Ver­wal­tung in Schles­wig-Hol­stein wird dage­gen der Grund­satz gel­ten, dass letzt­lich immer noch der Mensch ent­schei­den muss, wenn das ein Bür­ger oder eine Bür­ge­rin ver­lan­gen. KI wird hier ein­ge­setzt, um Ver­wal­tung zu unter­stüt­zen und nicht gegen die Bevölkerung.

Aller­dings fällt mir auf, dass die Ver­wen­dung von KI grund­sätz­lich erlaubt ist und nur in eini­gen expli­zi­ten Fäl­len ver­bo­ten ist. In der Daten­schutz­grund­ver­ord­nung zum Bei­spiel funk­tio­niert das anders her­um. Der Daten­schüt­zer Mar­tin Rost hat­te mir das bei Web­Mon­tag so erklärt, dass man per­so­nen­be­zo­ge­ne Daten nur ver­ar­bei­ten darf, wenn sie bestimm­te Bedin­gun­gen erfül­len und sich an eini­ge Grund­sät­ze halten. 

Viel­leicht soll­te es auch im ITEG hei­ßen: KI darf nicht ein­ge­setzt wer­den, außer sie wird in die­sen Gren­zen ein­ge­setzt und hält sich an die­se Grund­sät­ze. Dann muss man nicht stän­dig das Gesetz ändern, wenn einem noch ein Fall ein­fällt, in dem man KI lie­ber nicht ein­set­zen will.

Ich bin gespannt, wie es jetzt wei­ter geht. Im Sep­tem­ber soll das Gesetz in den Land­tag. Danach muss es durch drei Aus­schüs­se und dann kann es beschlos­sen wer­den. Vor allem fra­ge ich mich, ob der CDU schmeckt, dass kei­nen Robo­Cop geben soll. Denn immer gilt das Struck­sche Gesetz: „Kein Gesetz kommt aus dem Par­la­ment, wie es hin­ein geht.“

Video