Dr. Falko Grube (SPD):

Frau Präsidentin! Hohes Haus! Ich danke der antragstellenden Fraktion ausdrücklich für die Debatte; denn das ist ein wichtiges Thema. Wenn das Interesse der Landesregierung, was ich jetzt aus der Anwesenheit schließe, an dem Thema genauso groß ist wie selbige, können wir hier in Sachsen-Anhalt einpacken.

(Beifall bei der SPD)

Herr Czekalla, ich habe mir den gleichen Spaß gemacht. Ich habe Chat GPT gesagt: Schreib mir mal eine Rede zu Gefahren und Chancen von KI. - Ich mache das nicht so lang. Bei mir kam Folgendes heraus:

Wir leben in einer Zeit des technologischen Fortschritts, in der künstliche Intelligenz immer häufiger eingesetzt wird, um uns in unserem täglichen Leben zu unterstützen. Wir nutzen sie in der Medizin, im Transportwesen und in vielen anderen Bereichen. Die KI-Systeme sind in der Lage, komplexe Probleme in Sekundenschnelle zu lösen. Doch wenn sie außer Kontrolle geraten, können sie unvorhergesehene und möglicherweise katastrophale Folgen haben. Wir müssen uns darüber im Klaren sein, dass KI-Systeme keine moralischen Werte oder ethischen Prinzipien haben. Sie handeln nur auf der Grundlage von Algorithmen und Daten. Wenn wir ihnen keine klaren Grenzen setzen und sicherstellen, dass sie ethischen Richtlinien folgen, können Sie unvorstellbaren Schaden anrichten.

Sie sehen, das ist ziemlich nahe an dem, worum es in dieser Debatte geht. Ich hätte den letzten Satz nicht so hart formuliert. Für mich ist KI eher eine Chance als ein Risiko. Aber im Kern stimmt das natürlich.

Mit ChatGPT erleben wir sichtbar die nächste Stufe der digitalen Revolution. Das, was Konzerne schon viel länger nutzen, wird jetzt massentauglich. Und aufzuhalten ist das nicht. KI-Systeme sind gekommen, um zu bleiben. Wer das anders sieht, wird sich später in die lange Reihe spektakulärer Fehlprognosen aus der Techbranche einreihen dürfen.

Einer meiner liebsten ist die von Robert Metcalfe, dem Gründer von 3Com und Erfinder der Ethernetverbindung, die heute Standard für kabelbasierte Netzwerke ist. Der sagte mal über sein „Baby“: „Dass Internet wird wie eine spektakuläre Supernova im Jahr 1996 in einem katastrophalen Kollaps untergehen.“ - Tja, das Internet hat sich doch durchgesetzt. Mit der KI wird es das Gleiche sein.

(Zustimmung bei der SPD)

Wie also gehen wir damit um? - Wir brauchen klare Regeln und wir brauchen Transparenz. Eine Debatte über Verbote, die man bisweilen liest, ist absoluter Unsinn. Dann können Sie auch versuchen, das nächste Hochwasser mit einem Wischeimer zu bekämpfen.

(Lachen)

Was wir brauchen, ist ein rechtssicherer Rahmen, der regelt, was KI darf und was nicht. Wir müssen verstehen und transparent machen, wie Softwareprogramme wie ChatGPT arbeiten. Wir müssen für den schulischen und für den universitären Raum einen Weg schaffen, durch KI-generierte Texte zu erkennen. Und wir brauchen klare Regeln in Schule und Hochschule, wie man solche Texte kenntlich macht. Aber nicht nur dort, wir brauchen generell eine Kennzeichnungspflicht für KI-generierten Content.

KI ist heute schon Realität. Und jeder in diesem Raum hat zumindest in Vorstufen damit zu tun. Ich will jetzt niemandem unterstellen, dass er mit Alexa und Siri mehr als mit Frau und mit Kind spricht. Aber: Alexa und Siri sind in ganz vielen Familien schon ganz beliebte und vertraute Familienmitglieder.

(Unruhe - Zuruf)

Es gibt noch einen Bereich, in dem viele von uns mit KI zu tun haben. Rufen Sie heute mal bei einer x-beliebigen Hotline an, außer bei der öffentlichen Verwaltung. Dann sind Sie zuerst mit einen Bot verbunden, der Sie durch irgendwelche Standardfragen führt, bevor Sie zu einem Menschen vermittelt werden. Das macht total Sinn, weil man Standardfragen auch maschinell abarbeiten kann. Für die richtigen Probleme gibt es dann die Mitarbeiterinnen und Mitarbeiter.

KI-Systeme können in ganz vielen Bereich helfen. Es ist schon vieles genannt worden: Landwirtschaft, Medizin, Automobilindustrie, Energieproduktion, Abfallwirtschaft. Und ja, meine Damen und Herren, insofern ist KI ein Wirtschaftsfaktor   der Kollege Pott hat darauf völlig zu Recht hingewiesen  , übrigens auch ein wachsender.

Auch in Sachsen-Anhalt gibt es mehrere Unternehmen, die im Bereich der KI tätig sind. Ein Beispiel: Sensape GmbH, ein Unternehmen aus Magdeburg, das sich auf die Entwicklung von KI-basierten interaktiven Erlebnissen spezialisiert hat, oder ### GmbH, ein Unternehmen aus Halle, das sich auf die Entwicklung von KI-basierten Softwarelösungen für 3-D-Rekonstruktionen und Vermessung spezialisiert hat bzw. Nannyfy Solutions GmbH; dort können sie KI-basiert Ihre Kinderbetreuung bekommen.

Und, ja, Frau Ministerin, Sie haben recht, die KI muss in die öffentliche Verwaltung.

(Zustimmung bei der SPD)

Wir müssen davon wegkommen, dass man bei Standardvorgängen wie Eltern-, Wohn- oder Kindergeld Papier an irgendwelche Menschen schickt, ein halbes Jahr wartet und, wenn man Glück hat, vielleicht einen Bescheid bekommt, manchmal auch eine Nachforderung. Das muss in fünf Minuten gehen. Das muss übrigens auch bei standardisierten Bauanträgen für ein einfaches Einfamilienhaus in fünf Minuten gehen.

Die Anträge müssen elektronisch eingereicht werden können. Daran arbeiten wir mit Open Government. Dann muss eine KI es nach einer Plausibilitätsprüfung möglich machen, dass man nach fünf Minuten einen Antrag hat und nicht nach fünf Jahren. Das ist im Übrigen der einzige Weg, eine Bürokratiebelastung zu verhindern. Da rede ich nicht von Bürokratiereduzierung, sondern von einer schnelleren Bearbeitung von bürokratischen Vorgängen. Die KI ist die einzige Möglichkeit, tatsächlich die Bürokratiebelastung zu reduzieren.

(Beifall bei der SPD)

Meine Damen und Herren! Die KI wird Menschen nicht überflüssig machen. Die KI kann 90 % bis 95 % von Standardvorgängen abarbeiten. Für den Rest braucht man gut qualifizierte Leute, für das Erstellen von Texten übrigens auch in Zukunft. Ich verweise auf mein Zitat vom Anfang meiner Rede.

Ja, das war eine Rede. Aber es war noch keine gute Rede, weil eine gute Rede doch viel mehr ist als die sachliche Wiedergabe von Tatsachen, Einschätzungen und Zusammenhängen. Sie braucht Emotionen, den Abgleich mit dem Publikum. Das kennen Sie alle selbst, wenn Sie hier reden. Vielleicht kann KI das Ganze irgendwann einmal. Im Moment kann sie es noch nicht.

Sie kennen das vom Raumschiff „Enterprise“. Data hat auch ganz lange auf seinen Emotionschip gewartet. Mal gucken, wie schnell ChatGPT dabei ist.

Meine Damen und Herren! Neben diesen Chancen und Stärken von KI müssen wir uns mit den Risiken auseinandersetzen. Wir müssen klare Richtlinien und Regulierungen einführen, um sicherzustellen, dass diese Technologien verantwortungsvoll eingesetzt werden.

Wir müssen unsere Fähigkeiten und Kenntnisse erweitern, um die Vorteile von KI nutzen zu können.

Ich will etwas ansprechen, das beim Kollegen Lange auch schon anklang, nämlich die Frage der Diskriminierung durch KI. KI und Algorithmen klingen immer nach Neutralität, aber das ist ein großer Irrglaube. Maschinen sind nicht neutral und KI ist nicht frei von Vorurteilen. KI bedeutet aktuell, dass Maschinen auf der Basis von Daten selbstständig lernen. Diese Daten werden aber von Menschen erstellt und enthalten deren Interpretationsmuster, also die Festlegung darüber, was normal ist. Das ist natürlich mit Diskriminierung behaftet.

Ein Beispiel. Nehmen wir einmal an, jemand sollte auf KI-Grundlage eine App entwickeln, die verlässlich erkennt, ob jemand gerade einen Herzinfarkt erleidet. Das kann fürchterlich schiefgehen. In der medizinischen Forschung gab es jahrzehntelang keine geschlechtsspezifischen Reihen über Symptome von Krankheiten bei Frauen und Männern. Ein Beispiel ist der Herzinfarkt. Wenn Sie googeln, dann finden Sie Aussagen wie: Die betroffene Person hat starke Schmerzen hinter dem Brustbein, oft mit Ausstrahlung in den linken Arm, die Schulter, den Unterkiefer oder den Oberbauch. - Bei Frauen ist die Symptomatik oft anders. Das führt dazu, Zitat, dass Frauen zuerst an eine harmlose Magenverstimmung denken. - Wenn Sie nur das Erstgenannte als Datengrundlage in die App einfüttern, dann kann es sein, dass die App Infarkte nicht erkennt. Sie erkennen, worauf ich hinaus will.

Die gleichen Mechanismen finden wir bei automatisierten Bewerbungsverfahren, bei der Vergabe von Krediten oder bei der Einstufung von Versicherungen. Diese Beispiele zeigen: Wir brauchen klare Richtlinien. Genau das wird auch aktuell in der EU diskutiert. Die EU-Kommission will den sogenannten Artificial Intelligence Act auf den Weg bringen, der den Einsatz von künstlicher Intelligenz besser regulieren soll. Die Regeln sollen für alle Branchen gleichermaßen gelten.

Meine Damen und Herren! KI birgt viele Chancen. Diese sollten wir nutzen. Es braucht klare Regeln. Die müssen wir aufstellen. KI ist eine der wichtigsten Technologien unserer Zeit. Lassen Sie uns dafür sorgen, dass diese Technologie sicher und verantwortungsvoll eingesetzt wird.

Zum Abschluss habe ich den Gag noch einmal gemacht. Ich habe ChatGPT gefragt, ob KI die Weltherrschaft anstrebt.

(Lachen)

Die Antwort war:

Es gibt derzeit keine klaren Beweise dafür, dass KI jemals in der Lage sein wird, die Weltherrschaft zu erlangen.

(Konstantin Pott, FDP, lacht)

Es ist wichtig zu beachten, dass KI nur das tun kann, wozu sie programmiert wurde, und dass sie nicht in der Lage ist, Entscheidungen unabhängig von ihrem Programm oder Kontext zu treffen. Und genau darauf müssen wir unseren Fokus legen. Wir müssen Regulierungen schaffen, die sicherstellen, dass KI-Systeme sicher und verantwortungsbewusst entwickelt und eingesetzt werden. Diese Richtlinien müssen regeln, wie es sich mit den Themen Datenschutz, Transparenz, Urheberrecht und Jugendschutz im Bereich KI verhält. Solange diese Richtlinien und Regulierungen respektiert und eingehalten werden, ist es unwahrscheinlich, dass KI jemals die Weltherrschaft erlangen wird.

(Olaf Meister, GRÜNE: Kein klares Nein!)

Ich habe mich übrigens bei einem Gedanken ertappt, der auch eine gewisse persönliche kulturelle Prägung durch Science-Fiction-Filme und -Literatur erkennen lässt. Ich habe mich gefragt, ob das eine ehrliche Antwort war oder ob die KI mich nur in Sicherheit wiegen wollte.

(Lachen)

Ich habe mich übrigens damit beruhigt, dass die KI noch nicht so weit ist. Solange Alexa auf den Befehl „Öffne House of Cards!“ hin nur das nächste Pokerturnier anmacht, bin ich erst einmal beruhigt. Dann wird es wohl erst einmal nichts mit der Weltherrschaft. Ich persönlich bleibe auf der Seite der KI-Optimisten. Die Genehmigung eines einfachen Bauantrags innerhalb von fünf Minuten durch KI ist keine Vision, sondern eine konkrete staatliche Aufgabe, die es umzusetzen gilt. Insofern freue ich mich auf die Chancen für die nächsten Jahre.

So bleibt nur noch ein letzter Satz: Alexa, bitte ausschalten.

(Zustimmung bei der SPD, bei der CDU und bei der FDP)

Vizepräsidentin Anne-Marie Keding:

Ich heiße zwar nicht Alexa, bedanke mich aber trotzdem für Ihren Debattenbeitrag

(Lachen)