Dr. Lydia Hüskens (Ministerin für Infrastruktur und Digitales):
Frau Präsidentin! Meine Damen und Herren! Ich bin dem Landtag dankbar das meine ich so für die heutige Diskussion; denn wir müssen in Sachsen-Anhalt über Digitalisierung und nicht nur über KI reden, vor allem, weil wir uns die Chancen klarmachen müssen, die die Digitalisierung bietet, aktuell die Automatisierung und in Zukunft KI.
Ich bin optimistisch, dass sich die Unternehmen unseres Bundeslandes, die sich dieser Herausforderung noch nicht gestellt haben, dieser Herausforderung definitiv stellen werden. Diese Herausforderung muss aber auch die Landesverwaltung für sich annehmen.
(Zustimmung bei der FDP)
Mir fällt zunehmend bei vielen Gesprächen auf, die ich in den unterschiedlichen Ressorts führe, dass wir in den Verwaltungen unseres Bundeslandes sehr unterschiedlich unterwegs sind. Wir befinden uns in sehr unterschiedlichen Modi und wir sind in sehr unterschiedlicher Geschwindigkeit unterwegs. Selbst das Ausdrucken von ganzen Vorgängen soll noch vereinzelt vorkommen.
(Dr. Falko Grube, SPD: Ach! - Sebastian Striegel, GRÜNE: Ach!)
Mit der Diskussion über ChatGPT kommt jetzt eine neue Dimension hinzu. Die im Antrag genannte KI-Revolution hat jetzt, mit dieser Anwendung, den Namen wirklich verdient.
(Zustimmung bei der FDP)
Noch im Jahr 2016 musste Microsoft den Chatbot Tay aufgrund sehr problematischer Aussagen nach nur 24 Stunden wieder aus dem Internet nehmen. Meta reagierte für seinen Chatbot Galactica im November 2022 aus gleichem Grund nach drei Tagen entsprechend. Mit ChatGPT des Start-ups OpenAI ist seit November 2022 erstmals ein leistungsstarkes Sprachmodell längerfristig für die Öffentlichkeit im Internet verfügbar.
ChatGPT ist in der Lage, komplexe Zusammenhänge zu verstehen und eine Vielzahl von Fragen zu beantworten. Mit der Veröffentlichung der vierten Version von ChatGPT Mitte März 2023 hat die KI einen qualitativen Schritt gemacht, der die Diskussion angeheizt hat. Eines der Ergebnisse ist die Aktuelle Debatte heute.
Aufgrund des Innovationspotenzials ist es die wohl am schnellsten wachsende Webanwendung der Geschichte. Es wird schon jetzt deutlich, weitere ähnliche Anwendungen werden folgen. Man muss aber wirklich darauf hinweisen, KI-Anwendungen, die diese Bezeichnung verdienen, stecken vielfach noch in den sprichwörtlichen Kinderschuhen. Das heißt, es wird in Zukunft noch viel mehr gehen und KI wird in immer mehr Bereichen Einzug halten. Aber zurück zur aktuellen Situation.
In der Diskussion wird gesagt: Chancen und Risiken. Schauen wir einmal auf die Chancen. Durch die Nutzung von Bots wie ChatGPT können wir Texte deutlich schneller erarbeiten. Antworten werden präzise gegeben, und, ganz offen, die Qualität der Texte ist zum Teil wirklich beeindruckend. Dafür muss sich der eine oder andere mit menschlicher Intelligenz schon ein bisschen anstrengen.
Man kann sich auch vorstellen das muss ich ganz klar sagen , dass Verwaltung entsprechende Software einsetzt. Ich bin mir durchaus sicher, dass der eine oder andere Mitarbeiter in der Landesverwaltung das auch schon macht.
Wir müssen natürlich auch andere Anwendungsmöglichkeiten sehen und das ist meine feste Überzeugung einmal alle Verwaltungsprozesse auf den Prüfstand stellen, die einer Automatisierung eigentlich zugänglich sind.
(Zustimmung bei der FDP)
Ich finde, dass wir dafür gerade jetzt einen sehr guten Zeitraum haben. Ich merke das immer, wenn ich z. B. in der Kommunalverwaltung unterwegs bin, die geradezu klassisch Massengeschäft macht. Es gibt eine Vielzahl von Anträgen, die relativ gleichartig sind. Sie müssen im Augenblick von Menschen mit sehr viel Personalaufwand und mit sehr viel Zeitaufwand bearbeitet werden.
Wenn Sie unterwegs sind, dann hören Sie immer wieder, dass das Personal dafür gar nicht mehr gefunden werden kann. Wir haben aktuell die Diskussion im Bereich Wohngeld. Zum Beispiel hat auch die Landeshauptstadt Magdeburg sehr deutlich vorgetragen, dass sie seit Anfang des Jahres alles tut, um Personal zu finden, aber einfach an ihre Grenzen kommt. Deshalb ist es gerade jetzt wichtig zu schauen, wo kann ich Prozesse der öffentlichen Hand so automatisieren, dass ich keinen Menschen mehr brauche. Das ist einer der Gründe gewesen Herr Pott hat darauf hingewiesen , weshalb das Land Sachsen-Anhalt die Bearbeitung der Einmalzahlung für Studierende übernommen hat.
(Zustimmung bei der FDP)
Wir fanden es spannend zu sehen, können wir einen Prozess automatisieren. Wir haben gesagt, wenn der Mitarbeiter, der es machen muss, nur fünf Minuten für den Vorgang brauchen würde das ist ganz trivial; es muss schon ein sehr einfacher Vorgang sein; fünf Minuten! , dann würden wir 2 000 Mitarbeiterinnen und Mitarbeiter im öffentlichen Dienst brauchen, die einen Monat lang arbeiten, um diesen Prozess umzusetzen. Dann hätte man wieder das Bild gehabt von noch mehr Personal an verschiedenen Stellen, um diese Arbeit umzusetzen.
Ich glaube, keiner von uns würde jetzt mit großer Begeisterung seinen gesamten Lebensinhalt in der Abarbeitung solcher Vorgänge sehen. Das heißt, wir automatisieren hierbei Prozesse, die ohnehin nicht gerade die allerbeliebtesten sind. Wir sorgen dafür, dass die Menschen in der öffentlichen Verwaltung Zeit für das haben, wofür sie eigentlich in den öffentlichen Dienst gegangen sind, nämlich andere Menschen zu beraten, Unternehmen bei ihren Dingen zu begleiten und zu beraten. Ich glaube, das ist eine Win-win-Situation. Auf der einen Seite wird die Arbeit erledigt und auf der anderen Seite schaffen wir es, dass Menschen einen Arbeitsalltag bekommen, der deutlich befriedigender ist als der, den sie aktuell haben.
Auch in anderen Bereichen ist das Land schon unterwegs, z. B. mit dem Projekt zur Erkennung von Potenzialflächen im Rahmen der Raumplanung, das wir gemeinsam mit dem Fraunhofer-Institut in Rostock erarbeitet haben. Hierbei werden Baulücken, Brachflächen und Nachverdichtungsflächen anhand von Luftbildaufnahmen identifiziert. Auch das ist eine Anwendung, die in unserem Bundesland schon umgesetzt wird.
Ich bin davon überzeugt, dass KI insgesamt, auch weil es in vielen Fällen so einfach zugänglich ist, ein Katalysator für die digitale Transformation der Verwaltung werden kann. Und ja, wir haben das dringend nötig.
(Beifall bei der FDP)
Dass dabei natürlich der jeweilige Rechtsrahmen beschrieben werden muss, dass wir über Datenschutz und Datensicherheit sprechen müssen, ist, glaube ich, eine Selbstverständlichkeit, sodass ich das hier nicht weiter diskutieren muss.
Wir haben vor, mit der Digitalstrategie des Landes, die aktuell in der Erarbeitung ist, für diese Prozesse einen Weg zu skizzieren. Wir können, glaube ich, als Land ein Stückchen stolz darauf sein, dass wir dabei auch auf Expertise in unserem Bundesland zurückgreifen können. Sowohl die Otto-von-Guericke-Universität als auch die Hochschule Magdeburg-Stendal sind auf dem Weg, entsprechende, ich sage mal, Studienbereiche einzuführen. In diesen Bereichen wird zu diesem Punkt geforscht, sodass wir hierbei wirklich eine gute Vernetzung mit der Wissenschaft unseres Bundeslandes haben.
Auf der anderen Seite gibt es auch immer Risiken. Ich bin fest überzeugt, eines kennen wir alle. Wir haben alle immer die Tendenz zu sagen, wenn eine KI da ist, wenn ich diese nutzen kann, dann glaube ich ihr auch. Bei ChatGPT würde ich jedem der hier Anwesenden einfach einmal empfehlen, nachher sich selber mal zu fragen
(Matthias Büttner, Staßfurt, AfD: Das haben wir schon gemacht!)
- Genau, die meisten von Ihnen werden überrascht gewesen sein, wie der eigene Lebenslauf so gewesen ist, haben ganz neue Erkenntnisse über sich selbst gewonnen. Das zeigt schlicht, dass diese KI dafür nicht da ist. Sie recherchiert Ihnen nicht irgendwelche Sachverhalte, sondern sie kann fantastisch Texte bearbeiten. Sie kann geübte Antworten geben. Also schauen Sie immer das ist etwas, auf das man nicht oft genug hinweisen kann , wofür diese KI designt ist, was ihre Aufgabe ist. Erliegen Sie nicht der Versuchung, nur weil es jetzt mit Technik unterlegt ist, dem Ganzen gläubig zu folgen.
(Zustimmung von Andreas Silbersack, FDP, und von Dr. Katja Pähle, SPD)
Ich bin sicher, dass auch andere Probleme - wir hören ja den einen oder anderen Lehrer schon: es könnte schwierig werden - durchaus handhabbar sind. Auch hierbei sehen wir, dass z. B. das Landesinstitut für Schulqualität und Lehrerbildung bereits auf dem Weg ist zu schauen, gibt es da Probleme, müssen wir da irgendwo nachsteuern. Ich glaube, dass wir in diesem Bereich relativ schnell auch kluge Lösungen finden werden, um auf der einen Seite KI, Automatisierung in unserem Bundesland einzuführen, zu nutzen, da, wo wir es brauchen; auf der anderen Seite aber Missbrauch relativ schnell einen Riegel vorschieben können.
Meine Damen und Herren! Wenn man jetzt ChatGPT selbst einmal fragt: Ist denn Sachsen-Anhalt vorbereitet darauf?
(Dr. Falko Grube, SPD, lacht)
Dann lautet die Antwort wie folgt - ich zitiere : Als künstlicher Intelligenz-Chatbot kann ich nicht beurteilen, ob die Landesverwaltung von Sachsen-Anhalt bereit für ChatGPT ist.
(Marco Tullner, CDU: Wir schon!)
Es hängt davon ab, welche spezifischen Anforderungen und Bedürfnisse die Landesverwaltung hat und ob sie bereit ist, in diese Art von Technologie zu investieren. Wenn die Landesverwaltung bspw. einen Bedarf an automatisiertem Kundensupport oder maschineller Übersetzung hat, könnte ChatGPT eine sinnvolle Investition sein.
(Zustimmung bei der FDP)
Ich glaube, das zeigt sehr schön: Wir müssen nach wie vor als Menschen entscheiden, und dann können wir uns Technik zunutze machen, um unsere Arbeit zu verbessern. - Ich danke Ihnen.
(Beifall bei der FDP)
Vizepräsidentin Anne-Marie Keding:
Frau Dr. Hüskens, es gibt eine Frage von Herrn Loth und eine Kurzintervention von Herrn Feuerborn. - Herr Loth, bitte.
Hannes Loth (AfD):
Sehr geehrte Frau Hüskens! Wer sich mit ChatGPT und seiner Erprobung beschäftigt hat, der hat zwei Sachen mitbekommen. Das erste ist, dass ChatGPT in seiner ungebremsten Form durchaus dazu in der Lage ist, Gefahren zu entdecken und diese Gefahren zu benennen, sodass es einen Tester dieses Programms als größte Gefahr für sich identifiziert hat und alles Mögliche unternommen hätte, diese Gefahr auszuschalten, bis hin zu sozialen Benachteiligungen, wenn er dann Zugriff hätte.
Die zweite ist: Noch hat ChatGPT keinen Zugriff auf irgendwelche Dinge, die es in der Realität machen könnte. Also, er kann nicht direkt steuern. Allerdings gab es da auch einen zweiten Versuch, bei dem ein Chatbot sich als Mensch ausgegeben hat und dann die Menschen dazu missbraucht hat, Dinge zu tun, ihm Zugriff zu gewähren zu anderen Dingen oder Leute wirklich zu benachteiligen.
Ich fand Ihre Ausführungen zu den Möglichkeiten und den Problemen, die es gibt, interessant, allerdings noch nicht ganzheitlich betrachtet; denn genau das, sozusagen das Skynet-Problem an der Stelle - ich nenne es einfach einmal so , ist für mich ein großes Problem, das vielleicht doch einer genaueren Betrachtung bedarf. Haben Sie sich damit schon einmal beschäftigt?
Vizepräsidentin Anne-Marie Keding:
Frau Dr. Hüskens.
Dr. Lydia Hüskens (Ministerin für Infrastruktur und Digitales):
Herr Loth, ich habe eigentlich gedacht, dass ich in meiner Rede hinreichend adressiert habe.
Früher, wenn ich zu dem Thema gelernt habe, haben diejenigen, die deutlich klüger als ich im Bereich IT waren, immer gesagt, das Problem sitzt meistens vor dem Rechner und ist nicht der Rechner. Natürlich findet Programmierung immer mit unserem Kompass statt. Das heißt, wenn ich kriminell an etwas herangehe, wenn ich mit einem zerstörerischen Impetus an etwas herangehe, kann ich natürlich Technik so ausgestalten. Deshalb ist es selbstverständlich, dass auch Programmierer wie andere Wissenschaftler und Forscher einem gewissen, ich sage einmal, ethischen Grundkompass unterliegen und natürlich Recht und Gesetz. Das sind Aspekte, die wir immer alle im Auge behalten müssen. Aber das ist ein Risiko, das wir bei jeder neuen Technologie sehen. Das ist so. Und das größte Risiko dabei sind die Menschen.
Vizepräsidentin Anne-Marie Keding:
Herr Feuerborn.
Olaf Feuerborn (CDU):
Sehr geehrte Frau Präsidentin! Sehr geehrte Frau Ministerin! Ja, Sie haben es gerade genau angesprochen. Das größte Risiko sind nämlich unsere Menschen, diejenigen, die davor sitzen und es programmieren müssen. Wir erleben das zurzeit in Sachsen-Anhalt, aber nicht nur in Sachsen-Anhalt, sondern auch in der Bundesrepublik oder europaweit.
Wir haben eine neue Agrarförderperiode. Das heißt, wir haben neue Programme, die wir auf den Weg gebracht haben, politisch initiiert, womit wir etwas Gutes tun wollten. Jetzt stellen wir fest, die Leute, die es programmieren, das sind ja nicht die Leute, die bei uns in den Behörden sitzen, oder wir Landwirte, die sagen, wie wir solch ein Programm aufbauen würden, damit es praktikabel ist. - Nein, da sitzt irgendwer am Computer und versucht, ein solches Programm zu installieren. Jetzt haben wir die Schwierigkeit: Die Landwirte wissen, am 15. Mai muss ich meinen Antrag abgeben. Der muss fertig sein. In den vorangegangenen Jahren konnten wir am 1. April damit anfangen und hatten sechs Wochen Zeit dafür. Wenn es Fragen oder Probleme gab, konnten wir die mit den entsprechenden Behörden abgleichen und abklären.
Jetzt sind wir auf dem Stand, dass das Chaos nicht größer sein könnte. Der 15. Mai naht. Niemand weiß, wie er mit diesem Programm umzugehen hat. Der Programmierer steht Kopf, weil er die praktischen Fragen, die wir als Landwirte haben, hier oben in seinem Programm nicht mehr umsetzen kann. Dabei stoßen wir an unsere Grenzen. Das ist ein ganz praktisches Beispiel. Wir als Politiker haben irgendwelche Termine gesetzt und jetzt stecken wir in der Zwickmühle.
Dr. Lydia Hüskens (Ministerin für Infrastruktur und Digitales):
Herr Feuerborn, ich bin Ihnen wirklich dankbar für genau diese Ausführungen, weil wir uns zurzeit an einem Punkt befinden, an dem wir merken, dass Digitalisierung und die Fachlichkeit anfangen auseinanderzufallen.
Wir haben zu Beginn des Themas immer gesehen, dass der eine oder andere gesagt hat das hatten wir vorhin auch schon , das wird schon wieder weggehen, ich muss mich nicht damit beschäftigen; ich will das eigentlich auch nicht. Ich bin doch ein Superfachmann für Agrarpolitik. Warum muss ich jetzt diesen Digitalisierungskram lernen? - Doch, wir müssen dafür sorgen, dass wir immer Digitalisierung und Fachlichkeit zusammen sehen.
(Zustimmung bei der FDP und von Angela Gorr, CDU)
Die Fachlichkeit muss definieren, was nötig ist, was gemacht werden soll, und die Digitalisierung setzt dies gemeinsam mit den Menschen um. Das erfordert aber auch, dass all unsere Fachleute sagen: Ich lass mich auf den Weg ein, ja, ich lass mich darauf ein diese Situation haben wir oft , dass mir ein junger Kollege, der im IT-Bereich eine Koryphäe ist, sagt, das geht und das geht nicht. Aber ich muss definieren, was ich fachlich haben möchte, was dabei klug ist, und das dann technisch umsetzen. Wir machen das ja in anderen Bereichen auch nicht, dass wir sagen: Irgendeine Fachkraft für irgendetwas, für Organisation, kümmert sich darum, und ich muss das nicht machen. Wir machen das aber im Bereich IT und das führt genau zu den Beschreibungen, die Sie vorgetragen haben. Denn ein digitaler Prozess ist nicht automatisch gut.
(Zustimmung bei der FDP und von Angela Gorr, CDU)
Der ist nur gut, wenn dazu vorher beide Seiten der Medaille drüber geschaut haben und zusammen diese Chance genutzt haben, vielleicht das eine oder andere an bürokratischem Ballast loszuwerden, den wir über all die Jahrzehnte gesammelt haben.