a) Erste Beratung des von der Bundesregierung eingebrachten Entwurfs eines Gesetzes zur Durchführung der Verordnung (EU) 2024/1689 des Europäischen Parlaments und des Rates vom 13. Juni 2024 zur Festlegung harmonisierter Vorschriften für künstliche Intelligenz und zur Änderung der Verordnungen (EG) Nr. 300/2008, (EU) Nr. 167/2013, (EU) Nr. 168/2013, (EU) 2018/858, (EU) 2018/1139 und (EU) 2019/2144 sowie der Richtlinien 2014/90/EU, (EU) 2016/797 und (EU) 2020/1828 (Gesetz zur Durchführung der Verordnung über künstliche Intelligenz) b) Beratung des Antrags der Abgeordneten Sonja Lemke, Clara Bünger, Doris Achelwilm, weiterer Abgeordneter und der Fraktion Die Linke Gesellschaftliche Risiken von KI-Anwendungen ernst nehmen c) Beratung des Antrags der Abgeordneten Donata Vogtschmidt, Clara Bünger, Anne-Mieke Bremer, weiterer Abgeordneter und der Fraktion Die Linke Für öffentliche Räume ohne automatisierte biometrische Erkennungssysteme

Sehr geehrte Frau Präsidentin! Sehr geehrte Damen und Herren Abgeordnete! Vor Kurzem traf ich eine junge Gründerin aus München. Sie hatte eine künstliche Intelligenz entwickelt, die Produktionsprozesse um bis zu 20 Prozent effizienter macht. Und wer war ihr erster Kunde? Ein Unternehmen in den USA. Nicht weil ihr Produkt dort besser funktioniert, sondern weil dort der Rechtsrahmen schneller und die Umsetzung einfacher war. Das, meine Damen und Herren, darf uns nicht passieren. Künstliche Intelligenz ist die tiefgreifendste Technologie unserer Zeit. Heute entscheiden wir, ob Deutschland und Europa dabei Taktgeber werden oder Getriebene. Denn KI ist kein gewöhnliches Werkzeug. Sie schlussfolgert, sie plant, sie handelt. Die Werte, die wir in sie einbauen, bestimmen, wessen Interessen sie dient und wessen Macht sie stärkt. Wie wir uns dazu aufstellen, betrifft jeden Einzelnen in diesem Land und entscheidet über Wachstum, Arbeitsplätze und unsere gemeinsame Zukunft. Unsere Haltung in der Bundesregierung ist klar: KI ist eine Chance, vielleicht die Chance für unser Land. Sie verlangt Offenheit und Begeisterung für Technologie. Aber sie verlangt noch mehr: Verantwortung und verantwortungsvolle Führung. Dazu gehört: Wir dürfen KI nicht einfach übernehmen, Anwender sein, einkaufen. Wir müssen selbst bauen, selbst gestalten. Und wir müssen technologische Sprünge mitprägen, statt von der Seitenlinie zuzuschauen. Wenn wir jedes Risiko von vornherein wegregulieren, werden die Standards woanders gesetzt. Dann haben wir keine Chance, unsere Werte einfließen zu lassen, keine Chance, eigene Produkte, eigene Wertschöpfung zu bauen. Wir wollen in diesem Land digitale Technologien selbstbestimmt entwickeln, bereitstellen und sicher nutzen – auf internationalem Spitzenniveau. Und ich sage Ihnen: Deutschland kann das. Wir haben alles, was es dazu braucht: Ideen, Talente, Weltklasseforschung, Industrie, unseren starken, wichtigen Mittelstand mit enormen Datenschätzen und immer mehr KI-Start-ups. Vor allem: Wir haben Werte. Wenn wir diese Stärken ausbauen und unsere Interessen selbstbewusst vertreten wollen, dann dürfen wir die Chancen der KI nicht links liegen lassen. Was wir brauchen, ist schlaue Regulierung: Regulierung, die Innovation ermöglicht und nicht abwürgt. Gut gemachte EU-Regeln können ein Standortvorteil sein. Die KI-Verordnung ist bereits in Kraft. Sie schafft den ersten europaweit geltenden Rechtsrahmen für KI. Sie definiert die Pflichten für Entwicklung, Bereitstellung und Nutzung von KI-Systemen. Ja, wir als Regierung wollen auf EU-Ebene Dinge unbedingt verbessern und drängen darauf. Deshalb bringen wir uns im KI-Omnibus aktiv ein. Aber ganz unabhängig davon erfordert jetzt die bereits geltende Verordnung, dass wir die zuständigen Aufsichtsbehörden in Deutschland benennen. Genau das tun wir mit dem heutigen Entwurf eines Gesetzes zur Durchführung der KI-Verordnung. Damit bekommen Unternehmen schnell Rechtsklarheit und klare Ansprechstellen. So können Anzeigen und Bewertungen der Konformität rechtzeitig starten, damit Unternehmen ihre Produkte schnell und auch rechtskonform auf den Markt bringen können. Und wir legen ganz bewusst keine teure Goldrandlösung mit Sonderlocken vor, die am Ende alles verkompliziert, aber nichts besser macht. Unser Motto: klare Struktur, klare Kompetenzen, ohne Schnörkel und innovationsoffen. Wir greifen dazu auf bestehende Strukturen und behördliche Expertise zurück. Wir vermeiden Doppelstrukturen sowie Reibungsverluste und benutzen bewährte Fachkompetenz. Es wird bewusst keine neue KI-Superbehörde mit riesigem Overhead geschaffen. Ja, Vorschläge zur weiteren Zentralisierung mögen aus Behördensicht naheliegen. Wir müssen sie aber auch am Verfassungsrecht messen. Denn nicht alles, was einfach klingt, ist auch automatisch richtig. Der Regierungsentwurf legt fest, welche nationalen Behörden des Bundes und der Länder für die KI-Marktüberwachung und die Notifizierung zuständig sind. Unternehmen behalten auf diese Weise ihre bekannten Ansprechpartner, weil die für sie bereits zuständigen Marktüberwachungsbehörden auch für die KI-VO zuständig sein werden. Bei der Bundesnetzagentur entsteht ein Koordinierungs- und Kompetenzzentrum zur Unterstützung dieser Behörden. Und die Bundesnetzagentur bündelt KI-Expertise, koordiniert die Zusammenarbeit und stellt eine einheitliche Anwendung der KI-VO sicher. Die BNetzA erhält nicht nur einen koordinierenden, sondern auch einen innovationspolitischen Auftrag, einschließlich eines KI-Reallabors für die rechtssichere Erprobung von innovativen KI-Anwendungen. Außerdem betreibt die BNetzA bereits jetzt einen KI-Service-Desk und gibt Unternehmen Hilfestellung bei der Implementierung der KI-Verordnung. Und zusätzlich wird bei der BNetzA eine zentrale Beschwerdestelle eingerichtet, und Bürgerinnen und Bürger können Verstöße einfach melden. Aber, meine Damen und Herren, ich sage Ihnen ebenso klar: Ich nehme die Sorgen der Menschen, bezogen auf KI, sehr ernst. KI wird den Arbeitsmarkt verändern. Schon heute schreibt KI Code, analysiert Verträge und steuert Prozesse schneller als der Mensch. Aber vergessen wir nicht: Maschinen konsumieren nicht. Sie kaufen keine Lebensmittel, machen keinen Urlaub und schicken keine Kinder zur Ausbildung. Produktivitätsgewinne, die diese Technologie ermöglicht, müssen bei den Menschen ankommen, sonst führt Wachstum nicht zu Wohlstand. Auch die Bildungsfrage müssen wir ernst nehmen. Wenn Kinder ihr Denken an Chatbots auslagern, verlieren wir genau das, was keine Maschine ersetzen kann: Kreativität, Resilienz, moralisches Urteilsvermögen. Deshalb sage ich klar: Sicherheit ist kein Bremsklotz. Sicherheit ist unser Burggraben. Gerade in regulierten Bereichen wie Gesundheitswesen, Verwaltung und Industrie wird Vertrauenswürdigkeit zum entscheidenden Wettbewerbsvorteil, und Deutschland kann hier Vorreiter sein. Wir als Ministerium gehen selbst voran. Mit unserer KI-Lösung für die Verwaltung KIPITZ arbeiten wir aktiv. Und mit dem „Agentic AI Hub“ laden wir junge Unternehmen at scale dazu ein, uns bei der Verwaltungsdigitalisierung zu unterstützen. Wir reden nicht nur über KI, wir setzen sie bei uns auch ein. Sehr geehrte Damen und Herren, wer nicht gestaltet, wird gestaltet. Dieses Gesetz ist ein erster, ganz wichtiger Schritt. Lassen Sie uns gemeinsam die nächsten Schritte gehen: entschlossen, verantwortungsvoll und mit dem Mut, unsere Zukunft selbst zu bauen! Ich freue mich auf die Beratung. Vielen Dank. Für die Fraktion der AfD hat nun Herr Abgeordneter Robin Jünger das Wort. Bitte.

Frau Präsidentin! Meine Damen und Herren! Der von Ihnen vorgelegte Gesetzentwurf nennt sich selbst „innovationsfreundlich“ und „bürokratiearm“. Was Sie hier aber erzeugen, ist kein Schutzschild für deutsche Unternehmer und Entwickler gegen Bürokratie, sondern die brav ausgefüllte Hausaufgabe einer Bundesregierung, der der Apparat in Brüssel wieder einmal wichtiger ist als die Menschen in Deutschland; die Menschen, denen Sie verpflichtet sind. Lassen Sie uns gleich konkret werden. Dieses Gesetz schafft, ganz anders als Herr Minister Wildberger gerade behauptet hat, eben doch neue Behördenstrukturen bei der Bundesnetzagentur. Sie schafft Marktüberwachungskammern, sie schafft Koordinierungs- und Kompetenzzentren, zentrale Anlaufstellen und – wie soll es auch anders sein in Deutschland – zentrale Beschwerdestellen. Es ist gerade einmal zwei Tage her, da stand unser Bundeskanzler hier am Pult und erzählte uns das Märchen von seinem Einsatz bei der EU für mehr Wettbewerbsfähigkeit und weniger Bürokratie. Geschichten aus dem Paulanergarten, meine Damen und Herren. Sie stellen Ihre Glaubwürdigkeit auf die Autobahn Ihrer vielen nicht eingehaltenen Versprechen und überfahren sie hemmungslos mit Ihrem eigenen Spitzenpersonal. Denn heute sprechen wir über 43 neue Planstellen allein im Bund – über 13 Millionen Euro Jahreskosten nur auf Bundesebene. Die Länder sollen jedes Jahr noch einmal 33 Millionen Euro drauflegen: für mehr Bürokratie und einen KI-Kummerkasten. Fast 50 Millionen Euro pro Jahr nicht für Forschung, nicht für Entwicklung, nicht für einen einzigen Entwickler, der morgen früh seinen Rechner einschaltet und etwas Neues erschaffen will. Nein, nur für mehr Verwaltung. Nur noch einmal zur Sicherheit: Wir waren uns ursprünglich einig, dass Staatsmodernisierung auch Entbürokratisierung heißen sollte. Aber zusätzlich lesen wir in der Begründung, der geschätzte Aufwand sei mit einer erheblichen Unsicherheit behaftet; Seite 28 in Ihrem Gesetzestext. Auf Deutsch: Es könnte sogar noch teurer werden. Und traurigerweise ist das die einzige ehrliche Botschaft in diesem Gesetzentwurf. Die EU-Verordnung teilt künstliche Intelligenz in Risikostufen ein. Das klingt vernünftig. Aber wenn wir uns das genauer anschauen, sehen wir, dass es das nicht ist. Denn wer entscheidet denn, was ein Hochrisikosystem ist? Sind das Experten? Nein, es sind Ihre Behörden. Wer kontrolliert die Einhaltung? Ebenfalls Behörden. Und wer sanktioniert die Verstöße? Ach ja, das sind ebenfalls Behörden: Henker und Richter in Personalunion. Und wer sitzt am Ende auf dem Schaden? Das ist dann der Unternehmer, der Entwickler, der Mittelständler, derjenige nämlich, der, statt zu wirtschaften, nun Rechtsfolgenabschätzungen erstellt, Konformitätsnachweise führt und auf Behördenbescheide wartet. Ein Trostpflaster lassen Sie ja in Ihrer unendlichen Großzügigkeit den Unternehmern: Wer auf einen Genehmigungsbescheid für einen Testbetrieb wartet und nach sage und schreibe 30 Tagen keine Antwort bekommt, dem gilt das Schweigen der Behörde als Zustimmung. Was für ein Zugeständnis in einem Gesetzentwurf voller Zumutungen, liebe Kolleginnen und Kollegen! Herr Wildberger, Sie sprachen gerade von schnellen Rechtsrahmen wie in den USA. Sind 30 Tage schnell? Viel ist in Ihrem Gesetz von sogenannten Künstliche-Intelligenz-Reallaboren die Rede: klingt modern, klingt mutig, klingt nach Innovation. Ein Blick in die Begründung schafft auch hier schnell Ernüchterung: Die genauen Regeln für diese Reallabore müssen erst noch durch die Europäische Kommission festgelegt werden. Wie sie aussehen sollen, ist unklar. Wann sie starten, ist unklar. Und was dort genau erprobt werden darf, ist unklar. Wir bauen wieder mal Behördenstrukturen für etwas auf, das noch niemand beschreiben kann, schaffen Stellen für ein Labor, das noch keiner geplant hat und geben Steuergeld aus für eine Idee, die noch nicht mal eine Definition hat. Das ist Ihr Verständnis von Innovationsförderung, meine Damen und Herren. Für mich ist das Planlosigkeit in Gesetzesform. Liebe Kollegen von der Regierungskoalition, nicht die künstliche Intelligenz ist das Risiko für Deutschland. Das Risiko für Deutschland ist Ihre Art, Politik zu machen. Während wir hier über Marktüberwachungskammern diskutieren, laufen in den Vereinigten Staaten und in China Systeme, die längst produktiv im Einsatz sind. Während wir Verhaltenskodizes aufstellen, werden anderswo Produkte gebaut, Patente angemeldet, Märkte erschlossen: Es wird Wertschöpfung betrieben. Wir verwalten die Dinge, noch bevor wir sie überhaupt begreifen. Das ist Deutschland 2026; das ist Ihr Werk, liebe Kollegen von der Union und der SPD. Eine echte Wenderegierung hätte hier ein Zeichen gesetzt. Man hätte sagen können: Wir setzen das absolute Minimum um, das das europäische Recht von uns verlangt, und nicht einen Millimeter mehr. Man hätte schlanke, schnelle, unternehmensfreundliche Strukturen schaffen können. Man hätte den deutschen Entwicklern signalisieren können, dass wir auf ihrer Seite stehen. Stattdessen bekommt die Bundesnetzagentur neue Kammern, das BSI bekommt neue Aufgaben, die BaFin bekommt neue Zuständigkeiten, und die Bundesanstalt für Arbeitsschutz und Arbeitsmedizin bekommt neue Stellen. Wo es also offensichtlich schon kapazitiv an menschlicher Intelligenz scheitert, soll nun künstliche Intelligenz entstehen. Da sind wir aber mal herzlich gespannt. Sie reden gerne von Staatsmodernisierung; Sie reden gerne davon, Deutschland wieder wettbewerbsfähig zu machen. Und wie gerne würden wir Ihnen dabei auch helfen. Aber Sie hören a) nicht zu, und b) kuschen Sie wieder mal vor Brüssel. Beides erweist sich als nachhaltig stupide, wie Ihnen die Wahlergebnisse auch wieder einmal gezeigt haben und am nächsten Sonntag zeigen werden. Sie wiederholen fortwährend denselben Fehler und erwarten ein anderes Ergebnis. Das, was Albert Einstein einst als Wahnsinn bezeichnet hat, das nennen Sie verlässliche Politik für Deutschland. Aber, meine Damen und Herren, verlässlich ist bei Ihnen nur, dass es bei Ihren leeren Versprechungen bleibt. Jede einzelne Seite Ihres Gesetzes war eine Chance, eine Chance, Rückgrat zu zeigen gegenüber dem regulatorischen Hunger der EU-Behörde. Jede Seite ist eine verpasste Chance. Sie verpassen Chancen. Sie beschweren sich hier, Sie regen sich auf. Sie verpassen eine Chance nach der anderen und belügen Ihre Wähler. Wir von der AfD wollen kein Deutschland, das zum Handlanger europäischer Überregulierung wird. Wir wollen ein Land, das seine Unternehmen schützt, das seinen Entwicklern vertraut und das Brüssel ganz klar sagt: Bis hierher und nicht weiter! Wir können Souveränität schaffen, indem wir souveräne Gesetze entwickeln und uns nicht zum Handlanger der EU machen. Dieses Gesetz verdient Mitleid, aber keine Zustimmung. Überweisen Sie es statt in den Ausschuss doch einfach zurück an die EU-Kommission! Herzlichen Dank. Für die Fraktion der SPD hat nun Frau Abgeordnete Dr. Carolin Wagner das Wort. Bitte.

Vielen Dank. – Frau Präsidentin! Werte Damen und Herren! Werte Zuhörerinnen und Zuhörer! Ich weiß nicht, wie es Ihnen geht, aber mir rast das Herz, wenn ich so eine Rede höre. Man sieht genau die Art und Weise der Politik der AfD: Ihnen soll Angst gemacht werden. Sie sollen in Panik versetzt werden, damit Sie nicht mehr sehen und hören, was eigentlich im politischen Raum geordnet und reguliert wird. Sie sollen einfach nur aufgescheucht werden. Das ist eine Art und Weise der Politik, die schädlich für jeden von Ihnen und für alle von uns ist. Es ist eine Frechheit, was Sie hier gerade abgezogen haben. Gruselgeschichten ohne Ende! Wir brauchen verlässliche Regeln für den Einsatz von KI in unserem Alltag: im öffentlichen Raum, in Betrieben und in Behörden. Der AI Act bietet uns einen rechtlichen Rahmen für die Entwicklung, für den Einsatz und für die Nutzung von künstlicher Intelligenz, und dieser Rahmen ist ganz, ganz wichtig. Je höher das Risiko für die Gesundheit, für Sicherheit, für die Grundrechte ist, desto strenger sind die Vorgaben, die erfüllt werden müssen Der AI Act schafft damit einen Ausgleich zwischen Nutzen und Risiken von KI. Es geht um KI-Anwendungen, die hier in den Ländern der Europäischen Union eingesetzt werden, auch wenn sie von US-Konzernen entwickelt werden. Deshalb nervt diese Konzerne auch so, was wir hier an Regelwerken haben. Sie wollen keine Regeln haben, sie wollen maximale Gewinne, ähnlich wie die AfD. Sie haben kein Interesse an Fragen über Schutzstandards oder Missbrauch von KI-Technologien. Sie wollen ihre Marktmacht weiter ausbauen. Wir in Europa aber wollen einen KI-Einsatz, der unsere Werte respektiert: Datenschutz, Transparenz, Ethik. Das ist keine Entscheidung zwischen Innovation oder Regulierung. Die Innovationen, die dem Menschen dienen, werden an der Regulierung nicht scheitern, und wenn sie es tun, dann dienen diese Innovationen nicht den Menschen. Genauso sehen das übrigens auch die Bürgerinnen und Bürger. Laut einer aktuellen Studie befürworten 80 Prozent der Befragten die verpflichtende Prüfung von KI-Systemen durch unabhängige Stellen. Und wie diese Prüfung hier in Deutschland erfolgen soll, das regeln wir. – Ja, die Behörden sind schrecklich, fürchterlich! Das ist Ihr Albtraum. Sie werden sehen: Sie werden nicht mehr schlafen können wegen der Behördenstruktur, die wir hier einsetzen. Die BNetzA wird eine zentrale Bundesbehörde. Sie koordiniert, berät, prüft und ahndet Verstöße. – Sie quaken wirklich die ganze Zeit. Hören Sie doch einfach mal zu! Wir benennen sie zur Marktüberwachungsbehörde. Sie richtet eine zentrale Beschwerdestelle und eine unabhängige Marktüberwachungskammer ein. Sie baut ein Kompetenzzentrum auf zur Beratung von Unternehmen für KI-Anwendungen. Sie baut das KI-Reallabor auf, in dem KI-Innovationen getestet werden können, mit besonderen Zugängen eben auch für KMUs und Start-ups, um diese zu fördern, und für Forschungseinrichtungen. Jetzt haben wir im Vergleich zum Referentenentwurf noch mal einen differenzierten Entwurf vom Kabinett bekommen mit verschiedenen Zuständigkeiten im Hochrisikobereich. Das werden wir uns alles anschauen. Wir brauchen klare Strukturen, und wir müssen die Behörde so ausstatten, dass sie am Ende funktioniert. Ich möchte auch noch ganz klar sagen: Die Verhandlungen auf europäischer Ebene zum Digital-Omnibus gehen in einigen Bereichen in eine bessere Richtung. Ja, der Einsatz pornografischer KI-Tools gehört natürlich verboten, wenn keine Zustimmung der betroffenen Person vorliegt. Meine Damen und Herren, der Fall Collien Fernandes zeigt uns ganz deutlich, wie wichtig klare Regeln und Verbote hier sind. Über Jahre hinweg wurden über Fake Accounts veränderte Bilder und Videos von der Schauspielerin und Moderatorin verbreitet, auch mit pornografischen Deepfakes. Es ist ganz klar: Das war für sie – so sagt sie – eine „virtuelle Vergewaltigung“. Meine Damen und Herren, wir brauchen klare Regeln und Verbote. Frau Justizministerin, wir brauchen harte Strafen für Täter digitaler Gewalt. Volle Solidarität mit Collien Fernandes! Vielen Dank. Für die Fraktion Bündnis 90/Die Grünen hat nun Frau Abgeordnete Dr. Franziska Brantner das Wort. Bitte.

Sehr geehrte Frau Präsidentin! Sehr geehrte Damen und Herren! Ich bin ja ein großer Fan von künstlicher Intelligenz, weil es fantastisch ist, was man damit alles machen kann. Aber lassen Sie mich auch ganz klar sein: Hier geht es nicht um irgendeine Technologie, sondern es geht um Jobs. Es geht um Bedeutung, es geht darum, wem diese Technologie gehört, es geht um Eigentum, es geht um Kultur, und am Ende geht es um Macht. Es ist eine riesige Machtfrage: Wem gehören die Inhalte auf den Plattformen? Nach welchen Werten wird die KI programmiert? Und wer kassiert am Ende die Milliarden? Das ist der Machtkampf, den wir gewinnen müssen, sehr geehrte Damen und Herren. Die Frage ist: Wer prägt die Werte der Zukunft? Entscheiden wir, oder entscheiden Thiel, Musk, Altman für uns? Deswegen: Wir müssen diesen Machtkampf gewinnen. Ich möchte auch ganz klar sein: Nicht alle wollen überhaupt diesen Machtkampf führen. Die ehrenamtlichen Influencer der Tech-Brothers sitzen doch hier. Sie wollen die KI-Verordnung komplett streichen, angeblich wegen Innovationsfeindlichkeit. In Wirklichkeit wollen sie eine KI, die unerhört lügt, die das Netz mit Hass flutet, die Wahlen manipuliert. Darum geht es der AfD, nicht um Innovation. Das ist Ihr alternatives Verständnis von Innovation. Deswegen lassen Sie mich klar sein: Die KI-Verordnung ist kein Bürokratiemonster. Sie ist unsere erste Verteidigungslinie, und wir müssen sie erhalten. Es ist auch klar, dass man diesen Machtkampf nicht alleine mit Regeln gewinnen wird. Im Gegenteil: Wir müssen den anderen etwas entgegensetzen, was besser ist. Deswegen ist der Hebel nicht nur das Gesetz, sondern eine neue digitale Epoche der Ideen. „Innovation made in Germany“, „Innovation made in Europe“, Alternativen aufzubauen, darum geht es. Wir haben die entsprechenden Unternehmen in diesem Land. Und was macht die Bundesregierung? Das ist wirklich enttäuschend! Statt klarer Führung wieder ein Flickenteppich: 16 Bundesländer, 16 Umsetzungen, Landesmedienanstalten hier, Landesdatenschutzbeauftragte da: Das ist DSGVO-Umsetzungsdesaster 2.0. Sie haben es zu verantworten, dass wir dort am Ende wieder langsamer werden, komplizierter werden und nicht die Geschwindigkeit bekommen, die wir brauchen. Zusätzlich bauen Sie, Herr Wildberger, eine eigene KI-Welt, der Kanzler gipfelte mit Macron ohne Ergebnis, und Frau Bär verfolgt ihre ganz eigene Hightech Agenda. Wir haben bei der Bundesregierung hier tausend Stoßrichtungen, aber keine gemeinsame Mission. Was diese Unternehmen jetzt brauchen, ist eine pragmatische Regulierung, eine finanzielle Ausstattung, privat und staatlich, zum Hochskalieren und den Staat als gescheiten und klugen Ankerkunden. Und ja, wir dürfen uns keine Illusionen machen: Musk schläft nicht, Thiel wartet nicht, Altman investiert jeden Tag. Aber ich sage Ihnen auch: Wir haben doch etwas, das die alle nicht kaufen können. Wir haben die Ingenieurinnen, die nicht nur optimieren, sondern fragen: Optimiert für wen? Wir haben Gründer, die nicht nur skalieren, sondern fragen: Was bedeutet das für unsere Gesellschaft? Ich sage es Ihnen ganz klar: Das ist keine Schwäche. Das ist doch unser Vorsprung. Das ist doch das, was uns ausmacht. Eine KI, die auf der Menschenwürde basiert, ist nicht die zweitbeste Lösung, sondern sie ist die Zukunft. Wir brauchen auf europäischer Ebene Verbesserungen für solche Fälle wie Collien Fernandes; ist ja ganz klar. Es ist doch irre, was dieser Frau passiert ist. Wir müssen einen gesetzlichen Rahmen schaffen, der ermöglicht, diese Fälle dann auch wirklich zu bestrafen; das ist richtig und nötig. Die Scham muss die Seite wechseln! Solche Fälle gehören in das Gesetz mit hinein. Aber das Gesetz muss auch dort erleichtern, wo es vielleicht noch nötig ist – aber mit Augenmaß, mit einer Gartenschere, die es zum Blühen bringt, und nicht mit der Kettensäge. Also: Haben wir keine Angst vor den Tech-Brothers, sondern zeigen wir, – Ihre Zeit ist überschritten. – was dieses Land kann, wenn es wirklich will! Ich danke Ihnen. Für die Fraktion Die Linke hat nun Frau Abgeordnete Sonja Lemke das Wort. Bitte.

Sehr geehrte Zuhörende! Frau Präsidentin! Wir reden heute über die KI-Verordnung. Sie ist ein wichtiger Schritt, um die enormen gesellschaftlichen Auswirkungen von KI-Systemen abzumildern. Aber während wir darüber sprechen, wie wir die KI-Verordnung am besten umsetzen, setzt die Bundesregierung sich auf EU-Ebene dafür ein, dass das Inkrafttreten einer Regulierung von Hochrisiko-KIs nach hinten verschoben wird. Hochrisiko-KIs sind zum Beispiel Anwendungen, die in den Sicherheitsbehörden, bei Grenzkontrollen oder in der Medizin eingesetzt werden. Das sind alles Anwendungen, bei denen direkt eine Gefahr für Menschenleben besteht. Für die Bundesregierung ist eine Verspätung ja auch sehr praktisch. Denn während dieser Teil der KI-Verordnung auf sich warten lässt, hat man in Ruhe Zeit, auf allen Ebenen weiter Hochrisikosysteme einzuführen, wie zum Beispiel die Fascho-Software Palantir: eine Software, die bei den ICE-Deportationen eingesetzt wird und deren CEO gerade erst verkündete, dass er es ja begrüßt, dass der Einsatz von KI besonders gebildeten und vorwiegend weiblichen Personen schadet. Dass überhaupt darüber nachgedacht wird, eine solche Software anzuschaffen, und dass einige Bundesländer wie NRW sie bereits einsetzen, das ist wirklich ein Skandal! Das Problem ist nicht allein die Firma Palantir. Das Problem ist die Totalüberwachung, die dahintersteckt, das Anlegen und Auswerten von Datenbanken und der Generalverdacht, der damit einhergeht. Die KI-Verordnung schützt nicht hinreichend vor Überwachung. Ein Problem ist, dass die biometrische Fernidentifizierung in Echtzeit zwar verboten ist, im Nachhinein aber legal. Da muss dringend nachgeschärft werden. Deshalb haben wir einen Antrag vorgelegt, der genau diese Ausnahme nicht zulässt. Aber die KI-Verordnung reicht auch in anderen Bereichen nicht aus. Daher legen wir heute auch noch einen zweiten Antrag dazu. Denn die KI-Verordnung bleibt zahnlos, wenn man sie nicht wirklich durchsetzen kann. Dafür braucht es mehr als eine Selbsteinschätzung oder Berichte über das Risiko. Dafür braucht es eine echte Transparenz über die Algorithmen und vor allen Dingen auch über die verwendeten Trainingsdaten. Nur so können wir sicherstellen, dass KI-Systeme gesellschaftliche Ungleichheiten nicht weiter verschärfen. Denn wenn in den Trainingsdaten rassistische, sexistische oder ableistische Vorurteile enthalten sind, dann übernehmen die KI-Systeme sie nicht nur, sondern sie verstärken sie auch. Und das ist wirklich keine Kleinigkeit. Wenn wir darüber reden, dass wir KI-Systeme in der Entscheidungsfindung einsetzen, beispielsweise in der Sozialverwaltung, dann werden dort systematisch Menschen benachteiligt, und das sind genau die, die es eh schon am schwersten haben. Und sie haben auch am wenigsten Ressourcen, sich gegen diese Entscheidungen zur Wehr zu setzen. Aber damit lernt der KI-Algorithmus ja genau, dass man diese Menschen weiter benachteiligen kann. Wir haben da ein sehr grundsätzliches Problem. KI-Systeme sind statistische Verfahren. Es ist nicht möglich, zu sagen, was der Grund ist, wieso sie einmal so entscheiden und einmal so. Aber wenn das die Handlungen des Staates leitet, dann geht das gegen unsere Demokratie. Denn wir haben einen Anspruch darauf, dass der Staat uns gegenüber nicht willkürlich handelt. Vor diesen Problemen können wir doch nicht einfach die Augen verschließen. Da müssen wir jetzt wirklich eingreifen! Transparenz brauchen wir auch, damit endlich sichtbar wird, wie viel Arbeit sich durch KI-Systeme angeeignet wird. Wenn wir über die Vergesellschaftung von Wohnraum reden, damit sich Menschen endlich die Miete leisten können, dann bekommt die CDU ja immer direkt Schnappatmung. Aber bei KI haben Sie kein Problem damit, die größte Enteignungsmaschine der Geschichte zu fördern. Denn bei generativer KI bekommt niemand auch nur einen Cent dafür, dass deren Werke dort verarbeitet werden. KI-Unternehmen profitieren davon, dass sie sich unreguliert einfach alles aus dem Internet ziehen können. Ohne Einwilligung und ohne Vergütung werden schon jetzt Gemälde, Fotos und Texte aller Art für das KI-Training genutzt. Künstlerinnen und Künstlern, Autorinnen und Autoren, Journalistinnen und Journalisten, die vorher schon prekär gearbeitet haben, bleiben jetzt die Aufträge weg. Das kann es doch wirklich nicht sein. Jeder, dessen Arbeit in ein KI-System eingeflossen ist, muss auch dafür vergütet werden. Das betrifft auch die Tausenden von Data-Labeler/-innen, die KI-Systeme überhaupt erst ermöglichen. Es reicht eben nicht aus, sich einen Haufen Daten aus dem Internet zu ziehen. Die Daten müssen strukturiert und gelabelt werden. Und das passiert größtenteils in Kenia, wo unterbezahlte Arbeiter/-innen über zehn Stunden am Tag Daten labeln. Sie benennen die in den Aufnahmen zu sehenden Objekte oder sollen die KI-Antworten bewerten Erst kürzlich machte zum Beispiel die Meta-Brille Schlagzeilen, weil Aufnahmen von deren Kamera bei den Daten-Labelerinnen und Daten-Labelern in Kenia landen. Dort sehen sie nackte Menschen, Sex, intime Szenen, bei denen sich niemand bewusst war, dass gerade gefilmt wird. Was da passiert, ist nicht nur ein massiver Eingriff in die Privatsphäre der Betroffenen; es ist auch belastend für die Menschen, die diese Daten labeln. Und unter diesen Umständen will die Bundesregierung auch noch im Digitalen Omnibus das KI-Training mit persönlichen Daten ohne Einwilligung der Betroffenen zulassen. Das ist doch wirklich abstrus. Was beim Thema KI auch nicht zu kurz kommen darf, das sind die enormen ökologischen Folgekosten. In Zeiten, in denen sich die Klimakatastrophe zuspitzt und immer mehr Menschen ihre Heimat verlassen müssen, weil sie nicht mehr bewohnbar ist, in solchen Zeiten steigt der Stromverbrauch immer weiter. Es steigen die Strompreise. Es werden Kohlekraftwerke weiter in Betrieb gelassen und Gaskraftwerke gebaut. Und das alles nur, um irgendeinen Chatbot zu trainieren oder irgendwelche dummen Bildchen zu erzeugen. Es kann doch wirklich nicht sein, dass wir einfach blind jedem Hype hinterherrennen. Es braucht jetzt eine wirkungsvolle Regulierung, damit wir die massiven Probleme, die KI mit sich bringt, in den Griff bekommen. Deswegen ist es mit der KI-Verordnung auch nicht getan, sondern sie kann nur ein Anfang sein. Mit unseren Anträgen machen wir gute Vorschläge für die nächsten Schritte. Also: Stimmen Sie unseren Anträgen zu! Vielen Dank. Für die Fraktion der CDU/CSU hat Herr Abgeordneter Marvin Schulz das Wort. Bitte sehr.

Sehr geehrte Frau Präsidentin! Meine sehr geehrten Damen! Meine Herren! Die Hälfte der Personen in diesem Raum isst in vier Jahren vegetarisch – nicht etwa, weil die Grünen regieren, sondern weil künstliche Intelligenz bereits heute dabei ist, die Sprache von Tieren zu entschlüsseln. Und ich wage die Vorhersage, dass, wenn wir wissen, was Schweine und Kühe uns erzählen, wenn wir sie in den Schlachtraum führen, dies unser Verhältnis zu ihnen grundlegend verändern wird. Aber selbst wenn nicht und wir uns unser Schnitzel nicht verbieten lassen, ist klar: Künstliche Intelligenz bedeutet für Deutschland: Wir stehen an der Schwelle einer neuen Ära. Deshalb ist die größte Gefahr für KI gerade nicht, sie falsch einzusetzen. Meine Damen und Herren, künstliche Intelligenz birgt nur eine große Gefahr: sie anderen zu überlassen. Dann würden wir abgehängt. Lassen Sie uns also handeln! Deshalb ist im Übrigen die Debatte, die wir heute führen, so wichtig. Das Gesetz, das wir heute diskutieren, bietet gemeinsam mit dem AI Act der Europäischen Union den Rahmen dafür, dass künstliche Intelligenz in Deutschland eingesetzt werden kann. Die Bundesnetzagentur soll die zentrale Aufsichtsbehörde werden. Das ist der richtige Ansatz. Aber sie muss sich als Möglichmacher verstehen, und sie muss selbst End-to-End-KI-Prozesse einsetzen. Und: Wir brauchen mehr KI-Reallabore, also Orte, in denen unsere Start-ups testen können, frei von lästigen Vorschriften einfach mal ihre Systeme ausprobieren können. Deshalb werden wir im Rahmen der parlamentarischen Beratungen auch sehr genau darauf achten, wo wir bestehende Hürden abbauen können. Meine Damen und Herren, künstliche Intelligenz, KI, darf in Deutschland nicht stehen für „krasse Ignoranz“ oder „kein Interesse“. KI in Deutschland muss bedeuten: konsequente Innovation. Ich will in dem Zusammenhang auch ein paar Worte zu dem Antrag der Linken sagen, der ja vor allen Dingen die Gefahren von künstlicher Intelligenz adressiert. Schauen Sie, ich verstecke mich nicht vor Risikodebatten. Aber wer KI blockiert, blockiert die Medizin der Zukunft. Wer KI blockiert, blockiert die Verteidigung unserer Demokratie. Mein eigenes Bundesland Berlin wird alle zwei Sekunden Opfer eines Cyberangriffs, übrigens ganz oft mit der Unterstützung von künstlicher Intelligenz. Die einzige Möglichkeit, die wir haben, um uns gegen unsere Feinde zu wehren, ist, wenn unsere KI-Fähigkeiten die derjenigen übersteigen, die uns angreifen. Insofern sollten Sie darauf hinarbeiten, dass wir die Skills der Bundesrepublik Deutschland an dieser Stelle weiter ausbauen. Künstliche Intelligenz ist eine Chance. Der technologische Fortschritt, meine Damen und Herren, lässt sich nicht aufhalten, auch nicht, wenn Sie weiter fleißig Anträge dagegen stellen. Meine Damen, meine Herren, ich habe mit einer Vorhersage begonnen, und ich ende mit einer Gewissheit. Vor 2 000 Jahren hat der Vesuv bei seinem Ausbruch eine große Bibliothek in Pompeji zerstört. Antikes Wissen auf Papyrusrollen ist verkohlt, war unleserlich, für die Menschheit für immer verloren, so dachten wir, bis eine künstliche Intelligenz die antiken Schriften entschlüsselte und damit den Beweis lieferte: KI schafft, was Menschen nicht können. Deshalb sage ich: Künstliche Intelligenz verändert alles, unsere Gesellschaft, unsere Gesundheit, unsere Gefahrenabwehr, und – um jetzt aus der Antike in die jüngere Vergangenheit zurückzukommen – sie ist eine Chance. Sie ist die größte Chance unseres Landes seit dem Wiederaufbau nach 1945. Damals errichteten unsere Großväter aus Trümmern eine Wirtschaftsnation. Jetzt bauen wir auf ihren Schultern eine KI-Nation. Herzlichen Dank. Für die Fraktion der AfD hat Herr Abgeordneter Alexander Arpaschi das Wort. Bitte.

Frau Präsidentin! Sehr verehrte Kollegen! Liebe Zuschauer! Sie alle kennen wohl folgendes Zitat: „Die Freiheit stirbt immer zentimeterweise.“ – Das haben Sie schon gehört, nicht wahr? Dieses Zitat beschreibt genau, was in Deutschland und in der EU dank Ihnen derzeit passiert. Der vorliegende Gesetzentwurf ist ein weiteres Element der Gängelung von Bürgern und Wirtschaft. Die von der EU-Kommission formulierte Richtlinie, die hier umgesetzt werden soll, reiht sich ein in weitere Vorhaben, die bereits Gesetz sind oder werden sollen. Der Digital Services Act, angeblich zur Regulierung großer Onlineplattformen geschaffen, führte in Wahrheit zu staatlicher Zensur. TTPA – bei uns soll es dann Politische-Werbung-Transparenz-Gesetz heißen – soll die Wahlen vor dem Einfluss dunkler Mächte schützen. In Wahrheit sorgt es für eingeschränkte Möglichkeiten der Wahlwerbung. Der digitale Euro soll ein kostenloses, sicheres, online und offline nutzbares Zahlungsmittel werden, welches die Privatsphäre schützt. In Wahrheit ist der digitale Euro dazu angelegt, alle Zahlungsströme staatlicherseits zu kontrollieren. Und nun das Gesetz zur Durchführung der EU-Verordnung zur Festlegung harmonisierter Vorschriften für künstliche Intelligenz. Mein Kollege Jünger hat hier bereits schlüssig dargelegt, zu was dieses Gesetz in Wahrheit führt: zum Abwürgen von Innovation und zum Aufbau weiterer Bürokratie. Herr Merz hat großmäulig Bürokratieabbau auf breiter Front versprochen. Herr Wildberger hat vollmundig die Entlastung der Wirtschaft angekündigt. Und was passiert in Wahrheit? Das Gegenteil! Am 12. Februar fand in Belgien ein Treffen der europäischen Staats- und Regierungschefs statt. Man einigte sich auf einen großen Schlag gegen die überbordende Bürokratie, verursacht durch Richtlinien und Verordnungen der EU-Kommission. Teilnehmer des Treffens: Friedrich Merz. Gestern und heute lief bzw. läuft die Märztagung des Europäischen Rates. Von konkreten und wirkungsvollen Maßnahmen gegen den Bürokratiewahnsinn ist nichts mehr übrig. Stattdessen heißt es nun nebulös und unverbindlich: Vorschriften sollen weiterhin ambitioniert vereinfacht werden, um den Verwaltungsaufwand auf europäischer, nationaler und regionaler Ebene zu verringern. Aber die politischen Ziele und hohen Standards der EU sollten nicht beeinträchtigt werden. Angestrebt werde ein Regulierungsumfeld, das Innovation fördere sowie kleine und mittlere Unternehmen entlaste. – Regulierung führt also zu Innovation. Das ist neu. Gerade diese Aussage passt nicht zum vorliegenden Gesetz. Da kann sich jetzt jeder selber denken, wie sehr Sie sich für Bürokratieabbau einsetzen. Hier spielen Sie den dicken Max, und in Brüssel kuschen Sie. Sie lassen die deutsche Wirtschaft im Regen stehen, und der deutsche Steuerzahler darf das Schlaraffenleben von 32 000 Kommissionsbeamten und Angestellten, die sich diese Dinge ausdenken, dann noch bezahlen. Die Freiheit stirbt zwar immer nur zentimeterweise, aber dank der EU-Kommission unter Frau von der Leyen an der Spitze ist die Freiheit inzwischen schon kilometerweise tot. Und Sie von der CDU und von der SPD unterstützen dieses Sterben. Im vorliegenden Gesetzentwurf heißt es an mehreren Stellen, der Erlass dieses Gesetz sei „zwingend“, es gebe „keine Alternativen“. Die Folgen alternativloser Politik sitzt heute hier zu meiner Rechten und macht speziell Ihnen von der CDU, aber natürlich auch allen anderen das Leben schwer. Machen Sie ruhig weiter hinter der Brandmauer. Seien Sie der Steigbügelhalter der EU-Kommission bei der Beschneidung und Abschaffung der Freiheit in Deutschland. Aber wundern Sie sich nicht, wenn die Alternative für Deutschland bei jeder Wahl stärker wird als zuvor. Danke. Für die SPD-Fraktion hat nun Herr Abgeordneter Johannes Schätzl das Wort. Bitte sehr.

Frau Präsidentin! Liebe Kolleginnen! Liebe Kollegen! Ich wechsle das Beispiel: heraus aus dem Schweinestall und hinein ins Krankenhaus. Stellen Sie sich vor, ein KI-System hilft Ihnen dabei, eine Krebsdiagnose zu stellen. Es analysiert medizinische Bilder, es gibt eine Einschätzung ab, und am Ende beeinflusst es ganz konkret eine Therapieentscheidung. Herr Wildberger, ich gebe Ihnen recht, KI kann fantastisch sein. In dem Fall kann KI tatsächlich Leben retten. Aber – und das müssen wir uns alle immer bewusst machen – sie greift auf jeden Fall tief in das Leben von Menschen ein. Deswegen, liebe Kolleginnen und Kollegen, darf es keinen Zweifel geben: Wir müssen die Standards für KI-Technologie setzen. Genau aus diesem Grund wurde der europäische AI Act geschaffen. Wir beraten heute über ein Durchführungsgesetz. Es geht also nicht um inhaltliche Regeln, sondern um banale Fragen: Wer kontrolliert die Umsetzung, und wie werden die Regelungen in der Praxis durchgesetzt? Ich glaube aber, wir sollten die Diskussion nicht nur über dieses Durchführungsgesetz führen. Wir müssen die Diskussion ganzheitlich führen; denn künstliche Intelligenz ist längst Teil unseres Alltags. Sie beschleunigt in Verwaltungen Verfahren, sie optimiert im Mittelstand Prozesse, sie hilft dabei, Energie zu sparen, und sie verändert die Art und Weise, wie wir uns informieren. Ob wir es wollen oder nicht: KI verändert gerade die Welt, in der wir leben. All das bietet enorme Chancen. Wir müssen aber auch über die Risiken sprechen. Denn KI kann diskriminieren, kann intransparent sein, und aktuell bündelt sie sehr viel Macht in der Hand einzelner weniger Personen. Auch aus diesem Grund gibt es Menschen, die mit Sorge auf diese Entwicklung blicken. Liebe Kolleginnen und Kollegen, auch diese Perspektiven müssen wir ernst nehmen. Blicken wir in die Welt, dann sehen wir: In den USA dominiert nur der Markt, in China dominiert nur der Staat. Europa geht sehr bewusst einen eigenen Weg. Unsere Stärke wird es sein, Innovation und Schutz zusammenzudenken. Denn Technologien, denen Menschen wirklich vertrauen, werden sich durchsetzen. Genau das wird der Wettbewerbsvorteil von Europa. Und während wir hier über die Umsetzung diskutieren, diskutiert Europa bereits über weitere Änderungen am AI Act. Herr Wildberger, ich vertraue darauf, dass Sie in diesem Kontext die richtigen Abwägungen treffen werden. Ich finde aber, wir müssen uns an einem Grundsatz entlanghangeln. Denn Deregulierung wird genauso wenig ein Garant für Innovation sein, wie kluge Regulierung Innovation automatisch im Weg steht. Unsere nationale Umsetzung wird am Ende darüber entscheiden, ob uns diese Innovation gelingt. Der aktuelle Gesetzentwurf setzt auf ein Zusammenspiel von verschiedenen Behörden mit einer koordinierenden Rolle der Bundesnetzagentur. All dies ist nachvollziehbar, und dennoch werden wir im parlamentarischen Verfahren genau hinschauen müssen, ob wir Zuständigkeiten noch klarer fassen können, ob wir Verfahren bündeln können, ob wir Doppelstrukturen vermeiden können. Denn am Ende zählt nicht, wer formal zuständig ist, sondern ob die Aufsicht auch in der Praxis funktioniert. Liebe Kolleginnen, liebe Kollegen, heute geht es um ein Umsetzungsgesetz, aber die eigentliche Debatte über KI beginnt damit erst. Wir haben zentrale politische Herausforderungen: Wie gestalten wir diesen Wandel, wie sichern wir Wertschöpfung, und wie werden wir zum technologischen Spitzenreiter? Ich habe viel Spaß bei dieser Diskussion. Herzlichen Dank. Nun hat für Bündnis 90/Die Grünen Frau Abgeordnete Rebecca Lenhard das Wort. Bitte sehr.

Sehr geehrte Frau Präsidentin! Sehr geehrte Zuhörende! Schüler verhaftet: KI-System verwechselt Chipstüte mit Schusswaffe, Satellitensysteme mit KI erkennen Waldbrände innerhalb von Minuten, KI-Deepfakes als digitale Gewalt, Collien Fernandes spricht von „virtueller Vergewaltigung“, mehr Teilhabe für Menschen mit Behinderung, KI kann Assistenztechnologien stärken, KI-Chatbots greifen in 95 Prozent aller Kriegsspiele zur Atombombe, über 1 000 Krankheiten können mithilfe von KI 20 Jahre früher erkannt werden, KI verändert die Vorhersage in der Medizin grundlegend. – Diese Schlagzeilen zeigen doch eines deutlich: Es ist die gleiche Technologie, die Menschenleben retten, aber auch zerstören, überwachen und manipulieren kann. Das ist kein Widerspruch, das ist die Wahrheit. Und diese Wahrheit spüren auch die Menschen in diesem Land. Wenn ich mit Bürgerinnen und Bürgern spreche, dann begegne ich nicht nur einer Meinung zu KI, ich begegne zwei Gefühlen zur gleichen Zeit, und zwar Neugier, aber auch Sorge. Was passiert, wenn intransparente Systeme über meine Bewerbung entscheiden? Was passiert, wenn mein Kredit abgelehnt wird, weil ein Algorithmus entscheidet, der mir keinerlei Antwort schuldet? Was ist, wenn sich der Arbeitsmarkt schneller verändert, als Umschulungsprogramme folgen können? Diese Fragen sind berechtigt, und auch darum geht es heute. Denn es ist nicht Aufgabe der Politik, Technologie einfach zu bejubeln, aber auch nicht, Technologie zu verteufeln. Die Wahrheit lautet: KI ist beides, eine enorme Chance, aber auch ein enormes Risiko. Und es ist Aufgabe der Politik, beides zu adressieren. Was ist unser Ziel? Wir wollen künstliche Intelligenz, die dem Gemeinwohl dient, die Patientinnen und Patienten schneller zu den richtigen Diagnosen führt, die unsere Energieversorgung effizienter, den Mittelstand zukunftsfähig macht. Wir wollen KI made in Europe, made in Germany, entwickelt nach unseren Werten: transparent, sicher und menschenzentriert. Der Gesetzentwurf, den wir heute beraten, enthält einige Ansätze; aber er reicht nicht aus. Ja, wir brauchen Reallabore, aber nicht als Selbstzweck, sondern mit echtem Fokus auf Gemeinwohlorientierung. Und das darf kein Lippenbekenntnis sein, sondern muss Auswahlkriterium für die Nutzung werden. Wir brauchen einen KI-Beirat, der Wissenschaft, Wirtschaft und Zivilgesellschaft zusammenbringt, als echtes Beteiligungsinstrument; das fehlt in Ihrem Gesetzentwurf. Ebenso fehlt ein KI-Transparenzregister. Warum wollen Sie nicht offenlegen, wo in der Verwaltung KI eingesetzt wird? So versäumen Sie die Chance echter Transparenz gegenüber den Bürgerinnen und Bürgern, genauso wie Sie die Chance verpassen, darauf hinzuwirken, dass die Behörden beim Einsatz von KI voneinander lernen können. Wir Grüne begrüßen ausdrücklich, dass die Bundesnetzagentur als zentrale Anlauf- und Beschwerdestelle fungieren wird. Aber sie braucht auch die entsprechende Ausstattung dafür; denn ein Flaschenhals schützt und nutzt niemandem. Wir können es uns nicht leisten, dass Sie die Umsetzung des AI Acts weiter verschleppen. Sie sind bereits über ein halbes Jahr zu spät. Und wir können es uns nicht leisten, dass unsere Unternehmen länger in Rechtsunsicherheit bleiben. Wir können uns es nicht leisten, dass Sie versuchen, in Brüssel im Omnibusverfahren Schutzstandards abzuschwächen, weil die Big-Tech-Lobby das gerne so hätte. Und wir können es uns nicht leisten, dass wir die Menschen in diesem Land mit ihren Fragen länger alleine lassen. Die Frage ist doch nicht, ob KI unseren Alltag verändern wird; denn sie verändert ihn ja bereits. Die Frage ist: Gestalten wir diesen Wandel, oder lassen wir ihn einfach geschehen? Und ich bin überzeugt: Wir können den Wandel gestalten, Deutschland kann das. Deshalb: Fangen Sie bitte endlich damit an. Vielen Dank. Für die Fraktion der CDU/CSU hat der Abgeordnete Hansjörg Durz das Wort. Bitte sehr.

Sehr geehrte Frau Präsidentin! Verehrte Kolleginnen und Kollegen! Meine sehr geehrten Damen und Herren! Im letzten Sommer wurde Deutschland in Brasilien Fußballweltmeister mit einem spektakulären 11 : 0 gegen China. Im letzten Jahr hat bei der Roboterfußballweltmeisterschaft in Salvador das Team der Hochschule für Technik, Wirtschaft und Kultur aus Leipzig gewonnen und wurde Weltmeister. Ziel dieser Weltmeisterschaft, des sogenannten RoboCups, ist übrigens, dass die Fußballroboter den amtierenden Fußballweltmeister aus Fleisch und Blut in wenigen Jahren besiegen. Künstliche Intelligenz verändert unsere Welt mit einer Geschwindigkeit, wie wir sie in der Geschichte technologischer Entwicklungen noch nie erlebt haben. Systeme lernen selbstständig, analysieren enorme Datenmengen und unterstützen uns bei Entscheidungen in Wirtschaft, Medizin, Forschung, Verwaltung und auch im Sport. Doch gerade weil diese Technologie so mächtig ist, stellt sich eine zentrale Frage: Wie stellen wir sicher, dass sie im Einklang mit unseren Werten eingesetzt wird? In einer freiheitlichen und demokratischen Gesellschaft gilt: Technologie muss dem Menschen dienen und nicht umgekehrt. Deshalb braucht künstliche Intelligenz klare Leitplanken. Und es ist auch völlig richtig, dass diese Leitplanken auf europäischer Ebene eingebaut werden. Diese Leitplanken dürfen aber kein Hindernis für Innovationen sein. Bisher ist der AI Act noch nicht ausreichend innovationsfreundlich. Deswegen ist die europäische Initiative zur Vereinfachung äußerst notwendig und richtig. Und ich danke Bundesminister Dr. Karsten Wildberger für sein beharrliches Verhandeln, das bereits zu Entlastungen für Industrie, Mittelstand und insbesondere kleine und mittlere Unternehmen geführt hat. Vielen Dank dafür! Es bedarf auf europäischer Ebene aber noch weiterer Verbesserungen und auf nationaler Ebene einer bürokratiearmen Umsetzung mit möglichst schlanker Aufsichtsstruktur. Vor allem brauchen wir den sogenannten One-Stop-Shop, also einen Ansprechpartner. Und insgesamt muss kluge Regulierung Innovationen befördern. Zu oft wird in unserem Land über die Risiken von künstlicher Intelligenz gesprochen. Aber die größte Gefahr besteht für uns darin, dass wir abgehängt werden, dass wir keine Spitzentechnologien entwickeln, dass die Zukunft ohne uns gestaltet wird. Das können und dürfen wir nicht wollen. Dabei haben wir zum jetzigen Zeitpunkt, wo die KI-Welle im Grunde erst anrollt, enorme Chancen. Deutschland ist eine der stärksten Industrienationen der Welt. Unsere Wirtschaft basiert auf Maschinenbau, Automobilindustrie, Chemie und vielen hochspezialisierten mittelständischen Unternehmen. Genau hier entfaltet industrielle KI ihr größtes Potenzial, und genau hierin liegen für unsere Volkswirtschaft enorme Zukunftschancen; denn wir bringen dafür ganz besondere Voraussetzungen mit. Gerade unsere Industrieunternehmen vereinen tiefgehende technologische Kompetenz mit einem außergewöhnlich wertvollen Datenschatz. Dieses Zusammenspiel ist ein großer strategischer Vorteil. Viele unserer Unternehmen sind Weltmarktführer in spezialisierten Nischen. Wenn sie ihre Leidenschaft und ihre industriellen Kompetenzen mit moderner KI verbinden, dann spielen sie auch in Zukunft an der Weltspitze mit, und das ist unser klares Ziel. Mit Leidenschaft, Kompetenz und übrigens auch mit künstlicher Intelligenz wird unser Nationaltrainer Julian Nagelsmann unser Team in den nächsten Monaten intensiv vorbereiten, das dann bei der Fußball-WM in diesem Sommer hoffentlich auch an der Weltspitze mitspielt. Ihre Redezeit. Er wird es zur Weltspitze führen. Wir drücken die Daumen. Vielen Dank. Für die AfD-Fraktion hat Herr Abgeordneter Ruben Rupp das Wort. Bitte sehr.

Sehr geehrte Frau Präsidentin! Geehrte Abgeordnete! Sehr gerne hätte ich heute über die Zukunft Deutschlands gesprochen, über epochale Veränderungen: vom autonomen Fahren über die Industrie und Arbeit 4.0 bis hin zu moderner Medizintechnik und Diagnostik. Gerne hätte ich darüber gesprochen, wie wir Deutschland an die Spitze der Welt zurückbringen, um im Wettkampf der Hochtechnologienationen ganz vorne dabei zu sein. Aber im Deutschen Bundestag befassen wir uns stattdessen mal wieder lieber mit mehr EU-Bürokratie, heute durch den AI Act, und das zeigt ganz klar, wo das Problem liegt. Mit diesem Kurs der Bundesregierung und der Europäischen Union bringen wir Deutschland nicht in die Zukunft, vielmehr werden wir hinter Schwellenländer zurückfallen. Das ist die traurige Wahrheit. Trotz der teilweise zustimmungsfähigen Lippenbekenntnisse, auch des Ministers heute, füttern Sie Woche für Woche mit Ihren Durchführungsgesetzen den Bürokratiehunger des Bürokratiemonsters EU, statt sich dagegen zu wehren, und machen unseren Unternehmern, den Start-ups und den Innovatoren Deutschlands das Leben schwer. Und ich frage Sie: Wie in aller Welt sollen wir und wie soll die Marktwirtschaft mit solchen Gesetzen deutsche Unternehmen hervorbringen, die erfolgreiche Produkte im KI-Sektor entwickeln und vielleicht sogar Weltmarktführer werden? Dafür bräuchten wir eine spürbare Politikwende. Und das kann nur ein radikaler Kahlschlag bei der EU leisten. Nur dann können wir wieder zum Hochtechnologie-Powerhouse Europas und der Welt werden. Dass die meisten EU-Verordnungen nichts taugen, haben Sie am Mittwoch in der Expertenanhörung zum PWTG gehört. Es gab von sämtlichen Experten eine Klatsche für dieses unnötige Gesetz und die Verordnung. Und auch bei diesem Gesetz heute werden Sie eine politische Klatsche erleiden; denn die Fakten werden für sich sprechen. Mit der Durchsetzung des AI Act werden keine neuen starken europäischen KI-Unternehmen entstehen. Deshalb wird es am Ende heißen: Die AfD hat mal wieder recht behalten. Ja, natürlich braucht es auch ein gewisses Risikomanagement der KI; das lehnen wir nicht grundsätzlich ab. Aber das muss schlanker geregelt werden, auf nationaler Ebene, mit Ausnahmen und Schwellen für Kleinunternehmer und Mittelständler. Statt präventiver Regulation der EU wollen wir einen reaktiven, innovationsfreundlichen Ansatz, zum Beispiel über Staffelung nach Nutzerzahl oder Umsatz, was das Risiko für Schäden minimiert – und das alles, ohne die Wirtschaft abzuwürgen. Das wäre der richtige Weg. Unser Fazit ist eindeutig: Dieses Gesetz unterminiert unser Ziel der digitalen Souveränität Deutschlands. Es schränkt unsere Wettbewerbsfähigkeit ein, erstickt deutsche Unternehmen in Bürokratie und stärkt die schon lange den Markt dominierenden US-Player. Daher kann man es nur ablehnen. Für die SPD-Fraktion hat Herr Abgeordneter Matthias David Mieves das Wort. Bitte.

Sehr geehrte Frau Präsidentin! Sehr geehrte Damen und Herren! 1 Billion Dollar – diese unvorstellbar große Zahl hat in dieser Woche Jensen Huang, der CEO der Firma Nvidia, in den Mund genommen. Und er nutzt diese Zahl, um anzukündigen, wie viel Umsatz diese Firma in diesem und im nächsten Jahr alleine mit KI-Chips macht. Diese Zahl zeigt nicht nur, wie stark das Unternehmen positioniert ist, sie zeigt, welchen fundamentalen Wandel unsere Welt durchläuft. Denn KI ist auf dem besten Wege, sich in jeden Teil unseres Alltags, unserer Wirtschaft, unserer Gesellschaft einzupflanzen. Und dabei stellt sich eine wesentliche Frage: Dient KI wirklich den Menschen? Schauen wir in die USA. In den USA gibt es faktisch gar keine Leitplanken für KI. Dort ist es so: Wer das meiste Geld in KI investiert, hat die Macht in der Hand. Das Kapital hat die Macht über die KI. Und das heißt, mit Blick auf die USA können wir klar sagen: Nein, die KI dient nicht den Menschen. Schauen wir nach China. Auch dort wird massiv in KI investiert. Dort hat das diktatorische Regime die Hand drauf bei dem, was KI tut. Die Macht liegt beim Regime, um Macht im Inneren zu steuern, um Macht im Äußeren auszuüben. Deshalb können wir mit Blick auf China sagen: Nein, die KI dient nicht den Menschen. Beide Modelle können kein Vorbild für Deutschland und Europa sein. Denn bei uns haben Individuen, hat jeder einzelne Mensch starke Grundrechte. Und der AI Act in Europa sorgt dafür, dass diese Grundrechte gewahrt werden und dass in Europa und Deutschland gilt: Die KI dient den Menschen. Dabei müssen wir uns aber die Frage stellen: Reicht das aus? Um es ganz klar zu sagen: Nein, das ist nicht ausreichend. Denn wenn wir in Europa in der Topliga mitspielen wollen, wenn es um KI geht, dann muss KI in der Europäischen Union wirklich oberste Priorität haben, dann reicht es nicht, ein paar Blubberreden über Souveränität zu halten. Wir brauchen eine echte Agenda mit massiven, radikalen Maßnahmen, um den Wettbewerbsnachteil, den wir haben, auszugleichen und an die Spitze aufzuschließen. Zu einer solchen Agenda gehören mindestens drei wesentliche Pfeiler. Erstens. Europa muss zum Magneten für weltweite Toptalente werden. Diese Talente sollen unter den besten Rahmenbedingungen zu uns kommen, und sie müssen es auch einfach haben, im Leben hier anzukommen. Das darf nicht an Banalitäten in Behörden scheitern. Wir brauchen einen One-Stop-Shop, der digital ist, in englischer Sprache, der es den Toptalenten ermöglicht, einfach, schnell und ohne Probleme hier anzukommen. Zweitens. Wir brauchen mehr Kapital. Wir haben in Europa viel privates Kapital bei Pensionskassen, bei Versicherungsunternehmen. Wir müssen die rechtlichen Rahmenbedingungen ändern, um 1 Billion Euro freizumachen, die in Start-ups, in Scale-ups, ins KI-Ökosystem investiert werden können. Deshalb muss die 1 Billion Euro für diese Investitionen stehen. Drittens. Wir brauchen eine DSGVO, die in allen 27 Ländern einheitlich angewendet wird. Die DSGVO ist ein Meilenstein; aber wir können sie doch nicht 27-mal unterschiedlich umsetzen. Wir brauchen es einfach, praktikabel, einheitlich – überall in Europa. Diese drei Meilensteine brauchen wir mindestens, wenn wir es ernst damit meinen, KI zur Toppriorität in Europa zu machen, und wenn wir zur Weltspitze aufschließen und zum Champion bei menschenzentrierter KI weltweit werden wollen. Danke für Ihre Aufmerksamkeit. Zum Abschluss dieser Debatte hat für die CDU/CSU-Bundestagsfraktion Herr Abgeordneter Ralph Brinkhaus das Wort. Bitte sehr.

Frau Präsidentin! Meine Damen und Herren! Ich habe großen Respekt vor den meisten, wenn auch nicht allen, Redebeiträgen, die hier geleistet worden sind. Es ist 10 Uhr, Primetime für den Deutschen Bundestag. Wir sprechen über das Thema, das unsere Lebenswirklichkeit in den nächsten Jahrzehnten am meisten verändern wird. Und ehrlicherweise: dafür ist mir zu wenig Begeisterung da, zu wenig Lust auf Zukunft. Meine Damen und Herren, wir sind die Generation, die die Weichen dafür stellen kann, wie KI unser Leben verändern wird. Aber wir sind dann in der Diskussion doch sehr kleinteilig geblieben. Wir haben darüber gesprochen, was man begrenzen muss, was man einhegen muss, und das ist mir ehrlicherweise zu wenig Lust auf Zukunft. Denn, meine Damen und Herren, KI – das ist auch angeklungen – ist eine wahnsinnige Chance. Sie ist eine Chance für den Mittelständler, die nicht mehr vorhandenen Fachkräfte zu ersetzen. Es ist eine Chance für den Krebskranken, dass seine Krankheit früher erkannt und dass sie besser behandelt wird. Es ist eine Chance für den Bauern in Afrika, schnell an klimaresiliente Saatgutsorten heranzukommen. Es ist einfach eine riesige Chance für die Welt. Und ich bin fest davon überzeugt: Wenn wir es richtig machen, wird KI das Leben von Milliarden Menschen zu einem besseren Leben machen, meine Damen und Herren. Ich bin im Übrigen auch davon überzeugt, dass KI – das ist auch schon angeklungen –die Chance für unseren Wirtschaftsstandort ist. Meine Damen und Herren, wir sind momentan in einem Übergangsprozess. Die Automobilindustrie, die Maschinenbauer, die Chemieindustrie tragen nicht mehr so viel zur Wertschöpfung bei, wie das früher der Fall war. Jetzt kann ich natürlich Folgendes machen: Ich kann meine Kindheit retten und kann sagen: „Ich möchte das alles wieder zu alten Höhen führen“, oder ich kann beherzt nach vorne gehen. Auch das ist in einigen Reden angeklungen: Wir haben hier wunderbare Voraussetzungen in Deutschland. Wir haben eine tolle Wissenschaft, wir haben tolle, kreative mittelständische und größere Unternehmen. Und wir haben auch ein Ökosystem, das insofern attraktiv ist, als dass wir eine offene Gesellschaft sind, wo ein Platz dafür ist, Herr Mieves, dass Menschen, die kreativ sind, die Ideen haben, hier leben können. Wir müssen nur eins, Herr Minister Wildberger: Wir müssen beherzt zugreifen. Die Rechenzentrumsstrategie war ein guter Anfang dafür. Aber es war nur ein Anfang, und sie muss im Übrigen auch noch umgesetzt werden. Aber wenn ich heute lese, dass Amazon 100 Milliarden Euro in die Hand nimmt, um industrielle AI-Anwendungen nach vorne zu bringen, dann muss ich sagen: Da müssen wir gegenhalten, nicht nur in Deutschland, sondern am besten auch auf europäischer Ebene. Ich glaube, das ist unsere große Aufgabe. Aber – und das geht mit dem Blick nach rechts – natürlich müssen wir uns auch klarmachen, was AI bedeutet. Meine Damen und Herren, wir hatten es immer in der Menschheitsgeschichte gehabt, dass Werkzeuge Helfer des Menschen waren. Der Faustkeil war ein Helfer des Menschen; das Rad war ein Helfer des Menschen; die Dampfmaschine war ein Helfer und Werkzeug des Menschen, und die Elektrizität und der Computer auch. Wir kommen jetzt in eine Situation, in der wir uns fragen müssen: Wird der Mensch nicht zum Werkzeug der KI? Das ist eine ethische Dimension; die sollten wir nicht unterschätzen. Dann einfach zu sagen: „Na ja, wir lassen mal machen. Wir brauchen keine Regulierung“, das halte ich für falsch. Ich halte es für richtig, dass die Regulierung europäisch ist. Eigentlich wäre es besser, wenn wir eine weltweite Regulierung hätten. Ich halte es daher auch für richtig, dass die Regulierung nicht ganz gelungen ist. Wir hätten uns, wenn wir sie uns selbst hätten backen können, eine andere europäische KI-Verordnung gemacht. Herr Minister Wildberger, ich bin sehr dankbar, dass Sie immer wieder im Omnibusverfahren darauf hinwirken, dass wir praktikable, dass wir geländegängige, dass wir anwendbare Regelungen kriegen. Aber wir werden jetzt das umsetzen, was da ist. Die Fristen sind auch abgelaufen, und jetzt müssen wir zusehen – darüber werden wir uns im Gesetzgebungsverfahren noch unterhalten müssen –, dass wir eine Aufsichtsstruktur kriegen, die gut ist, die schlank ist, die auch vor allen Dingen schlagkräftig ist. Strich unter die ganze Sache: KI ist eine ganz große Chance. Es ist eine große Chance für unseren Wirtschaftsstandort. Wir müssen mehr zupacken als in der Vergangenheit. Wir müssen regulieren, regulieren mit Augenmaß. Das werden wir in den nächsten Wochen beraten. Ich freue mich auf die Beratungen. Herzlichen Dank.