Debatte über die Sicherheit der Künstlichen Intelligenz

Der Bundestag hat am Freitag, 13. November 2026, erstmals einen Antrag der Fraktion Bündnis 90/Die Grünen mit dem Titel „KI-Sicherheit stärken – Risiken leistungsfähiger KI-Systeme wirksam begrenzen“ (21/8810(Dokument, öffnet ein neues Fenster)) beraten. Nach der Aussprache wurde der Antrag an die Ausschüsse überwiesen. Federführend ist der Ausschuss für Digitales und Staatsmodernisierung. Antrag der Grünen Die Fraktion Bündnis 90/Die Grünen fordert strengere Sicherheitsvorgaben für leistungsfähige und zunehmend autonome Systeme Künstlicher Intelligenz (KI). Dazu solle die Bundesregierung staatliche Kontrollstrukturen stärken und verbindliche Sicherheitsanforderungen vorantreiben, heißt es in dem Antrag der Fraktion. Zudem solle sich die Bundesregierung auf europäischer und internationaler Ebene für gemeinsame Sicherheitsstandards und eine unabhängige Aufsicht einsetzen. Die Abgeordneten fordern vor allem, das Bundesamt für Sicherheit in der Informationstechnik (BSI) personell, finanziell und technisch auszubauen. Zudem solle das deutsche KI-Sicherheitsinstitut AISI zu einer leistungsfähigen und unabhängigen Prüfeinrichtung weiterentwickelt werden. Die Bundesregierung solle außerdem gemeinsam mit den Ländern Behörden, Betreiber kritischer Infrastrukturen und Unternehmen auf neue KI-bedingte Sicherheitsrisiken vorbereiten. Dazu gehörten Beratungsangebote, Handlungsempfehlungen und Notfallkonzepte. Auch die Bevölkerung solle verständlich über neue Cyberrisiken und Schutzmöglichkeiten informiert werden, schreibt die Fraktion in dem Antrag weiter. Verbindliche Sicherheitsanforderungen Weiter fordern die Abgeordneten in dem Antrag, für autonome und sich selbst oder andere KI-Systeme weiterentwickelnde Anwendungen verbindliche Sicherheitsanforderungen zu schaffen. Dabei müsse auch geprüft werden, wie sich solche Systeme im Notfall technisch unterbrechen und sicher abschalten ließen. Schwerwiegende Sicherheitsvorfälle sollten nach dem Willen der Fraktion verbindlich aufgearbeitet und transparent gemacht werden. Die Anbieter und ihre Führungskräfte müssten zudem durch geeignete Haftungsregelungen klar zur Verantwortung gezogen werden. (lbr/hau/13.11.2026)