Nach einem hochrangig besetzten KI-Gipfel in München hat Digitalminister Fabian Mehring ein umfassendes Maßnahmenpaket angekündigt. Kernpunkte sind ein neuer Bayerischer KI-Sicherheitsdialog, der mit dem Bayerischen KI-Rat abgestimmt wird, eine unabhängige wissenschaftliche Begleitung mit einem künftig jährlichen KI-Sicherheitsbericht, ein Bayerisches KI-Ethikforum sowie eine breit angelegte Aufklärungskampagne für die Bevölkerung.
Zugleich erneuert Mehring die bayerische Forderung, ein deutsches KI-Sicherheitsinstitut in Bayern anzusiedeln. Die Ergebnisse des Gipfels will er bei der Digitalministerkonferenz im November in Brüssel einbringen. Anlass für den Gipfel sind die rasant wachsenden Fähigkeiten moderner KI-Systeme, insbesondere sogenannter Frontier-Modelle und agentischer KI. Jüngste Sicherheitstests internationaler KI-Unternehmen und Forschungseinrichtungen haben gezeigt, dass leistungsfähige Modelle in konstruierten Testszenarien unter bestimmten Bedingungen täuschen, Schutzmechanismen umgehen oder sogar zu Erpressung und Sabotage greifen können.
Zugleich warnen führende Forscher und Entwickler seit Längerem vor möglichen Risiken künftiger, noch leistungsfähigerer Systeme. Unter anderem nahmen Vertreter von Google, IBM, Mistral AI und OpenAI sowie Alena Buyx, Niklas Kühl, Anton Losinger, Markus Sause und Sonja Zillner an dem Gipfel teil. Der neue Bayerische KI-Sicherheitsdialog soll mindestens zweimal jährlich zusammenkommen und bei besonderen Entwicklungen auch kurzfristig tagen.
Die erste Sitzung soll noch in diesem Jahr stattfinden. Flankiert wird der Dialog durch eine wissenschaftliche Begleitung im Auftrag des Ministeriums.
Noch in diesem Jahr soll festgelegt werden, wer diese Aufgabe übernimmt. Auf dieser Grundlage will das Ministerium künftig jährlich einen Bayerischen KI-Sicherheitsbericht erstellen und öffentlich vorstellen.
Der erste Bericht soll 2027 erscheinen. Auch das neue Bayerische KI-Ethikforum unter dem Dach des Ministeriums soll noch in diesem Jahr erstmals zusammentreten. Mehring sagte, wer bei KI an der Spitze fahre, müsse auch die Leitplanken mitbauen.
Bayern sei einer der stärksten KI-Standorte Europas und wolle nicht nur bei den Chancen vorn sein, sondern auch Verantwortung für die Risiken übernehmen. Weder ein digitaler Freifahrtschein noch eine regulatorische Vollbremsung seien sein Ziel.
Nötig seien intelligente Leitplanken, die Innovation ermöglichten und dafür sorgten, dass der Mensch das Steuer in der Hand behält. Der Minister sprach sich zugleich gegen eine pauschale Regulierung aller KI-Anwendungen aus.
Je größer die Fähigkeiten und je größer der mögliche Schaden, desto höher müssten die Sicherheitsanforderungen sein. Auch dezentrale und stärker spezialisierte KI-Systeme könnten nach seiner Einschätzung zur Risikobegrenzung beitragen. Der Minister sieht zudem die Gefahr, dass Europa sich einseitig verlangsamt.
Wenn Europa den Pausenknopf drücke, während Amerika und China auf Fast Forward liefen, gewinne Europa keine Sicherheit, sondern verliere Einfluss. Wer bei der Entwicklung nicht mehr mitspiele, sitze später auch nicht mit am Tisch, wenn die Regeln geschrieben würden.
Reine Selbstregulierung der Industrie hält er nicht für ausreichend. Nötig seien messbare Standards, klare Meldepflichten und überprüfbare Indikatoren.
Unternehmen, die mit Frontier-KI große Chancen erschlössen, trügen Mitverantwortung für eine sichere Entwicklung. Außerdem müsse KI-Sicherheit stärker mit Cybersecurity zusammengedacht werden, weil ein erheblicher Teil der Gefahr von Menschen ausgehe, die leistungsfähige KI für Angriffe, Betrug, Manipulation oder Desinformation nutzten. Zur Aufklärung will das Ministerium geeignete Informations- und Dialogformate auf den Weg bringen, die die Bevölkerung verständlich und alltagsnah über Künstliche Intelligenz informieren.
Genutzt werden sollen klassische Medien und soziale Medien. Technologische Souveränität versteht Mehring als Wahlfreiheit und strategische Handlungsfähigkeit, nicht als digitale Autarkie.
Die bayerische Forderung nach einem deutschen KI-Sicherheitsinstitut will er erneut gegenüber der Bundesregierung adressieren. Nach seinen Worten gehört ein solches Institut dorthin, wo der Puls der Technologie täglich spürbar ist, zu Spitzenforschung, Start-ups, Tech-Konzernen und industrieller Anwendung, also nach Bayern und insbesondere nach München.
Die Inhalte des Gipfels sollen in einem ausführlichen Ergebnispapier dokumentiert werden, das als Grundlage für die erste Sitzung des Sicherheitsdialogs in Abstimmung mit dem Bayerischen KI-Rat dienen soll.
