Transparenter und vertrauenswürdiger Einsatz von künstlicher Intelligenz bei der Stadt Wien

Künstliche Intelligenz bietet zahlreiche Möglichkeiten für die Stadt Wien: Sie kann Verwaltungsabläufe effizienter gestalten, den Service für Bürger*innen verbessern und neue Formen der Zusammenarbeit innerhalb der Stadt sowie zwischen Verwaltung und Privatwirtschaft ermöglichen.

Gleichzeitig bringt der Einsatz von KI neue Fragenstellungen mit sich: Wie stellen wir Transparenz sicher? Wie gehen wir mit Risiken um? Wie schaffen wir Vertrauen in neue Technologien?

Systeme und Use-Cases

KI-Anwendungen unterscheiden sich deutlich voneinander: Einige helfen bei alltäglichen Aufgaben, während andere entscheidenden Einfluss auf wichtige Entscheidungen haben. Die Stadt unterscheidet dabei zwischen dem KI-System selbst und dem jeweiligen KI-Use-Case.

• KI-Systeme bezeichnen Funktionalitäten, die entweder auf klassischem Machine Learning sowie logik- oder wissensbasierten Methoden oder KI-Modellen mit allgemeinem Verwendungszweck (zum Beispiel Large Language Models beziehungsweise generativen KI-Modellen) basieren.
• KI-Use-Case ist ein konkreter Anwendungsfall, bei dem KI eingesetzt wird, um eine bestimmte Aufgabe zu lösen oder etwas zu verbessern, zum Beispiel um Prozesse zu optimieren, bei Entscheidungen zu helfen oder Muster in Daten zu erkennen.

Ein risikobasierter Ansatz als Leitprinzip

Die Stadt Wien legt größten Wert auf die sorgfältige Auswahl und Anwendung innovativer Technologien. Dafür werden klar definierte und transparente Standards eingesetzt, die sowohl technische Exzellenz als auch rechtliche Anforderungen gewährleisten. Besonderes Augenmerk gilt der stringenten Einhaltung gesetzlicher Bestimmungen, insbesondere den Vorgaben des EU‑AI‑Acts.

EU-AI-Act Exkurs

Die Verordnung zur künstlichen Intelligenz ist ein Rechtsakt der Europäischen Union, der das Ziel hat, KI zu regulieren. Es handelt sich dabei um die erste umfassende Regulierung dieser Art weltweit.

Die Entstehung begann im Jahr 2019. Am 21. Mai 2024 wurde sie von allen 27 EU-Mitgliedsstaaten verabschiedet und am 12. Juli 2024 offiziell veröffentlicht.

Gültig ist die Verordnung seit 1. August 2024. Viele ihrer Bestimmungen traten bereits ab dem 2. Februar 2025 in Kraft, die meisten jedoch erst ab dem 2. August 2026.

Transparenz und Vertrauen als Voraussetzung

Technische Innovation allein genügt nicht, um Künstliche Intelligenz verantwortungsvoll in einer Stadt einzusetzen. Entscheidend ist ein transparenter Rahmen, der Risiken frühzeitig erkennt und Vertrauen fördert. Eine interne Dienstanweisung regelt den gesamten KI- und Cloud-Compliance Prozess (CKT-Prozess) und sorgt dafür, dass KI-Anwendungen vor ihrer Einführung sorgfältig geprüft werden.

Der CKT-Prozess ist in folgenden 2 Phasen unterteilt:

• Phase 1: Bewertung des Geschäftsfalles (Geschäftsanforderung-, Business-Needs und Initiale Risikobewertung)
• Phase 2: Nach Auswahl einer oder mehreren KI- oder Cloud-Services für den konkreten Geschäftsfall erfolgt die Bewertung der Service-Provider und der ausgewählten Cloud Services.

In bestimmten Use-Cases kann es sinnvoll sein, einen Proof of Concept (PoC) durchzuführen, um die Umsetzbarkeit und Praxistauglichkeit gezielt zu prüfen.

Welche Aspekte werden geprüft?

• Datenschutzaspekte: Es wird geprüft, welche personenbezogenen Daten verarbeitet werden und wie die Einhaltung der Datenschutz-Grundverordnung (DSGVO) sowie weiterer rechtlicher Vorgaben sichergestellt wird. Dabei stehen insbesondere die Datensicherheit, die Minimierung der Datenerhebung und transparente Informationspflichten im Fokus.
• Betriebliche Aspekte: Die Integration der KI-Lösung in bestehende Arbeitsabläufe wird bewertet. Dazu zählen die Auswirkungen auf Mitarbeitende, notwendige Weiterbildungen, Anpassungen von Prozessen sowie die Sicherstellung eines reibungslosen Betriebs und die Akzeptanz innerhalb der Organisation.
• Security-Sicht: Die technische Infrastruktur und die IT-Systeme werden gezielt daraufhin überprüft, ob sie den Sicherheitsanforderungen der jeweiligen KI-Anwendung genügen. Im Fokus stehen dabei Aspekte wie Netzwerksicherheit, Schutz vor unbefugtem Zugriff, sichere Cloud-Lösungen sowie die Gewährleistung von Datenintegrität und -verfügbarkeit. Zusätzlich wird bewertet, ob die Systeme skalierbar und wartbar sind, ohne Kompromisse bei der IT-Sicherheit einzugehen.

Insbesondere die risikobasierte Bewertung, der Fokus auf Datenschutz und die technische Sicherheit spiegeln die Kernpunkte des EU-AI-Act wider. So trägt Wien dazu bei, dass KI verantwortungsvoll und im Einklang mit europäischen Rechtsgrundlagen eingesetzt wird und die Interessen der Bürger*innen gewahrt bleiben.

Um sicherzustellen, dass alle aktuellen Trends und Standards im Prozess berücksichtigt werden, unterliegt die interne Richtlinie zur Steuerung des CKT-Prozesses einer regelmäßigen Überprüfung hinsichtlich ihrer Aktualität. Spätestens nach 5 Jahren wird die Gültigkeit der Richtlinie aufgehoben und der CKT-Prozess entsprechend dem aktuellen Stand angepasst.

KI im Sinne des Digitalen Humanismus

Der Wiener Zugang zu KI ist eng mit dem Digitalen Humanismus verbunden. Technologie steht im Dienst der Menschen – nicht umgekehrt. Das bedeutet: Effizienzgewinne und Innovationen gehen Hand in Hand mit ethischen Grundsätzen, demokratischen Werten und sozialer Verantwortung.

KI wird daher nicht isoliert als technische Lösung betrachtet, sondern als Teil eines größeren gesellschaftlichen und organisatorischen Rahmens: Kompass für den dienstlichen Umgang mit generativer Künstlicher Intelligenz (KI)

Austausch mit Expert*innen aus dem In- und Ausland

Um breite Dynamik der KI-Themen gerecht zu werden, setzt die Stadt Wien bewusst auf Vernetzung und Austausch. Im Dialog mit nationalen und internationalen Fach-Expert*innen aus Verwaltung (zum Beispiel Vienna Science Days, Cloud Community Public Administration), Wissenschaft und Wirtschaft werden neue Entwicklungen reflektiert, Erfahrungen geteilt und Best Practices diskutiert.

Fazit

Wir nutzen die Potenziale von KI gezielt und haben dafür transparente Rahmenbedingungen geschaffen, die einen risikobasierten Ansatz verfolgen. So stellt die Stadt Wien sicher, dass technologische Innovationen verantwortungsvoll eingesetzt werden und gleichzeitig flexibel auf neue Anforderungen reagiert werden kann.