Innovation Zurich - die Plattform für Vernetzung, Orientierung und Neuigkeiten rund um Innovation.

Dieser Leitfaden bietet einen Überblick über rechtliche Aspekte bei der Implementierung von KI-Anwendungen. Das Dokument wurde basierend auf einem konkreten Anwendungsfall erarbeitet, bei dem Schüler:innen mit einem Smartphone-Scan handschriftlich ausgefüllte Aufgaben automatisiert korrigierten. Die nachfolgenden Ausführungen basieren auf den Rechtsgrundlagen einer öffentlichen Schule im Kanton Zürich. Die Rechtslage in anderen Kantonen ist vergleichbar, die Bestimmungen werden allerdings unterschiedlich angewendet. Der Leitfaden richtet sich vor allem an Anbieter, kann aber auch Schulverantwortlichen aufschlussreiche Erkenntnisse bieten.

Verschieden Organisationen wie Startups, KMU, Grossunternehmen oder Forschungsinstitute erhalten durch die Sandbox Zugang zu regulatorischem Know-how und neuartigen Datenquellen. Im Gegenzug werden sämtliche Erkenntnisse und Resultate öffentlich geteilt.

Im Kontrast zu vielen ausländischen Ansätzen geht die Innovation-Sandbox für KI einen Schritt weiter, indem einige der eingereichten Projekte nicht nur überprüft, sondern auch praktisch umgesetzt werden.

Das Ziel ist es verantwortungsvolle Innovation unter Berücksichtigung von rechtlichen und ethischen Kriterien voranzutreiben und die Verbreitung von KI in der Verwaltung, Wirtschaft und Forschung zu unterstützen.

Aktuelle Projekte

Auf KI spezialisierte Organisationen konnten zwischen März und Juni 2022 konkrete Vorhaben einreichen. Insgesamt sind 21 KI-Vorhaben aus diversen Sektoren eingegangen. Das Projekt-Portfolio widerspiegelt die hohe Relevanz von KI als Querschnittstechnologie, die sämtliche Sektoren transformiert. Die eingereichten Vorhaben wurden basierend auf einheitlichen Kriterien evaluiert. Fünf Projekte wurden ausgewählt und befinden sich aktuell in der Umsetzung.

Regulierung autonomer Systeme: Ein Leitfaden für Hersteller

Immer mehr autonome Systeme wie selbstfahrende Traktoren oder Rasenmäher kommen potenziell mit dem öffentlichen Raum in Kontakt. Den Herstellern sind die regulatorischen Rahmenbedingungen in Bereichen wie Normierung, Zulassung auf öffentlichen Strassen oder Datenschutz oftmals unklar. In diesem Projekt wird ein umfassender Leitfaden erarbeitet, der Herstellern einen Überblick zu den relevantesten Fragestellungen gibt.

Infrastrukturwartung durch Drohnen: Technologische Machbarkeit von Landebahninspektionen

Die Wartung von Infrastrukturelementen wie Brücken, Strassen oder Strommasten wird heute oftmals durch menschliches Personal übernommen. Viele dieser Aufgaben sind sehr zeitintensiv und teilweise gefährlich. In diesem Projekt werden hochaufgelöste Drohnenaufnahmen erstellt, um durch Bilderkennung Risse und Beschädigungen auf der Landebahn eines Flughafens zu identifizieren.

Automatisierte Korrekturen: Rechtliche Grundlagen für KI-Apps in der Bildung

Die Bildung wird auch in der Primarschule immer mehr von KI-basierten Tools unterstützt. Für Anbieter, Lehrpersonen, Eltern sowie Schülerinnen und Schülern sind die Rahmenbedingungen bspw. im Bereich des Datenschutzes teilweise unklar. In diesem Projekt werden die rechtlichen Grundlagen für den Einsatz von Bilderkennung zur automatisierten Korrektur von handgeschriebenen Lerninhalten geklärt.

Smart Parking in Städten: Best-Practices für Privacy-by-Design

Das Thema Parkplatzmanagement ist in vielen Städten und Gemeinden hochrelevant. Oftmals fehlen relevante Daten zur Auslastung und Belegung von Parkplätzen, um informierte Entscheidungen in der Verkehrsplanung zu fällen oder Parkleitsysteme einzuführen. KI-basierte Bilderkennung kann diese Datengrundlagen schaffen. In diesem Projekt werden Privacy-by-Design-Massnahmen für den verantwortungsvollen Einsatz von Kamerasystemen im öffentlichen Raum entwickelt.

Maschinelle Übersetzung: Empfehlungen für die Verwaltung

Viele Verwaltungseinheiten kommen in ihrer täglichen Arbeit mit anderen Sprachen in Kontakt. Das Potenzial für maschinelle Übersetzungen ist gross. Da es sich oftmals um sensitive Informationen handelt und die Verwaltung viele spezifische Fachbegriffe nutzt, stellt sich die Frage, ob generische und öffentlich zugängliche Übersetzungstools eingesetzt werden dürfen und sollen. In diesem Projekt werden Empfehlungen für den Einsatz von maschineller Übersetzung erarbeitet. Die Fallbeispiele stammen aus einem Handelsregisteramt und der Integrationsförderung.

Ausblick

Die aktuelle Pilotphase der Innovation-Sandbox für KI läuft noch bis April 2024. Die gewonnenen Erkenntnisse sämtlicher KI-Projekte werden bis dahin öffentlich zugänglich gemacht. Die Ergebnisse dienen dem Aufbau von Kompetenzen und Know-how-Transfer innerhalb der Verwaltung. Die Innovationskraft von KI-Organisationen soll gefördert werden, indem regulatorische Grundlagen geklärt und neuartige Datenquellen erschlossen werden. Des Weiteren werden basierend auf den konkreten Projekten Handlungsempfehlungen erarbeitet, falls bestehende Gesetzgebungen unzureichend sind.

Enormes Potenzial

Künstliche Intelligenz (KI) ist unaufhaltsam auf dem Vormarsch und hat ein enormes Potenzial. Allerdings gibt es noch viele offene Fragen – auch was die Regulierung betrifft. Der Kanton Zürich bringt schon seit langem die praktische Anwendung von KI voran. Im Frühling 2022 wurde die «Innovation-Sandbox» eingeführt. Sie dient als Lernumgebung – quasi wie ein Labor – in welcher Firmen, Organisationen und Verwaltung KI-Vorhaben umsetzen und Expertise im Bereich KI-Einsatz entwickeln. Daraus sind schon mehrere Leitfäden zu rechtlichen Aspekten und Empfehlungen zur technischen Implementierung von KI-Anwendungen entstanden.

Unterschiedliche Ansätze

Auch in anderen Ländern laufen ähnliche Sandbox-Projekte, zum Teil mit unterschiedlichen Ansätzen. Deshalb hat die Standortförderung im Kanton Zürich gemeinsam mit dem europäischen KI-Netzwerk CLAIRE erstmals den «AI Sandbox Summit» organisiert und Fachleute aus sechs europäischen Ländern eingeladen: Deutschland, Belgien, Norwegen, Grossbritannien, Frankreich und Spanien. Das Ziel war es, sich zu vernetzen, auszutauschen und von den Erfahrungen anderer zu lernen.

Auf welche Themen fokussieren die Projekte? Was sind die Teilnahmebedingungen für die Organisationen? In welcher Form werden die Resultate präsentiert? Zunächst teilten die Sandbox-Expertinnen und -Experten Erfolgsfaktoren und länderübergreifende Erkenntnisse. Im zweiten Teil der Veranstaltung entwickelten die Teilnehmenden Ansätze, wie man den Mehrwert für Verwaltung, Forschung und Wirtschaft erhöhen kann.

Erkenntnisse nutzen

Für Raphael von Thiessen von der Standortförderung Kanton Zürich und Projektleiter der «Innovation-Sandbox» war die Veranstaltung im FFHS Campus Zürich ein voller Erfolg: «Die Teilnehmenden haben enorm vom Austausch und den Erfahrungen in anderen Ländern profitiert und Optimierungspotenzial für die eigenen Projekte eruiert.» Auch eine länderübergreifende Zusammenarbeit wurde andiskutiert, zum Beispiel eine zentrale Projektdatenbank mit Erkenntnissen aus allen europäischen Sandbox-Fallbeispielen. Die Erkenntnisse aus dem Workshop werden demnächst auf der Webseite der kantonalen Standortförderung sowie auf der Webseite des europäischen KI-Netzwerks CLAIRE veröffentlicht. Im Kanton Zürich sollen die gesammelten Eindrücke in die zweite Phase der «Innovation-Sandbox» einfliessen.

Weitere Informationen:

Standortförderung Kanton Zürich

Europäisches KI-Netzwerk CLAIRE

Autor: Amt für Wirtschaft - Kanton Zürich