Innovation Zurich - die Plattform für Vernetzung, Orientierung und Neuigkeiten rund um Innovation.

Dieser Leitfaden bietet einen Überblick über rechtliche Aspekte bei der Implementierung von KI-Anwendungen. Das Dokument wurde basierend auf einem konkreten Anwendungsfall erarbeitet, bei dem Schüler:innen mit einem Smartphone-Scan handschriftlich ausgefüllte Aufgaben automatisiert korrigierten. Die nachfolgenden Ausführungen basieren auf den Rechtsgrundlagen einer öffentlichen Schule im Kanton Zürich. Die Rechtslage in anderen Kantonen ist vergleichbar, die Bestimmungen werden allerdings unterschiedlich angewendet. Der Leitfaden richtet sich vor allem an Anbieter, kann aber auch Schulverantwortlichen aufschlussreiche Erkenntnisse bieten.

Verschieden Organisationen wie Startups, KMU, Grossunternehmen oder Forschungsinstitute erhalten durch die Sandbox Zugang zu regulatorischem Know-how und neuartigen Datenquellen. Im Gegenzug werden sämtliche Erkenntnisse und Resultate öffentlich geteilt.

Im Kontrast zu vielen ausländischen Ansätzen geht die Innovation-Sandbox für KI einen Schritt weiter, indem einige der eingereichten Projekte nicht nur überprüft, sondern auch praktisch umgesetzt werden.

Das Ziel ist es verantwortungsvolle Innovation unter Berücksichtigung von rechtlichen und ethischen Kriterien voranzutreiben und die Verbreitung von KI in der Verwaltung, Wirtschaft und Forschung zu unterstützen.

Aktuelle Projekte

Auf KI spezialisierte Organisationen konnten zwischen März und Juni 2022 konkrete Vorhaben einreichen. Insgesamt sind 21 KI-Vorhaben aus diversen Sektoren eingegangen. Das Projekt-Portfolio widerspiegelt die hohe Relevanz von KI als Querschnittstechnologie, die sämtliche Sektoren transformiert. Die eingereichten Vorhaben wurden basierend auf einheitlichen Kriterien evaluiert. Fünf Projekte wurden ausgewählt und befinden sich aktuell in der Umsetzung.

Regulierung autonomer Systeme: Ein Leitfaden für Hersteller

Immer mehr autonome Systeme wie selbstfahrende Traktoren oder Rasenmäher kommen potenziell mit dem öffentlichen Raum in Kontakt. Den Herstellern sind die regulatorischen Rahmenbedingungen in Bereichen wie Normierung, Zulassung auf öffentlichen Strassen oder Datenschutz oftmals unklar. In diesem Projekt wird ein umfassender Leitfaden erarbeitet, der Herstellern einen Überblick zu den relevantesten Fragestellungen gibt.

Infrastrukturwartung durch Drohnen: Technologische Machbarkeit von Landebahninspektionen

Die Wartung von Infrastrukturelementen wie Brücken, Strassen oder Strommasten wird heute oftmals durch menschliches Personal übernommen. Viele dieser Aufgaben sind sehr zeitintensiv und teilweise gefährlich. In diesem Projekt werden hochaufgelöste Drohnenaufnahmen erstellt, um durch Bilderkennung Risse und Beschädigungen auf der Landebahn eines Flughafens zu identifizieren.

Automatisierte Korrekturen: Rechtliche Grundlagen für KI-Apps in der Bildung

Die Bildung wird auch in der Primarschule immer mehr von KI-basierten Tools unterstützt. Für Anbieter, Lehrpersonen, Eltern sowie Schülerinnen und Schülern sind die Rahmenbedingungen bspw. im Bereich des Datenschutzes teilweise unklar. In diesem Projekt werden die rechtlichen Grundlagen für den Einsatz von Bilderkennung zur automatisierten Korrektur von handgeschriebenen Lerninhalten geklärt.

Smart Parking in Städten: Best-Practices für Privacy-by-Design

Das Thema Parkplatzmanagement ist in vielen Städten und Gemeinden hochrelevant. Oftmals fehlen relevante Daten zur Auslastung und Belegung von Parkplätzen, um informierte Entscheidungen in der Verkehrsplanung zu fällen oder Parkleitsysteme einzuführen. KI-basierte Bilderkennung kann diese Datengrundlagen schaffen. In diesem Projekt werden Privacy-by-Design-Massnahmen für den verantwortungsvollen Einsatz von Kamerasystemen im öffentlichen Raum entwickelt.

Maschinelle Übersetzung: Empfehlungen für die Verwaltung

Viele Verwaltungseinheiten kommen in ihrer täglichen Arbeit mit anderen Sprachen in Kontakt. Das Potenzial für maschinelle Übersetzungen ist gross. Da es sich oftmals um sensitive Informationen handelt und die Verwaltung viele spezifische Fachbegriffe nutzt, stellt sich die Frage, ob generische und öffentlich zugängliche Übersetzungstools eingesetzt werden dürfen und sollen. In diesem Projekt werden Empfehlungen für den Einsatz von maschineller Übersetzung erarbeitet. Die Fallbeispiele stammen aus einem Handelsregisteramt und der Integrationsförderung.

Ausblick

Die aktuelle Pilotphase der Innovation-Sandbox für KI läuft noch bis April 2024. Die gewonnenen Erkenntnisse sämtlicher KI-Projekte werden bis dahin öffentlich zugänglich gemacht. Die Ergebnisse dienen dem Aufbau von Kompetenzen und Know-how-Transfer innerhalb der Verwaltung. Die Innovationskraft von KI-Organisationen soll gefördert werden, indem regulatorische Grundlagen geklärt und neuartige Datenquellen erschlossen werden. Des Weiteren werden basierend auf den konkreten Projekten Handlungsempfehlungen erarbeitet, falls bestehende Gesetzgebungen unzureichend sind.

Ab dem 1. März 2024 wird der Kanton Zürich einen Digital Innovation Hub besitzen. Das kantonale Labor wird von Maren Kottler geleitet, die zuvor als Managerin Foresight & Open Innovation bei der Schweizerischen Post gearbeitet hat. Dies bestätigt die Finanzdirektion, bei der das Amt für Informatik (AFI) angesiedelt ist, auf Anfrage. Unter ihrer Leitung sollen vier Fachleute eine Community-Plattform etablieren und bereits gestartete Vorhaben wie die KI-Sandbox sowie Akteure aus Bildung, Wirtschaft und Verwaltung verzahnen.

Derzeit sucht der Kanton über 14 Bereiche eine Menge IT-Dienstleistungen für das Applikationsmanagement, darunter für Virtual und Augmented Reality, Künstliche Intelligenz, Internet of Things und Blockchain. Eine zentrale Übersicht über die Innovationsthemen gibt es derzeit noch nicht, wie ein Pressesprecher der Finanzdirektion erklärt. Das soll der Digital Innovation Hub ändern. Dessen Community-Plattform soll einen Überblick über die innovativen Projekte der Verwaltung erlauben und den Technologietransfer unter den Projekten ermöglichen.

Blockchain, VR und KI beim Kanton

Für Blockchain-Anwendungen erhofft sich der Kanton Anbieter, die bei Bedarf bis 2027 jährlich 300 Personentage stemmen können. Es geht um Projekte für Applikationen, aber auch um Machbarkeitsstudien, Beratung und Schulung von Mitarbeitenden des Kantons. Schliesslich wird auch Support und Unterstützung im Betrieb verlangt.

Es handelt sich aber eher um eine präventive Beschaffung. Konkrete Projekte, in denen Blockchain für die Abwicklung von Geschäftsvorhaben eingesetzt oder dies mindestens geprüft werde, seien derzeit nicht bekannt, heisst es von der Pressestelle. Es sei aber nicht auszuschliessen, dass die Technologie in Produkten von Lieferanten zum Einsatz komme.

Anders sieht es mit Künstlicher Intelligenz aus. Die Technologie wird in Voice- und Chatbots bereits eingesetzt, wo sie die Intention von Usern erkennen und entsprechende Antworten liefern sollen. Weitere KI-Projektbeispiele sind der "Digital Learning Hub" des Mittel- und Berufsschulamts und die "Innovations-Sandbox" der Volkswirtschaftsdirektion. Der KI-Einsatz ist in einem kantonalen Leitfaden umschrieben, aktuelle Projekte sind auf der Kantonswebsite aufgelistet.

Auch IoT-Geräte werden im Kanton bereits eingesetzt. So nutzt das Amt für Informatik unter den Tischen verbaute Sensoren. Diese generieren Daten bezüglich der Belegung der Arbeitsplätze. Weitere Sensoren erzeugen Informationen zum Raumklima und zu der Akustik. An Augmented und Virtual Reality wird an der Bildungs- und Forschungsanstalt Strickhof geforscht. An der Olma wurde am Strickhof-Stand laut Medienstelle mittels VR-Brille aufgezeigt, wie die Innereien einer Kuh aussehen und mit welchen Fütterungsstrategien die Verdauung beeinflusst wird.

Autor: Thomas Schwendener