Lokale KI und Cybersicherheit. Wie die Schweiz Edge-KI sicher und vertrauenswürdig nutzen kann

KI-Modelle können zunehmend direkt auf Endgeräten eingesetzt werden und sind nicht mehr auf Cloud-Rechenleistung angewiesen. Diese sogenannten Edge-KI-Modelle haben dabei auch einen Einfluss auf die Cybersicherheit. Damit die Schweiz diesbezüglich keine Entwicklungen verpasst und Edge-KI auf sichere und vertrauenswürdige Art einsetzen kann, zeigt das neue Factsheet der SATW konkrete Handlungsoptionen auf.

Die Entwicklung im Bereich künstliche Intelligenz wird derzeit vom massiven Ausbau der Cloud-Infrastruktur dominiert. Dabei gerät eine zweite, ebenso bedeutsame Entwicklung in den Hintergrund: KI-Modelle laufen zunehmend direkt auf Endgeräten – auf Smartphones, Sensoren, Industrierobotern oder in Fahrzeugen. Diese sogenannte Edge-KI verarbeitet Daten dort, wo sie entstehen, statt sie an entfernte Rechenzentren zu übermitteln.

Das hat weitreichende Konsequenzen, insbesondere für die Cybersicherheit. Weil sensible Daten lokal bleiben, stärkt Edge-KI einerseits den Datenschutz und die digitale Souveränität. Doch die Nähe von Daten, KI-Modellen und Hardware vergrössert andererseits die Angriffsfläche und verlagert die Verantwortung für die Cybersicherheit von der Cloud zu den Betreibern der Endgeräte.

Damit die Schweiz diese Entwicklung nicht verpasst und Edge-KI künftig auf sichere und vertrauenswürdige Art einsetzen kann, zeigt die Themenplattform Cybersecurity der SATW konkrete Handlungsoptionen auf:

  • Zero-Trust-Architektur (gemäss NIST SP 800-207): Unter dem Grundsatz «Vertraue nie, überprüfe immer» wird für jeden Zugriff auf jede Ressource ein separater Zugang erstellt, der bei sich ändernder Sicherheitslage jederzeit entzogen werden kann.
  • Internationale Industrienormen (IEC-62443): Die Definition sicherheitsrelevanter Zonen und Kommunikationskanäle erlaubt es, den verteilten Charakter von Edge-KI-Anwendungen abzubilden und in abgetrennten Zonen zu betreiben.
  • Sicherheitsstandards für KI-Modelle: Neue Standards und verbindliche Red-Teaming-Tests vor dem Einsatz adressieren Risiken wie Datenvergiftung, Modellvergiftung und feindliche Angriffe – Gefahren, die Edge-KI durch die Nähe von Hard- und Software verstärkt.
  • Verbindlicher Cybersicherheitsrahmen für Hochrisiko-KI-Systeme: Edge-KI-Systeme, die etwa im Rahmen kritischer Infrastruktur (bspw. im Verkehr oder Strom- und Wassernetz), bei der biometrischen Identifikation oder in der Bildungsevaluation zum Einsatz kommen, sollten zum Grundsatz der Security by Design verpflichtet werden. Security by Design fordert dabei, dass Genauigkeit, Robustheit und die Cybersicherheit der Systeme im ganzen Architektur- und Entwicklungsprozess verankert ist.
  • Vertrauenswürdige Ausführungsumgebungen (VAU) zum Schutz von Hardware-Komponenten: Da bei Edge-KI-Modellen lokal Daten bearbeitet und Code ausgeführt wird, sollten Anbieter vermehrt auf VAU setzen. Bei diesen VAU handelt es sich um eine hardwareseitige Abtrennung der Bereiche, auf dem die Daten bearbeitet werden und der Code des Edge-KI-Modells ausgeführt wird.

Die rasante Entwicklung im KI-Bereich findet vermehrt auch im Lokalen statt. Damit die Schweiz Edge-KI auf sichere und vertrauenswürdige Art und Weise nutzen kann, sollten die hier diskutierten Handlungsoptionen an die Hand genommen werden.

Themenplattform Cybersecurity

Dieses Factsheet basiert auf den Arbeiten der Themenplattform Cybersecurity der Schweizerischen Akademie der Technischen Wissenschaften SATW. Die Themenplattform identifiziert relevante Entwicklungen im Bereich Cybersicherheit und erarbeitet Empfehlungen für Politik, Wirtschaft und Gesellschaft.

Mehr zur Themenplattform Cybersecurity

Mehr zum Thema Cybersecurity bei der SATW.

Q&A zum Factsheet

Das Factsheet untersucht, was es aus Sicht der Cybersicherheit bedeutet, wenn KI-Modelle zunehmend direkt auf Endgeräten statt in der Cloud eingesetzt werden. Es zeigt Handlungsoptionen auf, damit die Schweiz Edge-KI sicher und vertrauenswürdig nutzen kann.

Edge-KI bezeichnet KI-Systeme, die lokal auf Endgeräten arbeiten – etwa auf Smartphones, Sensoren, Industrierobotern oder in Fahrzeugen. Die Daten werden dort verarbeitet, wo sie entstehen, statt an ein entferntes Rechenzentrum übermittelt zu werden. Die Übergänge zwischen Cloud-KI und Edge-KI sind dabei fliessend, mit unterschiedlichen Kombinationsmöglichkeiten, etwa KI-Training in der Cloud und KI-Einsatz im Edge.

Edge-KI ermöglicht schnelle Reaktionszeiten, reduzierte Bandbreiten, Offline-Verfügbarkeit, einen systemimmanenten Schutz sensibler Daten (Privacy by Design) und ressourcenschonende Datenverarbeitung. Diese Vorteile ergeben sich vor allem daraus, dass die Daten lokal verarbeitet werden und Edge-KI-Modelle deutlich kleiner sind als Cloud-Modelle.

Edge-KI bietet entlang des Dreiklangs aus Vertraulichkeit, Integrität und Verfügbarkeit sowohl Vor- als auch Nachteile. Einerseits stärkt die lokale Datenverarbeitung den Datenschutz und reduziert das Risiko abgefangener Daten. Andererseits vergrössert die Nähe von Daten, KI-Modellen und Hardware die lokale Angriffsfläche und die Zahl der Angriffsvektoren. Die Cybersicherheitsverantwortung verlagert sich so von der Cloud hin zum Edge.

Edge-KI ermöglicht schnelle Reaktionszeiten, reduzierte Bandbreiten, Offline-Verfügbarkeit, einen systemimmanenten Schutz sensibler Daten (Privacy by Design) und ressourcenschonende Datenverarbeitung. Diese Vorteile ergeben sich vor allem daraus, dass die Daten lokal verarbeitet werden und Edge-KI-Modelle deutlich kleiner sind als Cloud-Modelle.

Das Factsheet empfiehlt der Wirtschaft, proaktiv anerkannte Standards zu implementieren: Zero-Trust-Architekturprinzipien (NIST SP 800-207), internationale Normen für Industrieautomatisierung (IEC-62443) und neue Sicherheitsstandards für KI-Modelle mit verbindlichen Red-Teaming-Tests. Wo freiwillige Initiativen nicht ausreichen, sollten Regulierungen Hochrisiko-Systeme zum Grundsatz der Security by Design verpflichten. Zudem müssen Anbieter vermehrt auf vertrauenswürdige Ausführungsumgebungen (VAU) setzen, um Daten und Code auf Hardwareebene durch räumliche Trennung zu schützen.

Es richtet sich an Entscheidungsträger:innen in Politik, Wirtschaft und Forschung, die sich mit Cybersicherheit und dem sicheren Einsatz von KI-Systemen befassen.

Das Factsheet wurde von der Themenplattform Cybersecurity der Schweizerischen Akademie der Technischen Wissenschaften SATW erarbeitet. Die Projektleitung lag bei Tobias Schlegel. Zwölf Autoren aus Forschung, Wirtschaft und Verwaltung haben zur Erarbeitung beigetragen.