Im sechsten Teil der Serie «Innovationsstandort Schweiz» erklären Johan Poccard und Dr. Iason Kastanis vom Centre Suisse d’Electronique et de Microtechnique (CSEM), unter welchen Voraussetzungen maschinelles Lernen übermenschliche Leistungen erzielen kann und weshalb hohe Genauigkeit allein noch kein zuverlässiges KI-System ausmacht.
Anhand praktischer Beispiele aus der industriellen Bildverarbeitung, Robotik und Laborautomatisierung zeigen die Autoren, wie Unternehmen KI-Systeme realistisch beurteilen können. Sie erläutern die Bedeutung geeigneter Benchmarks, nachvollziehbarer Modellentscheidungen und hochwertiger Trainingsdaten. Auch die Grenzen grosser Sprachmodelle und die Notwendigkeit menschlicher Kontrolle werden thematisiert.
Dieser Artikel im KMU-Magazin ist Teil der Serie «Innovationsstandort Schweiz», die als Folgeaktivität aus der SATW-Publikation «Orientierung KI: Herausforderungen und Chancen für Schweizer KMU» hervorgegangen ist.
Die Inhalte wurden in Zusammenarbeit mit Akteur:innen aus dem Netzwerk von SAIROP (Swiss AI Research Overview Platform) und dem Expertennetzwerk der SATW erarbeitet. SAIROP fördert die Zusammenarbeit zwischen Forschung, Industrie und Verwaltung und unterstützt den Wissenstransfer im Schweizer KI-Ökosystem.
Ja, bei klar definierten und messbaren Aufgaben können KI-Systeme menschliche Leistungen übertreffen. Beispielsweise lassen sich grosse Mengen an Bildern schneller und konsistenter analysieren, als dies Menschen möglich wäre. Daraus lässt sich jedoch keine allgemeine Überlegenheit ableiten. Die Leistungsfähigkeit hängt von der jeweiligen Aufgabe, den Trainingsdaten und den Einsatzbedingungen ab.
Benchmarks sind standardisierte Testverfahren, mit denen sich die Leistungsfähigkeit verschiedener KI-Modelle vergleichen lässt. Sie legen fest, welche Daten, Bewertungsmethoden und Kennzahlen verwendet werden. Entscheidend ist, dass die Tests möglichst realistische Einsatzbedingungen abbilden, da gute Laborergebnisse nicht automatisch eine zuverlässige Leistung im Alltag garantieren.
Erklärbarkeit hilft Fachpersonen zu verstehen, welche Informationen ein KI-Modell für seine Vorhersagen verwendet. Dadurch lassen sich fehlerhafte Annahmen, Verzerrungen oder ungeeignete Trainingsdaten erkennen. Gerade bei sicherheitskritischen Anwendungen ist dies wichtig, um die Zuverlässigkeit zu beurteilen und das Vertrauen in die Technologie zu stärken.
Grosse Sprachmodelle können komplexe Aufgaben unterstützen, erzeugen aber mitunter überzeugend formulierte, sachlich falsche Antworten. Deshalb sollten sie insbesondere bei sicherheitskritischen oder folgenreichen Anwendungen nicht als autonome Experten eingesetzt werden. Menschliche Kontrolle und klar definierte Handlungsmöglichkeiten helfen, Risiken zu begrenzen.
Die meisten industriell eingesetzten KI-Systeme lernen nicht kontinuierlich weiter. Nach dem Training bleiben ihre Modellparameter in der Regel unverändert. Für Verbesserungen müssen neue Daten gesammelt, aufbereitet und zum erneuten Training verwendet werden. Anschliessend ist eine sorgfältige Überprüfung unter realistischen Bedingungen erforderlich, bevor das aktualisierte Modell eingesetzt wird.
| Rolle | Titel + Name |
|---|---|
| Text von | Iason Kastanis, Johan Poccard |
