Pressemitteilung von NewTec GmbH

Safe AI auf der embedded world

---

---

Pfaffenhofen an der Roth, 6. März 2025. Die NewTec GmbH stellt auf der diesjährigen embedded world vom 11. bis zum 13. März ihre neuen KI-Services vor. Das Angebot umfasst neben einem KI-Safety-Check auch umfangreiche Consulting-Services für Hersteller und Entwickler von eingebetteten Systemen.

Sollen KI-Technologien in eingebettete Systeme integriert werden, wo ein Versagen der Technologie mit Risiken verbunden ist, stehen Hersteller vor besonderen Herausforderungen. Denn im Gegensatz zu klassischen deterministischen Systemen ist es bei KI-Technologien nicht möglich, eindeutig zu bestimmen, ob sie den Anforderungen an die Funktionssicherheit entsprechen. Die Leistung von KI-Technologien wird von einer Reihe von Zufallsvariablen bestimmt - mit entsprechender Varianz. Aussagen über ihre Leistung und Genauigkeit lassen sich daher nur im Sinne von statistischen Schätzungen machen. Dessen ungeachtet schreibt der EU AI Act für Hochrisikosysteme wie Aufzüge, Fahrzeuge oder kritische Infrastrukturen mit sicherheitsrelevanten KI-Produkten ein "angemessenes Genauigkeitsniveau" vor.

Mit einem KI-Safety-Check unterstützt NewTec Hersteller von eingebetteten Systemen nun dabei, mögliche kritische KI-Ausfälle zu identifizieren und das angemessene Genauigkeitsniveau sowie die nötige Performance zur Verhinderung von Ausfällen zu ermitteln. Mittels statistischer Methodik wird dann die Genauigkeit der verwendeten (bzw. anvisierten) KI-Technologie bestimmt.

Mit diesem vom TÜV Rheinland unterstützten Verfahren erhalten Hersteller somit Klarheit darüber, ob die verwendeten KI-Technologien den Anforderungen an Funktionssicherheit und den regulatorischen Bestimmungen entsprechen.

Der KI-Safety-Check ist ein zentraler Bestandteil der KI-Services von NewTec; diese umfassen insgesamt:

- Identifikation spezifischer Fehlermodi der verwendeten KI-Technologie
- Analyse der möglichen Fehlerfortpflanzung der KI-Technologie entlang des Informationsflusses im Systemkontext
- Analyse der möglichen Risiken durch Ausfälle, die durch die KI-Technologie verursacht werden können
- Ableitung von Zielwerten für die funktionale Eignung der KI-Technologie (z. B. notwendige Genauigkeit)
- Validierung der Zielwerte in Hinblick auf Erreichbarkeit im Systemkontext mit der notwendigen Konfidenz
- Hardwareanalyse zur Ermittlung der Wahrscheinlichkeit zufälliger Fehler auf komplexer Hardware zur Ausführung von KI-Technologien
- Analyse der spezifischen Entwicklungsprozesse der verwendeten KI-Technologie in Hinblick auf die Sicherstellung der systematischen Eignung
- Aufbereitung der erarbeiteten Inhalte und Vorbereitung einer Vorstellung vor Prüfstellen

Mehr Informationen zu den KI-Services gibt es auf dem NewTec-Messestand in Halle 5, Standnummer 5-170.

(Die Bildrechte liegen bei dem Verfasser der Mitteilung.) Firmen- & Pressekontakt