Kontron SUSiEte: KI-Lösungen aus einem Guss

High Performance Server Kontron KISS 4U V3 SKX:

Der robuste High Performance Server Kontron KISS 4U V3 SKX ist speziell für anspruchsvolle Anwendungen geeignet, wie z. B. High-End-Bildverarbeitung, SCADA/MES-Applikationen, Artificial Intelligence und Machine Learning.

Das System bewältigt rechenaufwändige Prozesse und große Datenmengen dank Prozessoren der Dual Intel® Xeon® SP Serie mühelos. Die Lautstärke im laufenden Betrieb bewegt sich auf einem niedrigen Niveau kleiner 35dBA, so dass die Computerplattform auch für den Einsatz in geräuschsensiblen, personennahen Bereichen wie Laboren oder Leitzentralen qualifiziert ist. Zudem ist der Kontron KISS 4U V3 SKX für raue Umgebungen konzipiert und eignet sich für die Verwendung bei hohen Temperaturen und mechanischen Belastungen.

Durch mehrere PCIe Slots und leistungsstarke Netzteile lassen sich mehrere GPGPU Karten z. B. von NVIDIA in den Rechner für KI-Aufgaben integrieren.

Der KI-Markt setzt seinen Wachstumskurs fort. Bis 2022 soll sich sein Marktvolumen mit rund zehn Milliarden Euro mehr als verdreifachen, so die Prognose des European IT Observatory (EITO)-Berichts von Anfang 2019. Die meisten KI-Investitionen fließen dabei laut EITO in die Dienstleistungen (47 %). Es folgen knapp dahinter die Umsätze mit Software, die auf 45 % geschätzt werden. Ausgaben für Server und Speicherplatz sollen um 24 % pro Jahr steigen.

Produkte, Beratung und Support als Gesamtpaket

Die Ergebnisse des EITO-Berichts decken sich mit den Erfahrungen von Kontron und Kontron Technologies, vormals S&T Technologies: Kunden erwarten eine fertige, ganzheitliche Lösung, die nach ihrer Implementierung produktiv und zuverlässig arbeitet. Es geht meist nicht nur um die Komponenten einer AI-Anwendung, die z. B. aus Edge Computern und der gewünschten Applikation besteht.

Die Dienstleistung von Kontron umfasst alle Stufen: die Klärung der Hardware-Anforderungen, die Auswahl und Integration von am Markt verbreiteten Open-Source-Modulen und -Paketen, sowie die Kapselung komplexer Programme/Applikationen z. B. über Docker. Der Kunde wird auf seiner gesamten Reise von der Beratung bis hin zu einer fertigen maßgeschneiderten KI-Lösung begleitet.

Szenarien für KI mit und ohne Cloud

Die Beratung setzt immer am individuellen Anwendungsfall an. Anhand der konkreten Problemstellung wird evaluiert und entschieden, ob KI-Lösungen und -Prozesse partiell oder komplett in die Cloud verlagert werden. Dem IoT Software Framework SUSiEtec (S&T‘s User focused Solutions for IoT Embedded) kommt beim Beratungsansatz von Kontron eine zentrale Bedeutung zu, denn es ermöglicht, die jeweilige IoT-Architektur hybrid und skalierbar zu realisieren. Es ist für den Einsatz in Kombination mit der Kontron Hardware optimiert, lässt sich aber nahtlos mit Produkten von Drittanbietern betreiben und in vorhandene Infrastrukturen integrieren.

SUSiEtec ist ein herstellerunabhängiges Software- und Dienstleistungsangebot, das sämtliche vorhandene Elemente einer Cloud-Lösung zusammenfügt und zu einem anwenderspezifischen Gesamtpaket verbindet. Eine solche Individualität können führende Cloud-Provider wie Amazon oder Microsoft mit ihren IoT-Services nicht realisieren. Doch gerade industrielle KI-Anwendungen setzen eine den individuellen Anforderungen entsprechende, optimale Vernetzung von Geräten und Komponenten voraus – herstellerunabhängig und bedarfsgerecht skalierbar.

KI-Lösungen müssen nicht immer zwingend in die Cloud verlagert werden. Wenn Reaktionszeiten im Millisekunden-Bereich liegen müssen, dürfen Latenzzeiten und Bandbreitenbeschränkungen der Cloud nicht hingenommen werden. In der Praxis ist das bei der Steuerung und Überwachung von unternehmenskritischen Maschinen und Prozessen der Fall. Hier sind in der Folge leistungsstarke Edge Computer erforderlich. Das IoT Software Framework übernimmt dabei die Aufgabe, die Daten lokal zu verarbeiten, zu filtern und dann in die Cloud zu transferieren.

Machine und Deep Learning

Eine hohe Rechenleistung ist auch im extrem rechenintensiven Machine Learning sowie im Deep Learning erforderlich. Hierbei werden in aller Regel vorgefertigte neuronale Netze für automatisierte Erkennungsfunktionen trainiert. Je nach Anwendung eignet sich Edge Computing hierfür wesentlich besser, als Terabytes an Trainingsmaterial in die Cloud hochzuladen.

Der komplette Prozess für Deep Learning besteht aus der Sammlung von Samples, der Trainingsphase, der Transformation des gelernten Netzes und der Integration des trainierten Netzes in ein Produkt.

Spätestens bei der Auslieferung an den Kunden muss das System einsatzfähig sein. Hat die Anwendung beispielsweise die Aufgabe, Objekte zu erkennen, muss sie nach Maßgabe von Kontron Technologies als Mindestanforderung eine Trefferquote von 80 % aufweisen, um als „minimal viable product“ eingestuft zu werden.

KI-Anwendung Visual Inspection

Visuelle Erkennung ist eines der bekanntesten Beispiele für KI-Lösungen. Dabei werden beispielsweise Aufnahmen einer Kamera, die entweder über USB oder via Netzwerk angeschlossen ist, direkt auf dem Edge Device von einem antrainierten neuronalen Netz im sogenannten Inference-Prozess analysiert und ausgewertet.

Auch die Texterkennung und -wiedergabe, sowie die Audio- und Verhaltensmuster-Erkennung nutzen KI-Anwendungen. Über die Audioerkennung lassen sich Störgeräusche oder Beeinträchtigungen im Bewegungsmuster identifizieren, die vielleicht auf ein fehlerhaftes Maschinenteil hindeuten. Damit könnten etwa Achsen von vorbeifahrenden Zügen geprüft werden. In IT-Netzwerken werden Firewalls mit der Zeit lernen, wie normales Verhalten im Netzwerk von ungewöhnlichen, verdächtigen Aktivitäten zu unterscheiden ist – und dann Alarm schlagen oder sogar erste Schutz- und Abwehrmaßnahmen einleiten.

Die Anwendungsbeispiele sind vielfältig:

• Waagen im Supermarkt sollen automatisch erkennen, welche Art Obst oder Gemüse abgewogen wird; Kunden müssen sich dann nicht mehr die dazugehörigen Nummern merken und von Hand eingeben. Angestellte an der Kasse müssen nicht mehr prüfen, ob der Kunde den richtigen Preis ermittelt hat.

• Bei der professionellen dauerhaften Haarentfernung mittels Laser beim Hautarzt kann das Gerät automatisch erkennen, auf welchen Hauttyp es sich einstellen soll. Eine aufwändige Untersuchung und Justierung durch den Arzt ist nicht mehr notwendig.

• Bei Reparaturen und Instandhaltung reicht ein Foto des auszutauschenden oder defekten Teils aus, damit die Software oder App das Teil korrekt identifiziert und gegebenenfalls sofort die Bestellung des Ersatzteils auslöst.

Einfache Programmierung von KI-Anwendungen

Den Erfahrungen von Kontron Technologies zufolge haben Unternehmen häufig bereits erprobte und bewährte Visual-Inspection-Systeme in Betrieb. Diese sind teils viele Jahre im Einsatz und somit perfekt auf die jeweilige Anwendung abgestimmt. Neue KI-Lösungen haben es demzufolge schwer, sich gegen etablierte Systeme durchzusetzen. Fehlt eine Programmiersprache für die Entwicklung einer neuen Lösung, kann das IoT Software Framework SUSiEtec hier ausgleichen. Es erlaubt Entwicklern, die Learning- und Inference-Phasen in den gängigen Sprachen .Net und Java unter Windows zu programmieren.

Hardwareseitig sind Embedded Computer für KI-Aufgaben ausreichend gerüstet, denn in der Praxis spielt die Auswertegeschwindigkeit nur eine geringe Rolle: Der Unterschied zwischen einer Zehntel und zwei Sekunden ist für die Anwendung oft nicht entscheidend. Leistungsfähige Hardware-Beschleuniger für neuronale Netze sind deshalb meistens in zeitkritischen Szenarien erforderlich, aber auch nicht in jeder Anwendung.

Der Markt für skalierbare KI-Lösungen ist also grundsätzlich ausgereift, da die Komponenten quasi „von der Stange weg“ verfügbar sind.