Eine intelligentere, sicherere und vorurteilsfreie digitale Welt der Zukunft

Unsere Welt ist durch künstliche Intelligenz (KI), Robotik und das Internet der Dinge (Internet of Things, IoT) einem rasanten Wandel unterzogen. Doch bis wir im vollen Umfang Nutzen aus diesen Technologien schöpfen können, liegt noch ein weiter Weg vor uns. Komplexe Aufgaben im Zusammenhang mit der Leistungsfähigkeit und Vertrauenswürdigkeit digitaler Systeme müssen noch gelöst werden.

In Hinsicht auf eine vertrauenswürdigere und vernetzte Welt gehen die EU-finanzierten Projekte ALOHA, ENACT und PDP4E das Thema sichere und intelligente IoT-Systeme aus verschiedenen Blickwinkeln an. ALOHA konzentriert sich auf tiefes Lernen, ENACT auf intelligenteres IoT und PDP4E auf den besseren Schutz der Privatsphäre und des personenbezogenen Datenschutzes.

„Um das große Versprechen einer IoT-gestützten Welt einzulösen, müssen wir komplexe Herausforderungen meistern“, sagt Otto Berkes, Technischer Direktor von CA Technologies, Partner in allen drei Projekten, in einem Interview in „Robotics Business Review“. „Diese Hürden müssen wir überwinden, bevor wir in der Lage sind, IoT-Systeme zu liefern, die wertvolle und vertrauenswürdige Daten liefern können, anpassungsfähig und offen für neue Technologien sind; d. h. Systeme, die bisher noch nicht einmal erfunden wurden.“

Auf dem Weg zu einer vorurteilsfreien und moralisch vertretbaren künstlichen Intelligenz

Es gibt zahlreiche Beispiele für zum Teil unbeabsichtigte Vorurteile in KI-Modellen, angefangen bei rassistischen Twitter-Bots bis hin zu unerwünschten Google-Suchergebnissen, die durch die Daten verursacht werden, auf denen die Algorithmen basieren. Algorithmen für tiefes Lernen werden in der KI zum Erstellen von Modellen eingesetzt, die Daten auf eine Weise analysieren können, die der menschlichen Logik ähnelt. Mit Hilfe derartiger Algorithmen will ALOHA untersuchen, auf welche Weise IoT-Anwendungen aus Erfahrungen lernen und Schlussfolgerungen ziehen können, wie es ein Mensch tun würde. Die laufende Forschung wird sich auf die Erschaffung einer vorurteilsfreieren und moralisch vertretbareren KI konzentrieren.

Ziel sind intelligentere vernetzte Systeme

Arbeiten IoT-Systeme, Geräte und Anwendungen in potenziell feindlichen Umgebungen, in denen Cyber-Angriffe oder raues Wetter möglich sind, ist deren Sicherung und Wartung keine einfache Aufgabe.

ENACT entwickelt innovative Ideen für neue Werkzeuge, die zur Erstellung und Überwachung robuster, intelligenter IoT-Systeme erforderlich sind und auf die man sich in Szenarien verlassen kann, die im Softwareentwicklungsprozess nicht durchgespielt wurden. „Beispielsweise können zwei Geräte in einem intelligenten Zug kritische Informationen auf einem unverschlüsselten Kanal austauschen“, schreibt Berkes auf der Website von CA Technologies. „Mit einer frühzeitigen Erkennung dieser Schwachstelle können Verzögerungen in der Softwareentwicklung aufgrund von Bemühungen um die Sicherung des Systems vermieden werden.“

Das Projekt wird außerdem die KI-gestützte Selbstdiagnose für den intelligenten Betrieb erforschen, die es in Zügen ermöglichen wird, Unregelmäßigkeiten zu erkennen sowie kritische Situationen vorherzusagen und zu vermeiden. Neben intelligenten Verkehrssystemen wird ENACT die IoT-Systeme in zwei weiteren Umfeldern erproben: in den elektronischen Gesundheitsdiensten e-Health und in intelligenten Gebäuden.

Auf einem gutem Weg zu mehr Privatsphäre und Datenschutz

Die kürzlich in Kraft getretene Datenschutz-Grundverordnung (DSGVO) soll die Privatsphäre aller EU-Bürgerinnen und Bürger schützen und den Umgang aller Einrichtungen in ganz Europa mit dem Thema Datenschutz neu prägen. PDP4E wird Methoden und Verfahren entwickeln, um die Softwareentwickler bei der Entwicklung von Code zu unterstützen, der den Auflagen der DSGVO und weiteren Verordnungen entspricht.

Alle drei Projekte wurden 2018 in der ersten Jahreshälfte gestartet. ALOHA (Software framework for runtime-Adaptive and secure deep Learning On Heterogeneous Architectures) und ENACT (Trustworthy and Smart Actuation in IoT systems) sollen Ende 2020 abgeschlossen werden. PDP4E (Methods and tools for GDPR compliance through Privacy and Data Protection Engineering) endet im Januar 2021.

Weitere Informationen:
ALOHA-Projektwebsite
ENACT-Projektwebsite
PDP4E-Projektwebsite auf CORDIS