Die Agentur der Europäischen Union für Cybersicherheit (ENISA) hat zum Jahresende 2020 eine Publikation mit dem Titel: AI Cybersecurity Challenges – Threat Landscape for Artificial Intelligence herausgegeben [Link zu der Publikation unter Quellen].
Gemäß des Heise-Artikels verweist die Behörde in Ihrem Bericht sowohl darauf, dass KI technische Absicherungsmaßnahmen im besonderen unterstützen kann (wie z.B durch den Einsatz intelligenter Firewalls). Die Behörde gibt aber einen Überblick über die Bedrohungen, von denen Heise folgende herausstellt:
1. IT-Systeme die KI nutzen, um automatisierte Entscheidungen treffen zu können, wie z.B. in den Branchen autonome Fahrzeuge und E-Health unterlegen besonderen Angriffsvektoren. So können z.B. – verzerrte Eingabemesswerte zu falschen automatisierten Entscheidungen durch die System führen, die sich konkret auf Menschen auswirken können. Es ist aber die gesamte KI-Lieferkette auf solche Manipulationen hin zu sichern.
2. Neue Angriffsmethoden gefährden in neuer Form die Schutzziele der IT-SIcherheit (wie Vertraulichkeit, Integrität und Verfügbarkeit). Hier gilt es neue Schutzmaßnahmen zu etablieren, dass verhindert werden kann, dass es über neue Wege zum rechtswidrigen Abhören von Datenkommunkation, oder der automatisierten Übernahme von Prozessen kommt.
3. Der Bericht warnt auch vor der Aushöhlung des Datenschutzes
– menschliche Kontrolle über personenbezogene Daten könnten erheblich eingeschränkt werden
– Rückschlüsse auf Personen könnten mittels KI in neuen Wegen ermöglicht werden, was zu einer Einschränkung der Grundfreiheiten führen kann.
Die EU-Behörde identifiziert folgende Aufgaben mit Blick auf KI in der EU:
– In der EU ist der Einsatz von KI in kritischen Branchen mit Blick auf die Sicherheit und Datenschutz zu prüfen.
– Allgemein sollte ein Verständnis für Risiken geschaffen werden und “KI-Toolbox” mit konkreten Abhilfemaßnahmen vorbereitet werden
– „KI made in Europe” hat die Chance als Qualitätsmarke etabliert zu werden, die für ethische, sichere und hoch moderne Systeme steht.
– Forschung soll entstehende Sicherheitslücken ausfindig machen und schließen
Quellen:
https://www.heise.de/news/Kuenstliche-Intelligenz-Unvorhersehbare-Risiken-und-Angriffsmethoden-5004559.html
https://www.enisa.europa.eu/publications/artificial-intelligence-cybersecurity-challenges