Page 17 - Handbuch Digitalisierung (2. Ausgabe)

HA„NDBUCH DIGITALISIERUNG Kapitel 1.1 / Digitalisierung & Politik Aktuell ist die Herausforderung im Zusammenspiel von Wis- senscha und Wirtscha , dass wir unser Wissen rasch für neue KI-Anwendungen und Geschä smodelle nutzen, denn lernende Systeme sind ein zentraler Wettbewerbsfaktor für di“e Zu- kun sfähigkeit des Innovationsstandortes Deutschland. cial-Media-Spezialisten. Dies bedeutet, dass men und ö entlichen Einrichtungen wächst bereits Schülerinnen und Schüler program- auch deren potenzielle Verwundbarkeit durch mieren lernen und wir KI fest in die ingeni- Cyber-Angri e. KI kann die Sicherheit von eurwissenscha liche Ausbildung integrieren IT-Systemen verbessern. Wir sollten aber dar- müssen. Denn kün ig werden wir KI in jedem Schritt der Entwicklung von neuen Produkten mitdenken müssen. Wie könnten in Zukun die neuen KI-Tech- nologien unsere Netze und Anwendungen sicherer machen und welche Herausforde- rungen sind noch zu meistern? Der Hackerangri auf den Bundestag Ende des letzten Jahres und die Cyberattacke „Wan- na Cry“ auf die Deutsche Bahn im Mai 2017 sind nur zwei Beispiele für Angri e auf IT- Systeme des Staates und der Wirtscha . Mit der zunehmenden Vernetzung von Unterneh- auf achten, nicht nur die Außengrenzen eines komplexen IT-Systems zu schützen, das reicht nicht aus. Denn wir müssen auch reagieren können, wenn ein Teil des IT-Systems von ei- nem Angreifer übernommen wurde. KI-Sys- teme können ihr Potenzial ausspielen, wenn es um die verlässliche Angri serkennung geht. Eine Herausforderung besteht darin zu verstehen, warum eine KI dies oder jenes tut. Daher brauchen wir dringend weitere For- schung und Einblicke in die „Blackbox“ der KI, damit wir uns auf die Entscheidungen von KI-Systemen in kritischen Situationen verlas- sen können. //  Über Prof. Dr.-Ing. Holger Hanselka Prof. Dr.-Ing. Holger Hanselka ist Präsident des Karlsruher Instituts für Technologie (KIT). Er ist Mitglied im Lenkungskreis der Plattform Lernende Systeme des BMBF und berätimHightech-ForumdieBundesregie- rung zu Zukun sfragen. @ www.handbuch-digitalisierung.de/autoren/h_hanselka Der Text ist unter der Lizenz CC BY-SA 3.0 DE verfügbar. Lizenzbestimmungen: https://creativecommons.org/licenses/by-sa/3.0/de/ 17 Treiber & Trends