IT Security

Sicherheit war schon immer ein Wettlauf zwischen Angreifer und Verteidiger. Er beginnt einen Krieg mit einem Stock, du holst eine Lanze; er kontert mit einer Muskete, du rüstest auf eine Kanone auf; er entwickelt einen Panzer, du spaltest das Atom. Während die Folgen von Sicherheitsverletzungen in Organisationen heute vielleicht nicht so erdbebenartig dramatisch sind, setzt sich der Wettlauf von Jahrhunderten in die digitale Sphäre von heute fort.

Die nächste Herausforderung für Unternehmen mit Blick auf die Zukunft sollte darin bestehen zu erkennen, dass künstliche Intelligenz (KI) bereits Einzug hält – mit Werkzeugen wie PatternEx, die sich auf die Erkennung von Cyberangriffen konzentrieren, und Feedzai für die Betrugserkennung entlang der E-Commerce-Wertschöpfungskette. Die Technologie entwickelt sich so schnell, dass es noch zu früh ist, um zu sagen, ob die Auswirkungen revolutionär sein werden oder einfach nur die nächste Evolution darstellen.

Künstliche Intelligenz

Einige KI-Enthusiasten argumentieren, dass diese neue technologische Kraft alle anderen scheinbar irrelevant machen könnte, angesichts des Ausmaßes der Veränderung, des Risikos und der Chancen, die sie im Bereich der IT-Sicherheit mit sich bringen könnte. Diese neue dunkle Kunst, die scheinbar magische technologische Zauberei bietet, hat tatsächlich das Potenzial, unsere Welt zu verändern und – je nachdem, wem Sie glauben – entweder das Leben ein wenig besser zu machen, zu einer totalen gesellschaftlichen Transformation zu führen oder die Menschheit selbst zu beenden.

Künstliche Intelligenz hat das Potenzial, alle Branchen zu stören – es handelt sich um ein Gebiet der Informatik, das darauf ausgerichtet ist, intelligente Softwarewerkzeuge zu entwickeln, die wichtige menschliche geistige Fähigkeiten nachahmen. Die Palette der Anwendungen umfasst Spracherkennung, Sprachübersetzung, visuelle Wahrnehmung, Lernen, Denken, Schlussfolgern, strategisches Planen, Entscheidungsfindung und Intuition.

Durch eine neue Generation disruptiver Technologien und KI betreten wir eine vierte industrielle Revolution.

Automatisierung. Diese neue vierte Ära mit ihren intelligenten Maschinen wird durch exponentielle Verbesserung und die Zusammenführung verschiedener wissenschaftlicher und technologischer Bereiche wie Big Data, KI, das Internet der Dinge (IoT), Supercomputing-Hardware, hyper Vernetzung, Cloud-Computing, digitale Währungen, Blockchain-Verteilungssysteme und mobiles Computing angetrieben. Die mittel- bis langfristigen Auswirkungen dieser konvergierenden exponentiellen Technologien auf Individuen, die Gesellschaft, Unternehmen, Regierungen und die IT-Sicherheit sind noch lange nicht klar.

Die Geschwindigkeit der KI-Entwicklung beschleunigt sich und erstaunt sogar diejenigen in der Branche. Im März 2016 besiegte das AlphaGo-System von Google DeepMind den Weltmeister im Go-Spiel und demonstrierte die Geschwindigkeit der Entwicklung im Bereich des maschinellen Lernens – einer Kern- KI-Technologie. Das Brettspiel Go hat über 560 Millionen mögliche Züge – man kann dem System nicht alle Regeln und Kombinationen beibringen. Stattdessen war AlphaGo mit einem maschinellen Lernalgorithmus ausgestattet, der es ihm ermöglichte, die Regeln und möglichen Züge aus der Beobachtung Tausender Spiele abzuleiten. Diese Technologie kann heute in der IT-Sicherheit in Anwendungen von der Erkennung und Verhinderung externer Bedrohungen bis zur Identifizierung von Vorläufern potenziell illegalen Verhaltens bei Mitarbeitern eingesetzt werden.

Aktueller Stand der Sicherheit

Im Jahr 2015 stellte das Identity Theft Resource Centre in den USA fest, dass fast 180 Millionen persönliche Datensätze bei Datenverletzungen exponiert wurden, und ein Bericht einer Umfrage von PwC ergab, dass 79 % der US-Unternehmen, die geantwortet haben, mindestens einen Sicherheitsvorfall erlebt haben.1,2 Branchenforschung zeigt, dass Hacker Schwachstellen innerhalb von Minuten nach deren Bekanntwerden ausnutzen, während Unternehmen etwa 146 Tage benötigen, um kritische Schwachstellen zu beheben. Bei den durchschnittlichen Kosten eines Datenverstoßes von geschätzten 4 Millionen US-Dollar wächst die Sorge darüber, wie Unternehmen mit der ständigen Flut immer heimtückischerer, schnellerer und bösartigerer Angriffe heute und in der Zukunft Schritt halten können.

In der aktuellen Situation konzentrieren sich viele Unternehmen mehr darauf, auf Sicherheitsverletzungen zu reagieren, als sie zu verhindern, und der aktuelle Ansatz zur Netzwerksicherheit zielt oft mehr auf die Einhaltung von Standards ab als auf die Erkennung neuer und sich entwickelnder Bedrohungen. Das Ergebnis ist ein unlösbares Spiel von ‘Whack-a-Mole’, das Unternehmen in der Zukunft überfordern könnte, es sei denn, sie sind bereit, die Denkweise, Technologie und Techniken der Hacker zu übernehmen und anzupassen. Und es besteht kaum Zweifel daran, dass Hacker bereits AI-Tools entwickeln oder bald entwickeln werden, um die Häufigkeit, das Ausmaß, die Breite und die Raffinesse ihrer Angriffe zu steigern.

Organisationen in diesem digitalen Zeitalter erzeugen unendliche Mengen an Daten, sowohl intern durch ihre eigenen Prozesse als auch extern durch Kunden, Lieferanten und Partner. Kein Mensch ist in der Lage, all diese Daten zu analysieren, um potenzielle Sicherheitsverletzungen zu überwachen – unsere Systeme sind einfach zu weit verbreitet, datenlastig und unhandlich geworden. Wenn sie jedoch mit Big-Data-Management-Tools kombiniert werden, wird KI immer effektiver darin, riesige Datenmengen zu verarbeiten und Muster und Abweichungen zu erkennen. Tatsächlich werden die meisten KI-Systeme mit mehr Informationen, die ihnen zugeführt werden, immer intelligenter.

Zukünftiges Potenzial

Einer der größten potenziellen Sicherheitsvorteile von KI liegt in der Erkennung interner Bedrohungen. Stellen Sie sich vor, ein KI-System, das Tag für Tag die Aktivitäten aller Mitarbeiter im Firmenhauptsitz über Biometrie und Login-Informationen überwacht. Es weiß beispielsweise, dass der CFO normalerweise jeden Tag bis spätestens 12 Uhr aus der Cloud ausloggt und ins firmeneigene Fitnessstudio geht, wo sie durchschnittlich 45 Minuten verbringt. Eines Tages erkennt es eine Anomalie – der CFO hat sich um 12:20 Uhr in die Cloud eingeloggt. Die KI ist intelligent genug, um ihren Standort mit diesem unerwarteten Login zu vergleichen – nach ihren Daten wurde das Gesicht des CFO zuletzt beim Betreten des Fitnessstudios gescannt und hat das Fitnessstudio nicht verlassen, aber der Cloud-Login stammte aus ihrem Büro. Die KI erkennt die Anomalie, korreliert die Diskrepanz zwischen Login und Standort des CFO, sperrt den Zugang zur Cloud für das Konto des CFO und leitet defensive Maßnahmen gegen mögliche Cyberangriffe ein. Das System benachrichtigt auch den CFO und eskaliert dieses hochpriorisierte Problem innerhalb von Sekunden an die menschliche IT-Sicherheit. Wichtige Unternehmensdaten und Finanzunterlagen sind dank der KI-Sicherheit sicher.

Stellen Sie sich vor, wie ihre Fähigkeiten wachsen werden, wenn dieses gleiche KI-System weiterhin das Verhalten von Hunderten oder Tausenden von Mitarbeitern in der gesamten Organisation lernt und vorhersagt – damit kann es ähnliche Sicherheitsverletzungen überwachen und vorhersagen.

Über das Verhalten der Mitarbeiter hinaus überwacht diese KI-Sicherheitsanwendung auch die internen Systeme des Unternehmens und lernt, wie sie miteinander interagieren. Sie stellt fest, dass, wenn Kundeninformationen in die Datenbank des Unternehmens eingetragen werden, diese Informationen automatisch von der Buchhaltungssoftware erfasst werden und innerhalb von durchschnittlich 7,5 Sekunden eine Rechnung generiert wird. Jede Abweichung vom normalen Verhalten um 0,25 Sekunden löst bei der KI eine Untersuchung aus, bei der jede Verbindung im Prozess überprüft und die Ursache ermittelt wird. In diesem Fall, basierend auf dem, was sie entdeckt (eine unbedeutende Verzögerung im System), priorisiert die KI-Sicherheit den Vorfall ordnungsgemäß als geringes, nicht bedrohliches Risiko ein, wird jedoch weiterhin nach ähnlichen Verzögerungen suchen und das Systemwartungsteam bei Bedarf auf das Problem hinweisen.

‘Diese neue Ära wird durch die Zusammenführung wissenschaftlicher und technologischer Bereiche wie Big Data, KI, das Internet der Dinge (IoT), Supercomputing-Hardware, Hyperkonnektivität, Cloud-Computing, digitale Währungen, Blockchain-Verteilungssysteme und mobiles Computing angetrieben.’

Lassen Sie uns dieses Szenario einen Schritt weiterdenken – stellen Sie sich vor, dass dieses KI-System nicht nur das Verhalten von Hunderten von Mitarbeitern und der internen Unternehmensnetzwerke gelernt hat, sondern auch in der Lage ist, kontinuierlich von externen Cyberangriffen zu lernen. Je mehr Cyberangriffe auf die KI abgeworfen werden, desto mehr Daten kann sie analysieren, und ähnlich wie ein denkender, rationaler Soldat, der die Befestigungsanlagen durch zahlreiche Feldzüge verteidigt hat, wird sie immer besser ausgebildet und vorbereitet sein für zukünftige Angriffe. Sie wird völlig neue, feindliche Codes aufgrund früherer Erfahrungen und vorheriger Begegnungen mit verwandten Angriffsverhaltensmustern erkennen. Sie wird Abwehrmechanismen entwickeln, während sie daran arbeitet, den neuen feindlichen Code zu entwirren: und wenn der feindliche KI-Code versucht, sich an die neuen Abwehrmaßnahmen anzupassen, wird die KI-Sicherheit kontinuierlich neue Methoden zur Bekämpfung und Vernichtung des Eindringlings entwickeln.

Dies ist das potenzielle KI-Sicherheitssystem der nahen Zukunft – vollständig integriert, nicht invasiv für das tägliche Geschäft und immer wachsam und bereit zur Verteidigung. Es wird die ultimative digitale Wache sein – hoffentlich in der Lage, genauso schnell zu lernen und sich anzupassen wie die Angreifer.

Herangehensweise der Organisationen

So wie der Kampf mit Stöcken schließlich zu Atomwaffen eskalierte, wird auch der KI-Kampf zwischen Organisationen und Hackern fortschreiten. Eine ständige Überbietung wird zur Norm in der KI-Sicherheit werden, vielleicht bis zu dem Punkt, an dem selbst Entwickler nicht mehr in der Lage sein werden, die genaue Funktionsweise ihrer ständig lernenden und sich entwickelnden Sicherheitsalgorithmen zu entschlüsseln.

So komplex und teuer, wie das alles klingen mag, werden Unternehmen in der Zukunft, insbesondere kleinere Organisationen, ohne KI überleben können?

Während die Einsätze höher werden und die Gefahren größer erscheinen, könnten immer weiterentwickelte KI-Bedrohungen zu einer weitaus stärkeren Zusammenarbeit mehrerer Unternehmen führen. Kleinere Organisationen könnten sich unter einem KI-Sicherheitssystem zusammenschließen, die Kosten und Wartung auf mehrere Zahler verteilen, während größere Unternehmen mit der finanziellen und technologischen Stärke, ihr eigenes KI-Sicherheitssystem zu besitzen, tatsächlich wichtige Informationen über Cyberangriffe austauschen könnten – oder genauer gesagt, ihre KIs könnten Informationen über Cyberangriffe austauschen und voneinander lernen.

‘Während das KI-System von einigen Cybersecurity-Experten gewartet wird, liegt das gesamte einfache Sicherheitssystem in den Händen jedes Mitarbeiters, was die Wahrscheinlichkeit einer Sicherheitsverletzung erheblich erhöht.’

Alternativ könnten Unternehmen so überwältigt sein, dass sie sich einfach für einfache, technologisch günstigere ‘Brute-Force’-Nicht-KI-Lösungen entscheiden, um immer komplexere KI-Hacks abzuwehren. Die einfache oder dumme Lösung könnte mehr Kontrollen und Passwörter für Konten und Geräte bedeuten oder möglicherweise sicherheitsgesteigerte Geräte, die alle zwei Wochen ausgetauscht werden. Während das Hinzufügen von fünf Schichten komplexer Passwörter zu jeder Anmeldung oder das ständige Wechseln von Smartphones die Sicherheit des Unternehmens schützen könnte, würden die erhöhten Kosten, die Frustration der Mitarbeiter und die Zeitverschwendung mit umständlichen Sicherheitsmaßnahmen nicht als ideal angesehen und könnten den Ruf des Unternehmens beeinträchtigen, was es anfälliger für Angriffe machen könnte.

Während ein KI-System die Sicherheit leise überwacht und den Mitarbeitern ermöglicht, sich auf ihre Arbeit zu konzentrieren, legt die einfache Nicht-KI-Lösung eine unnötige Sicherheitslast auf die Mitarbeiter – sie sind dafür verantwortlich, diese fünf komplexen Passwörter im Auge zu behalten und Geräte alle zwei Wochen auszutauschen. Während das KI-System von einigen Cybersecurity-Experten gewartet wird, liegt das gesamte einfache Sicherheitssystem in den Händen jedes Mitarbeiters, was die Wahrscheinlichkeit einer Sicherheitsverletzung erheblich erhöht. In der Zukunft könnte diese einfache Nicht-KI-Lösung eher eine Überlebensstrategie als eine adaptive offensive Kampagne eines führenden, florierenden Unternehmens werden.

Die Rolle der Menschen

Natürlich stellt sich an diesem Punkt eine natürliche Frage: Wenn KI schneller, intelligenter und kontinuierlich anpassungsfähiger ist, um ihre Aufgabe besser zu erledigen, warum sollten wir uns überhaupt mit menschlicher Cybersicherheit befassen? Heute muss KI-Sicherheit immer noch von Menschen lernen, und obwohl sie eines Tages vielleicht den Punkt erreichen wird, an dem sie keine Expertenbeteiligung mehr erfordert, ist dieser Tag noch mindestens einige Jahre entfernt. Darüber hinaus, je nachdem, wie wertvoll wir menschliche Aufsicht und Intuition in der Sicherheit einschätzen, könnte dieser Tag möglicherweise nie kommen. KI-Sicherheitssysteme benötigen derzeit Menschen, um ihre Starteralgorithmen zu schreiben und die notwendigen Daten, Schulungen und Rückmeldungen bereitzustellen, um ihr Lernen zu lenken. Menschen sind derzeit ein wesentlicher Bestandteil der Bereitstellung von KI, und wenn die KI-Sicherheit über dieses frühe Stadium hinaus fortschreitet, wird sich auch die Rolle der Menschen in der KI weiterentwickeln.

Da Organisationen zunehmend Prozesse digitalisieren und enorme Mengen sensibler Daten ansammeln, wird die Rolle der menschlichen Architekten und Aufpasser von KI-Sicherheitssystemen an Bedeutung gewinnen. Noch nie war so viel Daten so leicht angreifbar, und selbst kleine Angriffe, die scheinbar harmlose Daten sammeln, könnten sich zu katastrophalen Sicherheitsverletzungen summieren. Entwickler von KI-Sicherheit werden an Bedeutung gewinnen, vergleichbar mit Inspektoren für Atomwaffen – hoch vertrauenswürdige Personen, die umfangreichen Sicherheitsüberprüfungen und intensiven Schulungen, Überprüfungen und Akkreditierungen unterzogen haben. Sie werden nicht nur KI-Sicherheit aufbauen, sondern auch Aufsicht und intuitive Anleitung im Schulungsprozess bieten und eine integrale Linie der Cybersicherheitsverteidigung sein.

KI-Sicherheit wird weit über menschliche Fähigkeiten hinausgehen und Organisationen sowie Cybersicherheitsexperten von der unmöglichen Aufgabe der ständigen Wachsamkeit befreien, ihnen ermöglichen, zukünftige Angriffe zu verhindern, ohne den täglichen Arbeitsablauf zu unterbrechen. Das KI-Sicherheitssystem von morgen wird lernen, sich selbst zu verbessern und diskret im Hintergrund arbeiten – intelligent überwachen, priorisieren und Bedrohungen zerstören: sich ständig zu der nächsten präzise geschärften Waffe im Arsenal der Cybersicherheit entwickeln.