Vorbereitung auf die KI-Zukunft in der Cybersicherheit
An KI kommt heute niemand mehr vorbei. Large Language Models (LLM) wie die, die ChatGPT von OpenAI nutzt, beflügeln die Fantasie: Wir sehen neue Möglichkeiten, generative KI zur Entwicklung innovativer Lösungen einzusetzen.
Als Sicherheitsexperten denken wir darüber nach, wie Cyberkriminelle KI für die Entwicklung neuer Angriffsarten zur Untermauerung der von ihnen bereits eingesetzten Methoden verwenden. Um dem zu begegnen, beschäftigen wir uns mit defensiver KI und der Frage, wie sich mit KI Bedrohungen besser erkennen und abwehren lassen.
Allzu viele Unternehmen haben jedoch nur das im Blick, was KI heute oder in absehbarer Zeit leisten kann. Zu wenige beschäftigen sich mit den enormen Auswirkungen, die KI in fünf, zehn oder zwanzig Jahren wahrscheinlich auf Unternehmen und unser Leben haben wird. Doch wir müssen uns diese Zukunft vergegenwärtigen. Denn wenn wir angemessen vorbereitet sein wollen, müssen wir schon jetzt mit der Planung beginnen.
Die Gegenwart verstehen, um eine Vision für die Zukunft zu entwickeln
KI ist als Technologie noch relativ unausgereift. Während das maschinelle Lernen (ML) selbst bereits weiter vorangeschritten ist, steckt seine Anwendung noch in den Kinderschuhen. Unternehmen sammeln aktuell hauptsächlich Daten und führen grundlegende Analysen durch. Einige experimentieren mit LLM zur Textgenerierung oder verwenden KI-gestützte Designtools für einzigartige Illustrationen. Echte KI-Inferenz steht aber noch nicht zur Verfügung: Bislang sind Modelle noch nicht in der Lage, Schlussfolgerungen zu ziehen oder aussagekräftige Erkenntnisse aus Live-Daten zu gewinnen – auch wenn einige Anbieter das Gegenteil behaupten.
Dieser Mangel an Inferenz wird deutlich, wenn man versucht, KI und ML für mehr als die Generierung von Text oder Bildern zu nutzen. Während ich meinen Master in Data Science und ML gemacht habe, haben wir im Rahmen eines Projekts versucht, vorherzusagen, welche Baseballspieler in die Hall of Fame aufgenommen werden. Das von uns erstellte Modell ergab, dass der wichtigste Indikator die Anzahl der „At Bats“ war, also wie oft der Spieler im Lauf seiner Karriere einen Schlag ausgeführt hat. Je länger die Karriere dauerte und je mehr „At Bats“ gezählt wurden, desto größer war die Wahrscheinlichkeit, dass jemand in die Hall of Fame aufgenommen wurde.
Das war ein interessantes Ergebnis, das Modell konnte daraus aber keine weiteren hilfreichen Schlüsse ziehen. Es konnte uns also nicht sagen, warum gerade „At Bats“ hier die größte Aussagekraft hatten. Wir Menschen haben jedoch erkannt, dass man für eine lange Karriere mit vielen „At Bats“ ein hervorragender Baseballspieler sein muss. Und wenn man viele „At Bats“ vorweisen kann, ist die Wahrscheinlichkeit höher, dass man auch eine ordentliche Zahl von Treffern und Home Runs erzielt.
Wenn die Modelle beginnen, diese Art von Sinn zu verstehen und Inferenzen zu ziehen, wird die KI größere Auswirkungen haben.
Angesichts der rasanten Veränderungen im Bereich KI wird Inferenz schneller verfügbar sein, als uns bewusst ist. Man denke nur daran, wie sehr sich LLM in den letzten Jahren weiterentwickelt haben. Sie bieten heute nicht mehr nur eine einfache Textvervollständigung, sondern unterstützen robuste textbasierte Unterhaltungen, die lange Prompts ermöglichen, visuelle Eingaben akzeptieren und den Kontext zwischen den Sitzungen beibehalten. Die kontinuierliche Steigerung der Computerleistung ermöglicht es solchen Modellen, immer mehr Daten immer schneller aufzunehmen und daraus zu lernen, wodurch sie wiederum bessere und genauere Ergebnisse liefern können.
In 20 Jahren werden KI und andere hochentwickelte Technologien unsere Welt wahrscheinlich in hohem Maße verändern. Zum Beispiel wird es möglicherweise weniger Autobesitzer geben, weil man in der Lage sein wird, vollständig autonome Autos auf Abruf kommen zu lassen. Ob Lebensmitteleinkauf, Hausreinigung oder Rasenmähen: Alltagsaufgaben werden vermutlich durch die Technologie optimiert werden.
Und ja, es ist möglich, dass sich durch KI in Zukunft auch viele unserer Jobs verändern werden. In der Tech-Branche müssen wir irgendwann zum Beispiel vielleicht keinen Quellcode mehr schreiben. Aber wir brauchen immer noch Mitarbeitende, die verstehen, wie man KI-basierte Lösungen entwickelt, die den Geschäftsanforderungen entsprechen, wie man mit dieser Technologie umgeht und wie man sie schützt.
Die ersten Schritte auf dem Weg zu einer langfristigen Strategie
Wie können Sie heute mit der Erarbeitung einer Strategie beginnen, mit deren Hilfe Ihr Unternehmen in der Zukunft den größtmöglichen Nutzen aus der KI ziehen kann?
Die Technologie verstehen: Der erste Schritt bei der Entwicklung einer langfristigen KI-Strategie besteht darin, die Technologie so weit zu verstehen, dass Sie sie nutzen können. Dafür müssen Sie kein Experte für Data Science oder ML sein. Als Entscheidungsträger im Sicherheitsbereich sollten Sie aber wissen, wie Angreifer KI einsetzen und wie Ihr Team KI anwenden kann, um Attacken vorherzusehen und sich dagegen zu wappnen.
Sie sollten auch darüber nachdenken, wie Ihr Unternehmen Datensätze bündeln kann, weil KI und Machine Learning sonst nicht richtig funktionieren. Anschließend müssen diese Datensätze geschützt werden.Für die Unterstützung geschäftlicher Anwendungsfälle planen: Manche Unternehmen haben es heute so eilig mit der KI-Einführung, dass sie sich zunächst auf die Auswahl des besten ML-Modells konzentrieren und sich erst im zweiten Schritt überlegen, welches geschäftliche Problem sie damit lösen wollen. Doch eigentlich sollte man genau umgekehrt vorgehen und nicht mit der Technologie, sondern mit dem geschäftlichen Problem beginnen.
Welche Arten von geschäftlichen Problemen könnten sich gut für eine KI-Anwendung eignen? Viele sich wiederholende Aufgaben – wie die Zusammenfassung von Besprechungen oder die Beantwortung einfacher Fragen an den Kundendienst – werden bereits jetzt von KI übernommen.
In Zukunft könnten KI und ML in Situationen eingesetzt werden, in denen die Modelle mehr aus Erfahrungen und externem Input lernen. So könnte beispielsweise im Bankensektor mithilfe einer KI, die aus den tatsächlichen Ergebnissen lernt, die Treffsicherheit bei der Erkennung von Betrugsversuchen verbessert werden. Darüber hinaus könnten Marketing-Teams in verschiedenen Branchen KI zum Optimieren der Erstellung von Inhalten nutzen, um etwa Schreibvorlieben und -stile vorzugeben. Außerdem könnten Sie Feedback geben, das die Modelle zur Verbesserung späterer Ergebnisse nutzen würden.
Als Verantwortliche im Sicherheitsbereich müssen wir anfangen, Vorkehrungen für diese und andere Anwendungsfälle im Unternehmen zu treffen. Wir müssen Wege finden, um KI in die Arbeitsabläufe von Mitarbeitenden zu integrieren, damit geschäftliche Probleme gelöst werden können, ohne Compliance und Sicherheit aufs Spiel zu setzen.
Sicherheit modernisieren
Um für die KI-Zukunft gerüstet zu sein, müssen wir die IT-Sicherheit modernisieren – und die Weichen dafür müssen jetzt gestellt werden. Viele Sicherheitsteams arbeiten weiterhin so, wie sie es in den letzten 15 oder 20 Jahren getan haben. Sie reagieren jeweils auf die neueste Bedrohung und implementieren mehrere Einzellösungen zur Behebung von Sicherheitslücken. Doch genau dieses Vorgehen hat dazu geführt, dass es heute tagtäglich zu neuen Sicherheitsvorfällen kommt. Wir dürfen uns nicht mehr so sehr vom nächsten großartigen Einzelprodukt beeindrucken lassen und müssen uns mehr darauf konzentrieren, Kunden, Mitarbeitende und Unternehmen zu schützen.
Während Sicherheitsteams noch Aufholbedarf haben, verlieren die Angreifer keine Zeit. In nicht allzu ferner Zukunft wird es weitere Versuche geben, KI-Modelle zu umgehen, die zur Wahrung der Cybersicherheit genutzt werden. Dafür wird man Daten ausnutzen, die in diesen Modellen nicht berücksichtigt werden. Es wird auch KI-gestützte Schadsoftware geben, die von Abwehrmethoden lernt und die Art ihres Angriffs schnell anpassen kann.
Zur Modernisierung der IT-Sicherheit müssen wir unsere Tools, unsere Kompetenzen und unsere Arbeitsweise überdenken. Wenn wir uns vorstellen, wo wir in fünf, zehn oder zwanzig Jahren stehen, können wir besser einschätzen, was heute zu tun ist. Hier sind vier Empfehlungen für den Anfang:
Implementierung der richtigen Technologien und Tools: Eine Modernisierung der IT-Sicherheit erfordert fortschrittliche Tools. Unternehmen brauchen eine Technologie, die neue Arten von KI-gesteuerten Bedrohungen automatisch vorhersieht und erkennt. Wenn wir heute feststellen, dass von einer neuen IP-Adresse aus versucht wird, eine VPN-Verbindung zu Cloudflare herzustellen, muss unser SOC-Team zur Zugriffsverhinderung möglicherweise eine statische Regel verfassen. Aber in diesem Fall lösen wir nur das unmittelbare Problem, anstatt uns mit dem übergeordneten Thema zu befassen.
In Zukunft werden wir wahrscheinlich integrierte KI- und ML-Funktionen nutzen, die diese Art von Bedrohungen automatisch erkennen und bekämpfen können.
Auch Tools mit KI-Funktionen könnten uns bei der Compliance-Optimierung helfen. Wir könnten über Werkzeuge verfügen, die bei Einführung neuer Vorgaben Änderungen der Kontrollen oder Richtlinien empfehlen.Schließen der Qualifikationslücke: Da die KI einige einfache Aufgaben übernehmen wird, sind in IT- und Sicherheitsteams Spezialisten gefragt. Benötigt werden Mitarbeitende, die sich mit Data Science, ML und neuronalen Netzwerken auskennen.
Gleichzeitig brauchen IT- und Business-Teams branchenspezifische Kenntnisse: Wenn man KI beispielsweise für die Verbesserung der Entscheidungsfindung in der Medizin einsetzen möchte, muss man mit medizinischem Fachpersonal zusammenarbeiten. Data Science sollte die Schnittstelle zwischen Informatik, Mathematik und Statistik sowie fachspezifischem Wissen sein.
Sicherheitsteams benötigen Mitarbeitende, die in der Lage sind, die von KI-Modellen generierten Ergebnisse zu interpretieren und zu entscheiden, wie Strategien oder Richtlinien an die sich wandelnden Bedrohungen angepasst werden sollten. Zu den häufigsten Fehlern gehört es meiner Beobachtung nach, die von einem Modell ausgegebenen Antworten einfach zu akzeptieren, ohne ihren Sinn wirklich zu verstehen. Kommen wir noch einmal auf das Beispiel der Hall of Fame im Baseball zurück: Wenn wir uns nur das ausgegebene Ergebnis anschauen (also, dass die Zahl der „At Bats“ am zuverlässigsten voraussagt, wer in die Hall of Fame aufgenommen wird), würden junge Spieler daraus vielleicht den Schluss ziehen, dass sie sich einfach nur darauf konzentrieren sollten, eine möglichst hohe Zahl von „At Bats“ zu erreichen. Doch für eine lange und herausragende Karriere sollten sie vielmehr an der Weiterentwicklung ihrer gesamten Fähigkeiten arbeiten.Anpassung der Abläufe: Auch die IT-Sicherheitsteams müssen ihre Arbeitsweise umstellen. Werden wir auch in Zukunft ein weltweit verteiltes SOC mit 250 Mitarbeitenden brauchen, das rund um die Uhr im Einsatz ist? Vielleicht ist ein Rund-um-die-Uhr-Betrieb nötig, aber wahrscheinlich werden wir viele der Aufgaben, die heute noch von Menschen erledigt werden, künftig von Computern ausführen lassen können. Dafür bleibt den Mitarbeitenden dann Zeit für andere Tätigkeiten.
Womöglich verfügen wir in fünf bis zehn Jahren über ein autonomes SOC – was bedeutet, dass wir jetzt einen Plan für seine Funktionsweise entwickeln sollten. Aufgrund des hohen Komplexitätsgrads unserer Sicherheitsumgebungen ist eine solche Vorlaufzeit nötig. Es ist schon so schwierig genug, diese Umgebungen abzusichern: Die Integration der KI stellt da eine zusätzliche Herausforderung dar.
Wenn wir mit einem autonomen SOC etwas Zeit sparen können, müssen wir auch mehr Zeit in die Aufrechterhaltung der Datenintegrität und die Einhaltung bestehender Vorschriften investieren. Je mehr wir intern KI-Modelle verwenden, desto mehr Daten sind zu verwalten und zu überprüfen. Wir müssen wissen, wo sich Daten befinden. Außerdem müssen wir sicherstellen, dass sie korrekt sind und wir die Vertraulichkeit gewährleisten können.
Es wird viel über KI-Governance diskutiert, aber der wichtigste Faktor sind die Daten. Es gibt auf der Welt bereits zahlreiche Gesetze dafür, wie und wo Daten verwendet und gespeichert werden dürfen. IT-Sicherheitsteams werden dafür sorgen müssen, dass ihre Unternehmen auch weiterhin die Gesetze zur Datenhoheit und die Datenschutzbestimmungen einhalten. Wenn IT-Teams beispielsweise Daten aus der Cloud zurück in lokale Umgebungen transferieren und so den Ort verlagern, an dem KI-Modelle ausgeführt werden, könnte das die Einhaltung bestehender Vorschriften erschweren.Beginn der Konsolidierung von Technologiepartnern: Das Bündeln von Daten und die Gewinnung der benötigten KI-gestützten Erkenntnisse können schwierig sein, wenn Sie gleichzeitig Lösungen mehrerer Anbieter nutzen. IT- und Sicherheitsumgebungen sind auch ohne die Verwaltung all dieser unterschiedlichen Lösung schon komplex genug. Mit Blick auf die Zukunft sollten Sie beginnen, die von Ihrem Unternehmen genutzten Lösungen zusammenzuführen. Es ist deutlich leichter, mit vier oder fünf wichtigen Partnern zusammenzuarbeiten als Daten von 50 verschiedenen zu verwalten.
In die Zukunft blicken und in der Gegenwart planen
Die KI hat Einzug gehalten, aber bislang haben wir nur eine sehr vage Ahnung von ihren Auswirkungen auf unsere Arbeit und unser Leben. Als Verantwortliche im IT-Sicherheitsbereich müssen wir jetzt mit der Planung für die bevorstehenden Veränderungen beginnen. Mit der richtigen längerfristigen Strategie sind wir besser in der Lage, die Nutzung von KI für Geschäftsziele zu unterstützen, sie zur Erhöhung der Sicherheit einzusetzen und KI-gesteuerte Bedrohungen abzuwehren.
Erfahren Sie, wie Cloudflare Ihrem Unternehmen helfen kann, noch heute mit der Entwicklung und Bereitstellung von KI-Anwendungen im globalen Netzwerk von Cloudflare zu beginnen. Finden Sie außerdem heraus, wie Sie mit der Connectivity Cloud von Cloudflare ihr Sicherheitskonzept so modernisieren können, dass es für die KI-Zukunft gewappnet ist.
Dieser Beitrag ist Teil einer Serie zu den neuesten Trends und Themen, die für Entscheidungsträger aus der Tech-Branche heute von Bedeutung sind.
Autor
Grant Bourzikas — @grantbourzikas
Chief Security Officer, Cloudflare
Wichtigste Eckpunkte
Folgende Informationen werden in diesem Artikel vermittelt:
Warum man jetzt planen muss, um die Zukunft der KI abzusichern
Zwei erste Schritte bei der Entwicklung einer langfristigen Strategie
Vier Empfehlungen zur Modernisierung der Sicherheit