Die allgegenwärtige Präsenz von KI in unserem Leben wächst weiter, die KI Blase zeigt keinerlei Anzeichen einer Verlangsamung, und KI Tools werden rasant in bestehende Software und Systeme integriert. Dies geht mit einem ebenso explosionsartigen Wachstum des KI Einsatzes bei Cyberangriffen einher, sowohl auf Seiten der Angreifer, der Sicherheitsteams, als auch als potenzielle Schwachstelle.
KI-gestütztes Spearphishing
Wir haben das Thema Spearphishing und das Missbrauchspotenzial von KI in diesem Bereich bereits mehrfach angesprochen, doch die Relevanz nimmt stetig zu. Zur kurzen Wiederholung der wichtigsten Punkte:
- Phishing ist ein Cyberangriffsvektor, bei dem gefälschte E-Mails, Websites oder Nachrichten genutzt werden um Menschen zur Herausgabe persönlicher oder finanzieller Daten zu verleiten.
- Spearphishing ist eine Form von Phishing, die auf das Ziel personalisiert ist, um die Glaubwürdigkeit zu erhöhen und die Erfolgsquote zu verbessern.
- KI kann in mehreren Schritten dieses Prozesses eingesetzt werden, darunter die Sammlung von Zieldaten, das Erstellen von Texten oder das Erzeugen von Deepfake Audio oder Video.
Die traurige Realität ist, dass ein wirklich entschlossener Cyberangriff im Allgemeinen erfolgreich sein wird, die Frage ist immer eine des Aufwands und der eingesetzten Ressourcen mit staatlichen Akteuren am einen Ende des Spektrums und individuellen Angreifern, die Ransomware as a Service oder ähnliche Ansätze nutzen, am anderen. Glücklicherweise müssen sich die meisten Unternehmen nicht mit den Extremen auseinandersetzen, sondern mit Bedrohungen irgendwo dazwischen.
Andererseits hat KI den Aufwand, der für einen erfolgreichen Angriff nötig ist deutlich verringert. Dies hat besonders gravierende Auswirkungen auf kleinere Organisationen, die mit diesem neuen Ungleichgewicht bei der Ressourcenverteilung kaum Schritt halten können.
KI als Verteidigungsinstrument
Der wichtigste neue Einsatz von KI in der Abwehr von Cyberangriffen liegt – wenig überraschend, in der Früherkennung von Sicherheitsverletzungen. Der Hauptvorteil von KI ist ihre Fähigkeit, große Datenmengen, einschließlich Verhaltensdaten, zu analysieren und dadurch Anomalien zu erkennen. Dies ermöglicht es Sicherheitsteams, wesentlich schneller als bisher auf Sicherheitsvorfälle zu reagieren idealerweise, bevor ein kritischer Schaden entstehen kann.
Leider gibt es dabei mehrere erschwerende Faktoren. Der größte ist vielleicht, dass Sicherheit nach wie vor nicht die Aufmerksamkeit erhält, die sie verdient und benötigt. Noch schlimmer ist, dass selbst wenn Sicherheitsteams die nötigen Budgets und Ressourcen erhalten, weiterhin Probleme auftreten. Ein Bericht von VikingCloud legt nahe, dass bis zu 48 % der Führungskräfte im Bereich Cybersicherheit in diesem Jahr einen Cyberangriff oder eine Sicherheitsverletzung nicht gemeldet haben. Und was noch bedenklicher ist: Angreifer erschließen zunehmend einen neuen Vektor Ihre KI Tools selbst.
KI als primäres Ziel
Laut Gartner berichteten 32 % der Unternehmen von Angriffen auf KI Anwendungen, weitere 29 % der Befragten sahen sich Angriffen auf die Infrastruktur von Generativer KI (GenAI) ausgesetzt. Der Großteil bestand aus sogenanntem adversarial prompting, also Versuchen, KI Tools zu unerwünschten Ausgaben zu bewegen.
Noch kritischer sind jedoch Angriffe, die versuchen, KI Tools als Sprungbrett für den Zugriff auf andere, eigentlich nicht zusammenhängende Systeme zu nutzen. Ein Beispiel, das zuletzt in den Vordergrund gerückt ist, ist das Model Context Protocol, ein Open Source System, das von einer Vielzahl der derzeit verfügbaren KI Tools eingesetzt wird. Da KI Tools Zugriff auf interne Daten benötigen, um auf Unternehmensebene nützlich zu sein, können sie Angreifern unbeabsichtigt ein Hintertürchen in die Unternehmenssysteme öffnen.
Mit dem Eintritt ins dritte Quartal des Jahres bleibt die zentrale Frage bestehen, ob die Wachstumsprobleme der KI den potenziellen Nutzen wert sind, und wenn ja, wie sich bessere Schutzmaßnahmen integrieren lassen, ohne die Innovation und das Wachstum in diesem Bereich abzuwürgen.
Probiere jetzt den Storage Optimizer aus!
