„KI senkt die Einstiegshürden für Kriminalität“ 

Robotergesteuertes Hacking, intelligentes Phishing und kriminell genutzte GPTs aus dem Darknet – die Sorge vor zunehmenden Cyberangriffen beschäftigt viele IT-Sicherheitsverantwortliche, aber auch private Nutzerinnen und Nutzer. Schließlich ist davon auszugehen, dass KI-Agenten, welche auf großen Sprachmodellen basieren, in naher Zukunft Hackerangriffe zumindest teilweise automatisieren können. Dieses und weitere Themen standen im Fokus des internen CONITAS-Meetup mit dem Referenten Johann Grathwohl, verantwortlich für Informationssicherheit & Architekturmanagement bei der CONITAS. 

Über 40 Präsenz- und 24 Onlineteilnehmende verfolgtem mit großem Interesse den Vortrag von Johann Grathwohl, der zunächst darstellte, wie stark gerade beim Thema Phishing derzeit die Angreifer die Oberhand hätten: die betrügerischen Mails seien mittlerweile perfekt und personalisiert nachgebaut und würden deutlich mehr User in die Falle locken als noch vor ein paar Jahren. 

KI gegen KI: Angriff und Verteidigung 

Global gesehen, sind allerdings KI-Angriffe auf technische Systeme die größere Bedrohung. Hier wiederum können sich auch die Verteidiger KI zunutze machen, indem sie ihren Quellcode vor der Veröffentlichung mit KI prüfen lassen.  

Wie kann man sich Hacking-Tools im KI-Zeitalter vorstellen? Drei namentlich in der Szene bekannte Tools sind WormGPT, FraudGPT und DarkBart, bei denen es sich um modifizierte gängige KI-Technologien ohne ethischen Filter oder Sicherheitsbeschränkungen handeln soll. Ob die Tools tatsächlich existieren, ist laut Grathwohl nicht vollständig nachgewiesen; möglicherweise handelt es sich um Scamming, mit denen Cyberkriminelle Geld von anderen Betrügern abgreifen wollen. 

Johann Grathwohl machte allerdings deutlich: Agenten, die eigenständig beliebige Infrastrukturen kompromittieren, sind noch nicht verfügbar und werden es wahrscheinlich auch in naher Zukunft nicht sein. LLM-basierte Agenten, die Teile eines Angriffs automatisieren, werden laut Grathwohl jedoch in naher Zukunft verfügbar sein. „KI senkt somit die Einstiegshürden für Kriminalität“, bekräftigt Johann Grathwohl, „durch KI werden zwar nicht unbedingt neue Angriffsarten erfunden, aber die klassischen Cyberattacken werden durch eine höhere Quantität verstärkt. Zudem werden solche Kriminelle befähigt, die ohne KI keine Angriffe hätten durchführen können.“ 

Dabei bezog sich Grathwohl auch auf sogenannte KI-Kiddys, die ohne Knowhow Angriffe fahren würden, indem sie bestehende LLMs nutzen und deren Schutzmechanismen umgehen würden. Zudem würden es immer bessere Analyse- und Extraktionstools den Kriminellen erleichtern, aus öffentlich zugänglichen Informationen/Protokollen von zum Beispiel Unternehmen sicherheitsrelevante Daten zu filtern und für schädliche Zwecke zu nutzen. 

Wie nun können sich beispielsweise Unternehmen vor Angriffen schützen? Laut Grathwohl sind die klassischen Sicherheitsmechanismen wie Schwachstellenmanagement und Patchmanagement weiter gefordert, zudem die Prävention im Social Engineering. Wichtig sei auch das Hinterfragen von in Unternehmen verwendeten internen Tools, wie dem Microsoft Copilot. Aufgrund unsicherer Defaults bestünde hier das Risiko, dass ein interner Copilot übers Web auffindbar sei. Auch sei es wichtig, bei Sicherheitseinrichtungen nicht ausschließlich auf KI zu vertrauen, da KI durch sogenannte Pertubationen selbst getäuscht und somit zum Angriffsziel werden könnte. 

Networking bei Pizza und Getränken 

Wie bei jedem Meetup wurde der Abend durch entspanntes Networking bei Pizza und kalten Getränken abgerundet. In lockerer Atmosphäre wurden die Diskussionen aus dem Vortrag fortgeführt, neue Kontakte geknüpft und Ideen ausgetauscht – ein gelungener Ausklang für einen ebenso informativen wie kollegialen Abend.