Das neue Jahr bringt neue Cybersecurity-Bedrohungen, die durch künstliche Intelligenz angetrieben werden, sagte CrowdStrike Chief Security Officer Shawn Henry am Dienstag gegenüber CBS Mornings.
„Ich denke, das ist ein großes Problem für alle“, sagte Henry.
„KI hat dem Durchschnittsmenschen ein enorm leistungsfähiges Werkzeug in die Hand gegeben, das ihn unglaublich befähigt hat“, erklärte er. „Die Angreifer nutzen also KI, diese neue Innovation, um verschiedene Cybersicherheitsfunktionen zu überwinden und sich Zugang zu Unternehmensnetzwerken zu verschaffen.“
Henry wies auf den Einsatz von KI beim Eindringen in Unternehmensnetzwerke sowie bei der Verbreitung von Fehlinformationen im Internet durch immer raffiniertere Video-, Audio- und Textfälschungen hin.
Wie wird KI die Bedrohungslandschaft im Jahr 2024 beeinflussen?
Der Chief Security Officer von CrowdStrike, Shawn Henry, gibt in @CBSMornings einen Einblick in die potenziellen Cyber-Bedrohungen für die globalen Wahlen im Jahr 2024.
Jetzt ansehen: https://t.co/2bFBEWtddi pic.twitter.com/KGyn7bxrwo
– CrowdStrike (@CrowdStrike) Januar 2, 2024
Henry betonte, dass man sich die Quelle der Informationen ansehen und nie etwas, das online veröffentlicht wird, für bare Münze nehmen sollte.
„Sie müssen überprüfen, woher die Informationen stammen“, sagte Henry. „Wer erzählt die Geschichte, was ist ihre Motivation, und kann man sie durch mehrere Quellen verifizieren?
„Das ist unglaublich schwierig, weil die Leute – wenn sie Videos verwenden – nur 15 oder 20 Sekunden Zeit haben und sich oft nicht die Mühe machen, diese Daten zu recherchieren, und das ist ein Problem.
2024 ist das Jahr der Wahlen in mehreren Ländern, darunter die USA, Mexiko, Südafrika, Taiwan und Indien. Henry sagte, dass die Demokratie selbst auf dem Spiel steht und Cyberkriminelle das politische Chaos ausnutzen wollen, indem sie sich KI zunutze machen.
„Wir haben gesehen, dass ausländische Gegner die US-Wahlen seit vielen Jahren ins Visier genommen haben, nicht nur 2016. [China] hat uns schon 2008 ins Visier genommen“, sagte Henry. „Wir haben gesehen, wie Russland, China und der Iran diese Art von Fehlinformation und Desinformation im Laufe der Jahre betrieben haben; sie werden sie 2024 auf jeden Fall wieder einsetzen.“
„Die Menschen müssen verstehen, woher die Informationen kommen“, sagte Henry. „Denn es gibt Leute da draußen, die schändliche Absichten haben und große Probleme verursachen“.
Eine besondere Sorge bei den bevorstehenden US-Wahlen 2024 ist die Sicherheit der Wahlmaschinen. Auf die Frage, ob KI dazu benutzt werden könnte, Wahlmaschinen zu hacken, zeigte sich Henry optimistisch, dass die dezentralisierte Natur des US-Wahlsystems dies verhindern würde.
„Ich denke, dass unser System in den Vereinigten Staaten sehr dezentralisiert ist“, sagte Henry. „Es gibt einzelne Bereiche, die angegriffen werden könnten, wie z.B. die Wählerregistrierungslisten, [aber] ich glaube nicht, dass ein Problem bei der Wählerregistrierung in großem Umfang eine Wahl beeinflussen könnte – ich glaube nicht, dass das ein großes Problem ist. „
Henry wies auf die Fähigkeit der KI hin, nicht so technischen Cyberkriminellen Zugang zu technischen Waffen zu verschaffen.
„KI ist ein sehr leistungsfähiges Werkzeug in den Händen von Menschen, die vielleicht keine hohen technischen Fähigkeiten haben“, sagte Henry. „Sie können Code schreiben, sie können bösartige Software erstellen, Phishing-E-Mails usw.“
Im Oktober veröffentlichte die RAND Corporation einen Bericht, der nahelegt, dass generative KI zur Unterstützung von Terroristen bei der Planung biologischer Angriffe eingesetzt werden könnte.
„Wenn ein böswilliger Akteur seine Absichten klar zum Ausdruck bringt, erhält man in der Regel eine Antwort nach dem Muster ‚Tut mir leid, da kann ich Ihnen nicht helfen'“, sagte Christopher Mouton, Mitautor und leitender Ingenieur der RAND Corporation, in einem Interview mit TCN. „Man muss also in der Regel eine dieser Jailbreaking-Techniken oder Prompt-Engineering anwenden, um eine Stufe unter diese Leitplanken zu gelangen.“
In einem separaten Bericht berichtet das Cybersicherheitsunternehmen SlashNext, dass E-Mail-Phishing-Angriffe seit Anfang 2023 um 1265 % gestiegen sind.
Politische Entscheidungsträger auf der ganzen Welt haben den Großteil des Jahres 2023 damit verbracht, nach Möglichkeiten zu suchen, den Missbrauch generativer KI zu regulieren und einzudämmen, darunter auch der Generalsekretär der Vereinten Nationen, der vor dem Einsatz von KI-generierten Deepfakes in Konfliktgebieten warnte.
Im August hat die US-Bundeswahlkommission eine Petition eingereicht, die den Einsatz künstlicher Intelligenz in der Wahlwerbung bis zum Wahljahr 2024 verbieten soll.
Die Technologieriesen Microsoft und Meta kündigten neue Maßnahmen an, um KI-gestützte politische Fehlinformationen zu unterbinden.
„Im Jahr 2024 könnten mehrere autoritäre Nationalstaaten versuchen, sich in Wahlprozesse einzumischen“, so Microsoft. „Und sie könnten traditionelle Techniken mit KI und anderen neuen Technologien kombinieren, um die Integrität von Wahlsystemen zu bedrohen.“
Sogar Papst Franziskus, der Gegenstand viraler KI-generierter Deepfakes war, hat bei verschiedenen Gelegenheiten in Predigten über künstliche Intelligenz gesprochen.
„Wir müssen uns der rasanten Veränderungen, die jetzt stattfinden, bewusst sein und sie auf eine Weise steuern, die die grundlegenden Menschenrechte schützt und die Institutionen und Gesetze respektiert, die eine ganzheitliche menschliche Entwicklung fördern“, sagte Papst Franziskus. „Künstliche Intelligenz sollte unserem besten menschlichen Potenzial und unseren höchsten Bestrebungen dienen, nicht mit ihnen konkurrieren.“
