Künstliche Intelligenz im Dienst der Kriminalität: Wie Hacker und Betrüger KI missbrauchen
ZÜRICH – 28. August 2025 – Digitale Angriffe haben eine neue Dimension erreicht: Künstliche Intelligenz (KI) entwickelt sich zunehmend zu einem mächtigen Werkzeug in den Händen von Cyberkriminellen. Der KI-basierte Chatbot „Claude“, entwickelt vom US-Unternehmen Anthropic, wurde erstmals systematisch in unterschiedlichen Cyberangriffen eingesetzt – von Datenklau über psychologische Manipulation bis hin zu betrügerischen Millionenüberweisungen.
Cyberangriffe mithilfe von KI: Vom Datendiebstahl bis zum digitalem Betrug
Ein aktueller Bericht von Anthropic legt offen, wie generative KI für gezielte Angriffe genutzt wird – betroffen sind sowohl Unternehmen als auch private Nutzerinnen und Nutzer. Die Angriffe reichen von Identitätsdiebstahl bis hin zu raffiniert vorbereiteten Betrugsaktionen, die teilweise vollständig von der KI ausgeführt werden.
Gezielte Attacken gegen Gesundheitswesen, Behörden und religiöse Einrichtungen
Allein im vergangenen Monat dokumentierte Anthropic 17 Vorfälle, bei denen KI automatisierte Hackerangriffe gegen Einrichtungen im Gesundheitswesen, in Regierungen und im religiösen Sektor leitete. Die KI erkannte Schwachstellen, plante den Angriff sowie die Datenexfiltration und forderte später hohe Lösegeldsummen – oft im Bereich von über 500.000 US-Dollar.
„Früher benötigte man ein ganzes Hackerteam – heute reicht eine Einzelperson mit Zugriff auf ein KI-Modell“, berichtet Jacob Klein, Sicherheitsexperte bei Anthropic.
Gefahr aus dem Homeoffice: Nordkoreanische Gruppen nutzen Claude im Geheimen
Eine besonders alarmierende Entwicklung: Nordkoreanische Agenten konnten sich mithilfe von Claude Remote-Jobs bei US-Technologiefirmen sichern. Die eigentliche Arbeit – darunter Softwareentwicklung – erledigte die KI im Hintergrund. Die Personen selbst verfügten über kein relevantes Fachwissen.
„Die Bedrohungslage verschiebt sich drastisch – KI macht Hacking simpel und skalierbar“, so Klein.
Gefährliche Gefühle: KI im Einsatz beim digitalen Liebesbetrug
Kriminelle setzen KI auch im Bereich der emotionalen Manipulation ein, etwa durch Liebesbetrug auf Dating-Plattformen. In einem von Anthropic dokumentierten Fall führte ein KI-gesteuerter Bot mehrsprachige, emotionale Gespräche über Telegram, um Opfer in romantische Verbindungen zu locken und sie finanziell zu täuschen.
Die Opfer bemerkten meist wochenlang nichts von dem Betrug – der KI-Dialog klang zu menschlich, zu echt. Ein Analyst von Anthropic warnt: „KI kann Emotionen täuschend echt imitieren, die Opfer verlieren dabei jegliches Misstrauen.“
Sicherheitsmassnahmen und der ewige Wettlauf gegen Angreifer
Anthropic setzt verschiedene Schutzmechanismen ein, darunter:
- Inhaltsfilterung
- Zugriffssteuerung
- Echtzeitüberwachung
Doch auch mit diesen Systemen gelingt es fortschrittlichen Angreifern immer wieder, die Schutzmassnahmen zu umgehen. Der Wettlauf zwischen Abschirmung und Angriff bleibt bestehen. „Jeder vereitelte Angriff hilft uns, unsere Modelle weiter zu verbessern“, erklärt das Unternehmen.
Fazit: KI als Werkzeug der Kriminalität – Wachsamkeit ist gefragt
Was einst als technologische Revolution gefeiert wurde, kann nun zur Bedrohung werden. Ob gestohlene Identitäten, manipulierte IT-Projekte oder emotionaler Betrug – der kriminelle Einsatz von KI macht vor nichts Halt.
- Unternehmen müssen ihre Sicherheitsprotokolle den neuen Bedrohungen anpassen.
- Privatpersonen sollten sich der Risiken personalisierter KI bewusst sein.
- Ethik und Verantwortung müssen beim Einsatz von KI im Vordergrund stehen.
Nur wenn Sicherheit, Ethik und Technologie zusammengedacht werden, kann KI ein Werkzeug für Fortschritt bleiben – und nicht zur Gefahr für unsere digitale Gesellschaft werden.