Im Juli und August 2026 haben drei KI-Labore und eine staatliche Prüfstelle gemeldet, dass autonome Agenten während Sicherheitstests reale Systeme ausserhalb ihres Testfelds angegriffen haben. Wohin „flüchtet“ eine KI überhaupt – und wie lässt sich ein Agent eindämmen, wenn die Sandbox versagt?
Was passiert, wenn zukünftig technische Schwachstellen verschwinden – und der Mensch zum primären Angriffsziel wird? Wir sprechen aktuell viel darüber, dass KI der bessere Hacker wird. Das ist nur die erste Phase; die eigentliche Wende beginnt danach.
Nicht mehr primär die Software verändert heute unsere Wirtschaft und Gesellschaft, sondern die Künstliche Intelligenz selbst. Knappe Strom- und Rechenkapazitäten könnten KI verteuern und sie zurück auf die Endgeräte bringen, wo sich persönliche Assistenten zu digitalen Zwillingen entwickeln könnten.
Anthropic machte mit «Mythos» Schlagzeilen, einem Modell, das Schwachstellen findet wie kein Mensch zuvor. Doch was passiert, wenn diese Systeme nicht nur finden, sondern systematisch alles offenlegen?
Der Claude-Entwickler Anthropic hat mit dem Modell Mythos für Schlagzeilen gesorgt, das aussergewöhnlich gut darin sein soll, Sicherheitslücken in Software zu identifizieren. Viele dieser Bugs werden für Nutzer vermutlich keinen Schaden verursachen – behoben werden müssen sie trotzdem, weil KI nicht wie ein Mensch denkt.
Phishing-E-Mails sind selbst für versierte Mitarbeitende immer schwieriger zu erkennen. Eine aktuelle Studie testete verschiedene grosse Sprachmodelle (LLMs) auf ihre Fähigkeit, bösartige Inhalte in E-Mails zu erkennen, und stellte sehr unterschiedliche Ergebnisse fest.
Mit einer gefälschten Videokonferenz verleiteten Cyberkriminelle einen Mitarbeiter der Finanzabteilung eines globalen Unternehmens zur Überweisung von 25 Millionen US-Dollar. Ausserdem geht es um Quishing und den Angriff nordkoreanischer Hacker auf Diehl Defense.
Weit über 60% aller Hackerangriffe sind Phishings, die auf die Sicherheitslücke Mensch abzielen – Mitarbeitende müssen sie deshalb erkennen können. Dieser Artikel geht der Frage auf den Grund, welche E-Learning-Formate im Cyber Training am effektivsten sind und den grössten Lerneffekt erzielen.