KI im Cyberkrieg: Was Claude Mythos & Co. verändern

00:00:00: Mr.

00:00:00: Ciso und Mr.

00:00:01: AI im Gespräch,

00:00:03: der Podcast Versicherer und zuverlässige Digitalisierung.

00:00:11: Herzlich willkommen zu unserem neusten Topaktuellen Podcast um Mr.

00:00:17: Tiso... ...und Mr.

00:00:18: Ai!

00:00:19: Was ist unser Thema heute?

00:00:21: Ja ich denke da gab es einige wo das gibt immer wieder aktuelle Änderungen im Thema Kai.

00:00:25: Es gibt Neuerungen und einfach so gibt's mal so ein grössere Warnende Verwerfungen in der KI-Landschaft.

00:00:31: Eines von denen haben wir jetzt anders genommen, ein bisschen zu überlegen was heißt das eigentlich konkret wenn es neue KI Sachen gibt?

00:00:38: Was bedeutet das für Informationssicherheit?

00:00:41: Genau wo man sagt, weil das grieße Thema ist in den Securitybranchen und wahrscheinlich auch in den KI-Branchen.

00:00:49: Claude Mythos.

00:00:51: Der Name ist schon mal ...

00:00:53: Schon mal Programm mehr!

00:00:57: Claude mit Mütters.

00:00:59: Das

00:01:00: ist ja theoretisch auch nur ein KI-Modell,

00:01:02: vor wem?

00:01:03: For

00:01:04: an Tropic, genau richtig die Firma dahinter aber speziell halt mit Fokus auf Informationssicherheit.

00:01:09: also ich glaube das Ziel ist von der KI Lösung dass sie nicht vielleicht gerade dich da nicht ersetzen wird.

00:01:15: aber so Leute die irgendwo gucken wie kann ich Software hacken oder auch Systeme hacken und das kann KI jetzt mittlerweile besser als die Menschen

00:01:22: Genau, das ist die Frage ob es wirklich besser kann.

00:01:26: was aktuell viel gelesen wurde innerhalb der Security Branchen und eben auch ausserhalb ist Klo Mitos Wös unglaublich stark ist vermutlich unglaublich stark bei Security beim finden von Security Schwachstellen.

00:01:41: Und eben auch im Ausnetzen dieser Schwachstelle sprich ich im Schreiben von sogenannten Exploits.

00:01:49: und speziell ist dass Tool So mächtig, wie Antropic sagt.

00:01:54: Das ist aktuell nur sehr beschränkt rausgehend.

00:01:58: D.h.

00:01:58: wirklich nur als Sicherheitsforscher hat man den Aspekt von der Befürchtung wenn alle Zugriff haben auf das Tool werden dass all die Bad Boys sofort einsetzen und d.h wir werden mit Angriff überschwemmt.

00:02:12: so anan D.H.

00:02:15: Glodmitos ist aktuell aber nur sehr verschränkt.

00:02:18: Zur

00:02:18: Griefbad.

00:02:19: Hashto zur Griff,

00:02:20: Tobias?

00:02:20: Nein ich hab's noch nicht probiert muss ich auch gestehen.

00:02:23: Ich denke was es noch spannend ist die haben jetzt vor ein paar Tagen ja das neueste Modell was man auch nutzen kann und das Opus-Modell ist das stärkste Modell von Claude was wir nutzen können.

00:02:34: Die hat schon erste Features in dem Bereich drinnen auch an.

00:02:37: Truffleck selber auch sagt ja dass es schon so der erste Ausblick aus.

00:02:40: das was kommen wird aber ist auch eingeschränkt.

00:02:42: sie haben Hard Rays drauf gepackt und bewachen das auch dass es nicht missbraucht wird.

00:02:47: Man kann es ein bisschen ausprobieren.

00:02:49: Was ich spannend finde, haben wir genau gesagt, dass unser Claude Mythos das Tool quasi zu mächtig ist und darum haben sie das Modell Opus Vierseben bewusst nicht mögliche Funktionalität zurückgeschraubt.

00:03:04: zum Security-Bereich.

00:03:06: Sie sagen, wenn man die Hallen für ihr schalten würde ... Das wollen wir nicht!

00:03:09: Und das ist natürlich auch eine ganz neue Dynamik oder Entwicklung dass man Funktionalitäten wirklich zurückhaltet und sagt, das würde man nicht aus ethisch-moralischen Risiko überlegen.

00:03:24: Das heisst aktuell haben vor allem die grossamerikanischen Firmen – das ist auch bekannt – einen Zugriff und den zierten Sicherheitsforscher.

00:03:32: Und das ist insofern eine spannende Dynamik.

00:03:35: Wer Zugriffs aufs mächtigste Tool hat mehr Möglichkeit und mehr Macht.

00:03:40: Das ist auch eine spannenden Entwickel ich.

00:03:42: Also, man kann sich da als Security Researcher jetzt auch an die Gläser kachen.

00:03:47: Das ist jetzt ganz frisch.

00:03:48: Und es kommt eben zum Zeitpunkt, wo wir ein Podcast aufnimmt, aber dass man auf Opus four sieben und zusätzliche Features freischaut wenn man entsprechend die Kompetenz im Bereich Security nachweisen kann.

00:04:02: Was ich auch noch spannend finde, oder?

00:04:04: Die Frage ist das wirklich... Richtig, was Sie da erzählen.

00:04:07: Ist das wirklich komplett neu oder ist es ein bisschen Marketing?

00:04:10: Hey!

00:04:10: Das ist

00:04:10: natürlich... Da muss man schon einfach noch einordnen.

00:04:14: Fand's doch spannend, weißt du nicht?

00:04:15: Du hast ja auch gelesen.

00:04:16: Oder ob er dann natürlich gerade nachgezogen hat?

00:04:18: Ja wir haben jetzt auch so einen Cyber entsprechendes Modell.

00:04:22: GPT-Fünf-Punktvier-Cyber

00:04:25: genau Cool!

00:04:27: Ja, genau.

00:04:27: Natürlich könnt ihr die Dynamik jetzt auch schon beobachten oder wenn einer etwas nicht rausbringt muss der andere auch noch einziehen.

00:04:35: Heibest du sicher auch mit dabei?

00:04:37: Also die aktuelle Diskussion rund um Klo Dmitos ist natürlich auch hervorragende Werbung für Antropik.

00:04:46: Das ist sicher eine grosse Sprung.

00:04:48: was Sie hier gemacht haben das gehört man auch von Experten die Zugriff auf dieses Tool.

00:04:55: Möglichkeiten haben, die sie vorher massiv Zeit haben müssen investieren oder schwachstellen in ein System.

00:05:01: In einer Geschwindigkeit finden, die bisher wirklich nicht möglich war.

00:05:07: Das ist tatsächlich so.

00:05:08: Aber was ändert sich?

00:05:11: Wir hatten vorhin schon Möglichkeiten um Schwachstellen an Applikationen zu finden und wir konnten Exploits schreiben.

00:05:18: Es ist einfach ein neues Werkzeug.

00:05:21: Dynamik und Geschwindigkeit werden wahrscheinlich noch mal zusätzlich.

00:05:25: Zunehmend kannst du vorausgehen, was Adropics selber auch sagt, aber diese Tools bieten Möglichkeiten.

00:05:30: Sie haben hier ihre Entwickler und Leute, die jetzt nicht Security Know-How und Kompetenz oder nicht der Fokus haben, dann sagen sie, das Modell bietet ihnen Möglichkeiten wirklich selbstständig, schwachstellen zu finden Software und eben auch Exploits schreiben, die sie nach dem System angreifen können.

00:05:47: Für die Skriptkiddy gibt es jetzt neue.

00:05:49: Hey

00:05:49: ja, genau, ScriptkiddiNextLevel das ist so der Name.

00:05:54: Ja was bleibt?

00:05:55: Was bliebt gleich?

00:05:57: Tobias, was bleibt gleich?

00:06:00: Also meine Perspektive auch Softwareentwicklung ist natürlich da schon ein neues, ich sag mal, Aufgaben fällt irgendwo was sich drauf tut.

00:06:09: Das heißt irgendwo muss ich viel mehr Tools einerseits haben oder nutzen oder lizenzieren um eine Software zu testen, dass er sicher ist Und andererseits, wenn eine neue Version rauskommt muss ich dir eigentlich sofort ein Patch bereitstellen können mit meiner Software und die auch bei meinen Kunden ausrollen können.

00:06:24: Das finde ich auch noch irgendwo das was vorhin auch gesagt ist oder es wird immer schneller.

00:06:28: man muss eigentlich immer schneller reagieren.

00:06:30: Die Dynamik erhöht sich das extrem.

00:06:32: wenn man da keine Systeme im Einsatz hat wo man das wirklich automatisiert aus rollen kann und der Kunde dass dann das Update einfahren kann wird das immer schwieriger, weil der Angriffsvektor so lange offen bleibt bis es dann irgendwann korrigiert ist.

00:06:45: Und innerhalb von Minuten müsste man es eigentlich korrigieren haben können und das wird glaube ich immer schwerer.

00:06:50: Ja

00:06:50: aber so vor der Grundprinzipie in der Security ändert sich nichts oder es wird einfach noch wichtiger dass man zum Beispiel Security Body Fall implementiert hat.

00:06:59: Aber das System habe ich das auf dieser Entwicklung sicher von Anfang an sicher Design sind und nicht zusätzliche Funktionalitäten oder nicht funktionale Anforderungen.

00:07:08: Nicht etwas, das man zusätzlich einbaut sondern einfach mitdenkt.

00:07:13: Und eben der Punkt, den du gesagt hast, Patch Management.

00:07:16: Dass man die ohne Neu ist.

00:07:18: Woher ist es wichtig, dass wir in dem Prozess eine Rolle und Zuständigkeit haben?

00:07:22: Dass man sie macht?

00:07:23: Die Wichtigkeit?

00:07:24: Das machen Sie?

00:07:26: dass man es noch Zeit macht, hat sie sicher noch mal zugenommen.

00:07:29: Bei Zero Days wird das nicht viel bringen.

00:07:31: oder in der Situation so, dass auch genau ein Nokia ... Was

00:07:35: sagst

00:07:35: du?

00:07:36: Dort wird aber wie ich gesagt habe, die Dynamik zusätzlich noch einmal zu steigen.

00:07:40: Oder wenn bei Schwachstellen bekannt werden, dass noch schneller exploits Möglichkeiten zur Ausnutzung in den freien Wildbahnen entdeckt werden.

00:07:50: Das hat sich sicher geändert.

00:07:52: und ein alles spannender Punkt ebenso die ethischen Moralische Themen.

00:07:57: Zugriff auf System und Tools bewusst beschränken, zeigt nochmal die zunehmende Wichtigkeit und Macht, was die Führung Kaja-Ambieter haben oder ist vor allem für kritische Infrastrukturen relevant?

00:08:16: Ein Finanzsystem habe ich auch ein paar Beiträge gelesen, dass hier das europäische Banken v.a.. Die Modelle kommen nicht aus Europa, das heisst man hat die Jobbefürchtungen.

00:08:26: Wenn wir keinen Zugriff haben auf diese Tools dann ist es ein Risiko für uns.

00:08:31: Aber Bankensektor sehr viel alte Software.

00:08:34: Also historisch gewachsen sei es immer so schön oder?

00:08:38: Nach dem Grundsatz Never Touch a Running System aber dort auch Differenz in Death oder was sich auch nicht geändert hat, eben die Exposition von diesen Systemen anzuschauen.

00:08:48: ein hochkritisches Sicherheitslücken, Hasch mit einem hohen Score ist es komplett egal wenn du zugegriffen hast.

00:08:57: Das muss man

00:08:58: plakativ sagen und das ändert sich ja nicht.

00:09:01: Genau!

00:09:01: Also die Hausaufgaben müssen wir trotzdem machen?

00:09:02: Genau, die Haus-Aufgaben.

00:09:04: Genau so wie vorhin nachher.

00:09:06: Jetzt ist es einfach noch wichtiger... Jetzt

00:09:07: ist's noch wichtiger,

00:09:08: ich dringend aus.

00:09:09: Einfach noch wichtiger als Hortena.

00:09:11: aber das Handwerk kann sich im Prozess haben Thema Patch Management anzuschauen.

00:09:17: Was ist die Exposition für unseren System?

00:09:20: Die Dynamik nimmt zu, aber das Handwerken sehe ich.

00:09:24: Security ändert sich wahrscheinlich nicht.

00:09:27: Ich habe noch einen kurzen Punkt bevor wir zu Ende kommen.

00:09:30: Was heisst du jetzt von AI zum Beispiel wie Microsoft Security Copilot oder so?

00:09:34: Also irgendwo Tools kann man eher in der Abwehr und Analyse dann auch von Angriffen eingesetzt werden.

00:09:42: Was heisst du von solchen Sachen?

00:09:43: Hey ja, das ist eine sehr gute Frage.

00:09:45: Ich habe mich vorhin auch noch gefragt ob ich so dieses Thema brauche.

00:09:48: Braucht man überhaupt ein Sock in die Zukunft?

00:09:51: Genau!

00:09:51: Ein Operation Center.

00:09:52: oder macht das alles KI?

00:09:56: Ja, wir brauchen es weiterhin und zwar im Sinn von Prozessrollen und Zuständigkeiten.

00:10:03: was machen wir denn mit diesen... Schwachstellen und Feststellungen, die wir auf dem System haben.

00:10:08: Oder ein Socken Security Operations Center, das primär dafür ist zu überwachen und zu dedektieren, wenn etwas falsch läuft.

00:10:15: Das bringt überhaupt nicht, wenn man so was hat, wenn hinten und aussen nachher nichts passiert.

00:10:20: Genau!

00:10:21: Und das ändert sich null.

00:10:22: Auch wenn wir jetzt diese Überwachung K-basiert machen.

00:10:27: Sie arbeiten wahrscheinlich sehr stark mit solchen Tools.

00:10:32: Die Arbeit von einem Soc-Analyst hat sich in der letzten Zeit massiv gewandelt, die das Ganze reagieren und analysiert von den Inzidenzen respektive der Meldungen.

00:10:44: oder was ist im Volk positiv?

00:10:46: Was sind richtige Vorfälle?

00:10:47: Das ist natürlich heute bereits sehr stark automatisiert.

00:10:52: Unter dem Strich braucht aber immer noch ... Der Mensch aus meiner Sicht zum schlussendlich verifizieren, wie legitim ist das.

00:10:59: Und das wird sich nichts ändern.

00:11:00: und d.h.

00:11:01: auch die Arbeit vom Sock haben durch die gesteigerte Dynamik gekommen.

00:11:06: Man hat schnellere Angriffe, man hat mehr Angriffen.

00:11:09: Es wird sich diese Dynamik einändern, damit man halt die Automatisierung auf der Angriffsverseite stattfindet oder

00:11:15: auf

00:11:16: der Defense-Seite entsprechend muss, aufrüsten kann und unterstützt arbeiten.

00:11:23: Aber d. h., Sock braucht es immer noch?

00:11:25: So geschafft,

00:11:26: ja.

00:11:27: Ausstark K-Unterstützt!

00:11:29: Ja?

00:11:29: Ich denke auch für mich ist das so eine Art Experte die man eigentlich mietet sozusagen in der einem Hälfte, dass irgendwo verständlich auch zu machen was draußen passiert oder?

00:11:37: Genau.

00:11:38: Das Netznetz ist das menschliche irgendwo?

00:11:39: Genau, genau.

00:11:41: Cool.

00:11:42: Super.

00:11:42: Ja spannend also von daher KI würde es schneller machen wenn ich es richtig verstanden habe und wir brauchen KI auf der Defense Seite im Soc zum Beispiel auch mit KI Unterstützung weil die Angreifer natürlich jetzt auch neue Möglichkeiten haben.

00:11:55: Okay, cool.

00:11:56: Also, ich mache es noch schneller und interessanter je nachdem.

00:12:01: Ja!

00:12:01: Ich bin mega gespannt wie sich das Mythos entwickelt wird.

00:12:08: Mythologisch sehr gut.

00:12:09: Dankeschön.

00:12:10: Danke Tobias für die

00:12:11: nächste Frage.