#64 Anthropic Mythos: Automatisierte Zero-Day-Jagd und die Realität des Marktzugangs

[00:00] Herzlich Willkommen zu einer neuen Runde geplegter Paranoia. Ich bin nicht Martin und auf der anderen Seite der verschlüsselten Leitung, ja sitzt heute gar niemand da, Martin in seinem wohlverdienten Urlaub sich befindet. Wir mussten aber ja letzte Woche schon die Folge ausfallen

[00:18] lassen, da ich leider krank war, deswegen schiebe ich diese Woche eine kurze Solo folge ein und deshalb begrüße ich Euch leidgeplagten Security Experten und die die es noch werden wollen. Zu meiner ersten Solo Folge und unserer Insgesamt 14 Folge diesen Jahres.

[00:36] Jetzt stellt euch nur mal vor, es gäbe eine KI, die Tausende Zero Day Exploits findet und der Hersteller oder Entwickler dieser KI sagt dann, wir dürfen die KI niemals komplett veröffentlichen. Wie komme ich darauf jetzt es gibt von Antropic ein neues Frontier LLM.

[00:56] Bisher war das Claude Opus. Wer das Modell kennt, und das wird jetzt von Claude Mythos abgelöst. Die erste Frage, die man dazu kurz klären muss, ist, was ist überhaupt ein Frontier LLM? Das ist ein ein Large Language Modell, also eine AI im Prinzip oder eine AI.

[01:16] Die an der an der absoluten Spitze des technisch Machbaren steht. Das heißt, es hat extrem große Trainingsabläufe, es hat extrem viel Computational Power, dieses LLM kann Code verstehen, kann planen, kann komplexe Aufgaben abbilden oder ganze Aufgabenketten, das heißt, das

[01:38] ist jetzt nicht so wie euer Jet, GPT oder Germany Chatbot, den ihr verwendet, um Fragen zu stellen. Sondern das ist wirklich ein allzweck Denkmotor. Warum ist jetzt Mythos ein neues Frontier Modell? Weil es die Vorgängermodelle wie Cloud Opus bei Benchmarks

[01:57] einfach ganz ganz deutlich übertrifft und einen besonderen Fokus auf Cyber Security aufweist, der von Anfang an soweit ich weiß gar nicht eingeplant war, der jetzt einfach so entstanden ist, weil dieses. LLM extrem effizient darin ist, reale Schwachstellen zu finden.

[02:17] Das heißt, es performt nicht nur hervorragend in künstlichen Benchmarks, sondern findet in der realen Welt verdammt verdammt viele schwerwiegende Schwachstellen. Ein Tropic selbst stuft das ganze Modell als Modell mit besonders hohem Risikopotential ein, kommen wir als erstes Mal

[02:36] zu den Fähigkeiten. Was Mythos denn besonders gut kann und was es vielleicht auch gar nicht kann oder wofür es der Falsche, das falsche Modell ist. Es hat extrem hohe Erfolgsraten bei Software Engineering Benchmarks, das heißt, Es hat auch eine sehr starke mathematische Ausprägung und

[02:56] eine sehr starke Reasoning Fähigkeit. Es kann Code analysieren, es kann Schwachstellen identifizieren, es kann Exploit Ideen kreieren und auch sofort testen. Es kann Patches vorschlagen und es kann sich selbst verbessern. Also es es hat ne ne

[03:15] Selbstprüfung, das heißt das Modell kann seine eigenen reflekt Ergebnisse reflektieren und optimieren, das heißt damit sind ganze Angriffsketten möglich, also man kann das to oder die das Modell zur Identifikation eines. Attack Paths, also eines Weges einer eines Angriffs verwenden

[03:40] und auch direkt, um ihn zu planen und dann auch noch durchzuführen. Trotzdem hat dieses Tool Limitierungen und zwar ist es jetzt kein keine schwarze Magie, kein kein übernatürliches Wesen, was jetzt auf einmal magisch läuft und alle Security Teams dieser Welt überflüssig macht.

[04:00] Dieses Tool braucht nach wie vor Input den es. Verarbeiten kann das, aus dem es lernen kann, dieses Tool oder dieses Modell kann immer noch falsche Einschätzungen treffen, kann immer noch halluzinieren und sieht nach wie vor nur was in seinen Kontext geladen wurde. Also es ist keine allsehende

[04:20] allwissende Instanz, das heißt die Wirksamkeit davon hängt aktuell sehr stark von der Integration, den Tools, den Daten und der menschlichen Aufsicht ab, das heißt? Das ist ein wahnsinnig beeindruckendes Tool, das Angreifer in die Möglichkeit bringen, Verteidiger zu dem

[04:39] Punkt bringen könnte, dass sie zum ersten Mal auch Angreifern vielleicht einen Schritt voraus sind oder immerhin gleichauf mit ihnen sind. Aber es ist nun mal kein Endgegner für jedes Security Team. Das ist es nicht, aber was kann das Tool jetzt für Chancen

[04:55] liefern oder das Tool sage ich die ganze Zeit. Dieses LLM an Chancen liefern. Es kann einen massiv verbesserten Schutz vor echten Angriffen darstellen, da tausende alte und neue Schwachstellen gefunden werden können oder auch schon gefunden wurden und jetzt gefixt werden

[05:13] können. Wir reden hier von Schwachstellen, die tatsächlich schon Jahre, vielleicht sogar Jahrzehnte bestehen, speziell im Kern von bei bei Operating Betriebssystemen. Bei Browsern bei sehr weit verbreiteten Bibliotheken, da ist es wirklich ein sehr gutes

[05:33] LLM, um da Fehler auszumerzen. Dann kann es natürlich eine massive Entlastung für Security Teams bedeuten, da es massiv unterstützen kann bei Code Reviews, bei Audits, Penetration Tests, also Angriffe auf Produkte oder Unternehmen, die geplant sind, um Schwachstellen festzustellen, können damit

[05:53] verbessert werden, große Daten. An Logs, also an Events, die niedergeschrieben und gespeichert werden, können damit schneller verarbeitet werden und das Modell liefert Hypothesen und Vorschläge, wie Menschen entscheiden können. Das heißt, die sogenannte Bug debt, also die die technische

[06:11] Schuld, die entsteht, durch Schwachstellen, wird abgebaut werden können, das heißt Jahrzehnte gewachsene Systemen, Systeme, die jetzt vielleicht auch niemand mehr so hundertprozentig versteht, können damit. Jetzt sehr viel systematischer durchforstet werden.

[06:26] Jetzt kommen wir zu einem Punkt, der aus meiner Sicht auch noch ein positiver Aspekt ist. Und zwar werdet ihr Cloud Mythos nicht einfach bei euch in eurer auf eurer Cloud AI Website oder so finden können. Dieses Modell wird nicht einfach öffentlich released, sondern findet zuallererst defensiv in

[06:46] kontrollierten Programmen Einzug, damit ist die Bedrohung über. Mythos jetzt relativ eingeschränkt, wobei auch diese, ich nenne es jetzt mal Exklusivität des Zugangs eine gewisse Gefahr birgt. Dann kommen wir jetzt mal zu dem großen Block der Risiken, die

[07:05] auch durch so ein Modell entstehen können. Man muss nämlich sagen, alles was natürlich den Blue Teams, also den Verteidigern hilft, hilft natürlich potenziell auch Angreifern in der Exploit Entwicklung. In der Angriffskettenplanung im Erstellen von Phishing und

[07:21] Social Engineering Texten und wenn das Angreifen in die Hände fallen würde, wäre das natürlich auch ein massives Problem. Das heißt, die Aggressoren, die Hacker würden mit einem solchen System in ihren Händen einen massiven Sprung nach vorne machen, da das nur noch eine Frage der Einbindung in ihre

[07:40] existierenden Tools wäre. Und das wäre jetzt kein großer Act. Ne weitere Gefahr ist dadurch, dass das Modell als so mächtig gilt, dass man dass Security Teams anfangen sich zu stark darauf zu verlassen und zwar. Dass man sagt, Wenn DAI keine keine Schwachstellen findet,

[07:59] dann existieren auch keine. Das heißt, damit könnten Fehlurteile oder blinde Flecken des ganzen Modells übersehen werden. Das heißt, es macht Reviews nicht überflüssig, sondern es macht es, ergänzt Reviews, dann haben wir das Problem jetzt in dem speziellen Mythosfall, dass

[08:16] wie erwähnt nur eine Handvoll von Unternehmen wohl Zugriff auf Mythos bekommen werden, das heißt kleine Firmen von. Schaltungen, Open Source Projekte und so weiter werden davon nicht profitieren können. Das heißt, damit haben wir dann eine noch größere Kluft, was Softwareentwicklung angeht, von

[08:36] großen Playern, die dann auch Claude Mythos in ihre Entwicklungsumgebungen einbetten können und kleineren Unternehmen, die keinen Zugriff dazu bekommen, wodurch dann die Frage von vornherein aufgebaut werden könnte, ist. Ist deine Software mit clode Mythos gebaut und getestet oder

[08:54] nicht? Das könnte ein massiver Marktvorteil für die großen Player sein, die ja sowieso schon eine große Marktmacht haben. Zusätzlich muss man dazu auch noch sagen, dass aktuell nur US Unternehmen Zugriff auf clode Mythos haben und auch

[09:10] Cybersicherheitsbehörden in Europa keinen Zugriff drauf haben. Laut Politico hat aktuell nur das Bundesamt für Sicherheit in der Informationstechnik, also das deutsche BSI, Kontakt zu antropic. Allerdings soll es da aktuell bei Gesprächen geblieben sein,

[09:30] einen direkten Zugang zum Modell hat anscheinend in dem Fall in Europa nur das AI Security Institute in Großbritannien und sonst niemand. Also zusammenfassend kann man sagen ein. Ein großes Risiko ist einfach einerseits die falsche Sicherheit, die eine AI von der

[09:50] Macht erzeugen könnte, dass man die Basics vernachlässigt und andererseits, dass eben Angreifer genauso von dieser, von diesen Sprachmodellen dann profitieren können. Wie wird Mythos heutzutage schon eingesetzt, aktuell noch überhaupt nicht, um ehrlich zu sein, es.

[10:08] Es gibt das Projekt Glasswing, das beinhaltet Antropic natürlich als selbst als Entwickler plus große Tech und Security Firmen, die das Ziel haben in diesem Projekt kritische Software zu scannen und zu härten. Hatten heißt in dem Fall, dass man Zero Day Exploits rausnimmt,

[10:26] dass man Schwachstellen im Code, Fixed und so weiter Credits und Support gibt es damit auch nur für diese ausgewählten Organisationen. Niemand anderes erhält auf dieses Modell Zugriff. Aktuell ist es auch noch ein Preview Modell ohne offene API Schnittstelle, der öffentliche

[10:46] Release davon ist auf unbestimmte Zeit erstmal verschoben worden. Offiziell die Begründung ist, dass es einfach ein massives Risiko ist, dieses Tool der breiten Masse zur Verfügung zu stellen. Jetzt stellt sich noch die Frage, gibt es nur Claude Mythos

[11:01] das so mächtig ist aktuell oder gibt es noch andere Sprachmodelle die diese Macht haben? Ehrlicherweise nee, die gibt es nicht, noch nicht veröffentlicht, aber natürlich arbeiten alle großen AI Entwickler daran, egal ob es Open AI, Google, Deep mind.

[11:19] Meta x AI Wer auch immer ist, die Arbeiten alle da dran und es gibt zur zu den Themen AI for Cyber Defence und AI Assisted Exploit Discovery schon mehrere Forschungen, die oder Forschungsberichte, die schon veröffentlicht wurden. Der Open Source Bereich, der wird immer stärker, aber die

[11:40] kommen da noch noch noch nicht ran an das Niveau von Mythos oder von den Frontier Modellen, die Tendenz ist. Dass die Lücke kleiner wird, aber ja, die Lücke ist trotzdem noch existent. Mythos ist das Sichtbarste Beispiel, das es aktuell gibt auf dieser Stufe von LL Ms will

[12:00] ich mal sagen, aber am Ende ist es höchstwahrscheinlich nur die Spitze des Eisbergs, also zusammengefasst noch mal für Euch Mythos ist ein Frontier LLM, also ein sehr sehr mächtiges LLM mit. Ausgeprägten Security Fähigkeiten mit der Chance einen massiven defensiv Boost für

[12:22] jedes Security Team und jeden Entwickler darzustellen. Mit der groß mit dem großen Risiko allerdings, dass das natürlich auch Angreifer nutzen können, so ein Modell. Und die Machtkonzentration aktuell sich eben auf einige wenige große Tech Konzerne beschränkt.

[12:39] Ob man das jetzt haben möchte oder nicht, das muss jeder für sich selbst entscheiden, was er darüber denkt, es ist sicher keine einfache Frage zu beantworten, ob man so ein Tool erstmal wegschließt. Und praktisch im Giftschrank lässt, was sie aber auch offiziell irgendwie dann doch

[12:58] nicht tun, weil sie ja trotzdem tech Firmen da reinlassen. Ich bin mir da persönlich unsicher, ich glaube, dass Mythos ein Modell ist, das uns massiv in Probleme bringen kann und massiv gefahren bergen kann, sobald Angreifer es verwenden, aber wie ihr an meiner Formulierung gemerkt habt.

[13:17] Aus meiner Sicht geht es nicht darum, ob ein Angreifer so ein Tool oder so ein ein ein LLM zur zum Angreifen verwendet, sondern es ist aus meiner Sicht nur eine Frage, wann das passieren wird. Und da ist jetzt die Frage, setzt man das dann nicht lieber sofort von Anfang an in einer breiteren Masse ein, um die

[13:39] defensiven Fähigkeiten oder die die. Die Defensive oder die Verteidigung eines Unternehmens oder von Software von vornherein schon zu stärken oder nicht, das muss jeder für sich selbst entscheiden, wie er dazu steht. Ich finde es aus meiner persönlichen Sicht spannend, auf

[13:56] das Modell Zugriff zu haben, habe ich aktuell leider nicht mal schauen, wir werden euch da sicher updaten, genau das war es diese Woche mit meiner kleinen Solo sonderfolge zu Claude Mythos, danke, dass ihr dabei wart. Ich wünsche euch eine schöne Restwoche.

[14:14] Nächste Woche hört ihr wieder die geballte Power von Martin und von mir bleibt sicher und auch ein bisschen paranoid bis nächste Woche ciao.