#51 Die Cybersecurity Thesen 2026 & Start in Staffel 3

[00:00] Hallo und herzlich Willkommen zu einer neuen Runde gepflegter Paranoia. Hier ist 2 Faktor Geplauder, Ich bin Martin. Und ich bin Mark und wir begrüßen euch. Leid geplant und Security Experten und die, die es natürlich noch werden wollen zu

[00:13] unserer 1. Folge im neuen Jahr in der neuen Staffel. Und wir blicken heute in die Glaskugel. Wir reden über autonome Agenten. Die sich gegenseitig hacken, während wir noch beim ersten Kaffee sitzen und über Deepfakes, die mittlerweile so

[00:30] ich will es gar nicht sagen, gut sind, dass ich gestern noch eine Nachricht vom Markt bekommen habe, wo er mir hier ein frisch getapftes Feierabendbier verspricht, bis ich gemerkt habe, der echte Markt ringt um die Uhrzeit, nicht mehr Hopfen, sondern nur noch Tee für seinen inneren Fokus.

[00:46] Ja, da es mich jetzt erwischt, kein Hopfen, nur noch Tee um die Uhrzeit. Aber sind wir mal oder bei allem ernst, wer benötigt noch Firewalls, wenn die Attack Surface dank smarter Toaster mittlerweile größer ist als mein schlechtes Gewissen nach einer Tiefkühlpizza um Mitternacht?

[01:04] Sagen wir mal ordentliches schlechtes Gewissen. Ja, wir haben es nicht mehr 16. Ja, da frage ich mich, was jetzt Weihnachten und Neujahr alles so passiert. Aber viel. Zu viel, würde ich sagen, viel zu viel und viel zu wenig gleichzeitig.

[01:20] Ja, aber wir nutzen heute die Folge und ich werde mal einen richtig rausholen. 2026 ich werde ein paar Thesen mal an unsere digitale Kirchentür nageln, dass selbst Martin Luther von Neid ablassen würde und und Mark. Es gibt keine Ablassbriefe. Du musst wirklich mal ganz

[01:43] knallhart hier analysieren, oder wir schreiben es nieder, ob das, was diese Thesen sind, ob die auch wirklich. Eintreffen ja, schreiben wir das wirklich nieder und prüfen das dann am Ende des Jahres, ob deine Thesen so gut waren oder und ob du dann als der neue Martin Luther der Neuzeit

[01:59] bedacht wirst? Irgendwann Cybersecurity Umfeld oder ob es doch einfach nur dampfgeplauder war? Martin Luther der Cybersecurity. Oben hast du noch eine Nummer größer. Wirklich. Ja, also lasst ab in die Hölle und lasst uns in die neue Folge

[02:19] reinstarten. Ja, wie ihr merkt, wir haben ein bisschen was umgestellt, leichte Namensanpassungen Wir haben das letzte Jahr Revue passieren lassen. Wir werden. Jetzt nicht mehr jede Woche einfach über 500 Phishing Angriffe reden.

[02:33] Manchmal wird es vielleicht wieder ein bisschen technischer, manchmal wird es. Mehr Geplauder oder mehr unsere eigene Meinung, die hier drin vorkommen, wird aber natürlich immer mit dem Fokus auf die Security und mit dem Fokus darauf, euch anständige News zu präsentieren.

[02:52] Und zu unterhalten, ganz wichtig. Wir haben uns Entertainment ganz oben auf die Fahnenstange geschrieben. Wir wissen zwar noch nicht, wie wir euch entertainen. Da bin ich selber mal gespannt drauf, wie wir das hinbekommen. Dieses Jahr aber empfinden für

[03:05] alles eine Lösung. Ja, ich. Ich glaube auch wenn die Themen interessant sind, dann ist automatisches Entertainment gegeben mit uns sowieso. Und mit dem Martin Luther an den an den virtuellen. Kirchentüren. Hey, also wir sind in in der

[03:21] Hölle, wo ist wo ist die Kirchentür hier? OK, müssen wir da die Hölle bewachen? Nee, wie war das denn doch, du hast immer gesagt. Du willst die Hölle bewachen, wir haben ja Cerberus als Höllenhund, der die Hölle bewacht, wenn wir nicht da sind.

[03:38] Ansonsten müssen wir das machen. Ja, kriege ich auch, hinschreibe ich mir auch gerne auf meine Visitenkarte. Sehr gut. Marc, der Cerberus der Hölle. Ist nicht ein mehrköpfiger Hund doch der Cerberus. Cerberus ist. Ein hat hat mehrere Köpfe.

[03:52] Ja genau, ja, ja, dreiköpfiger Hund. Ja, ja, na ja. Ja, aber wir haben uns auch gedacht, weil wir in letzter Zeit auch nicht nur Cyberangriffe, sondern wir haben aber gedacht, wir beschäftigen uns auch sehr viel mit Technologie natürlich, das

[04:08] heißt, wir werden jetzt auch mal gelegentlich ein bisschen über, ja, technologische Errungenschaften, neue Sachen und so weiter sprechen, aber die jetzt nicht so direkt mit Cybersecurity zu tun haben, und deswegen wird das auch das ein oder andere Mal einfließen, wahrscheinlich ne.

[04:25] Wir haben uns zu Neujahr gesehen, Mark und da war vor allem ein Thema, die gewachsenen Kosten, gerade zum Thema Arbeitsspeicher und Grafikkarte. Oh Gott, ja. Und was ist dran schuld? Ich sag course ey und wer hat die ganzen RAM Riegel auch gekauft?

[04:45] Die ganzen AI companies die. Ganzen AI Companies genau KI ist dran schuld. Da fängt es nämlich schon an, weil die ganzen Produktionslinien die DDR 4 hergestellt haben, wurden umgestellt für KI Speicher und aber alles was mit DDR 5 ist wurde nicht angepasst.

[05:05] Dementsprechend gibt es einen künstlich erzeugten Mangel und dasselbe gilt auch für Grafikkarten. Nvidia hat angekündigt sich vermehrt auf. KIGPUS zu konzentrieren und so auch eine künstliche Verknappung Beizuführen bei Grafikkarten im Consumer Markt.

[05:24] Um da mal auf Prozente einzugehen. Wir haben ja bei, du hast ja einen neuen Computer dir gebaut. Genau. Ich habe mir im Oktober einen neuen Rechner zusammengestellt, wo ich mir einen einen Rammriegel geholt hatte für ich glaube.

[05:40] Knapp 100€ ja, wann das? Gelegen ist, sind wir bei ich mein 380 oder knapp 400€ für dasselbe Produkt innerhalb von 2 Monaten. 340% Preissteigerung hat es mir angezeigt. Also wahnsinnige Preise. Also da ist viel Bewegung mit drin und das hat jetzt auch noch einen weiteren schuldig.

[06:03] Ne? Also alle Gamer und unter euch ja. Fürchterlich Xbox, also Microsoft und Sony mit ihrer playstation müssen ihren Release verschieben. Deswegen. Ja, ist nur noch die Frage ob ob die playstation und die Xbox vor

[06:18] GTA 6 rauskommen oder danach. Also ja, befürchte danach. Ah, ich fürchte auch danach also. Eigentlich war es für Ende 27 so ne offizielle Nounts nicht aber so anvisiert. Ne Ende 27 wollte playstation und Xbox was neues rausbringen, haben die jetzt beide verschoben

[06:39] und schieben die Schuld an den Mangel an Komponenten oder teurere Komponenten. Ja, playstation 6 laut Gerüchten angeblich erst. 2030 da kommt auf jeden Fall GTA 6 vorher. Jetzt kannst du dir ja mal vorstellen, jeder der sich neuen Laptop, neue Hardware oder sowas jetzt kaufen möchte in einer

[07:00] Zeit ja wird teuer. Ja, ich hab es mir ja auch überlegt, aber Boah mal schauen, mal schauen. Aber wir können uns ja, aber ich weiß gar nicht, hast du mitbekommen. Nicht nur Hardware wird teurer, sondern auch Nike Trainingsanzüge.

[07:18] Was aber? Die schieben es jetzt nicht auf die Rambrigel oder? Nee, auf auf Trump. Trump hat doch von Madoro ein Bild gepostet, wo er gefangen genommen ist in einen Nike Trainingsanzug, und der ist jetzt vergriffen, überall angeblich nicht mehr zu haben,

[07:38] ja für jede Situation gerüstet war die die Schlagzeile bei Nike haben direkt das Marketing rein. Ja, das ist so wie die. Da hatten wir letztes Jahr drüber geredet, die dieser Möbeltransportaufzug für den Louvre Raub, der von einer Deutschen, von einem deutschen Unternehmen kommt, die auch mit

[07:56] dem Bild einfach Werbung gemacht haben. Ja, du kannst ich, ich warte, ich warte, bis dann die großen Technologiekonzerne auch so ähnliche Werbung dann schalten oder vielleicht sogar bezahlen, wer weiß ne. Ja, ja, ja. Aggressives Marketing, da muss

[08:08] man noch mehr auf Deepfakes aufpassen, da sind wir wieder. Ja, also wer wer, wer weiß denn überhaupt, dass überhaupt ein echtes. Foto ist ja, hat der vielleicht ein adidas Trainingsanzug angehabt oder einen guten Papa? Gibt's auch überhaupt. Noch?

[08:20] Ich glaube schon. Gibt's glaub noch, ja, gibt's noch, ja. Da muss muss man heutzutage auch aufpassen. Ja, das stimmt. Aber wollen wir einfach mal mit den mit den Thesen anfangen, die ich jetzt mitgebracht habe? Geh an die Tür und häng mal

[08:33] deine erste These hin. Meine erste These oder beziehungsweise ist es eigentlich nicht meine Thesen, sondern diese Thesen kommen. Von ja, von von einigen großen Playern am Markt, die gesagt haben, das wird 26 wichtiger und ich verwerte einfach nur wieder ne und hab diese jetzt mal

[08:53] aufbereitet und habe gesagt, ja, lass uns diese Thesen einfach mal besprechen, so die erste These ist, wir sind gerade schon bei Deepfakes. Ja die Qualität von KI generierten Videos, Bildern und Stimmen wird. So hoch sein, dass es nahezu unmöglich sein wird, zwischen

[09:12] realen und gefälschten Inhalten zu unterscheiden. Das unterschreibe ich zu 100%. An dem Punkt sind wir ja eigentlich schon. Sind wir schon nicht mal so was? Können wir jetzt, wenn man die Voice Fishing Attacken anguckt und die automatisierten AI Anrufe und so weiter glaube ich,

[09:26] dass das selbst Experten schwer fallen? Wird es nur anhand der Stimme und dem gesprochenen Wort und so weiter zu erkennen, ob das jetzt eine AI ist oder nicht. Wir haben uns ja auch mal drüber. Nachgedacht, ob wir uns nicht selbst mal klonen, stimmen,

[09:42] klonen. Vielleicht finden wir ja irgendjemanden mal, der mit den ganzen Folgen, die wir mittlerweile aufgenommen haben, unsere Stimmen perfekt klonen kann. Das sollten wir mal machen und dann streuen wir in die ganze Staffel eine Folge ein, die wir

[09:54] eigentlich überhaupt nicht aufgenommen haben und löst das ganz am Ende des Jahres auf. Oh. Ja, Oh ja, das finde ich, finde ich eine gute Idee. Da können wir ja gucken, ob das, ob das wirklich machbar ist. Also du, du sagst, dass es jetzt schon gang und gäbe, die sind

[10:10] jetzt ganz. So gut. Also ja, ich bin der Meinung, die sind jetzt schon was das Voice Thema angeht, soweit, dass du nur noch sehr sehr schwer Unterschiede erkennen kannst. Wenn wir jetzt Video mit rein nehmen, fehlt mir ehrlicherweise die Erfahrung, aber ich kann mir

[10:24] nicht vorstellen, dass das noch so ein großes Problem ist. Um ehrlich zu sein, weiß nicht was du drüber denkst. Also sie wird immer besser. Also ich glaube auch, dass jemand, der nicht ganz genau weiß, also gerade wenn du mal angerufen wirst über Telefon oder auch Video, die werden

[10:42] immer besser es, vielleicht gibt es noch Möglichkeiten, also jemand, der wirklich drauf achtet, jemand, der weiß, worauf er achten muss, der wird es erkennen, aber n Großteil der nicht damit rechnet, ich glaube die lassen sich schon sehr gut hinters Licht führen und das wird.

[10:57] Auf jeden Fall deutlich zunehmen und da kann ich dazu auch sagen, was jetzt zum Beispiel IBM dazu geschrieben hat. IBM berichtet einen Anstieg der Katalogisierten Deepfakes um 1500% zwischen 23 und 25, also man hatte, man hatte noch 50000 deepfakes, 23 ja. Mitbekommen.

[11:24] Mittlerweile sind es über 1000000 und und die. Die technischen Detektoren können mit der Qualität der Fälschungen nicht mehr Schritt halten und deswegen wird massiv empfohlen, zukünftig Mitarbeiter darauf zu trainieren, die Absichten einer Nachricht, also ne zum Beispiel ungewöhnliche

[11:43] Geldforderungen oder Sonstiges zu prüfen, weil sie nicht mehr durch visuelle und auditative Echtheit. Nicht drauf verlassen können also sie können nicht sagen, diese Stimme oder dieses Video, was ich jetzt gerade sehe, ja ist echt, sie müssen die Art der Anfrage kritisch hinter

[11:58] hinterfragen, ob das wirklich echt sein könnte, ja. Es ist auch irgendwie irgendwie traurig, dass wir wieder an einen Punkt kommen oder eigentlich jemand nur noch vertrauen oder jemand trauen kannst, dass er das gesagt hat. Was was du denkst, was er gesagt hat, wenn er vor dir steht.

[12:15] Also da kommt es dann wieder drauf an, dass du ein Codewort dir ausdenken musst, damit du notfalls verifizieren kannst. Ist das wirklich die Person dir gegenüber auch, die du wirklich persönlich? Kennst ja, und ich meine, da gehört ja auch nicht nur dazu, dass es mehr Angriffe gibt,

[12:34] oder? Nee, dass Deepfakes besser werden, sondern was glaube ich noch ein viel größeres Problem ist, dass die Einstiegshürde, Deepfakes zu erstellen, massiv geringer wird, weil es viel mehr Tools gibt, mit denen ich das jetzt erstellen kann und so weiter.

[12:49] Vor Jahren gab es da noch nicht so viele und noch nicht so viele Modelle, auf die ich aufsetzen konnte und so weiter. Ich. Glaub das ist auch ein Problem. Also ich sehe auch vor allem Voice Agenten werden. Also auch die jetzt, zum Beispiel, wenn du irgendwelche

[13:05] Hotlines anrufst, die dann deinen Anruf annehmen und sowas, die dann auch wirklich mit dir kommunizieren, auf deine Probleme eingehen, wird es massiv werden. Jetzt besser also du wirst von mir so Agenten haben, Voice Agenten und die kann natürlich auch für Fakes und Scams benutzt

[13:22] werden. Ja also ich wenn wir jetzt mal festschreiben würden 26 Deepfakes werden massiv weiter steigen sag ich. Absolut unterschrieben. Ja, ja. OK, erste These also damit von uns bestätigt sehr gut kommen. Kommen wir zur zweiten These,

[13:41] Autonome KI Agenten werden übernehmen die gesamte Angriffskette, das heißt ein KI Agent führt eigenständig, sucht sich Ziele. Versucht Schwachstellen zu finden, erstellt Exploits, exfiltriert Daten, automatische Erpressung, alles durch einen kaier Agenten.

[14:00] Kein Mensch ist mehr. Mit Renvolviert reden wir. Jetzt davon, ob das generell möglich ist oder ob wir sagen, das wird nächstes Jahr zu einem Problem werden oder dieses. Dieses Jahr, dieses dieses Jahr. Ich denke, wir werden da hinkommen und wir werden auch solche Angriffe sehen dieses

[14:17] Jahr. Ich habe in meiner eigenen Erfahrung schon so riesige Verkettungen von Agents gesehen, die wirklich fast jeden Schritt übernommen haben, wird es jetzt flächendeckend ein großes Problem werden dieses Jahr, ich glaube nicht die. Dafür ist es noch zu früh,

[14:35] vielleicht Jahresende. Aber ja, das könnte noch zu weit zu früh sein, aber auf jeden Fall muss man sich davor wappnen und damit rechnen, dass das passieren wird, weil also auch nicht drüber reden, ob das passieren wird, sondern nur noch. Wann also?

[14:51] Ich glaube, dass eine Angriffskette schon autonom passieren kann, also zu teilen, also so mit, dass eben. Fehlerquellen gesucht werden oder Ziele gesucht wird und die automatisch angegriffen werden, um zu gucken was passiert. Was ich nicht glaube, das ist nämlich auch eine eine These

[15:11] dazu, dass es eine sogenannte Ulimorphismus geben könnte, das heißt, dass der KI Agent auch in Echtzeit den eigenen Code ändern kann, um einer Entdeckung oder Quarantäne zu entgehen, warum? Na ja gut, wenn wenn du zum Beispiel. Merkst also ein eigenständiges Lernen.

[15:33] Das ist ja fast, dass du nicht entdeckt wirst, als als als als KI oder als als Schadsoftware und so weiter um dich halt auch anzupassen, wenn du irgendwo entdeckt wirst, merkst du halt OK ne ne ne gewisse Software hat mich entdeckt, ich passe meinen Code an um unentdeckt zu bleiben na ja du.

[15:53] Also ich gebe dir recht, dass das schwierig wird, wenn man als Vorbedingung stellt, dass die, dass der Angriffscode selber bemerken muss, dass er entdeckt wurde. Das funktioniert nur dann, wenn er eben dann auch die Monitoring Systeme infiziert hat, was aber ohne Probleme möglich ist, ist,

[16:09] dass der nach keine Ahnung, sagen wir nach noch nach den ersten 5 Iterationen die er durchgelaufen ist oder Angriffen die er durchgelaufen ist, sich dann verändert, das ist voll und ganz automatisierbar oder also über agentic Ai und. Verknüpfung verschiedener AI Agents ist es auf jeden Fall

[16:26] drin, nur dieser Punkt, da gebe ich dir recht, dass er sich verändert, wenn er entdeckt wird. Ja, das. Hat eben wie gesagt die Vorbedingung. Er muss ja dann auch wissen, dass er entdeckt wurde. Ja, das heißt, er weiß, Automat,

[16:37] also er kann drauf reagieren, wenn irgendwelche zum Beispiel er ist irgendein System drin als Schadsoftware versucht dort Daten zu exfiltrieren und er merkt, dass ihm zum Beispiel Berechtigungen entzogen werden oder das System halt. In die Quarantäne geschoben wird, dass er dann selbst darauf

[16:55] reagiert und seinen Code so anpasst, dass er vielleicht dieser Quarantäne entgehen kann. Das ich, also ich glaube noch nicht, dass es nächstes Jahr sein wird, aber es wird auf jeden Fall zeitnah passieren und das ist eigentlich eine größere. Was heißt eine Gefahr, aber ein Szenario, was dann deutlich mehr

[17:14] wird, ein Mensch wird eigentlich, wenn es wirklich so ein. Autonome KI Agenten gibt selbst nicht mehr, schaffen also als Mensch nicht mehr schaffen dem Herr zu werden. Das heißt auch diese Pinten ja und dann auch zu Quarantänemaßnahmen einzuläuten,

[17:32] zu isolieren, das Ganze, das heißt, man muss auch wirklich eine verteidigungs KI etablieren, die bewusst gegen solche KI Agenten halt vorgeht. Ja, ich mein, sind wir mal ehrlich, im Schnitt liegt glaube ich die Mitarbeiterzahl von oder die die. Lebensdauer eines Security

[17:50] Analysten in Firmen bei 2 Jahren oder 3 Jahren und dann verlassen die meistens ihre Position, weil die komplett ausgebrannt sind. Da gibt es ja Studien dazu. Also für mich sind wir schon an dem Punkt wo das Tatsache ist und man mit es gibt die ersten Ansätze wie man mit Verteidigung wie man mit AI dann in die

[18:11] Verteidigung auch geht, da sind wir mal ehrlich, ist das ein Thema für einen Mittelstand? Eher nicht. Netz erst mal nicht leisten können. Oder haben vielleicht die großen Konzerne, die sich solche Leute leisten können. Aber der Mittelstand können bei

[18:25] solchen. Stand die mir leisten können, ja. Ich meine, beim Mittelstand fängt es schon daran an. Haben die überhaupt die Monitoringmöglichkeit mal im Allgemeinen um festzustellen, was passiert denn in ihrem Netz, ja?

[18:38] Das ist ja meistens schon gar nicht gegeben. Ja, ja, dass sie gar nicht erkennen können, was passiert, ob was passiert und was passieren könnte. Also ich kenne da den Begriff Landscape Management, der besagt eben, dass man seine eigene Applikationen praktisch

[18:52] aufgeführt hat, was hat man, was verwendet man, wo liegen die Applikationen, was für Daten verarbeiten die und so weiter und ja, das ist eben ein Punkt, dass viele im Mittelstand gar nicht machen, ja. Oder nicht? Haben also ich kenne sehr viele, die da noch sehr am Anfang sind

[19:08] und die sich jetzt damit auseinandersetzen müssen. Ja, das ist für jedes, also ja, wie gesagt, Ich glaube aus meiner Erfahrung haben das auch Konzerne nicht im Griff, um ehrlich zu sein, oftmals, da mag aber auch das Problem sein, dass die Halt noch mal eine sehr viel größere IT landscape haben als

[19:25] jetzt ein Mittelständler, ja. OK, also wir können sagen, alle haben daran zu kämpfen, also von der Privatperson bis hin zum. Zum Konzern alle haben ihre Herausforderung da eine Antwort drauf zu finden. Ja sehr gut. Kommen wir zu ach so was schreiben wir jetzt eigentlich

[19:42] dafür nieder, muss jetzt gerade überlegen, bevor ich zur These komme. Du, du sagst ja eigentlich nee, wird nicht passieren und ich sag, wir werden es sehen, nicht flächendeckend, aber wir werden so was sehen. Mal gucken, ob wir es Monitoren können, ob es irgendwo

[19:55] festgestellt werden können, dass es genauso gekommen ist. Ja, da bin ich noch zuversichtlich, dass. Zwar geben könnte, aber keiner kann es tracken, dass es so gelaufen ist. Ich würde da jetzt schon den all dagegen halten, aber es würde den Rahmen der Folge sprengen.

[20:10] Gut, jetzt komme ich zu meiner. Ich würde fast sagen Reißerischsten These Firewalls werden so gut wie obsolet. Oh, oh, oh, oh, oh, oh, oh. Ja, also. Ist ist sehr reichlich. Der Hintergrund dazu ist, dass ne klassische Infrastruktur Angreifer werden zukünftig nicht

[20:39] mehr versuchen einzubrechen. Ja also meine Firewall ist ja im Prinzip eine eine, eine eine Sicherheitsschleuse wo n Datentransfer halt durchgeht und ein Hacker versucht halt dort einzubrechen. Ja. Sondern zukünftig. Oder also jetzt. 26 wird's eher

[20:59] dahin gehen, dass Angreifer sich einloggen, das heißt, sie benutzen legitime Benutzerkonten und Authentifizierungsprozesse, um einfach auf Netze zugreifen, das heißt, Cybersicherheit wird mehr identitätszentriert werden, nicht mehr halt dieses das klassische Firewall Konzept, ja. Also du meinst jetzt mit State

[21:25] Pull Firewall, Stateless Firewall Regelsätze die durchlaufen werden, dass sowas obsolet wird. Ja, ja, ja, ich wollte jetzt nicht so tief technisch erklären, versuch es ja mit mit leichten Worten. Ich glaube nicht, dass Firewalls verschwinden komplett obsolet

[21:44] werden, aber ich glaube den Ansatz, den. Firewalls fahren müssen und wie Firewalls funktionieren müssen. In Zukunft muss ein anderer sein. Ich bin mir nicht so, ehrlicherweise bin ich mir auch nicht so ganz sicher, was ich mit anders erwarten würde, aber

[22:00] Firewalls müssen ja, sie müssen glaube ich stärker einfach analyseinstrumente sein als reine Lecken und Whitelists die Traffic durchlassen oder eben nicht, sondern sie müssen. Wonderfly Entscheidungen treffen können, ist das jetzt realistisch, dass das passieren wird, keine Ahnung.

[22:21] Also, und ich glaube auch. Nicht, dass wir 26 schon diesen Großen einen großen Firewall downfall sehen werden, aber wenn man zum Beispiel zu Palo Alto schaut, die machen den größten Teil ihres Umsatzes jetzt schon mit AI Anwendungen und nicht mehr über Perimeter Firewalls oder so.

[22:40] Das sieht man bei den. Bei den Großen, auf jeden Fall. Also ich, ich geh da auch davon aus, gerade dass dieses klassische Netzwerk Thema mit einer Stateful Firewall wird. Ja, also du kannst nicht drauf verzichten zu 100%, aber es wird auf jeden Fall weniger und es wird.

[23:02] Mehr zu wirklich ja zum Identity Security mehr gehen oder auch, dass du eben einzelne User halt überwachst. Ja, also einzelne Identitäten und diesen Identitäten halt, eigenes Regelwerk, eigene Security Instanzen Halt zur Verfügung stellst. Also um die These zu bewerten,

[23:26] glaube ich, sind wir, würde ich behaupten, einer Meinung. Firewalls werden nicht verschwinden, die haben immer noch ihre Daseinsberechtigung, aber sie müssen zumindest ein ganzheitlicher Blick auf den Netzwerk Traffic legen können als nur die sture Bewertung. Darf der Traffic durch oder darf

[23:47] er nicht durch? Also widersprechen wir der These eigentlich. Ich gebe dir noch einen einen eine Zusatz These und zwar. Sind unter anderem wieder das sagt nämlich warte mal, ich muss, muss ganz kurz gucken. Diese These kommt nämlich von PVC und IBM, sagt aber, ein

[24:10] Augenmerk liegt wahrscheinlich nicht auf menschliche Identitäten, sondern auf nicht menschliche Identitäten. Hier kommt nämlich, wie das der Begriff KI Agenten vor, weil KI immer mehr Einzug bekommt in Unternehmen und auch halt Applikationen zugeführt wird. Ja besitzen diese meistens

[24:31] übermäßige Privilegien im Netz und können deswegen deutlich einfacher missbraucht werden, weil die Halt zu hohe Privilegien besitzen, die KI Agenten ja. Das fängt, das fängt ja zum Beispiel an. Du kannst ja ganz einfach irgendwelche, wir hatten es ja

[24:48] auch letztes Jahr auch schon mit dabei gehabt, dass zum Beispiel Copilot, der ist ja auch ne KI dahinter, wenn du in ne e Mail zum Beispiel versteckte Code Zeilen mit Reinbrichst oder in NPDF einfach die nicht angezeigt werden, die in in weiß geschrieben sind, Code Zeilen die er ausführen soll, ja.

[25:10] Und dann eine automatischen E Mail schicken soll mit den letzten Passwörtern oder den letzten Texten, die eingegeben worden sind, zum Beispiel ne, die du überhaupt nicht mitbekommst, weil es im Hintergrund der Zugriff auf dein E Mail Konto und E Mails werden automatisch von der Key

[25:26] versendet weg ja da. Muss man dazu sagen. Das geht mittlerweile nicht mehr. Ne, das ist behoben worden. Haben Sie, haben Sie gepasht, aber du weißt ja nicht, wie andere KI Agenten eventuell. Auf gewisse Systeme. Ja, das Co Pilot Ding ist ist

[25:40] weg. Co Pilot Punkt. Bei Co Pilot existiert das so jetzt nicht mehr, aber ist natürlich vollkommen recht. Es gibt so eine Masse an KI Agenten, ist ein Wahnsinn da zu entscheiden ob das jetzt ob der jetzt die die die Daten irgendwohin auswertet irgendwas

[25:57] anderes macht oder sonst irgendwas ja ja. Ja, man muss ja auch immer noch sagen, dass ich. Ich würd mal sagen, die meisten Unternehmen nutzen in ihren Produktivumgebungen noch keine bei I Agenten, also auch in in ihren Applikationen und so weiter wird aktiv bei I Agenten

[26:15] noch nicht verwendet. Das ist so ein Trend, der jetzt wahrscheinlich erst so ÖH PÖ in dieses Thema eingespielt wird. Ja, es gibt ja erste so wie wir hatten doch das Schweizer Unternehmen die da ihre, die per Wipe Coding so in das alles integriert haben, dass Ihnen das alles um die Ohren geflogen ist.

[26:33] Wie hießen die denn? Ich glaube, Local Minds war das genau. Genau, also wir. Wir sind ja aktuell in einer in bei diesen KI Themen ist ja alles Startup. Betrieben, das heißt junge Unternehmen, die jetzt, wie ich sag mal wie Pilze aus dem Boden

[26:49] schießen. Ja, also ist ja auch ein riesen Markt, im Prinzip ja, die wirklich diese Large Language Models nehmen und dafür auch wirklich Applikationen und Anwendungen programmieren, wo ein künstliche Intelligenz auch einen Mehrwert verspricht. Ja, das was wir jetzt also weiß

[27:09] ich zumindestens in den meisten Unternehmen. Erlebe ist ja eigentlich nur das wie Co Pilot Dir keine Ahnung du gibst eine in eine Suche ein, fasse mir ich suche ne darauf eine Antwort ne was war das letzte Ferientag oder wann ist in in Hessen der nächste Urlaubstag so was oder Feiertag

[27:32] urlaubstag, Feiertag natürlich ja also so wird der Anwendungszweck ist halt für das klassische Suchen. Ja, also nach Antwort suchen. Googeln. Googeln ja, Google, einige würden sagen googeln die, die andere ist halt so, so ein bisschen kreativ zu Gedanken zu

[27:51] sortieren, vordefinierte Texte mal so zu gucken, was was könnte denn mir meinem Tagesablauf helfen und so weiter aber das ist jetzt nicht, dass es halt KI schon in Anwendungen drin ist. Ja, das ist ja auch. Das ist ja auch der Grund, warum jeder von einer KI Blase spricht, weil alle sehen das

[28:10] Heilmittel, aber es ist noch nirgendswo wirklich integriert, ja tief integriert in irgendwelchen Applikationen. SAP probiert ein bisschen damit rum, Microsoft experimentiert, also es wird kommen, wann ist halt die Frage und wenn sie kommen, dann haben wir nämlich noch immer mehr Probleme, weil

[28:28] jede Anwendung. Unterschiedliche KI Agenten verwendet. Die. Mit übermäßigen Privilegien Künglinien ausgestattet sind höchstwahrscheinlich. Ja, weil sie auch dementsprechend Daten verarbeiten müssen.

[28:39] Ist halt so ein Henne I Problem. Du kannst ja dann wahrscheinlich auch nicht mal nachvollziehen, was das was das das LMM dann auch wirklich gemacht hat, ne? Ja, das Problem an der Sache ist halt auch, dass viele damit werben, dass sie AI oder so in ihren Tools mit drin haben. Aber das ist ja zum.

[29:00] Oder zum größten Teil keine echte AI, wie man im Sinne von der LLM oder so erwartet. Aber ja, kommen wir zurück zu der These, was war die? Also ja, das waren noch die Firewalls. Firewalls werden obsolet, ja. Ja genau, also nee, werden sie nicht, sie werden nur anders.

[29:18] Also man muss sich auf jeden Fall mit Alternativen auseinandersetzen, um halt. Ja, Identitätsschutz betreiben und da gibt es einige schöne Lösungen auf dem Markt, aber die halt einzusetzen braucht halt auch seine Zeit und dementsprechend muss man zeitnah anfangen.

[29:38] Das ist eine schöne Überleitung zu der nächsten These, die ich habe und zwar der Q Day rückt näher, wir haben einen Übergang zur Postquantenkryptographie, die mittlerweile also jetzt im. Im neuen Jahr Geschäftskritisch werden kann das. Das ist die die These. Das ist die, das ist die These,

[30:01] ist, dass man jetzt anfangen sollte mit quantenresistenten Sicherheitsmaßnahmen. Also man muss hier vielleicht erklären, was ist der Q Day, der Q Day ist im Prinzip der Tag, in dem Quantencomputer ja, also Quantencomputer ist. Ich glaub, wir haben aber eine Folge dazu aufgenommen,

[30:17] vielleicht soll man die mal verlinken, oder? Hat man das? Ja, und zwar kann ein Computer, dass die irgendwann nutzbar sind und dann wird eben die Rechenkapazität um das ich fache mit einem Schlag um das ich fache steigen. Ich weiß nicht wie hoch das ist.

[30:35] 1000 millionenfache steigen an Rechenleistung und damit werden aktuelle Verschlüsselungen sehr einfach in kurzer Zeit knackbar werden so. Das heißt, Passwörter sind sehr, sehr, sind schnell, schnell geknackt oder auch verschlüsselte Dokumente, die man abgelegt hat.

[30:57] Kryptoalgorithmen werden dann fallen viele mathematische Laufzeitprobleme erledigen sich dann durch Quantenkryptographie oder durch Quantencomputer. Man muss sagen, Quantencomputer werden jetzt die Leistung massiv steigern von irgendwelchen Servern oder sonst irgendwas. Sondern das hängt mit der Art

[31:15] des Rechnens zusammen. Wenn ihr jetzt keine Ahnung Office Anwender seid, wird euch ein Quantencomputer gar nichts bringen und nicht im geringsten schneller euch machen, sondern das sind wirklich spezifische Probleme. Die da dann gelöst werden. Ne, also TBCS sagt, man sollte

[31:33] jetzt bereits anfangen quantenresistente Sicherheitsmaßnahmen einzuführen, weil solche Sicherheitsmaßnahmen dauern umzusetzen Jahre und Unternehmen, die jetzt noch nicht begonnen haben, riskieren 5. Giftige Sicherheitslücken weil

[31:50] Daten, die heute gestohlen werden können, später entschlüsselt werden, ja. Aber dann bringt mir ja quantenresistente Verschlüsselung jetzt auch überhaupt nichts, weil wie du sagst eingeführt werden kann es nicht so schnell, weil es kaum Systeme gibt, die das können.

[32:02] Es gibt eine Handvoll freigegebene Quantenalgorithmen, also es gibt nist Standards, nist Standards wo die ersten Quantenkryptographie die ersten Quantenalgorithmen drin stehen. Aber also ich sehe das nicht, dass das nächstes Jahr zu einem Problem wird und Steel Now decrypt later, das ist ja

[32:24] sowieso ein Problem, also das das wird für mich nicht schlimmer nächstes Jahr, sondern das ist halt schon immer, also ist schon länger ein Problem. Aber ich sehe. Jetzt nicht, dass nächstes Jahr ein q Day wäre. Nee, glaube ich auch nicht. Ach, ob die Dringlichkeit jetzt

[32:39] gegeben ist, ist natürlich, sagen wir es mal so, da muss man wieder. TVC verweist er darauf. Man muss ja auch sagen, Pricewater Cooper ist ein ist ein ja, ein verdienen halt ihr Geld durch Beratung, sagen wir es mal. Einfach mal so so Beratungs und

[33:02] sehr großes. Und sowas quantenresistente Sicherheitsmaßnahmen, wo es jetzt noch nicht mal hundertprozentig ist, was alles quantenresistent wie macht man was quantenresistent? Ist halt ein sehr beratungsintensives Thema, wo man natürlich gerne auch das

[33:17] Geld von Unternehmen nimmt um sich dafür beraten zu lassen. Ich mein, ein Großteil der Unternehmen sind jetzt durch heutige Gefahren noch nicht mal abgedeckt, was interessiert einen dann Daten, die vielleicht dann in ein paar Jahren im entschlüsselt wird? Mir sollten jetzt spontan auch

[33:33] ich mein, es gibt sicherlich irgendwelche Daten, wenn es jetzt um rüstungs, Industrie und so weiter geht. Ich mein, Wir hatten es letztens. Das was war es irgendwie 678 Jahre alten Daten bei Rheinmetall gestohlen worden sind und die haben auch gesagt

[33:49] ist jetzt kein Sicherheitsvorfall weil die Daten sind 8 Jahre alt, was interessiert das ist so alt ja das ist kein keine Sicherheitsbedenken mehr so im Prinzip ne. Oder die ESA, also die europäische Weltraumagentur, die gehackt wurde zwischen den

[34:05] Jahren. Wo angeblich 200 Gigabyte Daten abgeflossen sind, wo aber die ESA selbst dazu sagt, das sind Daten, die sind nicht relevant. Das sind keine Forschungsdaten, das sind keine Satellitendaten oder sonst irgendwas, also ja. Also wenn ein Unternehmen zu viel Geld hat, gibt es gerne

[34:26] dafür aus. Ich persönlich glaube noch nicht, dass es jetzt 26 ein sofortiges Handeln benötigt, ist ein bisschen über über. Bezogen ja, also ich stimme dir da vollkommen zu, das ist Geldmacherei auf P Pricewater aus Cooper Seite oder Ey oder wie auch immer das

[34:44] Beratungsunternehmen heißt aus meiner Sicht das Quanten, also wie du gesagt hast, es gibt Themen, die sind so viel dringlicher als sich um Host Quantum Kryptographie gerade zu kümmern und ehrlicherweise wenn ich es Tor nicht zubekommen ist, da ist auch egal ob ich einen mega sicherheitsalgorithmus

[35:02] dahinter habe, drin ist drin so. So. Ja, ich mein, aber ich meine, wenn dir ein Unternehmen Geld dafür rüberwirft, die auf bandenresistente Sicherheitsmaßnahmen einführen möchte, würde es ja auch nicht nein sagen. Aber ich würde es auf jeden Fall

[35:20] nicht, nein. Sagen also ich weiß, boah da, da rutschen wir zu einem Thema, aber weiß nicht, weil ehrlicherweise doch ich würde das nicht tun, ich. Ich würde da erstmal reingehen und gucken, ist das wirklich euer Problem aktuell, weil ich mir nicht vorstellen kann, dass

[35:40] es auch nur einen Konzern auf der Welt gibt, der so weit ist, dass das wirklich sein einziges Problem ist. Sehr schön. Ich glaube, ich glaube es. Ich glaube es auch nicht. Also these 26 nicht, es wird zukünftig relevanter, aber vermutlich noch zu weit weg, ja.

[36:00] Vielleicht gucken wir einfach mal im nächsten Jahr, aber mal noch mal quantencomputing als Thema nutzen könnten, wenn es vielleicht n neuen Durchbruch oder sowas gegeben hat, dann könnten wir das noch mal aufgreifen. Sehr gut. Ja letzte these letzte these,

[36:19] ich hab mir überlegt ob ich es mit reinnehme oder nicht reinnehme nachdem jetzt arbor wir einen Black. Out in Berlin hatten Browns dazu ein was das? Ist kein, das ist kein Blackout. Ein Blackout wäre ein kompletter Ausfall des Stromnetzes, das ist ein Brown Out, weil er lokal

[36:34] begrenzt ist. Du hast recht, du hast vollkommen recht. Ja Brown out, weil wir ein Brown Out hatten, weil eine kritische Anlage abgefackelt worden ist. Ich habe auch gelernt, Berliner Stromnetz hat keinen n 1 Standard n 1 heißt mit. Ja, redundante Anbindung über 2

[36:58] unterschiedliche Wegeführungen gibt es auch in Telekommunikation und so weiter halt ne und also man möchte halt möglichst hohe Ausfall, eine niedrige Ausfallwahrscheinlichkeit haben und gerade Strom ist sehr wichtig und das Berliner Netz ist einfach nicht dafür

[37:14] ausgelegt gewesen. Dementsprechend hat es dazu geführt. Ja, aber die These ist, dass vor allem. Die sogenannte operative Technologie, also alles, was benötigt wird, um was am Laufen zu halten, sei es Stromnetze, Wasserversorgung, aber auch

[37:32] produktionsumgebungen, ja, wird immer anfälliger und wird immer häufiger angegriffen, weil es kommt das weil also erst mal die Frage, würdest du dem zustimmen das. Routé ist eben mittlerweile immer stärker angegriffen. Wird ja ja, ja klar. Ich glaub, das ist ja, ich weiß

[37:50] was für eine These ist. Ja also. Die These basiert darauf, dass eben die ganzen Systeme, Berlin ist n sehr gutes Beispiel dafür. Ja, also erstens es wird mehr auf Effizienz getrimmt und nicht auf Sicherheit, auch dass zum Beispiel ich weiß, ich weiß nicht, wahrscheinlich könntest

[38:08] du stundenlang drüber sprechen über das Thema Security by Design, ja dass das bei den meisten nicht mehr existent ist, sondern es wirkt alles. Auf effizient und auch teilweise auf Kosteneinsparungen getrimmt. Ja, und dementsprechend sind sie natürlich sehr viel anfänglicher und ja, und Hacker, rentsomware

[38:32] und so weiter wird immer mehr genau auf diese Systeme. Halt gehen zukünftig. Ja, also es sind halt einfach sehr viele Legacy Systeme da drin und Legacy Systeme sind immer eine Schwachstelle und wenn Legacy Systeme nicht sauber getrennt sind vom Rest vom System ist es halt ein riesen

[38:52] Einfallstor. Und. Zusätzlich sind das eben auch. Also kann man einem Unternehmen damit richtig schaden und weh tun. Also wenn man die Produktion, wenn ich jetzt vorstelle, bei mir im Konzern liegt die Produktion still, oh je, also

[39:08] das, das wird übel. Ich, mein britischer Autobauer. Ja, guck mal nach zu Jaguar. Zu Jaguar. Ja, also die hat es richtig hart getroffen und. Wir haben ja auch gerade im Ende des Jahres auch gesehen, dass es immer mehr Supply Chain Attacken gab, um sich über Software, die

[39:28] in solchen Bereichen stattfindet oder dann eingesetzt wird, einzunisten. Und ja, ich sehe das auf jeden Fall, dass das mehr wird, das wird also, das wird ein Ausmaße annehmen, ja, weil seine Operate, also seine OT nicht ausreichend schützt, ja, da ist es auch nur eine Frage der Zeit,

[39:45] dann ja. Also ich kann mir gut vorstellen, dass Angriffe auf Energie oder Wasserversorgung oder allgemein auf kritische Systeme, dafür gibt's ja auch eine 2, dass die in 26, also ich kann mir noch mal ein Brown out vorstellen, 26, dass das kommt. Es ist ja auch schon der zweite

[40:05] in Berlin. Das ist das, was ich so, so verrückt finde ich. Hab mir jetzt ehrlicherweise nicht genau angeguckt, was jetzt passiert ist oder was die Unterschiede zu letzten Jahr waren, weil ich mein letztes Jahr zu einem ähnlichen Zeitpunkt war, das schon mal so,

[40:20] dass Berlin tagelang keinen Strom hatte, also Bereiche von Berlin tagelang keinen Strom hatten. Selbe Aktivistengruppe, die Verteiler halt in Brand gesetzt haben. Also man muss halt schon genau wissen was man halt ja. Was man halt, glaubst du?

[40:37] Ich glaub nicht, dass man das so genau wissen muss. Ich glaub am Ende ist es ein, es ist wie sag ich das jetzt am besten? Du guckst dir ein Barreliespark an und weißt, OK, wenn ich die da abfahre, dann ist es, kommt es zu netzschwankungen und dann wird automatisch.

[40:51] Abgeschaltet? Na ja, wer sagt denn, dass dieser eine Angriff, wo der jetzt das Stromnetz lahmgelegt hat, der einzige ist? Vielleicht haben die das an 10 anderen Standorten davor versucht und das ist ein Trial and error. Kann doch auch sein, weißt du

[41:05] das? Das meine ich, das ist ja, das ist ja nicht eine eine Frage von weiß ich wo ich wo ich wo ich treffen muss, wo ich angreifen muss, sondern das ist ja auch ein Punkt, von wieviel muss ich gleichzeitig angreifen, um so einen Effekt hervorzurufen. Ich weiß jetzt nicht, wie solche

[41:24] Masten in Berlin oder so gesichert sind oder was ich, also ich, da kenne ich mich wirklich nicht genug damit aus deswegen. Möchte ich jetzt nicht sagen, das ist ultra einfach oder ultraschwer. Ich möchte aber sagen, ich kann mir vorstellen, dass man da gar

[41:37] nicht so viel tiefes Wissen braucht, sondern einfach nur oft genug ausprobieren. Muss ja ja. Also ich kann dir jetzt nicht widersprechen. Also das ist eine mögliche These, auf jeden Fall, aber wir weichen schon wieder ab zu unserer ursprünglichen These ist

[41:51] es eine eine Gefahr? Ja, ja, definitiv. Das war ja, ich bin auch ich würde auch behaupten, das war 2025 schon eine Gefahr und das wird nur noch eine noch größere Gefahr 2026 werden, vor allem in Abhängigkeit mit politischen Konflikten, die ja da auch in diese Dimension mit rein kommen,

[42:07] das wird immer schlimmer werden, da muss man aktiv dagegen was. Tun ja ja aktiv dagegen tun hilft also nur, sich eine eine Photovoltaikanlage aufs Dach zu zu klatschen. Mit einer Batterie mit einem schönen Holzkamin noch mit reinzubringen, damit man auch heizen kann und.

[42:33] Aber bitte nicht den, den die Photovoltaik mit der mit der chinesischen Cloud verbinden. Ja, kurz, einige sagen auch nicht mit mit mit der Deutschen aber. Das stimmt, das stimmt. Bindet euch einfach nicht mit der Cloud, sondern lasst das alles lokal laufen und ihr seid.

[42:58] Good to go. Ja, und vielleicht am besten nicht in Berlin wohnen. Also ich hab, ich hatte es jetzt gehört gehabt, Thüringen hat damit geworben, dass deren Stromnetz auf n 1 gebaut ist, also dass Orts Netze. Dort redundant erschlossen sind und dass auch Grundstücke und

[43:23] Lebenshaltung in Thüringen günstiger. Ist als Berlin OK, das ist ja eigentlich aber eine Einladung für die Angreifer, das in Thüringen zu testen, ja, oder? Also für mich ist das so ein Punkt doch, also erzähl das doch nicht, malt ihr doch nichts aus eigenem Antrieb.

[43:41] Ne Zielscheibe auf deinen Rücken gegen die Leute, indem du sagst, wir sind viel besser. Bei uns kann das nicht passieren, das ist doch ne Einladung für jeden Hacker zu zeigen hm doch. Na ja gut, die Aussage hilft so lange bis wobei Lebensunterhalt ist schon ne günstiger, aber.

[43:58] Das hält so lange, bis es halt tief geht. Weiß man ja, ist klar, ja, ist klar, ja ja, es ist ja immer so das das Leben ist eines Security Spezialisten oder eines Unternehmens ja ist immer so gut solange nichts passiert oder solange man blind ist passiert auch nichts und sobald was

[44:16] passiert dann ist die Kacke am dampfen ja und dann hat man auch Geld aber ja. Ja. Das ist ein anderes Thema, das können wir vielleicht wann anders noch mal auspacken, warum Cybersecurity vielleicht unterfinanziert ist. Oder ist es wirklich

[44:32] unterfinanziert? Da reden wir mal wann anders drüber noch ja war das dann die letzte These? Ja, das war die letzte These. Also ich hab noch ein paar andere Thesen, aber ich hab mir das gedacht, das waren jetzt so meine Hauptthesen, wir haben und ja, also wir hätten wir hätten.

[44:48] Also halt noch so viele Themen, die jetzt in den letzten Wochen passiert ist mit einfallen. Unter anderem ob von uns schon Nacktbilder auf x vorhanden sind, was was was was, ich hab es vorhin erst gelesen crog erstellt auf x roundabout 20000 Fake. Also Nacktfakes von Personen auf

[45:19] x, also in der Stunde 20000 Fake Bilder mit nackten Personen und wer wird frei gepostet auf x? Ja, also dass dass dass Grog noch so laufen darf, wie es läuft, ist schon eine absolute Frechheit. Dabei ist Grog einer der führenden Intelligenzen aktuell. Ja, aber.

[45:39] Im Test. Macht halt auch so ein Scheiß nur für die anderen die. Lassen halt viel zu, ne, die lassen halt viel zu da. Daher kann sie sehr schnell lernen und so. Es. Ist sehr viel passiert. Mal gucken, was wir davon noch

[45:55] aufbereiten werden. Ich würde mich ja für nächste Woche für das Ubisoft Desaster vielleicht interessieren, also gut, wenn es auch andere interessiert, interessiert dann dann schreibt mir gerne, dann bereite ich es nämlich vor, ansonsten gucken wir mal nämlich was sonst nächste Woche

[46:12] passiert, weil es passiert immer was. Themen gehen uns nicht aus, ja. Und deswegen gibt es uns auch 26 weiter. Wir werden nicht ersetzt durch KI, wir bleiben wie wir sind. Spannenderweise schaffen. Ja nee. Sag ruhig, ich wollte schon zur

[46:26] Ableitung kommen. Ach. So, nee, ich wollte noch sagen, ja wie ihr seht, wir haben uns, wir haben noch mehr geändert, wir haben uns auch nicht an die 20 Minuten gehalten, wir sind da leicht drüber. Wir, wir reden jetzt so lange wie wir.

[46:39] Wir Lust haben, wie lange wir Themen haben und schauen dann einfach mal. Dafür releasen wir auch nur noch einmal in der Woche, also immer donnerstags, werden wir jetzt lesen und damit verabschiede ich mich. Der digitale Martin, Luther, Luther jetzt.

[46:56] Wird aus Martin Luther auch Luther auch noch Martin Luther King? Jetzt mal jetzt mal, lassen wir es lieber, jetzt machen wir ja den Laden zu. Okay also ich okay der Heilige Martin. Und der. Paranoide Mark.

[47:13] Würde jetzt sagen, Cerberus Mark der die also. Stimmt, ich bin ja Cerberus, paranoider, Cerberus auch gut. Lässt dir noch noch ein 2 Köpfe wachsen? Ja, ja, immer ja immer. Deswegen heißt es auch im neuen Jahr bleibt sicher und auch ein bisschen paranoid bis nächste

[47:29] Woche ciao.