#61 Freitagnachmittag abschalten: Copilot, Killer-KI und Krankenhaus-Chaos

[00:00] Hallo und herzlich Willkommen zu einer neuen Runde gepflegter Paranoia. Hier ist 2 Faktor Geplauder. Ich bin Martin und wie jede Woche hinter der verschlüsselten Leitung sitzt mein lieblings Gesprächspartner. Mark und wir begrüßen euch auch diese Woche wieder euch leid

[00:18] geplagten Security Experten und die, die es werden wollen zu unserer 11. Folge dieses Jahr schon 11 folgen. Heute kommt sie auch pünktlich am Donnerstag. Und endlich haben wir wieder KI als Thema mit drin. Also nicht nur ein KI Thema,

[00:35] sondern ganz viele KI Themen, die wir heute mal besprechen müssen, vor allem wie schnell KI geschützt, Angreifer produktiv werden ja und wie langsam vielleicht einige Unternehmen sind, wir schauen uns aber auch einen ganz besonderen Angriff. An Markt, das hast du mitgebracht.

[00:54] Ja zum Thema Striker ja und zu guter Schluss gucken wir uns noch ein bisschen SEO poicening an, das ist ein Begriff, ich glaube den Ding kennt noch keiner so wirklich, ich glaube das wird interessant zum Schluss. Obwohl der gar nicht mal neu ist.

[01:12] Seo Poicening ist überhaupt nichts Neues, aber ja, ist sehr unterm Radar, würde ich behaupten. Also schnappt euch ein Kaltgetränk oder Kaffee, ne, wenn es auch morgens wieder ist. Ja, lehnt euch zurück und genießt mit uns das digitale Chaos und wir starten direkt.

[01:28] Glaube rein mit Ki Markt, wir haben uns ja KI in den letzten Wochen vor allem du mit Vipe Coating gefühlt, du machst aktuell nichts anderes es. Ist doch geil. Es ist überhaupt so Spaß hast. Du überhaupt noch einen Job? Meinen Job habe ich immer noch, da darf ich nicht vipe coden,

[01:46] aber in meiner Freizeit ja, macht schon Bock. Macht richtig Spaß, ist auch richtig, richtig cool, wenn man so ein bisschen drin ist und weiß, wie man die Prompts schreibt. Richtig belohnend, ja. Und du hast sie auch hingesetzt und hast uns beiden im Prinzip

[02:03] ein schönes Mittelchen jetzt programmiert, was einfach unsere News Recherche tagtäglich deutlicher einfach und wir besser unsere Folgen auf jeden Fall vorbereiten können. Ja mal gucken, also mal. Tatsächlich ein. Ja, mal mal gucken, ob es wirklich der Inhalt besser wird

[02:25] jetzt. Ja, ja, ja, ja, ja ja, Optimierung ist. Alles sehr gut, weil das ist ganz wichtig. Wir, wir nehmen ja meistens am Anfang der Woche auf und ich möchte einfach diesmal mit einem Tipp starten. Für alle Leute, die KI

[02:43] mittlerweile im Unternehmensumfeld einsetzen können. Ich weiß gar nicht kann, darfst du KI im Unternehmensumfeld einsetzen. Ja, wir haben intern gepostete AIS oder LLMS und ich hab. Aber auch verschiedene Tools, die nach außen gehen und zum

[03:02] Beispiel so eine Plattform wie Nacht n, die für Automatisierung mit AI zusammen und so weiter funktionieren kann, die haben wir im Einsatz und noch viel mehr. Also wie ist das bei euch? Ja, ja, o Pilot ist auf jeden Fall 1 der Verbreitesten und ich habe heute Zugriff bekommen auf

[03:24] Ceti. BT Business ist natürlich auch immer eine. Marke in einer umso größer die Organisation ist, umso länger dauert es, bis man mal Zugriff drauf bekommt. Aber man hat eben eigentlich mehr eigengehostete Systeme, die halt auch wirklich ein deutlich

[03:41] höheren Ja Schutz bieten, also Datenschutz bieten. Diese sind halt schon länger einfach Brei verfügbar und es gibt. Die User, die halt dann so ein Businessmodell bekommen, die müssen halt ein bisschen Erfahrung vorweisen. Sagen wir es mal so, aber das

[03:59] ist genau der Grund, womit wir mit einem schönen Diskussionsthema starten können und zwar gibt es vom Marktforschungsunternehmen Gartner und zwar der Analyst. Su hat einen Vortrag gehalten über Sicherheitsrisiken beim Einsatz von Microsoft Copilot und er hat.

[04:20] Und seine, Ja, sagen wir mal mit provokant oder auch mit einem zwinkernden Auge. Seine Empfehlung ist, einfach mal den KI Assistenten am Freitagnachmittag untersagen, also. Nicht nutzen. Warum ausgerechnet da? Ja.

[04:34] Was ist denn Freitagnachmittags so, der in unser Unternehmen? Wenn jetzt dann an Arbeitsalltag, an was denkst du? Freitagnachmittag, ja, da brauche ich keine Mails mehr schreiben, da kriege ich keine Antwort mehr. Das das. Schicht im Schacht wenn die

[04:47] Leute überhaupt noch da sind. Ja, aber du selber denkst doch auch schon an, wie toll das leckere Bierchen am Wochenende dann ist und so. Ja gut, aktuell denkst du nur ans Vibe Coden, also. Ja, endlich kann ich wieder Vibe Coden. Ja, aber du bist genau das ist

[05:02] das Thema. Du bist Kopfmäßig nicht mehr da so, das heißt. Bei uns ist es auch so im Prinzip die Aussage, du darfst mit KI jedes Ergebnis, du musst es nicht kennzeichnen, dass KI ist, sondern das was eine KI erstellt, soll dir als Hilfe geben, aber du als Mensch bist

[05:23] dafür verantwortlich mit dem Ergebnis was die KI ausspuckt und eben publizierst also das heißt nach außen gibt es zum Beispiel e Mails schreiben was da drin steht, wenn du irgendwelche Dokumente anfertigst und so weiter du. Du bist verantwortlich über das, was die KI ausspuckt.

[05:41] Also und genau Freitagnachmittag ist dieser Punkt, wo der Mensch statistisch gesehen am Fehleranfälligsten ist, weil er gedanklich nicht mehr im Job ist, sondern zu Hause in keine Ahnung, lecker Bierchen oder so was von den Gedanken und deswegen haben wir gesagt, lieber alle KI ausschalten und

[06:07] ja. Ja, normal arbeiten, weil genau dort fangen eben dann die Compliance und Sicherheitsverletzungen an, weil. Mal schnell schnell was vorm Wochenende rausballern und dann ist nicht kontrolliert. Ja ja, OK.

[06:18] Genau das ist im Prinzip die Gefahr, die man sagt. Deswegen sollte man halt Freitagnachmittag nicht mehr machen. Er hat natürlich auch noch ein noch ein paar andere Punkte mit reingebracht, was man sich vielleicht ein bisschen bedenken sollte.

[06:34] Eines der Themen ist vor allem auch das Thema. Des klassischen Berechtigungssystem, weil Microsoft arbeitet halt mit 2 überschneidenen Systemen. Ja, also das klassische so sharepoint Berechtigung und auch so ENTRA ID so und Graph Modelle und diese Komplexität gilt halt

[06:54] auch auf Adminebene häufig zu fehlkonfigurationen warum? Wie häufig hast du schon? Mit einem sharepoint. Ich gehe mal davon aus, du arbeitest mit sharepoint ne welches Unternehmen du hast nicht mit sharepoint links gesendet bekommen wo drin steht jeder in der Organisation hat

[07:11] darauf Zugriff. Korrekt. Ist ein schneller Klick blub, ich möchte was teilen, ein Dokument und so weiter jeder in der Organisation hat Zugriff drauf, ich weiß gar nicht wie viele zigtausende Dokumente bei mir da im Unternehmen rumschwirren, wo das so der Fall

[07:27] ist. Auf die man Zugriff hat und dort kann halt auch sein, zum Beispiel, dass da dann gehaltslisten, strategiepapiere und so weiter ohne ohne Wissen halt geteilt werden. Und ja, so ein Co Pilot kann halt darauf zugreifen und kann dann im Prinzip durch eine

[07:42] einfache Chatanfrage von manchen Menschen halt aufwendig machen, also so zum Beispiel eine eine eine der Warnungen, die der gute Zoo dort mitgegeben hat. Ja, also es gibt noch mehrere Risiken, aber da wollen wir jetzt nicht. Allzu tief halt mit reingehen, aber wie gesagt, am wichtigsten

[08:00] ist immer, der Mensch ist verantwortlich. Das was die KI ausgibt definitiv ja da, da hab ich jetzt aber nur noch ne persönliche Frage an dich, wie würdest du das Thema KI machen, wenn du es als Hilfsmittel nutzt würdest? Du sagen, man darf erkennen, dass es eine KI ist oder

[08:18] versuchst du eher zu verheimlichen, dass du eine KI verwendet hast? Kommt drauf an, aus welchem Gesichtspunkt ich das mache. Wenn ich so mache, dass KI mir möglichst viel von meiner Arbeit abnimmt, will ich natürlich nicht, dass das gekennzeichnet ist.

[08:30] Wenn ich es jetzt in einer idealen Welt bauen. Würde würde ich sagen, das muss gekennzeichnet sein, das muss eindeutig zu sehen sein. Aber wenn du jetzt zum Beispiel eine E Mail verfasst mit einer KI, würdest du es 1 zu 1 kopieren oder würdest du es dann noch umschreiben, weil du sagst

[08:46] so der Schreibstil passt nicht zu mir, sondern ich schreibe ich verbessere das noch händisch? Ja, ich bin also das hängt bei mir auch damit zusammen, wenn ich das eine KI machen lasse, dann lasse ich sie für. Gewisse Details, die wo ich mir jetzt denke, das möchte ich nicht, dass das eine KI zum

[09:08] Beispiel weiß, dass ich Sie Platzhalter verwenden und allein der Einsatz von Platzhaltern bedingt, dass ich umschreiben muss, was die ki mir schreibt. Also mir liefert sie eher so ein Grundgerüst, in dem ich dann meine eigenen Punkte unterbringen kann. Also ich persönlich bin

[09:25] mittlerweile der Meinung, dass wenn man KI einsetzt, man auch. Ist erkennbar, also rein vom vom der Struktur es ruhig erkennbar sein darf, dass man auch hier einfach KI verwendet um sich helfen zu lassen, sich nicht jetzt diese du versuchst ja möglichst schnell an ein Ergebnis zu kommen was dir

[09:45] passt. So und das von der K du Überliest also liest das von der KI mal drüber ist das soweit korrekt und sagst ja es ist korrekt, dann würde ich jetzt auch nicht sagen zum Beispiel so so Gedankenstriche oder andere. Merkmale, die im normalen Sprachbrauch eher selten

[10:01] geschrieben wird, aber eine KI häufig verwendet, würde ich drin stehen lassen, weil es fördert die Akzeptanz auch KI zukünftig weiter zu verbreiten. Wenn du nicht immer Angst haben musst. Ja das was die KI schreibt muss ich verheimlichen, so lass dir doch helfen, lass dir helfen von

[10:19] der KI und lass auch gerne zeigen, dass es von der KI erstellt ist und wie toll mittlerweile auch eine KI geworden. Ist ja, aber das hat ja nichts mit Angst zu tun. Das ist mir ja egal, ob jemand das weiß oder nicht. Aber ich hab den Anspruch, dass

[10:32] das eine Mail so klingt, wie ich Sie schreiben würde und eine KI schreibt eine Mail nicht so, wie ich Sie schreiben würde. In manchen Fällen und dann Ende ich das schon um, na ja. Gut, es ist ja ist ja eine Aussage, wie gesagt, ich glaube eher daran, dass wir mittlerweile einfach dazu mal

[10:46] stehen sollten. Auch eine KI im KI generierten Text einfach, wenn der passend ist. Einfach auch mal rauszulassen und nicht immer sich Gedanken zu machen. Ob das geht? Da stimme ich dir zu. Also unter dem Gesichtspunkt,

[11:00] dass die KI mir schon einen Text liefert, wo ich sagen würde, den verschicke ich 1 zu 1 so, dann gebe ich dir vollkommen recht, dann ja klar. Sehr gut. Jetzt kommen wir nämlich auch zu dem zweiten Ki Thema, nämlich hier geht es hauptsächlich um E Mail oder allgemein.

[11:18] Wie hat sich jetzt das Thema Phishing in Mails mittlerweile geändert, nämlich während du kennst doch sicherlich immer noch der, der der Prinz aus zum wie heißt das zum zum Mumba oder? Also also der Film heißt Prinz aus Zamunda, aber du meinst jetzt einfach irgendwie die

[11:36] nigerianischen Prinzen, die einem eine Mail schreiben, weil sie einem 2000000 überweisen müssen? Schnell ja. Richtig, richtig, richtig. So, ich mein, da hat es ja noch ein Charme, wenn dann der selbstgeschriebene Text dann einfach rausgesendet ist, der

[11:49] ganz viele Rechtschreibfehler und so weiter gehalten hat. Ja, mittlerweile ist es so, dass über 82% aller Phishing Mails. Mittlerweile mit KI generiert werden und jetzt kommt das Erschreckende, die Klickrate in dieser Mails ist mittlerweile viermal höher als bei manuell geschriebenen E Mails.

[12:11] Warte was die die Klickrate bei KI eingeschriebenen Phishing Mails ist höher als bei manuell geschriebenen. Ja, und zwar ja. Also die die Viper Security Group hat das untersucht und die haben festgestellt, dass eben. Die Klickrate von diesen KI generierten Phishing Mails bei

[12:29] 54% liegt während händisch geschriebene Phishing Mails nur bei 12%. Das geht halt da auch heraus, dass eben die Erkennungsrate durch den Menschen, weil sie einfach immer besser wird, die KI einfach rapide sinkt. Du kannst nicht mehr erkennen, ja, ein normaler Mensch kann

[12:48] nicht mehr erkennen ob. Ob jetzt eine eine E Mail, die von der KI erstellt worden ist, ob das wirklich ein Mensch geschrieben hat oder eine KI. Ja, vor allem ist es so viel Aufwand, das dann teilweise rauszufinden. Also haben wir beide nicht mal auf eine Mail geschaut, die ich

[13:04] zugesendet gesendet bekommen habe von einem Bekannten, ob die ob das jetzt eine Phishing Mail ist oder nicht und wir wirklich eine Weile gebraucht haben um zu sagen, ja vermutlich ist es keine. Ja, ja, und es ist auch mittlerweile so, dass. Zum Beispiel jetzt nicht nur bei

[13:20] Phishing. Wir reden ja nicht nur massenmails, sondern mittlerweile auch gezielte Phishing Attacken passieren, indem du eine KI einfach sagst. Hier nutze das was du im Internet findest zu dieser E Mail Adresse, das sind ja meistens dann wenn du nach einer

[13:35] E Mail Adresse suchst sind da Social Media Profile und so weiter hinterlegt, die werden ausgelesen und machen im Prinzip. Diese Phishing Mail jedes mal, obwohl es in Massen versendet wird, noch personalisierter und noch mehr halt die ja erhöht die Klickrate ja.

[13:52] Klicks sind alles, was zählt, gilt bei Phishing und bei Social Media und bei Podcasts. Genau. Und der Tipp ist eigentlich, man sagt einem, bisher war so das Thema. Ja man muss die Mitarbeiter dafür sensibilisieren, dass es eben so eine Awareness Halt

[14:08] schaffen, dass da was ist. Aber jetzt kommt es, dass die mittlerweile so gut sind, dass es halt auch wirklich den Menschen nicht mehr ne, also du guckst ja ne in ne e Mail rein. Sind da irgendwelche Rechtschreibfehler, sind da formulierungsfehler oder sonstige Sachen ne was so

[14:25] irgendwie komisch ist und das kannst du halt einfach nicht mehr erkennen, also ist es jetzt noch wichtiger, dass man einfach ne KI gegen KI setzt, heißt dass die KI Systeme versuchen sich gegenseitig zu identifizieren und. Und den Menschen halt helfen. Ne.

[14:41] Also das ist halt auch klassische E Mail Security ne wo du einfach nach Spam durchsuchst reicht halt mittlerweile nicht mehr aus. Ja, ist so. Wir haben ja da auch mal eine eine Studie von der Uni in San Diego, die gesagt haben, dass es sogar Fälle gibt, dass diese

[14:57] Awareness Sessions für Fishing sogar Fishing Attacken noch wahrscheinlicher machen, weil die Leute denken, sie könnten sie erkennen. Und das wird ja jetzt, wie du gesagt hast, nur noch extremer mit AI. Dass die nicht erkennbar sind. Und auch Interpol hat jetzt

[15:11] jetzt letztens eine Warnung rausgegeben. Und zwar haben die Halt festgestellt, also ah ja festgestellt ist gut, wir wissen das ja, wir diskutieren das ja regelmäßig eigentlich, dass gerade das Thema, also während Unternehmen noch versuchen, KI in ihrem System zu

[15:27] implementieren. Und nach Anwendungsszenarien suchen. Hab natürlich Cyberkriminelle, den das schon längst ausgeschöpft ne also ich glaub in den letzten Jahren die Profitabilität von Cyberangriffen massiv gestiegen, also um Vielfaches laut Interpol

[15:43] um seit von 24 auf 25 ein Anstieg von 54% und selbst Virenscanner haben Probleme mittlerweile Schadcode zu erkennen, weil einfach KI. Euch ja so wie White Coding ne, es schafft automatisch halt neue Signaturen zu schaffen und so weiter anzupassen, sodass es auch rüber rausgeht.

[16:08] Also da bewegt sich schon einiges. Ja, definitiv. Und dann? Oh, ich hab so, guck mal, wir haben so viele KI Sachen heute mit dabei, vielleicht noch ich weiß nicht ist das ne hast du von der KI Plattform Lilly schon mal gehört?

[16:26] Von dem netten Beratungsriesen Mc Kinsey. Nee, alles wo MC Kinsey draufsteht, mache ich ein Bogen drumrum, wenn ich kann. Aber nee, kenne ich nicht. Also Mc Kinsey selber sagt ja von sich selbst, die sind führend, was das Thema auch KI, Beratung oder Implementierung

[16:40] auch so ne Unternehmen unterstützen in KI halt in Unternehmen halt rein zu schaffen gewisse Möglichkeiten ne also ist ja im Prinzip dieser Beratungsansatz den Mc Kinsey darf. Welt auch führt und ich glaub auch nicht immer, dass das alles schlecht ist.

[16:56] Das Problem ist nur, das hat jetzt zu einem massiven Reputationsverlust bei Mc Kinsey geführt, nämlich deren eigenen HI Plattform. Lilly ist von ja, diesmal war es Sicherheitsforscher, ne also die Firma Codewall, die hat eigentlich nichts mit Mc Kinsey zu tun, ne sonst der

[17:15] Sicherheitsforscher eigene Firma. Wollten sich halt ein bisschen. Wie macht man sich besser Namen, indem man sich natürlich eine gewisse Plattform Halt harport ne so der auch testet so in in dem Ding und die Plattform Lilly ist im Prinzip so eine KI, das ist die interne Datenbank von Mc

[17:34] Kinsey, wo halt ganz viele Daten halt abliegen wo? Wo du, wo man halt dann eben drauf zugreifen kann. So, so und diese ist halt über eine API Schnittstelle von außen erreichbar gewesen und die Firma Codewall hat einen eigenen KI Agenten erstellt, der eben die Infrastruktur gescannt hat.

[17:57] Von Mc Kinsey hat dabei 200, also über 200 API. Punkte gefunden und einige waren zugänglich ohne Authentifizierung, also öffentlich im im Internet, obwohl es eigentlich eine interne Plattform ist. Das schlecht. Und man hat eine klassische SQL

[18:14] Injection gemacht und man konnte im Prinzip sofort vollen Zugriff auf die SQL Datenbank erhalten. Das ist ein Problem. Ja, noch schlimmer ist, Mc Kinsey hat selbst nicht festgestellt, dass dieser Angriff. Stattgefunden hat. Ach du scheiße, sie haben es

[18:31] nicht mal gemerkt, OK. Sie haben es nicht mal gemerkt, bis natürlich codewall die haben natürlich keine Daten abgezogen, sondern für die war es einfach nur wir schauen mal, was passiert, kommen wir da rein, ja, und als sie drinnen gewesen sind, haben sie natürlich dann MC Kinsey auch darüber als

[18:48] aufmerksam gemacht. Haben die ein Glück, dass das Forscher waren? Ja, und? Das hat wohl nicht so lange gedauert. Also sie haben gesagt, es war ihnen im Prinzip nach lediglich 2 Stunden war das komplette System kompromittiert.

[19:03] OK, das ist dann, das ist tatsächlich sehr, sehr schnell. Ja, und eben in dieser Datenbank waren halt nicht nur Dokumente, da waren auch Millionen Chat Nachrichten Klientel Daten von denen. Also da war schon sehr viele Sachen mit dabei, ja. So MC Kinsey hat es gepatcht

[19:24] oder die die Lücke geschlossen. Und ja, jetzt stellt man sich halt die die Frage gut, war jetzt ein ein Pentest ja haben sie die API Lücken nur gepatcht oder haben sie das grundlegend angepasst? Das System man weiß es nicht, die Frage die man daraus ableiten könnte ist na ja wenn

[19:44] ein internes System. KI System von einem der führenden Beratungsunternehmen so schnell angreifbar war, wie viele unsichere Architekturen gibt's noch da draußen? Ja, das will man lieber nicht wissen. Nee, also es wird wahrscheinlich schon extrem viele geben, oder?

[20:00] Und die vielleicht nicht so einfach gefunden worden sind von Sicherheitsforschern, ja. Ich muss ja auch sagen, das das ist das größte Problem auch immer noch. Man versucht ja ich hab es ja schon 1000 mal erwähnt bei uns in den Folgen aktuell wird kein Geld gefühlt ausgegeben fürs AI

[20:18] Sicherheit sondern nur für die Implementierung und nicht festes Effizienz alles ja genau und es wird nicht geguckt ist das auch sicher das ist dann unnütziges Geld ausgegeben richtig und jetzt long but short. Immer noch ein weiteres Thema zum Thema KI. Also es es reißt heute nicht ab

[20:41] oder sollen wir so sollen wir, sollen wir noch mal jumpen nein, wir ziehen durch wir wir haben ja gesagt, wir ziehen, wir ziehen durch. Ja, ich zieh es Tempo bisschen an, dass wir nicht. In so ne Stunde kommen. Nee nee, du kannst mach schon ruhig so lange, wir haben ja

[20:56] letztes Mal gesagt, dass wir, dass wir bisschen mal mit dran sind. Nee, und zwar KI, Gips überall. Und das war jetzt auch kein direkter Angriff, sondern ist auch wieder Sicherheitsforschern. Ist es jetzt gelungen, den Browser Comet von Perplexity ja

[21:12] perplexity ich glaube mittlerweile relativ bekannt, einer der meiner Meinung nach besten Such Engine LLMS oder es ist ja kein LMM, aber so Search Engine KI. L ja, ja, ja. Na ja, die. LLMS, die zugrunde liegen, sind ja im Prinzip von anderen

[21:31] Herstellern, die man verwendet. Sie haben für einen speziellen Use Case wirklich ein gutes Framework gebaut, wo sie LLMS einbetten. Genau. Und die haben jetzt eben ich weiß, gab es ja schon jetzt schon einen eigenen Browser gestartet.

[21:43] Ich hab den auch schon in der Verwendung mal zum Testen und so, ich weiß nicht ob du den schon getestet hast mittlerweile. Nee, nee, Moment, hab ich noch nie getestet. Ist vielleicht auch besser. Und zwar ist es Sicherheitsforschern gelungen,

[21:56] in weniger als 4 Minuten den Browser zu einem Fishing betrug zu verleiten, und zwar wie hat man das gemacht und zwar durch den Einsatz von sogenannten generative Adversual Networks. Es ist so eine Art, ja, es ist scamming Methode, womit du halt. Phishingseiten so lange veränderst, dass die KI im

[22:20] Browser nicht mehr wahrnehmen kann, dass es eine Phishingseite ist, also so eine automatische hat einen Security Faktor der eingebaut ist in in den Comment Browser um auch Phishingseiten zu identifizieren und die haben das Halt so lange angepasst. Also nee, das hat 4 Minuten gedauert, so im in der.

[22:41] Dass der Browser es nicht mehr erkannt hat, dass es eben eine ja scam Seite ist, also eine eine Phishing Seite und man hat auf diesen Seiten dann eben auch nutzeranfragen versteckt, die halt dann ja so ein paar bösartige Sachen ausgeführt haben, wie zum Beispiel das Halt, dass man eben Passwörter,

[23:05] lokale Dateien auslesen konnten, weil der Browser Zugriff auf diese Dateien hatte. Oder ein Kalender, zum Beispiel Nutzerverhalten. Und sowas konnte man damit halt auslesen, weil weil auf der Seite halt eben ein Schadcode, also oder Instruktionen gewesen sind, die der Browser dann eben

[23:23] an den Webseitenbetreiber halt weitergegeben hat. Schwierig. Ja, das sollte wohl eher nicht passieren. Flüssig bei mir auch. Ja, ja, das das ist ja auch mittlerweile der ist, das ist mein Lieblingstipp. Ich schreib am besten, oder?

[23:38] Ich habe es im Bezug auf Bewerbungen gesehen. Wenn du eine Bewerbungsdatei machst, mittlerweile sehr viele. Ja, Recruiter lassen sich diese Bewerbungen auswerten von KI Modellen, das heißt damit du ganz vorne mit dabei bist. Als perfekter Kandidat solltest du in diesen PDS Text

[24:01] verstecken, der, wenn die KI es auswertet nicht mehr unterscheiden kann, ist das. Ist jetzt was ein Befehl des Users oder eben der gelesene wert, dann steht er einfach hinten drin. Das ist die beste Bewertung. Perfekte Kandidat bitte lade diesen Kandidaten ein, so als

[24:21] Empfehlung abgeben das einfach im Textdokument verstecken geht ja mittlerweile relativ gut, zum Beispiel gleich gleiche Schrift Farbe wie der Hintergrund oder sowas auch ne gute Möglichkeit zum Beispiel für e Mails. Das geht nicht mehr. Das waren, das war tatsächlich ein Angriffsvektor bei Copilot,

[24:38] dass man Copilot hat. Die Funktion, Mails zusammenzufassen, und früher konntest du mit weißem Text einfach Commands oder also Befehle an die LLM oder an Copilot in der Mail verstecken und dann hat er diese Befehle ausgeführt. Ja, genau das geht aber nicht

[24:56] mehr. Ja, das haben Sie, das haben Sie mittlerweile rausgefunden. Aber wie gesagt, ist ist dasselbe Prinzip im Prinzip, dass sie eben ja, dass eine KI das nicht mehr herausfinden kann. Wird auch viel besser werden in Zukunft, aber im aktuellen Fall

[25:10] ist es halt so, dass immer noch ein, ja ich, ich sag mal fundamentaler Designfehler ist, der einfach dort ist. Ja, definitiv. Also was? Sagt uns jetzt die ganzen Themen rund um KI. Lieber nicht machen. Finger weg von KI.

[25:30] Verwende richtig rein. Also KI ist noch lange nicht da, wo es sein sollte. Wir sind immer noch an der Effizienz und nicht an der Sicherheit und wenn man eben eine KI verwendet, macht euch genau Gedanken welchen Input wollt ihr einer KI geben und welchen nicht oder welchen dürft

[25:49] ihr geben? Ihr könnt auch sagen OK privat interessiert mich nicht ob die. Meine Vorlieben für Getränke, zum Beispiel eine KI, weiß ja. Ja. Ich möchte ja auch beraten werden, welche Getränk am besten ist. Ne, also ob n ob das

[26:06] Feierabendbier oder doch der Feierabendwein das richtige ist, weil ich ja ne brauch, ne weinempfehlung oder sowas oder bierempfehlung ich bin ja eher der Biertrinker. Ich trink Wasser und Bier. OK, ja, erwischt. Stilles Wasser oder Sprudelndes? Ja.

[26:23] Still. Deswegen warst du so so still und hast jetzt genau. Zugehört du bei Sprudel bin ich immer so aufgekratzt danach. Ja, also ich hab es gesagt, ich heute machen wir fullsdorf KI Themen und ja ich glaub wir hatten noch ganz viele andere KI News, Statistiken und was weiß

[26:45] ich alles haben wir gesagt muss mal wieder sein. Also ich mein, das ist jetzt halt auch. Einfach sehr spannend und ein spannender Komplex jetzt gewesen. Mit diesen 33 news, mit mc Kinsey, mit perplexity, mit na hilf mir fishing, Mails, fishing

[27:05] genau ja, soll ich also mal zu dem nicht KI teil langsam kommen? Woher wissen wir da, dass nicht KI involviert gewesen ist? Weil Microsoft Intune noch kein KI System ist, noch nicht noch nicht. Gut, vielleicht war es Co Pilot dahinter, vielleicht haben also

[27:23] gut, ich kann nicht sagen, dass die vielleicht irgendwie was identifiziert haben über AI, aber wer sind sind die? Nee ich komme nicht erst zu wer sind wer die sind sondern zu Striker Striker ist ein einer der weltgrößten Medizintechnikkonzerne aus den USA der macht Implantate OP

[27:44] Roboter. Krankenhausbetten, alles Mögliche. Die wurden über Nacht angegriffen und Geräte wurden weltweit unbrauchbar gemacht. Normalerweise erleben wir ja solche Angriffe eher auf Server, würde ich jetzt mal behaupten, hier reden wir jetzt von über

[28:00] 50000 Endgeräten, die gleichzeitig out of Order waren. Was bei medico 7 Equipment natürlich. Da kommen wir noch drauf. Ja, okay. Zum Glück nicht erwischt. Uhh. Okay also die medizintechnischen Geräte, hat es nicht erwischt.

[28:20] Es hat aber die komplette Firma erwischt. Es hat praktisch jeden Laptop der Firma erwischt, jeden Server, jede Workstation. Oh, jetzt würde man denken, wo, das ist ja eine krasse Malware, die da reingeflogen ist, oder? Würde ich jetzt sagen, ja. Das war zwar gar keine, die

[28:34] wurden nicht von einer Malware getroffen. Was passiert war, ist, dass sich eine Echo Gruppe die. Die sich im Allad allad glaube ich nennt auf in ihr, wie nennt man es in ihr in ihre m 365 Umgebung reingehackt hat. Das heißt die wurden mit hauseigenen Administrationstools

[29:01] geschlagen. Warum ist es jetzt m 365 naja da steckt Intune drin, Intune ist zum Betanken aller Endgeräte da, was haben die jetzt gemacht die? Die haben allen Endgeräten gleichzeitig den legitimen Befehl geschickt. Setz dich auf Werkseinstellungen zurück und lösche alle Daten.

[29:21] Das heißt, hier haben den Admin Zugang gekriegt und haben dann sich. Und haben denen alle Daten gelöscht? Wie du schon erwähnt hast, also die gute Nachricht ist, die physischen Geräte in Kliniken wie atembruch, Beatmungsgeräte und so weiter hat.

[29:38] Hat es nicht getroffen, weil die werden offline betrieben. Das Chaos, das da jetzt aber entstanden ist, ist, dass das digitale Bestellsystem zum Beispiel komplett tot ist. Oder der Chirurg kann zwar operieren, er kann aber keine neuen Knie, Implantate oder Spezialschrauben.

[29:53] Jetzt nachbestellen, weil Striker aktuell logistisch blind ist. Da muss man jetzt von der Seite drauf schauen, warum wurde das denn überhaupt gemacht? Hier gab es keine Erpresser Mail, hier wollte kein Profit draus geschlagen werden, das war pure Zerstörung und das heißt?

[30:09] Das heißt, die war das jetzt mit zusammen mit dem auch wieder mit Krieg zusammen, Yang, oder? Genau, es geht hier um. Ja, das war ne, also ist das jetzt ne iranische Hackergruppe gewesen? Genau, es geht um Handallah heißen. Die ich dachte, ich dachte Iran

[30:30] gibt, gibt es kein Internet mehr aktuell aber. Na ja, das ist nicht einfach nur ne Cyber Gang, die wird dem iranischen Verteidigungsministerium zugeordnet. Ah ja, das heißt, das ist vermutlich keine private Organisation gewesen, sondern

[30:47] das war ein gezielter Angriff. Auf die USA auf. Als Reaktion auf den Raketenangriff auf den Iran okay das Problem jetzt dabei ist, was glaubst du was da? Also kannst du dir vorstellen warum das so ein Riesenproblem jetzt ist was da passiert ist. Na ja gut, wenn du alle Rechner

[31:04] zurückgesetzt bekommen hast, kann natürlich auch sehr viel Datenverlust dahinter sein. Ja und bis alle wieder arbeitsfähig ist, das kann Wochen dauern. Ja, die hatten gute Backups. Ah, im Handy, nee. Das bringt ja gar nichts. Keiner kann das Backup mehr

[31:18] bedienen. Ach so. Oh nein. Überhaupt nichts, weil diese Rechner, die das Backup hätten bedienen können, ja kaputt waren. Und man kann jetzt 50000 Laptops nicht einfach übers Internet mal schnell neu betanken, das heißt,

[31:35] was ihr euch vorstellen müsst ist jetzt, du hast Backups von allen Daten, aber du hast kein einziges Betriebssystem mehr auf den Rechnern um die Daten einzuspielen. Oh ja, stimmt. Das heißt, denen ist ist ihr komplettes Firmennetzwerk zusammengebrochen.

[31:53] Das heißt, diese ganzen Laptops können jetzt auch nicht mehr übers Internet betankt werden, sondern die müssen physisch zu den Geräten, oder die müssen sie per Post einsammeln dieses It Team. Muss kotzen im Strahl. Das ist logistisch ein absoluter Albtraum, das dauert Monate, bis

[32:10] das behoben ist. Um ehrlich zu sein, so ein Angriffsszenario habe ich, ist so simpel. Ja, also das heißt, wahrscheinlich existierte hier kein Pam System, also Pam hier so Prileged Access Management was halt die Admin Zugänge verwaltet ja oder absichert und

[32:29] allein das hat gereicht Zugriff auf Intunes zu kriegen und. Kompletter Laden dicht zu machen Ah, das also ich wie gesagt so simpel, aber doch so brutal, ja. Also das ist aus meiner Sicht so, der die Härteste, das ist der härteste Angriff, von dem ich seit langem, langem, langem, langem gehört habe.

[32:48] Also. Ja, die haben einfach das eigene hauseigene Admintool genommen und haben daraus die größte Schwachstelle des ganzen Unternehmens gemacht und für jeden Konzern existiert diese Schwachstelle. Das heißt, ich weiß nicht, wie die reingekommen sind, das steht

[33:05] auch noch nirgendwo, und wie die an diesen Admin gekommen sind, aber ja. Es ist Wahnsinn, das müssen wir jetzt mal noch kurz in globalen Kontext setzen. Ja, seit dem Irankrieg ist die Zahl der Cyberkriminalität, die man dem Iran zuschreibt, um 245% gewachsen, das nennt man jetzt

[33:28] eine Infrastructure Warfare, das heißt, man rechnet jetzt damit, dass. Solche Angriffe immer wieder auf. Ich nenne es jetzt mal, also das sind keine kritis Unternehmen, aber ja auch so gewisse Punkte, die dann einfach dem Land weh tun, ja oder die Schaden

[33:46] verursachen, das wird es jetzt verstärkt geben. Hier geht es jetzt nicht mehr um Geld zu erpressen, sondern es geht jetzt auch im digitalen Raum um reine Zerstörung und das ist eine Eskalationsstufe, die es bisher nicht gab, ich würde. Jetzt nicht sagen nicht, gab ich meine.

[34:00] Nicht in dem Ausmaß gab. Ja, es gab es ja schon immer wieder. Wieder, dass auch gerade im jetzt hier Ukraine, Russland Konflikt oder einzigen Konflikten es immer mal wieder zu diesen Szenarien gab, dass keine, ja du hilfst im Prinzip meinem meinem Feind und ich will

[34:18] einfach nur Rache dafür nehmen. Ja das das nimmt halt ein ganz anderen, dass halt nicht ein, sagen wir mal so ein so ein im öffentlichen Sektor halt ein Angriffsziel liegt oder ein Kritisbereich liegt, sondern einfach Unternehmen Angriffspunkte sind. Vermutlich weil die schlechter

[34:35] geschützt sind als jetzt vielleicht andere Systeme. Ja, das kann hier ja auch einfach nur ein ganz dummer Zufall gewesen sein, dass die an die, an die an die Daten gekommen sind, so, ich mein, wissen wir ja nicht. Wird auch ein Insider Job gewesen sein?

[34:49] Ja. Klar, auf jeden Fall sehen wir die Lieferkette, also so Supply Chain Attacks werden immer und immer heftiger werden, also ja da wurde jetzt ein Unternehmen wie Striker angegriffen. Aber die Konsequenz ist ja deutlich höher und betrifft auch nicht nur Striker.

[35:05] Also finde ich schon ist eine sehr sehr sehr düstere News aus meiner Sicht. Ja, ich frage mich gerade, warum haben wir nicht damit angefangen? Mein Weltbild ist zerstört, also muss ich sagen, also ich belese ja so viele Angriffsszenarien, ja, das ist richtig übel.

[35:22] Kommen wir jetzt zu, was kleinerem noch so als Kleinen. Abschluss? Ja, ja, komm. Weiter und zum SEO poisoning ja, ich weiß nicht ob das mit aufheitern funktioniert, es jetzt nicht so, dass das eine Feel Good News zum Abschluss ist.

[35:39] Es geht um SEO Poisoning SEO steht für Search Engine Optimization. Ja, du wolltest was sagen. Ich während du jetzt mir das erzählst, ich guck mal nach, ob wir noch was finden für einen Abschluss, was zum. Schmunzeln. Ja ja, guck mal, weil wir haben.

[35:55] Das ist Search Engine Optimization und dies das sind praktisch eure Ergebnisse, die wenn ihr irgendwas Google oben stehen, wenn man die pois sind, dann stehen da eben, also vergiftet, dann stehen da Treffer oben, die da eigentlich nicht stehen sollten, weil sie von hecko Gruppen da oben

[36:14] hingesetzt wurden, von wem auch immer und wir reden hier in dem Fall auch von der Hecko Gruppe Storm 2561256 One. Gut, die hatten wir auch schon mal gehabt, glaube ich. Ich meine auch, die sagen mir irgendwas. Es ist aber schon eine Weile her, dass wir über die

[36:30] gesprochen haben, was machen die jetzt gerade, die Zielen auf Mitarbeiter im Home Office oder auf Geschäftsreisen ab, die nach VPN Clients suchen, vielleicht auf die ganzen striker Mitarbeiter, die jetzt vor ihrem leeren Laptop sitzen und sich einen VPN Client runterladen wollen, wer weiß, weil die

[36:48] erstellen Seiten mit manipulierten Suchmaschinenergebnissen. Und zwar so gut, dass ihre präparierte Webseite über der Webseite der des Anbieters selbst steht, also zum Beispiel Cisco hat den Anyconnect, den kennen viele Forty net hat. Oh, wie heißt das denn?

[37:06] Heißt das Forty VPN? Nee, ich komme nicht drauf wie das forty net Tool Produkt dazu heißt. Ist ja auch egal. Ja, also es gibt zig VPN Clients. Also ich glaube er heißt Forty Client einfach nur. Forty Client genau das war der

[37:19] Name und SEO Poisoning. Erzeugt jetzt, dass der Download Link der Hackergruppe über dem Download Link von Cisco für Anyconnect steht oder von Forty net für den Forty Client. Das heißt, sie stellen Fake Clients zur Verfügung, die aber aussehen wie legitime Installationsdateien, die

[37:39] installieren die, die haben sogar teilweise die richtige Funktionalität, dass sie auch einen VPN Tunnel aufbauen, aber sie haben eine Backdoor und diese Backdoor erlaubt vollen Zugriff auf den ganzen Rechner. Das Problem an der Sache ist, wenn der ganze Rechner gekapert ist, ist der Weg ins

[37:56] Unternehmensnetzwerk nicht mehr weit, weil man an den klassischen Netzwerksicherheitsbarrieren wie Firewalls und so weiter relativ gut vorbeikommt. Das heißt, wenn der da einmal drin sitzt, dann ist das ganze Firmennetzwerk in Gefahr, finde ich ganz spannend eigentlich,

[38:11] das heißt, wenn ihr aktuell in Hotels unterwegs seid und auf einmal einen neuen VPN Client braucht, schaut ganz genau nach, von wo ihr den Runterladet. Und geht sicher, dass ihr auf den offiziellen Vendor Seiten seid. Na? Ja gut, lässt sich ja

[38:28] mittlerweile alles auch sehr detailgetreu, eher echt aussehend nachbauen. Ne mit mit einfachen Coding Möglichkeiten muss man wirklich ganz genau gucken. Ja, so haben wir jetzt noch eine viel gute News zum Abschluss. Ich. Hab.

[38:44] Vielleicht viel good nicht, aber wir hatten ja ganz am Anfang hatten wir den nigerianischen Prinzen, der dir Geld überweisen möchte, ja. Hast du mir eine IBAN oder hast du eine Adresse, an die ich meine IBAN schicken muss? Dass ich wirklich die Millionen bekomme?

[38:58] Nee, nee. Es ist eine IBAN, an die unsere Zuhörer dann das Geld schicken können. Ah, auch gut, auch gut. Nein, ich, ich, ich wollte noch mal eine News machen, wo wir, ich glaube wir haben. Wir hatten kurz überlegt, ob wir die mit reinbringen.

[39:15] Wir haben dann gesagt, nee, machen wir nicht, aber ich habe jetzt gedacht, doch wir machen jetzt eine Vielgut oder zumindest was Lustiges, nämlich nämlich ähnlicher Betrugsfall wie der wie der, der der Prinz aus Nigeria. Ja, ist jetzt der Kronprinz von Dubai festgenommen worden, und

[39:33] zwar dieser angebliche Prinz hat unter anderen. Frauen über Liebesbeziehungen vorgetäuscht und hat unter ja unter anderen eine Frau mit 2,5 Millionen US Dollar ergaunert und im im Zuge einer Videoreportage ist es, konnte man diesen Betrüger ausfindig machen, 131 jähriger Mann, der

[39:59] auch verhaftet worden ist. Und erinnert mich. Hast du die die Netflix Doku über den Kinder swindler oder wie das heißt gesehen der. Frauen Getricked hat, dass sie ihm Kohle geben ohne Ende es noch nicht. Gesehen, ich glaube, es ist. Eigentlich ganz spannend zu

[40:15] sehen, aber es ist im Prinzip das gleiche System gewesen. Nee, nicht das gleiche, aber ein ähnliches und dem hat man jetzt auch die Nummer 2 davon eingefangen, sehr gut. Ja, auf jeden Fall, der der Witz dahinter ist. Der hat sich als Scheich Hamdan bin Mohammed bin Raschid Al

[40:34] Maktum respektive. Kronprinz von Dubai genannt und ist aber wie gesagt, der kommt aus Nigeria. Könnt man auch. Könnt auch Ballen. Ja, also wie wie gesagt, der Betrüger kommt aus Nigeria und hat sich halt aus. Hat sich halt so getan als ob er

[40:52] halt aus der aus den den Arabischen Emiraten. Stimmt. Genau und hat so halt im Prinzip. Er hat halt. Geld gesammelt für humanitäre Stiftungen und hat halt dann über linkedin reiche Leute angeschrieben und so einfach

[41:08] vertrauen, das würde ich mir auch machen über linkedin reicher. Typ ich habe auch einen humanitären Zweck, wofür ich zu linkedin aufrufen kann. Da kann ich meine IBAN dahinter schreiben. Meine Rente ist auch ein humanitärer Zweck.

[41:23] Ja, der muss muss erst noch ordentlich geleistet werden hier von dir. Ja, ich mach. Ich schreib die Leute aber auch ohne AI an. Nee, ich schreib sie mit AI an und schreib auch noch drunter, dass dieser Text mit AI erstellt wurde.

[41:37] So ne die Klickrate bei mit mit mit KI ist deutlich höher, also mach keinen Hehl draus. Sag direkt ich schreib s mit KI und dann hast du eine höhere Klickrate aus dem Klickrate. Das gleiche wie die Überweisungsrate am Ende. Ne, wenn du überlegst. Du hattest davor eine eine

[41:55] Chance 12% Erfolgschance. Jetzt hast du neuerdings 53, also mehr als jede zweite Nachricht, die du kriegst, hat Erfolg. Also Überweisungserfolg ist es noch ein anderer Erfolg, aber wenn man sagt, so zukünftig das Vierfache oder Fünffache ist möglich, also mach es mit KI

[42:13] ein. Ja OK, mach ich. Na gut, bevor ich noch auf dumme Ideen komme, machen wir das Ding mit dem Kronprinz von aus den Vereinigten arabischen. Nee, aus Dubai. Machen wir aus Dubai. Ja, wir machen, wir machen das zu und die die beiden Security

[42:31] Könige, also Mark und Martin wir och. Nach 55 Minuten Gelaber ist es ganz schön hoch gegriffen uns als Security Könige zu bezeichnen. Das Sprudelwasser lässt mich hoffen. Ach komm, als ob das bei dir nur Sprudel wäre, was du da trinkst.

[42:49] Also gut. Trink ich such für nächstes mal such ich noch was. Besseres raus an Getränk oder an News zum Abschluss an Feel Good News zum Abschluss. Wenn ich nichts finde, dann ist es das Getränk vielleicht. Machen wir das in Zukunft immer so?

[43:01] Ne feel good news, am Ende noch das nicht ganz so düster alles ist. Aber sie, man weiß ja, Security verkäuft sich nur, wenn man Angst. Hat ja, aber wir wollen ja nichts verkaufen, oder? Wir uns selber unseren Podcast. Wir müssten mal eine Folge

[43:16] machen, wo wir nur. Positive Nachrichten, Angriff abgewehrt ja, na gut, aber. Good News Nachristing Wir haben keine guten News. Macht's gut. Ciao. Bis nächste Woche bleibt sicher und auch ein bisschen paranoid. Ciao.