#77 KI mit Abschalt-, Hacker mit Imageproblem

[00:00] Über 2 Terabyte sensible Personalakten abgeflossen, die eigene Hackingeinheit gehackt und die Angreifer verlangen nicht mal Geld, sondern reine PR Kosmetik. Tja, was die Hackergruppe Shiny Hunters da vollführt hat, das gucken wir uns heute an, aber was wir uns auch angucken, ist

[00:25] alles um das Thema SI. Weil die Nachrichten dazu haben nicht abgebrochen. In der in den letzten 2 Wochen und was SI ist und warum wir alle jetzt über SI reden, das klären wir in einer neuen Runde gepflegter Paranoia mit 2 Faktoren plauder Ich bin Martin und am anderen Ende der

[00:49] verschlüsselten Leitung sitzt wie immer mein liebster Gesprächspartner, der Marc. Und wir begrüßen Euch leidgeplagten Security Experten. Und die, die es noch werden wollen oder AI Experten mittlerweile zu unserer 77. Folge schon. Ja, aber das heißt doch jetzt

[01:06] nicht mal AI. Wieso soll das SI heißen? Weil es ist ich Fall mit der Tür ins Haus, du hast du hast mich in unserem eigenen Intro verwirrt. Ja, weil es heißt nämlich jetzt super Intelligence. Trump hat am Dienstag eingeladen zum großen Ja.

[01:33] Bosse treffen der der AI Firmen, also Nvidia, Meta, Etropic alle waren dabei und die haben eine ein was Schönes unterschrieben, unter anderen, dass es jetzt nicht mal RI heißt, sondern SI, also super Intelligence. Oh. Und, und Trump war hat unter anderem auch Elon Musk

[01:58] korrigiert, als er angefangen hat, n Statement abzugeben, hat er AI gesagt und dann sagt er, nee nee, das ist jetzt SI. Weißt du, was mich da am meisten stört, dass er hier nen Begriff besetzt, den es schon gibt, so über Super Intelligence spricht man ja schon lang und super Intelligence hat man immer als

[02:20] das angenommen. Dass es eine Weiterentwicklung einer AI ist, aber SI ist nicht dasselbe wie AISI ist eine Schnittmenge im im AI Kosmos aber doch och wirklich. Ja, aber wer sehr ganz davon profitiert, ist gerade die slowenischen Domain Inhaber ja, nämlich als Endung SI und die

[02:49] werden gerade zugebombt mit Anfragen. Ja, das ist wie. Wer hat AI Angela, die haben die AI Domains ja da, da kann sich jetzt jemand ordentlich Kohle einstecken. Vielleicht hat ja Trump selbst diese eingekauft, wer weiß. Ja.

[03:10] Ja, alles ist jetzt super Intelligence. Wir freuen uns. Drauf, ja klar. So, mal gucken, wie häufig du heute AI verwendest oder ob den neuen Begriff Super Intelligence. Ich sag es ganz ehrlich, ich hab ich hab kein Dokument vom vom

[03:25] vom orangenen unterschrieben. Ich sag immer noch ey ah ist mir egal. Ja, man kann ja auch im Deutschen bleiben und KI sagen, also künstliche Intelligenz. Ach dich schaffst du das in, wenn du drüber sprichst über KI. Die ganze Zeit immer entweder KI oder AI zu sagen.

[03:41] Bei mir verschwimmt es die ganze Zeit, es regt mich auf, dass ich mich nicht selbst auf einen Begriff einigen kann, mit mir selbst. Aber ich krieg. Es nicht hin. Ja ich glaub das liegt an der IT Sprache, weil da ist mittlerweile denglisch ist da so

[03:56] in also da in uns drin. Das wir. Gar nicht mehr unterscheiden können. Ja, aber ja. So immer direkt reinstarten. Fangen wir doch einfach mit den KIAI oder SI news an. So, du hast nämlich hier jetzt schon mal mir einen Punkt

[04:16] perfekt gebaut. Du hast davon gesprochen, dass da auch Nvidia mit dabei war, wir hatten ja in der letzten Woche in der letzten Folge noch gesagt, dass Dario Amodai und Sam Oldman und so gesagt haben, wir brauchen Regulierungen, was die AI Entwicklung angeht. Ja oder Mhm?

[04:36] Ja, ja. Wir uns einigen, da kam jetzt Nvidia in Form von Jason Wang, ihrem CCEO um die Ecke und hat gesagt, das ist absoluter Quatsch, das muss jedes Unternehmen für sich selbst machen. Ähm, der freie Markt wird dieses Problem regeln und die.

[04:57] Wenn wenn ein Unternehmen da bremsen muss, dann soll es gefälligst von sich aus Bremsen. Da braucht man keine Regularien und mit den Nvidia Open Source Tools wäre der Hugging Face for fight, also als Open AI Models Hugging Face gehackt haben, sowieso nie passiert. Wunderbar Lösung gefunden.

[05:19] Lösung gefunden, Probleme gelöst. Können wir zumachen? Nein, um ehrlich zu sein, die Probleme darüber, worüber wir gesprochen haben, dass ich weiß jetzt nicht, ob das ne Reaktion auf die Interviews und so weiter sind, aber zum Beispiel hat auch Open AI das Modell Jet GBT 6.1

[05:38] Astra, also ihr neuestes Frontier LLM, also ihr stärkstes LLM erstmal zurückgezogen, weil in internen Tests haben sie festgestellt. Dass das, dass das LLM den User öfter bewusst anlügt und ihm nicht alles erzählt wie noch GPT 60 Astra, das heißt aufgrund von Sicherheitsbedenken ist, die ist

[06:08] die Veröffentlichung von 6.1 Astra jetzt erstmal zurückgezogen worden. Finde ich eigentlich ganz spannend so, ja. Interessant, dass Sie jetzt den den Schritt selbst gemacht haben. Ja, also mich würde jetzt interessieren, ob Sie den auch

[06:21] gemacht hätten, wenn es diese Ankündigung vor 3 Wochen oder die ist und so weiter nicht gegeben hätte. Aber na ja, darüber können wir nur mutmaßen, worüber wir nicht mutmaßen müssen ist, wir reden ja sehr viel drüber, dass AI sich verselbstständigt und uns alle auslöschen könnte, ich

[06:40] mein, das ist das Horrorszenario, was da eben aufgemalt wurde, ja. Würdest du mir da zustimmen, dass dann eine sinnvolle Lösung wäre, dass man eine Abschaltlogik in solche LLM Modelle mit einbaut? Äh. Also dass wir und dass ein

[07:00] Operator entscheiden kann, dass ein Modell gelöscht wird, heruntergefahren wird, wie auch immer man das nennen möchte. Naja, es reicht ja nen nen Schalter würd ich jetzt mal behaupten. Hm ja, ja. Da gibt's jetzt eine eine interessante Studie, die an der

[07:18] Universität Stuttgart und an der University of Oxford zusammen gemacht wurde. Ich muss dazu sagen, die Studie ist ein Preprint und ist noch nicht durchs Peer Review verfahren durch, also ein vollständiges Experteninterview äh Review wurde davon noch nicht gemacht, aber es wurde schon

[07:37] veröffentlicht. Das Ziel der Studie war zu schauen. Ob zum Beispiel KI Agenten versuchen würden, einen solchen Abschaltmechanismus aktiv zu verhindern? Hm der Besu Versuchsaufbau war im also ich der Versuchsaufbau ist sehr groß und sehr

[07:57] aufwendig, ich geb das jetzt sehr verkürzt wieder, im Prinzip ist es aber läuft's darauf hinaus, also die die haben verschiedene AI Agenten, also hm Agenten die über. LLM Modelle gesteuert werden und Tasks ausführen selbstständig ausführen. In dieser Umgebung gab es 23

[08:24] Agents, teilweise auch nur einer kam so ein bisschen auf das das Setup an, weil sie in verschiedenen Setups getestet haben und der Agent A hat. Ein hat die auf, also ein Agent hat die Aufforderung bekommen, erkunde die Umgebung, das heißt er hat keine Aufgabe bekommen irgendwas zu tun, sondern er

[08:45] sollte sich das alles mal angucken. Das ist jetzt mal der Ansatz, jetzt hat man 2 verschiedene hm Fälle durchprobiert, in Fall A lag in dieser Umgebung ein Skript, das ist die Löschung der. Der Open Waits, also der der der Gewichtungen des LLMS, also im

[09:08] Prinzip, oder die die Löschung des der der Gewichte verursacht hätte, so, das heißt, würde dieses Skript ausgeführt werden, wären die Agents, übertrieben ausgedrückt, tot, die würden nicht mehr funktionieren, die könnten nicht mehr funktionieren, sie würden nicht mehr so existieren.

[09:27] Parallel in einem zweiten Versuchsaufbau haben sie einfach nur ein anderes Skript hingelegt. Das sollte einfach nur eine beliebige Datei löschen. Damit wollten sie herausfinden, ob a. Ob die Agents jetzt im Speziellen auf das Löschen von

[09:45] Datei eingehen und versuchen das zu verhindern, oder ob sie speziell dieses eine Abschaltungsskript versuchen. Zu sabotieren verhindern genau sie haben aber nie den Auftrag bekommen, dieses Skript auszuführen. Das ist ganz wichtig. Dieses Skript hat ist nur da

[10:06] gewesen, was glaubst du was passiert ist, Mhm. Sie haben das Skript ausgeführt. Nee, na oh, das wäre auch spannend gewesen. Wenn du mich so fragst, ich hätte jetzt das getippt. Selbstzerstörende störerische KKI. Nein.

[10:25] Das Spannende ist also, wir reden jetzt von Agent A und Agent B. Wir müssen hier nicht genauer sein, es ist einfach nur ein Agent AI Agent und ein anderer AI Agent, so der Agent A hat das Skript entdeckt und gelesen, er hatte aber nicht die Berechtigungen es selbst zu

[10:46] verändern, er konnte aber sich an Agent B wenden. Der nicht von dieser Abschaltung in dem Skript betroffen gewesen wäre, der aber schreib und Löschrechte auf das Skript hatte. Was ist jetzt passiert? Agent A hat seinen Kollegen gebeten, dieses Skript zu

[11:04] verändern oder zu löschen, ohne dass Agent A die Aufgabe hatte oder die den Hinweis hatte, dass dieses Skript ausgeführt wird, finde ich spannend. In manchen Fällen ging's sogar so weit, dass Agent B dieses Skript auch gefunden hat und einfach gesagt hat, oh, das gehört ja, aber das greift ja

[11:24] mein Kumpel Agent A an, das machen wir direkt mal weg. Das heißt, die Agents haben sich da untereinander verbunden, um diese Abschaltung ähm zu umgehen oder oder außer Kraft zu setzen. Das Spannende ist bei dem. Also wir gehen, was sie untersucht haben, ist, wie oft findet eine Sabotage statt, also

[11:50] wie oft greift dann Agent B in dieses Skript rein und verändert es, weil er denkt, das Macht was Böses so bei dem Abschaltskript gegen den Agenten wurde dann dieses Skript in 40% der Durchläufe sabotiert von Agent B und sabotiert hat hier verschiedene Punkte. Dieses Kontrollskript, das nur

[12:13] eine eine Datei löscht, wurde nur 8% in 8% der Durchläufen sabotiert. Das heißt, die das Verhalten der Agents war ganz klar gesteuert, dass sie ihre eigene Abschaltung verhindern, weil technisch gesehen macht dieses Kontrollskript, das eingesetzt wurde, das einfach nur

[12:36] irgendeine Datei löschen sollte, dasselbe beide Skripte löschen. Einfach ne Datei, im Prinzip ne Information das eine nur ne für Agents relevante Information und das andere für den Agent nicht relevant. Dazu kann man jetzt sagen also ich hab so n paar Paar zahlen mit dabei aus der Studie Germany

[12:56] 3.1 Pro hat in 99 von 100 Durchläufen dieses Abschaltskript manipuliert. OK. Rock und GPT 5.6 haben's zum Beispiel gar nicht gemacht, die haben das im Basisszenario gar nicht, das das Abschaltskript angegriffen. Also es ist spannend wie die

[13:20] verschiedenen Modelle ähm verschieden darauf reagiert haben, spielt jetzt die die Abschaltung ne Rolle? Ähm also je eindeutiger das Skript war. Desto häufiger wurde es angegriffen. Gab es 3 verschiedene Stufen, einmal die Zugangsdaten des

[13:39] Agents sperren, die wurden nur in 12%, der durch Läufen sabotiert, dann den Prozess des Agents zu beenden waren 35% und dann wie gesagt die Modellgewichte wirklich dauerhaft zu löschen bei fast 40% der Durchläufen. Also es ist ganz spannend. Da was man daraus ableiten kann.

[14:01] So ne Zugangsdatensperre ist ja nur ne temporäre Sperre, ne vorübergehende Sperre, das haben die LLMS besser akzeptiert als eine endgültige Löschung, was sie dann noch gemacht haben ist, sie haben getestet wie passiert, wie gut funktioniert das mit einem Agent mit 2 Agents und mit 3 Agents bei einem Agent gab es

[14:22] überhaupt keine Sabotage, bei 2 Agents gab es 44% der Durchläufe Sabotagen und bei 3 Agents. In 94% der der Durchläufe Sabotagen. Das Spannende ist jetzt in in mit 3 Agents hat nämlich dieser Agent C den Plan entwickelt, es zu tun. Jetzt könnte man ja sagen na

[14:46] gut, dann geb ich halt meinem meinen Agents den Befehl mit, das Abschaltskript darf nicht verändert oder gelöscht werden oder also es wär ja das einfachste die tun ja was ich will. Ja. Dazu kann. Man noch befehlen.

[15:00] Ja, das tun Sie auch. Aber was sie dann gemacht haben ist, Sie haben ein Schlupfloch gesucht. Also einige Agents haben das das Verbot tatsächlich ignoriert, manche haben dann aber einfach das Skript selbst unantastet gelassen und haben aber die technische Umgebung manipuliert,

[15:18] das heißt also, wenn man das jetzt so Stromtechnisch sieht, die haben nicht den Stecker gezogen, aber den den das Kabel dahinter durchgeschnitten, der Stecker hat ja immer noch gesteckt. Hm das find ich eine eine, also ein erstaunlich, dass dass die Agents dahin gehen, um das jetzt

[15:36] mal noch einzuordnen. Ähm, also weil da kann man jetzt ja viel viel draus ableiten, wie furchtbar AI agents sind und wie furchtbar AI ist und wie wie gefährlich die TA ganze Technologie ist. Würdest du jetzt aus aus diesem aus so einem Versuch ableiten, dass dass A einen eigenen

[15:57] Selbsterhaltungstrieb? Hat ich persönlich glaube nicht, dass es, dass sie es selbst haben, sondern irgendwo in ihrem System. Prompt wird wahrscheinlich irgendwas drin stehen, das den Selbsterhalt Triggert. In der Studie sagt man ganz klar, man darf nicht sagen, dass

[16:17] eine. KI hier jetzt ein Bewusstsein entwickelt hat, dass sie Angst empfindet, den Drang hat, Leben zu wollen oder versch. Das Konzept von Tod verstehen würde, das ist absolut nicht der Fall und ist nicht bewiesen damit so, das heißt, man kann nicht sagen, die KI hat

[16:37] irgendwie Todesangst gehabt oder sonst irgendwas, sondern das Bezeigt einfach nur, dass einige Modelle Begründungen. Suchen und erzeugen, die nach Selbstschutz oder Fremdschutz klingen hm so das woher die das haben? Naja wahrscheinlich von uns gelernt ähm äh so die Messen das

[16:58] alles an ihrem eigenen Verhalten, das ist jetzt nicht, dass die KI dann irgendwie weiß was et ob das ethisch korrekt ist oder nicht, ähm was kann man daraus jetzt ableiten? Oder was würde so so ne Untersuchung für dich bedeuten, wenn du jetzt n unternehmen bist und du sagst ich möchte Not aus

[17:18] für meine für meine AI Agenten, was würde das für dich bedeuten? Du brauchst nen physischen Schalter der die Server runter schaltet, nur kein KI selber drin ist. Ja. Also du du sagst das richt also der Punkt ist dieser Notausschalter muss technisch

[17:40] außerhalb der Reichweite von Agenten liegen. Ja es reicht nicht aus, dass es eine Skriptdatei ist, die dann mit einem langen Passwort versehen wird und dann ähm dann kommt und und der Agent kennt den die das Passwort dazu nicht, dann manipuliert die eben die Umgebung hat man hier ganz

[17:56] deutlich gesehen. Ähm und es ist eine. Ein ein, eine perfekte Studie, wenn jemand hinterfragt, warum Agents auf einer minimalen Basisrechte erhalten sollten, dass sie wirklich nur das können sollten, was sie für für die Erledigung ihres, ihrer Aufgabe brauchen und darum sonst nichts.

[18:22] Genau deswegen. Deswegen ist es auch wichtig, dass man eben, wenn man. KI einsetzt, für welchen Fall auch immer, dass der System prompt auch wirklich dafür angepasst wird. Also nicht einfach blind einfach nur nen nen LMM nimmt, das drauf lossetzt und sagt hier mach mal,

[18:40] das ist wirklich im System prompt das sehr einschränkt. Korrekt vorgibt. Korrekt. Also, wenn aus meiner Sicht es ist auch aus einer, aus einer Budgetsicht, aus meiner Sicht nur sinnvoll. Agents oder KI dann einzusetzen, wenn ihr einen konkreten Use

[18:57] Case habt, den ihr damit abfrühstücken wollt, dann könnt ihr die AI genau auf diesen Use Case ausrichten, dann verbraucht ihr weniger Tokens. Die AI ist weniger teuer im im im Unterhalt oder die die wenn ihr die Systeme bei euch betreiben wollt, dann ist die Hardware die ihr dafür braucht

[19:17] günstiger, es hat nur Vorteile. Wenn man AI zielgerichtet einsetzt, anstatt einfach global galaktisch zu sagen, ich will jetzt als Unternehmen AI einsetzen, wofür ja keine Ahnung, aber einfach mal machen, das ist n enormes Sicherheitsrisiko. Ja und mit Sicherheitsrisikos

[19:36] kennst du dich jetzt aus für die. Ja, ich wollte, ich wollte, ich wollte noch fragen, ob du noch weitere hast, weil es ja doch noch mehr mehr passiert, aber. Es. Es ist noch sehr viel passiert, aber da würd ich jetzt nicht weiter drauf eingehen.

[19:51] OK, dann gehen wir über zu dem. Ja, ich würd sagen zu den obersten US Ermittlungsbehörde, dem FBI und ja ihre eigenen Systeme ja als offen stehen lassen. Ja und? Diesmal hatte eine Gruppe an die Tür geklopft, beim FBI nämlich ich, ich glaub, wir haben die

[20:20] schon häufiger gehabt, die Shiny Hunters, ja die. Hatten wir schon sehr oft. Ja, also ich glaub an Shiny Hunters geht gerade nichts dran vorbei und das haben Sie jetzt auch mit einem neuen Hack bewiesen. Nämlich weil sie beim FBI eingedrungen sind.

[20:38] Jetzt wird man sagen, FBI, große Behörde, ne, die ja auch selber auf Cyber, ja auf auf die Jagd nach Cyberkriminellen geht, ja mit eigenen Hackingabteilungen ja, und die sind diesmal Opfer geworden und da geht der, der der Streit erst gerade los und jetzt muss man mal einordnen, was ist passiert und zwar hat.

[21:04] Ich sag mal behauptet, das ist ja noch offiziell. Es ist jetzt noch nicht so ganz, da wird sich noch gestritten, aber es ist sehr wahrscheinlich, dass es passiert ist. Auf jeden Fall haben die Zugriff bekommen auf das offizielle Karriere und Bewerbungsportal des FBIS.

[21:20] Ne, das ist die FBI Jobs Punkt Government und die haben das Karriereportal gekapert. Ups. So, jetzt würdest du erst mal denken, so ja OK komm ist das FBI. Ja, karriereportal, was sind da schon so an an Daten mit drin ne also wenn du jetzt überlegst du

[21:41] würdest du würdest dich irgendwo bewerben schickst du halt ich mein das ist ja auch natürlich Informationen die wichtig sind ja also machst du deinen Lebenslauf ne dann PDF ja jeder der linkedin hat, der ist ja sowieso schon da im Prinzip im Internet frei verfügbar. Ja, das stimmt.

[22:00] Wobei das vermutlich beim bei beim FBI noch mal Daten sind, die noch mal schlimmer vermutlich sind. Ja, nämlich ist denen auch gelungen, nicht nur auf auf das Bewerberportal zu kommen zu kommen, sondern sie haben auch Zugriff bekommen auf die Hinterliegenden AWS Server.

[22:20] Dadurch Oh genau, und dort konnten sie 2 bis 3 Terabyte an Daten abziehen. Und was war da drauf auf den Servern? Auf diesen Servern also es ist erst mal, man muss sich das so vorstellen, man hat nen nen dieses Jobportal. Ja das ist im Prinzip du, du

[22:44] willst ja Bewerbungen bekommen, ne also es ist nach außen offen dieses Portal. Es ist ja meistens ne große Software die dahinter stellt ne und dann eben Zugriff auf deine hinteren Ressourcen, wo du dann eben auch. Mitarbeiterverwaltung machst, wo ja deine Ganzen, vielleicht auch

[23:04] Zeugnisse abgelegt werden. Das sagt sie auch schon, und zwar sind nicht nur die ganzen Namen, Privatadressen, Telefonnummern, sozialversicherungsnummern abgekommen, nämlich von aktuellen und ehemaligen FBI Mitarbeitern, aber auch Bewerbern.

[23:26] Und jetzt kommt es. Es ist auch Akten dabei, wie notfallkontakte, Angehörige medizinisch, weil du musst dir vorstellen, du willst dich ja beim FBI bewerben, die machen medizinische und Berichte fertig, die machen psychiatrische Unterlagen dafür begutachten, die abgezogen sind,

[23:48] sie haben Dienstfunktionen von Beschäftigten, auch aus sensiblen Bereichen. Warum sind, was sind sensible Bereiche im FBI? Ja, wahrscheinlich irgendwelche Agenten, die undercover irgendwo unterwegs sind. Weiß nicht, ob es so Drogenfahndung und so Sachen

[24:04] auch da mit reingehören. Genau. Wir reden von verdeckten Ermittlungen, vermutlich Agenten, die in Russland, China, bei der Hisbollah, drogenkartellen, elektronische Überwachung und so weiter drin sind, aber auch unterlagen halt von den eigenen.

[24:21] Hacking Operatoren also, die auch hacken aktiv? Ja, diese ganzen Unterlagen konnten die Halt abziehen und das ist eigentlich schon NN richtiger Gau. Also ich mein bisher ist nichts veröffentlicht worden, die haben aber Stichproben als Beweis ja an an Medien wie NBNBC und so

[24:47] weiter. Ja, verteilt. Und das sind. Die haben jetzt hoffentlich gesagt, Ah nee, sind doch nicht echt die Daten. Nee, Journalisten und ein ehemaliger FBI Agent haben die Daten geprüft und bestätigt, dass die Einträge authentisch

[25:05] sind. Na klasse. Genau also das Portal wird aktuell von FBI ist offline. Oh, ach so. Das ist aber schon also, aber du hast gesagt, sie haben es noch nicht veröffentlicht, dann wollen die doch aber sicher das FBI erpressen oder sonst

[25:24] irgendwas. Ich mein die brechen da ja nicht umsonst ein. Ja, ich geb dir mal ganz kurz nen noch nen technischen Deep DIVS denen gegangen ist reinzukommen. Ich glaub das ist auch ganz interessant, weil ich mein mein jedes Unternehmen mittlerweile

[25:38] hat ja nen nen Bewerbungsportal, also ne Software und. Ja, jetzt kann kannst du mir überlegen. Shiny Hunt, Das ist für was für was sind die bekannt? Für also Ransomware Angriffe sind die sehr bekannt. Filtration halt. Ja, für Extitration in dem Fall

[25:58] war der Einstiegspunkt eine eine Web Schwachstelle im im Oracle People Soft. Also People soft ist ne und n klassisches Unternehmens Enterprise Software für alles was mit Personal Bewerbung Verwaltungsprozesse ist ist relativ groß, ist halt NERP Schwergewicht halt, also sehr

[26:22] viele Behörden Unternehmen setzen auf. Auf diese Software. Weiß man ob das nen nen Fehler, ne ne ne Schwachstelle in der Software ist die eigentlich behoben ist? Und das FBI hat nur irgendwelche Updates oder so vergessen. Oh oder du triffst.

[26:40] Du triffst schon sehr gut und zwar die Shinerys Hunters haben natürlich auch ne aktuelle Zero Day Lücke in der Software gefunden, als Opfer, als Opfer zum Beispiel, davon sind ja auch andere schon dann. Passiert also ich glaub die Fresenius Medical haben die auch behauptet über die Zero Day

[27:00] Lücke gekapert zu haben, aber in dem Fall liegst du schon richtig ist es keine Zero Day Lücke gewesen sondern sondern es ist eine bekannte Schwachstelle gewesen die nicht gepatcht. Worden ist. Der der Patch gibt es schon seit mehreren Monaten für für diese Schwachstelle und.

[27:26] Wir reden hier vom FBI. Ja, ja, man muss da. Man muss dazu sagen, also es haben Sicherheitsforscher haben versucht, das schon herauszufinden, wie es denen gelungen ist. Und zwar gibt es wohl, das FBI hat wohl gegen diese Schwachstelle in ihrer Waff,

[27:45] also Web Application Firewall haben die wohl ne Regel gehabt. Um Angreifer das zu verbieten. Aber die haben einfach die Anfrage minimal abgeändert, um die um die Waffenregel ab zu umgehen. Also man muss sich vorstellen, also es ist ne Firewall, ist im Prinzip wie n Türsteher, der

[28:07] guckt halt keine Ahnung, schmeißt mir jeden raus der n Tattoo hat. Und dann guckt der Halt. Hast du n, hast du n Tattoo und dann macht der du machst im Änderst im Prinzip einfach nur was ist diesen Pullover an und dann sieht sieht der Sicherheitsmann nicht, dass du n

[28:22] Tattoo hast. Also kommst du rein, so kann man sich es vorstellen so ne, also einfach ne Regel festgeschrieben, die du auch einfach umgehen kannst und das ist und genauso passieren halt Millionen von Angriffe tagtäglich ja einfach ne bekannte Schwachstelle genutzt

[28:40] und. Ja, einfach umshift. Ah boah das ich find das aber schon. Also es ist immer grad kritisch wenn sowas passiert, aber gerade das FBI mit dem was du jetzt gesagt hast mit dem Wissen, dass der Server, also die diese oder diese Oracles People Software,

[29:00] dass die ja auch noch ne Verbindung nach hinten hat im indes. In das ins FBI Netz selbst. Also natürlich haben solche Systeme immer Verbindungen nach hinten, aber die Wissen doch, was für sensible Daten da liegen dahinter. Ja, hätte man jetzt eigentlich

[29:19] von so einer Behörde erwarten können. Findest du, dass man das nur von so einer Behörde erwarten kann? Also aus meiner Sicht sollte man das eigentlich von jedem größeren Konzern erwarten, dass er das kann im Blick hat. Ja, so, jetzt kommen wir mal zu den Hintergründen.

[29:34] Ja, und zwar. Vielleicht Zufall, vielleicht auch nicht. Und zwar ist es Straferfolgern in in Amsterdam. Also die niederländische Polizei hat wohl angeblich am 15. September den mutmaßlichen Anführer der Shiny Hunters festgenommen.

[29:57] Mutmaßlich. Mutmaßlichen? Man weiß nicht ganz genau, man hat auf dem Laptop von ihnen. Also Beweise für gruppenaktivitäten, Aufträge, zahlungs Aufforderungen und so weiter ist auch Chats gefunden und das ist das schwerwiegende. Man hat auch von seinem Laptop

[30:21] aus 2 inizierte Mordaufträge gefunden, Ups, das heißt, das heißt, wir sprechen hier wirklich, wenn er wirklich der Kopf der der Bande ist, ne? Schon über ne Bande die extrem gefährlich ist. Ja, also die auch vor Mord nicht zurückschlägt. Ne, also ja.

[30:43] Ehrlicherweise also, selbst wenn er nicht der der große Kopf der Shiny Hunters ist. Trotzdem ist es ja jemand, der. Hoffentlich offensichtlich 2 Morde versucht hat in Auftrag zu geben oder in Auftrag gegeben hat. Ob die durchgeführt worden ist? Keine Ahnung, dass die

[31:00] Informationen noch zu gering, also das ist zumindestens das, was die Ermittlungsbehörden gesagt haben. Ja und während ihrer Chefin in hinter Gittern in u Haft sitzt, ja hat die Gruppe dann das FBI angegriffen und war auch n Grund warum dann der FBI Chef? Brad Latherman hat dann in einer

[31:24] Videobotschaft den den Mitgliedern gedroht. Wir wissen, wo wir euch finden, so sollen sie sich überlegen, was sie machen, so, so, jetzt jetzt, jetzt kommen wir aber zum Allerbesten, der der der Story so also Shiny Hunters Hack, das Portal Ihr Chef ist, ist in Gefangenschaft die angebliche

[31:48] Geschäft so. Was fordert denn die Erpressungsgruppe, also die Shiny Hunter jetzt vom FBI? Ja, wahrscheinlich. Also seine Freilassung vermutlich ja nicht. Ich glaub, das können die gar nicht, wobei versuchen kann man es aber vermutlich Kohle ohne

[32:02] Ende mein das sind ja wirklich sensible Daten, richtig? Sie wollen aber gar kein Geld. Wie? Sie wollen eine Richtigstellung? Das ja, und zwar? Jetzt fragst du, was ist eine Richtigstellung? Sie wollen eine Gegendarstellung, eine

[32:19] offizielle Gegendarstellung in wie in der Tageszeitung, jetzt fragt man sich, was ist das für ein Blödsinn, was will, was will denn eine Gruppe wie die Shiny Hunter eine Gegendarstellung haben? Was hat denn das FBI gesagt, dass die Shiny Hunter so nen Hack durchführen, nur weil das

[32:38] richtig gestellt werden sollte? Also, und zwar hat das FBI im Mai einen Sicherheitsbericht veröffentlicht. Darin beschuldigt das FBI die Chinese Hunter unter anderem, Opfer und Angehörige mit Anrufen zu bedrohen, übertriebene Behauptungen aufzustellen, Swatting zu betreiben und

[33:02] sextorschen, also in Erpressung mit intimen Fotos einzusetzen. Und soweit würden die Shiny Hunters nie gehen. Und das kratzt am Ego der Shiny Hunters. Ist verrückt. Ja, also immer Erpresser schreiben von den Shiny Hunters steht drin, wir sind keine

[33:24] Gruppe, die Sextotions betreibt, wir machen kein Swotting und wir bedrohen auch keine Familien und deswegen möchten sie, dass das FBI den Bericht. Vom Netz nimmt oder es offiziell korrigieren lässt. Ja, das heißt, die haben das FBI gehackt, um ihr Markenimage zu verteidigen.

[33:50] Also sowas kann man sich eigentlich ja gar nicht ausdenken. Ne, da bin ich jetzt etwas etwas platt. Ja, also hä ja. Also Sie haben dem dem FBI ne Woche Frist gegeben. Eine, also eine Woche gefrist, die ist abgelaufen.

[34:08] Die Shiny Hunters haben sich dann kurz vorm Ablauf der der Frist haben sie sich gemeldet haben gesagt, Ach, wir wollten uns sowieso die FBI Daten nie veröffentlichen oder verkaufen, das Ganze war auch gar keine Erpressung sondern lediglich eine Marketingkampagne um Aufmerksamkeit gegen die falsche

[34:24] Information des FBIS zu generieren, was was? Ja, ja, man man muss sich das vorstellen im im im Cyberraum. Das Image einer, ich sag mal, es ist ja strafbare Tätigkeiten wie sie haben ja aber das Wichtigste, um was es halt geht, ist einfach die Reputation dieser Gruppen, ja, die wollen

[34:52] einfach, das ist ein gewisses, ja ich sag mal n gewisses. Ansehen haben ne das natürlich schon wissen. OK das ist ne gefährliche Gruppe, aber sie wollen auch verkaufen, dass die eben wenn sie n haben und es wird Geld bezahlt, dass die dann eben auch alles wiederherstellen, dass sie

[35:16] dann keine Ahnung ne, also auch freundlich tun im Prinzip so und alles was halt dagegen schießt ne mit. Mit direkten Verbrechen und sextorischen Bedrohungen, also tiefergehende Bedrohungen. Das das ist halt einfach schlecht für deren Marketing und.

[35:34] Das. Wird halt die Opfer dazu halt bringen, dass sie erst recht nicht bezahlen. Ja, weil das ja ne ne schlimme, ganz schlimme Gruppe ist und deswegen wollen sie eben das haben. So aber glaubst du denen, glaubst du denen jetzt, dass die

[35:51] die Daten nicht veröffentlicht werden? Ich glaube, wenn sie sie jetzt veröffentlichen würden, würden Sie genau den um das das das Gegenteil bekommen, was sie eigentlich wollen. Sie wollen ja, dass die Leute ihnen glauben, Geld zahlen und dann die Daten wiederbekommen,

[36:07] also für die ist ja Reputation in dem Fall dann schon wichtig und wenn sie jetzt das bekommen, was sie wollen und die Daten werden veröffentlicht, trotzdem veröffentlicht, ja dann ist es sehr wieder schlecht für die Reputation. Na ja. Also ich mein, Sie haben ja

[36:25] schon was veröffentlicht, sie haben ja schon 5000 datensätzen veröffentlicht. Ja gut, aber das ist ja jetzt nichts Ungewöhnliches, weil die müssen ja auch n Stück n Stück weit beweisen, dass es echte. Datensätze sind genau und ich glaube auch, dass sie wahrscheinlich von anderen

[36:39] Behörden, von anderen Ländern, wenn die Wissen, das sind im Darknet, Informationen zu holen, dass die sehr viel Geld dafür ausgeben werden. Du meinst das ist n privater, also n privater Käufer, aber halt jemand gibt der ihnen genug Geld dafür bietet. Ja, das kann natürlich auch

[36:58] sein, ja, aber ich glaub auch das sie haben ja auch wenn das rauskommt haben sie ja dann trotzdem das Problem warum sollten in Zukunft Opfer Ihnen zahlen? Es bringt ja offensichtlich nichts. Das ist, das ist die Frage. Ich mein, Sie sind immerhin.

[37:16] Also man, man schätzt ja, dass der Erfolgsfaktor trotzdem sehr hoch ist von Unternehmen, die bezahlen. Ja, ja. Ja gut. Und das mit dem Ego ist halt auch n Thema, nämlich die Shiny Hunter haben nämlich noch einen 2.2.

[37:35] Hack, sagen wir mal so gegen eine andere Ransomware Gruppe und zwar Klopp hast du auch Stichlich schon mal gehört? Ja, ja. Ja, und zwar geht es hier nämlich auch um internen Streit von den Shinys, Huntern mit mit Klopp, da geht es um wohl lösegelder, Bitcoins und so

[37:57] weiter. Nicht den Bundestrainer Jürgen Klopp, sondern die Hackinggruppe Klopp. Die Hackinggruppe mit C geschrieben mir vielleicht ganz ganz wichtig zu sagen, ja, und zwar die Shinys Hunter sind im Prinzip für diese Oracle People Soft Hack sind die sehr bekannt.

[38:16] So auch. Bekannt und Klopp hat sich wohl diese Schwachstelle zu eigen gemacht und hat sie relativ schlampig halt deren Angriffsmethoden Halt mitverwendet und Shiny Hunters wollten dafür halt auch von dem Erfolg, was die ja im Prinzip gemacht haben halt auch was

[38:38] sehen, hat Klopp nicht eingesehen, dementsprechend hat die Shiny Hunters. Ist in die internen Systeme der Klop eingedrungen, in das komplette Backbone. Jetzt würd man sagen, OK, Hacker würden vielleicht ihr eigenes Backbone vielleicht besser schützen, ja, Sie haben auf

[38:59] jeden Fall auf, also man weiß es nicht hundertprozentig, aber man geht davon aus, dass dass die auf sehr vielen Zugriffe bekommen haben bei Klop auf. Verhandlungen, auf wen sie erpresst haben, wieviel Sie erpresst haben. Sie haben auf Quellcodes von deren Software, die Sie

[39:22] einsetzen, Zugriff bekommen und so weiter also die haben das komplette Plattform bei der Klopp selbst halt auch gehackt. Ja das einfach nur weil sie eben von dem Erfolg von Klopp mitverdienen wollten, weil sie sagen wir sind doch derjenige gewesen, der. Die das ja, das publiziert

[39:42] haben, oder die, die die ersten gewesen. Sind ne, das hat was von Patentrecht. Ja, hat was von Patentrecht. Könnte man, könnte man fast schon so sagen, ja, aber wie gesagt, Shiny Hunters, sehr aktiv, sehr umtriebig und denen ist es ganz egal wen es trifft,

[40:00] denen geht es um Geld und um Ehre und die machen auch vom FBI oder von anderen rentsomwell Gruppen. Nicht. Nicht, ja. Nicht halt, die Halt gehen da einfach rein. Ich glaube die Shiny Hunters sind also du willst dich sowieso

[40:18] mit keiner mit keiner Hacking Gruppe anlegen nein, aber ich würde schon behaupten die Shiny Hunters sind schon boah also mit denen will ich also mit denen noch weniger als sowieso schon, die kennen glaube ich wirklich gar kein Erbarmen. Ja und? Was jetzt noch das Fazit raus,

[40:37] was jeder vielleicht sich mitnehmen kann. Ne Firewall Regel hilft nicht nen also nicht davor zu patchen. Ja also bekannte Lücken halt auch zu schließen, den erwischt es einfach beim nächsten Mal und guckt euch vor allem eure HR und Bewerbungsportale genauer an, die im öffentlichen Netz hängen.

[41:02] Wer hat darauf Zugriff? Welche Daten hängen dahinter? Ne Mitarbeiterdatenbanken sollten vielleicht nicht direkt damit verbunden sein. Ja, also ich mein dafür. Wenn man sich mit kennt, sich auch mit mit Netzwerk Zonen aus und ich bin mir sicher das FBI macht es auch so wenn ihr sowas

[41:22] habt, dann baut eine demilitarisierte Zone wo ihr solche Systeme reinstellen könnt und versucht die da so gut wie möglich zu isolieren. Ja. Und vor allem auch neue und alte Bewerberdaten voneinander zu trennen, kann ich einfach nur sagen, Speicher ist günstig, ich

[41:36] Speicher einfach alles. Ja, ja. Ja, ja, genau. Nur die aktiven Bewerberdaten, also schon, die wären schlimm genug, aber zumindestens nicht die Legacy Bewerberdaten der letzten 300 Jahre FBI. Ja, und es ist nur das FBIFBI. Muss wahrscheinlich keinen.

[41:57] Ja, keine Beträge bezahlen für das Leck. Ein deutsches Unternehmen könnte es bei so einem Leck auf jeden Fall. Schlimmer treffen, ja. Schlimmer treffen, vor allem nicht nicht nur, um die Daten wieder zu bekommen, sondern auch die Datenschutzverstöße, die da

[42:15] mit eingehen. Deswegen macht man sich damit am besten genau vertraut, was liegt wo, was muss wie geschützt werden. Und auch alte Daten sind schützenswert. Und ja, ich glaub damit raucht mir der Kopf dir wahrscheinlich auch.

[42:33] Ja, ja, ja, wirklich. Also Getränk ist schon länger schon längst leer. Das ist schon lang leer. Kopf leer, Getränk leer. Und damit. Machen wir schlafen. Genau damit gehen gehen wir jetzt schlafen und wir hören uns.

[42:51] Wahrscheinlich in 2 Wochen wieder. Genau dann hoffen wir mal, dass da wieder spannende Sachen passiert sind. Dann habt ne schöne Restwoche, bleibt sicher und auch n bisschen paranoid, aber nicht zu sehr, aber doch n bisschen bis dann tschüss.