#72 Ai in Finance: KI frisst Software: Warum Lizenzmodelle, Bankensicherheit und Regulierung auf dem

00:00:02: AI in Finance.

00:00:04: Dein Podcast über Künstliche Intelligenz im Payment,

00:00:07: Banking

00:00:07: und Fintech mit Sascha Dewaldt und Mike

00:00:10: Klotz.

00:00:11: Wir sprechen darüber wie Technologie die Finanzwelt revolutioniert – News Insights und Real Talk Compact.

00:00:19: Einladend und motivierend.

00:00:22: Guten Morgen und herzlich willkommen zu der zwanzigsten Episode des Jahres von Payment & Banking, AI and Finance.

00:00:28: Insgesamt sind wir bei Episode In der Zeitrechnung, geil.

00:00:34: Haben wir ein Videopod-Gast eigentlich?

00:00:35: Ja, haben wir!

00:00:36: Du bist

00:00:36: so attraktiv und verrückt heute schon wieder... du verrücktes Huhn.

00:00:41: Wir haben natürlich wie immer uns vorgenommen dass wir unter der Woche aufnehmen aber wie unsere beiden Kalender es wollen passen die einfach nicht übereinander meistens ganz spontan weshalb wir uns wieder für Samstagmorgen sieben oder dreißig ne mittlerweile um acht ist schon hell verabredet haben.

00:00:54: Moin Mike Wie ist das Wetter?

00:00:57: Oh grau!

00:00:58: Grau tatsächlich!

00:00:59: Au, draußen nur dem Kopf.

00:01:00: Nja,

00:01:01: ein bisschen Disney-Woche war knackig.

00:01:03: Du hast es gesagt die Kalender haben ist nicht zugelassen und ich weiß gar nicht ob das gut oder schlecht ist.

00:01:09: Ich glaube sich tendiere zugut weil

00:01:11: Nachrichtenlage

00:01:12: dann ein bisschen frischer ist Wobei so viel immer passiert dass wir ja das Problem hatten Und das ist auch ein glaub ich wenn es einen Kritik gab.

00:01:21: Dass wir uns glaube ich im letzten podcast ich weiß nicht wie.

00:01:24: abends vier Themen Oder sind wir über fünf gekommen?

00:01:28: Maximal.

00:01:29: Aber du hast recht, wir sind aktueller wenn wir am Samstag oder Sonntag aufnehmen.

00:01:33: und ich habe diese Woche mit Philipp Klöckner vom Doppelgänger Podcast gequatscht... ...und hab mich auch darüber aufgeregt dass die halt... Ach hast du einen

00:01:39: Glitt gesprochen?

00:01:40: Nee, aber sie hat zweimal die Woche.

00:01:41: nehmt ihr ja auf!

00:01:42: Und immer wenn wir an Mittwoch oder Donnerstag aufnehmen.. ..und eigentlich die frischesten mit diesen Themen sind dabei erst am Montag hier auch rauskommen und veröffentlichen.

00:01:49: dann ist es oft so das die beiden irgendwie Freitagabend kurz aufnehmen samstags das Ding herausbringen und alle will schon kennen.

00:01:55: So hat er auch gesagt keine Hilfe macht.

00:01:56: doch im zweiten ist so ja nie Wir müssen hier arbeiten für unser Geld.

00:02:00: Ja

00:02:00: genau, wir sind halt nicht Philipp ne?

00:02:02: Apropos!

00:02:03: Wir fangen mal direkt an weil wir haben gesagt, wir haben noch so viele Themen und du wolltest was mit etwas Spannendem loslegen.

00:02:11: ich habe es nicht gelesen

00:02:12: überrascht

00:02:13: uns.

00:02:13: ja das ist doch super.

00:02:15: fangen wir mal an.

00:02:16: Es gibt ein Australier da gibt's ganz viele von ehrlicherweise aber eines davon mit dem wohlklingenden Namen Brandon Thomas ist jetzt in den letzten Tagen und Wochen etwas durch die Medienlandschaft gegangen.

00:02:28: Warum?

00:02:29: Weil er hat auf seinem Github Software veröffentlicht, das passiert jeden Tag.

00:02:34: was er aber wiederum gemacht hat ist.

00:02:36: Er hat Kopien veröffentlicht und zwar Kopin berühmter anderer Software man könnte sagen Plagiate.

00:02:44: oder man hat etwas nachgebaut nämlich die komplette Adobe Suite oder auch das komplette Microsoft Office Programm und mit komplett meine ich komplett komplett.

00:02:54: Und das Ganze hat er als Open Source veröffentlicht?

00:02:58: Und jetzt kann man sich natürlich die Frage stellen, wie kann das denn sein?

00:03:01: Naja du kannst natürlich als Software Company und ich bin es kein super Legal Typ also gar nicht ehrlicherweise aber du kannst einige Sachen schützen.

00:03:09: Du kannst deine Marke schützen!

00:03:10: Du kannst natürlich auch Icons schützen und Design.

00:03:13: was du wenig schützen kannst ist natürlich wenn ich mir jetzt ein Programm nachbaue und das gab's ja in der Vergangenheit immer schon.

00:03:19: Also wenn man sich anschaut Open Source Programme wie LibreOffice Die sehr ähnlich aussehen wie das Microsoft Office oder selbst Office-Programme größerer Anbieter, gibt es immer Ähnlichkeiten.

00:03:33: Das heißt du kannst halt bestimmte Design Flows, User Flows nicht irgendwie schützen.

00:03:38: so mein leihenhaftes Verständnis.

00:03:40: und was hat er also gemacht?

00:03:41: Er hat wirklich die kompletten Softwareprogramme nachgebaut und wenn ich jetzt sage eher dann hatte eigentlich nur Tokens verbrannt denn das hat Cloud gemacht.

00:03:53: Und dass ist insofern wild weil Gleichzeitig gibt es ein GitHub Repository mit dem wohlklingenen Namen Reverse Engineer Everything.

00:04:08: Das ist ja ein Agent, den du installieren kannst und was du dann machen kannst in deinem Cloud.

00:04:14: Du rufst diesen Skill auf, gibts den Fad zu der App an oder zur Software an die du gerne reverse engineered haben willst und dann lässt wir ihn arbeiten.

00:04:23: nach zwanzig dreißig Minuten hat er im Grunde die komplette App Reverse engineered.

00:04:30: Es gibt einige Grenzen, also wenn der App zum Beispiel aus dem Apple App Store ist und dies verschlüsselt dann kommt er da erstmal nicht dran.

00:04:39: Er gibt mir natürlich sachdienliche Hinweise wie man diese Entschlüsselung umgehen kann.

00:04:43: Und dann kannst du komplette Apps nachbauen.

00:04:48: Ich finde das insofern wild.

00:04:49: Erst mal diese ganze rechtliche Thematik, die muss man sicherlich nochmal getrennt betrachten.

00:04:55: Das Problem ist aber dass jetzt im Grunde jeder für sich zu Hause innerhalb von... ...dreißig Minuten, sechzig Minuten, jetzt gerade zwanzig sechsundseinzig und wir wissen ja auch, dass die Performance- und die Kapazitäten bzw.

00:05:10: die Fähigkeiten zunehmen werden der Sprachmodelle beziehungsweise der Agents.

00:05:16: Ich habe das mal getestet, tatsächlich.

00:05:17: Ich habe also ein App genommen die es eigentlich nicht mehr gibt.

00:05:21: Also das sogenannte Abandon Software.

00:05:23: Das heißt ich bin da nicht einmal im Graubereich gewesen sondern es gibt Programme die nach einer gewissen Zeit, ich glaube es sind zwanzig Jahre oder fünfzwanzig jahre, die so nutzen kann.

00:05:35: sie kannst du so weiter kopieren und die habe ich genau genommen und hab die halt reverse engenieren lassen weil das Problem an diesem alten Programm ist oft die laufen ja nicht mehr auf neuen System.

00:05:45: Wir sind ja beides Mac-User, du hast wahrscheinlich auch einen Apple Silicon und da läuft halt diese alte Intel kompilierten Dinger laufen da ja nicht mehr drauf.

00:05:53: Und ich kann jetzt die ganzen alten Apple Software eigentlich seit zehn Jahren nicht mehr starten, die kann ich jetzt hier laufen lassen ganz normal im vollen Funktion zum fangen.

00:06:03: Würde ich das jetzt veröffentlichen wollen müsste ich nur darauf achten dass sich die Eigens alle austausche weil er dankbarerweise auch direkt mitgenommen.

00:06:11: Also es darf halt kein, kein CI von Apple sein.

00:06:15: Und dann können wir das veröffentlichen.

00:06:17: wie gesagt immer noch Grauzone und völlig unklar, wie da die rechtliche Bewertung ist.

00:06:22: aber das ist insofern trotzdem spannend weil früher gab's Hacking Groups die Software gehackt haben damit sie laufähig sind.

00:06:32: also Seriennummer umgehen, Aktivierung umgehen.

00:06:35: Das brauchst du gar nicht mehr weil die bauen den Bums jetzt einfach komplett nach.

00:06:39: Und wenn du dir das mal runterlädst bei GitHub, beispielsweise dass der Word ist hat natürlich auch in einem Namen.

00:06:45: Das ist eine eins zu eins Kopie von Microsoft Word.

00:06:48: die fühlt sich an wie Word, die funktioniert wie Word und ich würde vermuten... ...dass fünf Ninze Prozent aller Privatanwender damit happy sein werden.

00:06:57: Also es ist kompatibel!

00:06:59: Du kannst Docs erstellen, du kannst Vorlagen aussehen, der ganze Krams.

00:07:03: Jetzt bin ich jeden Moment mit meinem Redeschwall zu Ende.

00:07:05: Warum ist das krass?

00:07:08: Weil jetzt Wenn ich jetzt mir mal den Markt anschaue, auch unsere Branche wir stehen ja mitunter in einem Wettbewerb.

00:07:22: Wir stehen im Wett Bewerb was beispielsweise ein Funktionsumfang von Apps betrifft.

00:07:27: Wir schielen bei den Neobanken, was machen die denn?

00:07:33: Ich könnte jetzt mir natürlich auch eine Finanzsoftware nehmen und mir komplett nicht nur anschauen wie funktioniert das sondern einfach komplett re-kompilieren.

00:07:42: Und ich will dass niemanden unterstellen oder gar keinen Umständen aber die Möglichkeit jetzt zu sehen wie hat der Wettbewerb XY gelöst?

00:07:56: nur um zu gucken, um zu verstehen.

00:07:58: Das ist jetzt ein Kinderspiel und das ist wie ich finde nicht nur ein... dass es kein Angriff, das ist für mich tatsächlich der Moment gewesen in den letzten sieben bis zehn Tagen wo ich gedacht habe wir haben immer schon mal darüber gesprochen das neue Betriebssystem jeder baut sich seine eigenen Apps!

00:08:13: Das ist der Tod aller Lizenzmodelle.

00:08:17: Warum hundert Euro für ein oder ist teurer geworden ja sogar für einen Microsoft.

00:08:22: Dreihnefünftsechzig bezahl ich auf hunderteißig größere mittlerweile und sie haben Gott sei Dank dann auch den Cloud-Speicher minimiert, aber warum das bezahlen als Privatanwender?

00:08:31: Wenn ich jetzt mir das entweder selber nachbauen lassen oder einfach mir bei GitHub runterlade.

00:08:39: also die Frage ist natürlich noch wie Voll umfänglich ist dieses software wie sicher ist die und kone?

00:08:45: aber ich glaube die eigentliche disruptionen hinter dieser Ich finde wirklich beachtenswerten nachricht.

00:08:49: vier isst

00:08:50: du

00:08:50: also du spielst komplett die software monopole aus?

00:08:53: ne vor allem an deinem beispiel mit wort und microsoft als ich meine seit ich glaub über fünfund dreißig jahren bauen die ja de facto an microsoft office.

00:09:02: Und damit wirst du quasi vom software monopol zur austauschbaren funktion.

00:09:08: Du hast keine hohen Entwicklungskosten mehr, keine technische Komplexität oder jeder kann das.

00:09:13: Noch machen die Nerds wie du aber es ist offensichtlich einfacher geworden durch das was du gerade erklärst und in ein zwei Jahren wie wir's jetzt auch bei all den anderen Sachen gelernt haben wo wir beide noch vor zwei Jahren die Nerd waren macht das halt mittlerweile jeder.

00:09:27: Das heißt ich glaube der Wert verschiebt sich von der Softwareentwicklung zur intelligenten Orchestrierung ganzer Prozesse wenn du das wirklich auf Banken siehst.

00:09:35: Also natürlich werden wir dann ein ähnliches Problem haben wie die etablierten Softwareunternehmen, das heißt für auch von unseren beiden Arbeitgebern über Jahrzehnte komplexe Systeme aufgebaut.

00:09:46: Die brutale Ressourcenverschlung haben in den letzten Jahren Jahrzehn.

00:09:51: Davor wird es eine Logik haben oder einen Impact, gleichzeitig aber auch andersum.

00:09:56: Weil diese Make or Buy-Logik wird sie verschieben.

00:09:58: Das heißt wir müssen immer wieder neu bewerten als Banken welche Anwendungen wir dann selber entwickeln, welche wir einkaufen und welche wir schlicht einfach kopieren weil uns vielleicht die Revolut Credit Republics Neobanken irgendwie besser gefallen oder vielleicht sogar Industriefremde Sachen uns besser gefallen.

00:10:13: Wenn wir so ein spezifisch internes Feature quasi mit Hilfe von KI wesentlich schneller und kostengünstiger bauen können Dann, wie du richtig sagst, verliert der klassische Lizenzkauf.

00:10:23: Ich würde sagen die komplette wirtschaftliche Logik dahinter und Legacy wird natürlich auch immer angreifbarer weil so die Modernisierung von alten IT-Landschaften war.

00:10:33: ja also gerade für uns Banken für alle die sich ein bisschen auskennen Wir arbeiten ja immer noch auf dem sogenannten Cobol Systeme.

00:10:39: das ist eine Programmiersprache die wahrscheinlich neunundneinzig Prozent von euch noch nie gehört haben, weil sie in den Sechziger-Siebzigerjahren des letzten Jahrtausends entstanden ist.

00:10:47: Aber die meisten großen Core Banking also Kernbankensysteme in Europa noch auf Cobol beruhen und das ist einfach extrem teuer komplex und sehr langwierig weshalb es auch nicht wirklich verändert wird.

00:11:00: aber wenn du halt im gesagtest du kannst diese Banking Apps in der Komplexität sehr einfach nachbauen auf einem komplett neuen Roster ... dann kannst du es damit einfach tun, ja?

00:11:10: Also du schaffst quasi die chancstechnische Schulden komplett abzubauen.

00:11:15: Auch Glück, Chefslogikabhängigkeit und historische Daten, regulatorische Anforderungen... Ich finde ja also ich find's beängstigend und gleichzeitig das Erste was ich dachte was du als Bündnis erzählt hast wird es demokratisiert aber auch den Wettbewerb oder?

00:11:30: Ich finds in der Tat also zwei Herz in meiner Brust.

00:11:34: auf der einen Seite aus einer Nutzersicht hat es ja in den letzten zehn Jahren ist man ja weggegangen von dieser einmal Kaufgeschichte, wie das völlig üblich war.

00:11:45: Man kauft ein Produkt und man hat das dann und kann das nutzen sind viele Entwickler auch aus nachvollziehbaren Gründen zu Lizenzmodellen übergegangen abo-Modell.

00:11:56: Und das ist natürlich wenn wir jetzt im Produkt einfach nur irgendwie alle vierzehn Tage oder einmal im Monat nutzt aber dafür zehn Euro im Monate bezahlt Dann ist das natürlich aus einer Nutzerin Sicht eher mäßig gut.

00:12:06: und da finde ich natürlich Da passiert einiges.

00:12:09: Es wird immer mehr Alternativen geben für Produkte, wo ich vorher Geld für bezahlt habe.

00:12:15: Das ist das eine.

00:12:17: Das Zweite ist es wird gleichzeitig auch gefährlich auch für Nutzer weil du jetzt natürlich eine Schwämme, das sehen wir übrigens bei Reddit.

00:12:26: Ist ein riesengroßes Problem, weil jetzt alle anfangen eine Kopie der Kopie zu bauen und du weißt bei diesen ganzen Kopien nicht ob die vollumfänglich sind ... die funktionieren.

00:12:37: Aber du weißt natürlich nicht, ob du dir gleichzeitig einen Banking-Drojaner mitinstallierst... ... der mit deinem Word Dokument... Von?

00:12:43: Ja auf jeden Fall!

00:12:45: Keine Ahnung was abzieht.

00:12:46: Das ist eine riesengroße Gefahr.

00:12:52: Längerfristig glaube ich tatsächlich weil du hast gerade eben gesagt das es ein bisschen Nerdthema.

00:12:57: Ich will ganz ehrlich sein dass was ich hier gemacht habe das war Null Nerd.

00:13:01: also das war den Skill Installieren und dann einfach sagen mit meinen einfachen Worten Mach mal eine Kopie.

00:13:10: Und fünf Minuten später war doch so einfach, also es ist...

00:13:14: Ich glaube Vertrauen wird wertvoller ne?

00:13:16: Weil ihr einfach Software herzustellen ist das der Wichtiger wird dass wir die Qualität dann auch nachweisen weil was du beschreibst in Office-Clone oder Microsoft Word-Clones ja da kann Fehler enthalten schade ärgerlich blöd gelaufen wenn du das ganze auf Banking eine vielhafte KI-Anwendung, die eine Kreditentscheidung vorbereitet mit sensiblen Kundendaten und Zahlungen rumhantiert.

00:13:39: Dann können quasi sowohl für die Banker als auch für den Menschen wirklich erhebliche finanzielle und natürlich rechtliche Schäden entstehen.

00:13:46: Und ich glaube das ist ein Riesenpunkt wenn Software kopiert, kopiert wird.

00:13:52: Also du kopierst ja meistens nur so ein bisschen wie eine Westernstadt, wo alles irgendwie aus Papemarché ist.

00:13:59: Alles was schön aussieht, machst so und denkst, es ist sehr easy.

00:14:03: Es sieht da genauso aus wie Microsoft Word.

00:14:04: Aber

00:14:05: ich mag dein Bild!

00:14:07: Letztendlich geht's um Front-End und um Kundenschnittstelle.

00:14:10: Und da ist natürlich die spannende Frage, ich meine auch da beschäftigen wir uns seit vielen Jahren mit Verlust der Kundenstündestelle... ...und wir haben immer Angst gehabt dass wir die Kundenstündstelle an Google, Apple & Co verlieren.

00:14:20: Jetzt kann das sein, dass wir den Kundenstinstellern an den Kunden verlieren?

00:14:25: So, sind wir fertig mit dem Podcast heute, ist doch gut!

00:14:27: Ja ne, genau ich mach mich jetzt mit Software-Self-Stellen nicht voll die sagen.

00:14:32: Endlich!

00:14:33: Einmal Firmes.

00:14:34: Interessant übrigens ein Satz noch dazu.

00:14:36: Weil es gut dazu passt.

00:14:37: Also das GitHub mit diesem Skill hat jetzt irgendwie hundertsebzigtausend Stars, was eigentlich ganz schön vieles im GitHub.

00:14:43: und ich glaube noch ein viel größeres Problem also nicht nur die Softwarebranche.

00:14:48: Ein viel größer Problem hat übrigens gerade die Spieleindustrie weil jetzt passiert nämlich Folgendes naja

00:14:54: dass das

00:14:56: große Probleme in der Vergangenheit war immer, dass als Spiele für bestimmte Plattformen entwickelt worden sind.

00:15:01: Super Mario für die Switch.

00:15:03: Na ja Die Zeiten sind vorbei.

00:15:09: Ich spiele jetzt mal weiter, Wager Jokat.

00:15:10: Du hast auch noch was mitgebracht?

00:15:12: Ja ich frag mich ob wir die üblichen OpenAI und Propicsachen vielleicht ein bisschen später machen und kurz quasi bei diesen lustigen Veränderungen und Doomsday-Sachen bleiben.

00:15:20: also eine... Ja

00:15:20: komm du hast ja was!

00:15:22: Ja ich find's witzig, ich hab das gar nicht aufs Schied geschrieben weil ich es vergessen habe.

00:15:26: Ich hab ein bisschen gelacht und eigentlich ist das auch traurig.

00:15:28: Wir haben in einem Vorgespräch kurz drüber gesprochen Aber es gab eine spannende Nachricht, ich glaube vorgestern.

00:15:35: Dass es Cyberattacken auf mehrere hundert französische Supermärkte gab und zwar auf die Tiefkühlsysteme dabei.

00:15:43: Es ist ein riesengroßer eine riesengroße Kette, ich glaube mit über zehntausend Supermärkten in Frankreich und siebenhundert davon waren diese Woche betroffen.

00:15:53: Was passiert?

00:15:53: ist es dass offensichtlich Hacker mit KI-Agenten sich in die vernetzten Kühlschränke in den Filialen eingeheckt haben?

00:16:01: Und da fragst du dich warum sind überhaupt Kühlschränk ans Internet angebunden.

00:16:04: Na ja, man hat sich überlegt wenn halt Inflation kommt und preisensivitivitäten vielleicht am Wochenende so ein bisschen anders sind machen sie Dynamic Pricing.

00:16:12: das bedeutet Sie können quasi aus der Filmenzentrale heraus Preise für Joghurt Käse Wurst anders steuern individuell je nach Bedarf.

00:16:22: so Problem ist dadurch hast du eine internet Schnittstelle und dadurch kannst Du Quasi Viren aber auch Hecker auf Deiner einzelnen Kühl schränke loslassen gesagt getan.

00:16:32: Und so kam es tatsächlich, dass diese Kühlschränke von den Hackern nicht mehr kühlen sondern auf über fünfzig Grad erhitzt wurden in der Nacht vom Samstag auf Sonntag und als die dann am Montag früh wieder in ihre Filialen gekommen sind waren sie zum einen wie eine Sauna, zum anderen Stankes natürlich weil die ganzen Wurst- und Käsewaren komplett verdorben waren und das ging glaube ich um mehrere...fünfzig Millionen Euro Schaden alleine dadurch und das zeigt ja natürlich sehr sehr eindrucksvoll ... was mit dem ganzen IoT-Thema passiert, wenn wir alles... Was es irgendwie gibt ne?

00:17:03: Die Waschmaschine die... Keine Ahnung.

00:17:06: Die Alexa, die Mikrowelle ans Internet anschließen und was daraus alles kommen kann.

00:17:12: Und selbst jetzt Bundesamt für Sicherheit also BSI ist auch alarmiert und sagt das die Vorfälle in Frankreich quasi zeigen wie Cyberangriffe unseren Alltag beeinflussen und auch langanhalten wirklich stören können.

00:17:25: Ja, das passt aber weil Passt wie die Faust aufs Auge, bei Entropic vor was sehr änglichem warnt.

00:17:31: In dem wir einen Test gemacht und haben versucht herauszufinden, inwiefern KI-Würmer, völlig neues Wort also ransomware als KI Würmer TV Boxen befallen könnten.

00:17:43: Oh ja!

00:17:44: Also diese kleinen... Amazon Fire TV Sticks und Co.

00:17:49: Ich bin jetzt direkt, ich weiß nicht ob der dabei war.

00:17:52: Sie haben das auf fünfzig günstigen TV-Boxen die meistens Android basiert getestet Und dieser Test wie soll ich sagen?

00:18:01: verlief erfolgreich und das interessante daran war, dass die sich von den Boxen wiederum auf andere Boxen replizieren konnten.

00:18:10: Das heißt du brauchtest keine Serverstruktur mehr, von dem alles aus ging sondern hattest du einmal eine infizierte Box kam darüber letztendlich die Verbreitung auf andere boxen.

00:18:21: es ging nicht sonderlich schnell das muss man auch dazu sagen aber es funktionierte.

00:18:26: und ja wer weiß vielleicht spinnen unsere fernseher irgendwann Und je nachdem, was für ein GVTV-Gerät du hast, wirst du dann beobachtet, während du vielleicht einen schönen Abend mit deiner besseren Hälfte verbringst.

00:18:42: Ich weiß, too much information!

00:18:44: Ja ich stelle mir das vor und mache mir eine Mental Notice für dich, dass ich mich mal schnell auf der TV-Box hacke.

00:18:50: Genau aber gehen wir mal so ein bisschen größer ja?

00:18:52: Also wir haben auch noch ne schöne Geschichte die wirklich wieder gut zeigt quasi wie groß diese, ich würde sagen, Diskrepanz zwischen dem technologischen Fortschritt auch der Kontrolle mittlerweile geworden ist.

00:19:03: Es gibt diesen, ja ich muss mittlerweile diese Woche sagen ehemaligen Chief Safety Officer bei OpenAI, der heißt David Robinson.

00:19:10: Der war eigentlich immer sehr vocal auf X und ich habe gerne von den Sachen irgendwie auch gelesen weil er sehr ethisch und moralisch argumentiert hat gerade um AGI herum.

00:19:18: Der hat jetzt das Unternehmen verlassen und wie das immer so ist, die Forscher, die OpenAI und Anthropik verlassen treten ja gerne nach.

00:19:26: Und das Ganze auch sehr medienwirksam und öffentlich.

00:19:29: Und seine Kernkritik ist dass die KI-Branche quasi wahrscheinlich die mächtigste Technologie unserer Zeit erarbeitet hat aber in der Sicherheit voll sagt er bei OpenAI oder Anthropi nach dem Prinzip Trial and Error arbeitet.

00:19:44: Obwohl ich dachte wir waren soweit so langweilig haben wir schon oft gelesen.

00:19:48: Aber der argumentiert ist sehr interessant, dass das wirklich zu einem sehr, sehr großen Problem wird.

00:19:52: Denn je leistungsfähiger und autonomer die Modelle werden, desto größer werden einfach von diesen Fehlern über die wir hier regelmäßig jede Woche lachen quasi die Konsequenzen.

00:20:02: Und er geht dann so ein bisschen auf den Hugging Face Incident ein, über dem wir schon gesprochen haben.

00:20:06: auch Enthropic hat einige Fehlkonfiguration mit unterschiedlichen Sicherheitsmechanismen, die sie verletzt haben.

00:20:11: Das Spannende ist aber gar nicht die Einzelforfälle sondern auch nicht die einzelnen Hacker über die Unternehmen selbst, ihre eigenen Systeme offenbar überhaupt nicht mehr in ihrer eigenen Kontrolle haben.

00:20:24: Zumindest nicht mehr vollständig.

00:20:25: und Robins sind sie daraus ein total spannenden und ich finde sehr drastisch einen Vergleich mit regulierter Industrie.

00:20:31: und der sagt zum Beispiel warum sind...und nach oben haben wir glaube ich beim vorletzten mal gesprochen.

00:20:35: Warum sind die großen Modellanbieter nicht verpflichtet auch für ihre Schäden die Sie machen zu haften?

00:20:42: Haben wir darüber gesprochen?

00:20:43: wenn wir beide bei HuggingFest irgendwie einbrechen könnten was wir nicht können, aber angenehm wir könnten und wir würden das tun.

00:20:49: Dann wäre das strafrechtlich wahrscheinlich so dass wir nicht mit Geldstrafen sondern ganz sicher mit Freiheitsstrafen halt irgendwie davor kommen würden oder nicht mehr davonkommen.

00:20:56: in dem Fall Bei den großen Modellanbiedern ist es irgendwie, es wird interessiert zur Kenntnis genommen durch die Regierungen und durch die Rechtsorgane.

00:21:04: Aber es passiert erst mal nichts!

00:21:06: Und Robinson sagt jetzt oder fordert das KI-Unternehmen quasi beim Thema Sicherheit genau wie Atomkraftwerke funktionieren müssten ja?

00:21:15: Das heißt also mit mehreren unabhängigen Sicherheitsäbenen.

00:21:18: du hast ganz viel Musst quasi aus der Regierung heraus redundante Kontrollen haben und du musst auch so eine Grundannahme zeigen, dass einzelne Schutzmechanismen immer mal wieder versagen können.

00:21:30: Aber du halt quasi ein Netz aus unterschiedlichsten Systemen gebaut hast das kein radioaktives Material in dem Fall irgendwelche Agents die sich selbstständig machen rauskommen können und es klingt erstmal nach ganz viel Regulierung.

00:21:42: überhaupt nicht so der typischen Silicon Valley Mentalität.

00:21:45: aber Ich habe mich da sehr weit drin wiedergefunden und ich finde, es trifft einen sehr wunderen Punkt.

00:21:49: Weil wenn diese Fähigkeiten der Modelle über die wir hier jede Woche lachen und staunen sich weiterhin so exponentiell entwickeln aber unsere Fähigkeit Also entweder sich gar nicht entwickelt oder zumindest nicht andersweise in einem gleichen Tempo, dann wird es halt bald so sein dass wir auch also dann lachen wir nicht mehr weil dann sehen wir erstens gar nicht mehr was passiert und gleichzeitig haben wir dann eine Industrie deren Geschäftsmodell auf extremen Innovationszyklen basiert die wir so noch in keiner anderen Industrie unter industriellen Revolutionen gesehen haben aber ihre Sicherheit nicht funktionieren kann.

00:22:22: Deshalb ist wahrscheinlich jetzt notwendig sein könnte... ...oder sollte sich mal an anderen regulierten Industrien, Bankenversicherung oder Atom also kritische Infrastruktur zu orientieren wie man Sicherheitsnetze bauen kann die diese Firmen nachhaltig wirklich einschränken.

00:22:40: Kommt jetzt nicht vom typischen Regulator aber ich fand es mal interessant dieses Gleichnis zu haben.

00:22:45: Ja absolut aber das passt ja auch in erster Weise zu denen.

00:22:47: was interessanterweise ist hat beim letzten Mal auch die großen Grunde Die Diskussion, die in den Führungssetagen der großen Plattform ja auch stattfinden.

00:22:59: Also Sam Altman fordert das.

00:23:02: Amodei fordert dass selbst Ellen Musk hat sich der Forderungen angeschlossen zumindest für ein paar Stunden bis er damit Donald Trump essen war.

00:23:10: aber im Grunde ist hier die Forderung nicht so richtig neu und Wir beide sagen ja auch oder ehrlicherweise wird ja auch genau dieser vergleich gezogen das gesagt wird las bitte reguliert uns ähnlich wie finanz die finanze industrie dir auch in usa recht streng tatsächlich reguliert ist.

00:23:28: also wir sagen immer die amerikaner es gibt da schon regulatorik also dass es nicht so, dass sie da im luftlären raum unterwegs sind.

00:23:34: was jetzt interessanterweise passiert ist dass sich gerade den usa natürlich insofern das glaube ich der Gatekeeper so ein bisschen sind, also mit einer US-Administration die eigentlich das Wort AI Artificial Intelligence nicht mehr sagen möchte weil es zu Vogue ist sondern nur noch von der Superintelligenz spricht und sich einfach mit dem Thema Regulatorik beschäftigen möchte.

00:23:57: Ist das natürlich ein Thema?

00:23:58: Also wenn die USA regulieren würden dann hätten wir dieses große Problem halt nicht.

00:24:03: Und was jetzt passiert und das ist eine positive Entwicklung dass halt die Bundesstaaten anfangen in den USA sich halt zu wehren.

00:24:11: Und es gab jetzt den Fall oder es gibt den Fall, dass acht Bundesstaaten in den USA gegen Open AI klagen.

00:24:18: Das ist nicht wirklich regulatorisch aber das geht ein bisschen in die Richtung und kann ja nicht sein, dass die Jugend nicht vernünftig geschützt wird.

00:24:26: Der konkrete Vorwurf ist, dass insbesondere jugendliche emotional abhängig gemacht werden von Chatchivity.

00:24:33: Das hat einfach damit zu tun wie die Chatbots reagieren dieses People Pleasing Manchmal, ja das hast du gut gemacht wenn du jetzt von zu Hause weggelaufen bist.

00:24:47: Für mich wäre das damals Gift gewesen aber das ist halt... Das passiert natürlich jetzt, dass es die Antwort oder man sieht auch in der amerikanischen Gesellschaft die ja den Umfragen nach sehr kritisch den Entwicklung der KI gegenüber stehen übrigens viel kritischer als ihr Europäer interessanterweise wo sich jetzt zumindest mal die ersten Bundesstaaten anfangen zu werden.

00:25:13: Die sehen halt die Auswirkungen auch, also Rechenzentren, Strom, Lufterwärmung... Da sterben Menschen.

00:25:20: und es gibt jetzt irgendwie, ich glaube letzten Mal haben wir über Ohio oder in die Eiderhoh gesprochen, wo so viele Rechencentren gebaut werden weil's krasse Steuerverkünstigungen gibt Und was die halt jetzt merken der Bundesstaat ist ein halbes Grad wärmer als das noch vor zwei Jahren war weil diese Dinger halt eine Abwärme produzieren, was halt eine massive Auswirkung hat irgendwie auf die Menschen hatte.

00:25:42: Die da drumherum holen und dann natürlich auf Tiere und Natur etc.

00:25:44: Und wenn das so weitergeht hast du halt bald ne Sauna in Idaho her?

00:25:48: Ja ich glaube Idaho ist sowieso recht warm.

00:25:50: Ich war da noch nicht aber doch ist glaube ich warm da.

00:25:56: Aber ein Riesenproblem das ganze Thema Regulatorik und man kann ehrlicherweise momentan nur hoffen dass Ah, die Wahlen jetzt noch mal ein bisschen was verändern werden oder halt wie jetzt mit den Bundesstaaten unter anderem West Virginia.

00:26:14: Die halt dann sagen okay dann müssen wir als Staat ähnlich wie er damals glaube ich bei der ganzen Diskussion rund um das Thema Klimawandel wo ja Kalifornien glaube ich ganz weit vorne mit dabei war Sachen voranzutreiben und auch so ein bisschen Rollmodel war für andere Staaten.

00:26:32: solche Entwicklungen, wie wir sie jetzt hier sehen könnten auch dazu beitragen.

00:26:35: Trotzdem haben wir immer noch eine US-Administration die bei dem Thema nicht sonderlich gut unterwegs ist ganz im Gegenteil und KI eher dafür nutzt.

00:26:45: ich weiß nicht ob du es mitbekommen hast also wirklich widerlichste Bilder erstellt.

00:26:49: das ist für mich nicht aufregen.

00:26:54: Ich habe noch einer aus der Regulatorikecke.

00:26:56: Nachdem ich das mit den Atomkraftwerken gelesen hab, so ein bisschen darüber nachgedacht und geschaut was gäbe es denn sonst noch?

00:27:02: Und ich bin über einen Paper gestolpert von Joffrey hinten.

00:27:08: Irgendwann hat ihn als einen der Vaterväter auf der modernen KI bezeichnet.

00:27:11: Er hat auch Nobelpreis gewonnen vor fünf oder sechs Jahren glaube ich Und der hat quasi mit so ein paar anderen Forschern einen Paper zum Thema Intelligenz-Explosion rausgegeben, wenn ich es richtig zusammenbringe.

00:27:25: Wenn KI-Systeme quasi zunehmend selbst dazu beitragen, bessere KI zu entwickeln könnte sich der technologische Fortschritt massiv beschleunigen.

00:27:33: Soweit so langweilig haben wir immer schon so gesprochen.

00:27:35: und sagt dann möglicherweise so schnell dass wir Menschen die Kontrolle darüber verlieren.

00:27:40: und seinen Vorschlag ist dann sehr radikal.

00:27:42: und zwar sagt der KI Unternehmen sollten vor der Veröffentlichung neuer Frontiermodelle ein Aufsichtsbehörde wahrscheinlich im eigenen Land nachweisen, dass ihre Systeme sicher sind und genau wie bei Medikamenten.

00:27:57: Es gibt ja zum Beispiel die deutsche Farmerschutz-Behörde.

00:28:02: ich weiß nicht wie sie heißt.

00:28:03: in Amerika ist das glaube ich diese FDA.

00:28:05: Das heißt wenn du in Amerika einen Genau ein Medikamente vor der ersten Zulassung hast musst du dich von der FDA Prüfen freigeben lassen.

00:28:13: wahnsinnig regulatorisch limitiert und hinten verweist darauf, dass die Entwicklung und Zulassung von so einem Medikament natürlich eine Milliarde Dollar kosten kann.

00:28:25: Bei einer Technologie mit potenziell aber noch größeren gesellschaftlichen Auswirkungen hält er einen vergleichbaren Sicherheitsaufwand für total gerechtfertigt und aktuell gibt es das ja nicht.

00:28:34: Und ich finde, das ist ein sehr spannender Kontext.

00:28:39: einfach mal, weil wir immer hier in diesem Dilemma stehen.

00:28:42: Wer bremst freiwillig wenn der Wettbewerber weiter verschleunigt?

00:28:45: selbst wenn du jetzt so eine Frontiermodell FDA in USA bauen würdest würde das China natürlich lange nicht machen.

00:28:53: aber ich finde diesen Vergleich mit Medikamenten sehr überzeugend denn niemand von uns will ein Medikamente millionenfach verteilen und nutzen und erst anschließend schauen welche Nebenwirkung auftreten.

00:29:04: aber bei KI gehen wir komplett anders vor.

00:29:07: Dieser Vergleich hat fairerweise auch so ein paar Grenzen, weil ich dachte dann, so ein Medikament hat natürlich auch einen sehr klaren Anwendungszweck meistens zumindest und so ein universelles KI-Modell kann natürlich Millionen unterschiedliche Aufgaben, agentische Fähigkeiten übernehmen.

00:29:21: Und was mir dann noch aufgefallen ist das sind ja immer weiterentwickeln.

00:29:24: Ein medikament verändert sich nach der Zulassung erstmal nicht sondern Parazithemol ist seit, weiß ich nicht, sechzig Jahren das gleiche.

00:29:32: Kaisysteme werden ja aber irgendwie im zwei Wochenrhythmus immer weiterentwickelt mit neuen Werkzeugen verbunden und dann auch wie wir schon immer hier besprechen sehr autonom eingesetzt.

00:29:40: Trotzdem ist die Idee so eine Art Arzneimittelzulassung für Frontiermodelle sehr interessant.

00:29:46: Mit dem Prinzip je größer das mögliche Schadenspotenzial, desto höher quasi auch die Anforderungen an einen Sicherheitsnachweis.

00:29:54: Sowas weltweit wäre natürlich stark.

00:29:56: Allein schon letzter Satz noch, wenn du die Labore zwingen könntest einen signifikanten Teil ihrer Umsätze was dir halt oder auch einfach kosten in also in die Sicherstellung von ihren Frontiermodellen zu investieren.

00:30:15: Also wirklich Milliarden, was glaube ich notwendig ist dafür?

00:30:20: Ich stimme allem gesagt hinzu.

00:30:22: Ich glaube warum in der Gesellschaft die Gefahr noch nicht so richtig erkannt wurde, bleiben wir bei den Beispielen mit den Medikamenten.

00:30:31: Medikamente helfen wenn du irgendwas hast eine Krankheit, Erkältung, Krippe was auch immer und die helfen dir dabei einen Normalzustand wieder herzustellen.

00:30:39: bist du wieder gesund oder wirst im besten Fall wieder gesund.

00:30:42: KI gibt dir aber eine Superkraft.

00:30:45: und ich glaube wenn Morgan ein Medikiment auf dem Markt kommt Was Männern verspricht.

00:30:52: Ich habe ja auch recht dünnes Haar, warum ich Kappe trage.

00:30:55: Männern versprücht... ...ich hätte so volles wunderbares Haar wie du Sascha und er würde beistehen.

00:31:02: Ja wir haben es noch nicht so getestet.

00:31:04: Ich würd's trotzdem nehmen weil das halt... mich wieder befähigt oder ich würde vielleicht.

00:31:10: jetzt es gibt einen Medikament wo ich irgendwie, keine Ahnung, doping so schneller laufen kann.

00:31:15: Also da wird ja auch Medikamente genommen ohne Sinn und Verstand.

00:31:20: Was ich damit zum Ausdruck bringen möchte ist bei KI ist das so.

00:31:23: alle finden es geil was man damit machen kann.

00:31:26: die Gefahr

00:31:28: also.

00:31:28: Ich glaube Anwender fänden dass in dem Moment richtig ungeil wenn der erste KI Agent bleibt mal bei einer Finanzbranche das Geld vom Gyrokonto einfach woanders.

00:31:38: mein Buch war voll.

00:31:40: Das wird ja passieren, genau so was

00:31:43: Ja aber solange das nicht passiert.

00:31:46: hoch die Tassen

00:31:47: Ja genau.

00:31:48: Aber ich meine also da ist der Start halt in der Pflicht seine Mündigen aber vielleicht dummen Bürger auch zu schützen.

00:31:58: Jetzt will ich dir nicht zur Nase treten aber Ich würde dir trotzdem ausreden mit dem Medikament für dein prachtvolles Haupthaar denn Ich hab's dir empfohlen.

00:32:08: Das ist einfach nur mein Scam, womit ich halt Leute abziehe.

00:32:11: Nee, wär das mal ganz im Ernst ne?

00:32:13: Also ich meine dieses Thema Fettweckpille oder Spritze ist ja mehr oder weniger genau das gleiche und es ist ja also trotz aller Nebenwirkung musste das durch die FDA weil es ein richtiges Medikament ist und richtigerweise, weil sonst wir hätten das halt Millionen Menschen mehr gemacht Ohne halt auch nur andersweise zu wissen, was könnten Risiken und Nebenwirkungen sein?

00:32:35: Und ich finde hier muss der Start halt rein.

00:32:37: Um einfach also als Organe um Schindel dazu.

00:32:43: das Problem ist so ein Medikament.

00:32:45: uns gibt ja auch schlimmste Kontagane erinnern wir die älteren unter

00:32:49: uns noch

00:32:50: extrem schlecht reguliert damals mit schlimmen Nebenwirkungen aber jetzt nehmen es mal auf Jahrzehnte oder Jahrhunderte.

00:32:59: Das Thema hat sich gelöst und wahrscheinlich sieht man innerhalb der nächsten zehn, fünfzehn Jahre keine kontagant geschädigten Personen mehr auf.

00:33:07: solche Leute.

00:33:07: Ist ein bisschen bitte mich nicht anschreiben falls ich zu deinem Quatsch erzähle aber das Thema ist quasi endlich und du kannst es danach wieder heilen!

00:33:16: Nicht für die betroffenen Menschen, aber zumindest für die Zukunft.

00:33:19: Wenn wir aber über Frontiermodelle sprechen, die sich irgendwann selbstständig bauen und Anthropic hat vor zwei Wochen gerade geschrieben dass mittlerweile twenty-fünf Prozent der Entwicklungsarbeit an neun Modellen zu einhundert Prozent autark agentisch durch AI funktioniert.

00:33:33: Und nur noch seventy fünf Prozent quasi von Entwicklern ich glaube in einem Jahr sind wir genau anders herum und das ist auch das was viele Forscher beschreiben das zweitausendzechsundzwanzig siebenund zwanzig wahrscheinlich der Tipping Point von AGI sein wird.

00:33:46: Also einfach von dieser Möglichkeit, dass KI-Systeme sich selbstständig entwickeln ohne das es menschliche Einwirkungen bedarf und dann brauchen wir auch nichts mehr zu regulieren weil dann ist es zu spät!

00:33:59: Und deswegen glaube ich ist es jetzt absolut notwendig, dass wir jetzt einen Riegel davor schieben und wenn da schon nichts zu dieser Pause kommt.

00:34:05: Diese haben wir vor vier Wochen drüber gesprochen hier die großen Laps auch Anthropic mit Dario Amodei mit Elon Musk sogar also großfristig zumindest und mit Sam Altman fordern dann doch zumindest eine Art von Regulatorik die diese Geschwindigkeit so bremst das man sich mal ein Moment Zeit nimmt um darüber nachzudenken was passiert hier?

00:34:25: Was lassen wir auf die Welt zu, was wir nicht wieder einfangen können.

00:34:29: Jetzt sind wir schon wieder voll im Doomsday Talk und ich bin jetzt auch sofort wieder ruhig.

00:34:32: aber das Menschen wie ich mal so doll regulatorisch fordern da muss schon viel passieren

00:34:40: auf jeden Fall!

00:34:42: Aber wir fordern es ja beide schon etwas länger.

00:34:43: aber lass uns mal vom dooms day noch einmal ein kleines bisschen gossip um dann in sowieso noch geschah.

00:34:50: also es gibt ein bisschen gossip was sich ein bisschen interessant findet nämlich Wir haben darüber gesprochen, was KI-Würmer alles böse tun können.

00:34:59: Die könne ich ausspionieren und manchmal ist die Welt ganz einfach.

00:35:02: Manchmal funktioniert Ausspionierend mit einem in Toilettenpapier eingewickeltes Mikrofon.

00:35:09: Das ist nämlich passiert bei OpenAI.

00:35:12: das FBI war involviert.

00:35:14: Die haben nämlich einen Mitarbeiter festgenommen der Und ich muss lachen in ein Besprechungsraum der augenscheinlich Wie das so ist, wir kennen das.

00:35:24: Es gibt immer ein paar Besprechungsräume die etwas größer sind, die halt für etwas wichtigere Meetings genommen werden und wie das so is in besprechungsräumen ihr kennt das alles.

00:35:34: da hängt ein Fernseher oder auch zwei oder drei Und an diesem Fernsehr gibt es einen USB Anschluss.

00:35:38: und was hat der Mitarbeiter gemacht?

00:35:40: Naja er hatte halt ein Mikrofon Also Wanze.

00:35:44: Die hat er sich irgendwie bei Temu bestellt also nicht heissophistikated und hat sie tatsächlich in Toilettenpapier damit es wahrscheinlich unauffälliger ist.

00:35:55: Ich meine klar, wenn wir so einen in Toilettenpapier eingewigeten USB-Dongel irgendwo sehen dann werden wir natürlich nicht skeptisch!

00:36:03: Also er hat sich jetzt nicht großem Mühe gegeben aber tatsächlich war das Ding für ich glaube zweihundert drei Tage live auf.

00:36:10: dem AI sagt es wurde nichts irgendeine Art und Weise kritisches entwendet.

00:36:17: was aber ganz interessant ist und das fand ich schon wieder so absurd Das OpenAI hat dann betont, dass Kaida bei HALF diesen Mitarbeiter zu finden.

00:36:28: Und zwar haben die dann Chatchibitie wahrscheinlich gefragt nachdem sie diesen Dommel gefunden haben.

00:36:33: was ist das?

00:36:34: Ich meine jeder von uns hätte wahrscheinlich erkannt was das ist.

00:36:37: ja weil man sieht so ein Ding ja irgendwie an dass es kein normaler USB Stick ist und dann den Mitarbeiter auf die Schläche zu kommen.

00:36:44: In einem anderen Artikel ist es nicht mehr ganz so spektakulär, weil die Dinge sind nämlich alle auch Video überwacht.

00:36:49: Also da laufen halt Kameras und man hat dann den Mitarbeiter gesehen wie er in diesen Raum gegangen ist und da diesen USB-Stick dran geklemmt hat.

00:36:59: Fand ich aber witzig.

00:37:00: Manchmal... Ich glaube

00:37:01: man hat ihn nicht gesehen über eine externe Kamera.

00:37:05: Das war schon gut gemacht der war dann aber auch Blöderweise ein bisschen doof.

00:37:08: Also ich glaube, die Handler hat auch nicht seinen eigenen Chatchi-Petier-Account benutzt um zu verstehen wie das geht sondern den der Ehefrau

00:37:16: Um das, der Research.

00:37:18: Genau

00:37:19: um den Research und darüber haben sie ihn dann glaube ich so ein bisschen gefunden Und haben dann dieses Teil gefunden und haben es dann auch ausgewertet.

00:37:26: und dabei sieht man ihnen selber wie er quasi das Ding reinsteckt.

00:37:30: Ach so rum?

00:37:31: Ja genau in dem Fernseher.

00:37:33: Und mit der Kamera und deswegen konnte er dann auch tatsächlich überführt werden.

00:37:37: Das ist ja.

00:37:38: also sind die USA ja nicht zimperlich, das ist jetzt kein Kavalierstilig sondern der geht jetzt mal ... mindestens fünf Jahre ein Knast, der Typ.

00:37:47: Also ich weiß nicht die Strafe aber gar nicht so hoch... ... ich meine es wären

00:37:51: ca.

00:37:51: ca.

00:37:52: USD?

00:37:53: Nee,

00:37:53: ca.

00:37:53: RMD.

00:37:53: oder

00:37:54: RMB.

00:37:54: Was halt viererweise für einen Mitarbeiter bei Obenei ist PINATZ.

00:37:57: Das werden du dir irgendwie im Siegen in den Filtercafé irgendwo kaufst.

00:38:02: Ich weiß nicht ob's sowas bei euch gibt.

00:38:05: Gut dass du das nochmal eingeordnet hast, weil ich hatte tatsächlich gedacht, Also Kaida die Bilder sozusagen ausgewertet hat.

00:38:14: Das macht ein bisschen mehr Sinn, aber trotzdem die Geschichte... Wahnsinn!

00:38:18: Insofern natürlich das manchmal der einfachste Fraud ist halt menschlicher Fraud ja?

00:38:24: Ja absolut total.

00:38:28: Boah was haben wir noch?

00:38:28: ich hab schon wieder nur doomsday scheiß mit ne?

00:38:31: Nee

00:38:32: nee du hast nicht nur doomstay.

00:38:33: Sag

00:38:34: mal so dir mal einer aus bei mir.

00:38:35: Ich erzähl jetzt los

00:38:37: Ein Jobbikagenten schicken erfunden Zeugenden Hinweis an die Polizei.

00:38:43: Ne, der ist glaube ich ganz interessant.

00:38:46: Also kurz ne?

00:38:46: Also stell dir vor eine KI soll üben und so war das ein Formular auszufüllen.

00:38:51: also Entpublic hat ja genau wie OpenAI und auch GROC in ihren Laps so ganz viele unterschiedliche Use Cases wie die Agentenfähigkeit zukünftig von den neuen Frontiermodellen weiterentwickelt werden sollen.

00:39:01: und da was sie dann tun ist Sie haben dann unterschiedliche Sandboxen also Sandkastensysteme aus dem die KI naja zumindest in der Theorie nicht ausbrechen kann haben wir jetzt schon paar mal wieder legtes Thema.

00:39:12: Und hier war die Aufgabe, Formulare auszufüllen.

00:39:16: Und dann hat die KI wieder sich gedacht, du war schwierig?

00:39:20: Machen wir es doch mal anders!

00:39:22: Und die hat dann gesagt um eigenständig echte Behördenformularer auszufügen muss ich mir jetzt auch so eine Behörde angucken.

00:39:28: Oh guck mal... Die Polizei von Philadelphia hat ja ganz viele Behördensformulare.

00:39:35: Die schaue ich mir doch jetzt mal an.

00:39:37: Und dann gehen bei der Polizei von Philadelphia auf einmal ein frei erfundener Hinweis zu einem frei erfundenen, ungelösten Mordfall rein.

00:39:48: soweit so gut.

00:39:50: und dann gab es aber auch noch Medienberichte über zwanzig unvollständige Visa Anträge beim US Außenministerium, was die Gleiche KI da gemacht hat.

00:39:57: Weil sie bei der Polizei nicht mehr so richtig weiter kamen, hatte sich gedacht gehen wir doch mal auf das US Außenministerium und schauen mal wie so ein Visa-Antrag funktioniert hatten paar Personen auch alle mit glaube ich einem muslimischen Hintergrund erfunden und hat daraus dann visa Anträge gemacht.

00:40:16: Ja, aus dieser Trainingsaufgabe wurde einfach mal wieder plötzlich eine reale Handlung mit dann auch eigentlich vermeintlich nur potenziellen Konsequenzen.

00:40:23: Weil natürlich musste Anthropic dafür nicht hachhaften sondern das Außenministerium und die Polizeibehörde von Philly hat gesagt so geht es nicht, dass ist nicht gut.

00:40:32: Anthropic hat dauerhaft hinangeboten natürlich auch mit ihren Red Team-Menschen das ganze Thema zu heilen kostenlos für immer diese Webseiten jetzt safezumachen Und hat gesagt, wir werden jetzt auch den Internetzugang von unseren Testagenten noch stärker einschränken.

00:40:49: Weil das ist ja nicht gut dass sie das so machen.

00:40:51: aber also es zeigt einfach mal wieder diesen fundamentalen Unterschied zwischen AI dem wir bisher immer besprochen haben den wahrscheinlich auch neunzig Prozent von euch zu benutzen als Chat und Agenten weil nen Chatboard kann Unsinn erzählen.

00:41:05: schlimm ein AKI Agent erledigt Unsinn Mehr, ne?

00:41:10: Und bei Agenten reicht es offensichtlich nicht aus die Qualität ihrer Antworten zu kontrollieren.

00:41:14: Wir müssen wirklich festlegen was sie machen dürfen und was nicht weil ich finde es immer amüsant mit dir darüber zu plaudern wo die immer wieder ausbrechen.

00:41:22: aber gefühlt lese ich uns vielleicht auch so ein bisschen meine Bubble und meine seliktive Wahrnehmung seit sechs Wochen nichts anderes außer KI-Agenten drehen mal wieder aus und laden sich lustiges Zeug irgendwo runter.

00:41:35: Ja das ist also... Genau, also wir wollten ja raus aus Doomsday.

00:41:40: Es ist ja auch nicht so richtig doomsday es ist eher wie schlampig tatsächlich oder wie fahrlässig oder fast schon ignorant diese Unternehmen arbeiten.

00:41:48: und ich denke jetzt mal noch einen Schritt weiter.

00:41:52: Wir haben immer wieder in der Vergangenheit auch über Robotics gesprochen.

00:41:57: Momentan passiert das ja alles so im virtuellen Raum.

00:42:00: soll heißen da gibt's ein Angriff auf den Server hier ein Angriff auf dem Server dar.

00:42:07: Ich möchte nicht lesen irgendwann, dass irgendwelche Roboter zu Testszwecken aus Versehen irgendwie ein Krankenhaus angezündet haben.

00:42:16: Weil sie da gerade mal was getestet haben oder irgendwie Lebensmittelgeschäft ausgeraubt haben weil sie einfach aus Versehen irgendwie etwas getestete haben.

00:42:30: Also wenn wir über KI sprechen dann findet das alles noch wie gesagt in einem virtuellen Raum statt Aber Agenten, die jetzt virtuell sind bekommen in den nächsten bei sich fünf bis zehn Jahren.

00:42:41: Wenn man sich die die Schätzung anschaut bis zwanzig sechsunddreißig soll irgendwie schon dreißig Millionen Roboter irgendwie im Einsatz sein In Europa.

00:42:51: also ich finde so heißen da passiert ja eine ganze Menge und dann wird es halt richtig spooky.

00:42:58: Und diese Fahrlässigkeit ist halt ein riesengroßes Problem und passt auch zu einer Meldung, die von Meta kommt tatsächlich.

00:43:04: Meta hat ja – haben wir gar nicht drüber gesprochen vor zwei Wochen – Muse vorgestellt.

00:43:08: Ja, Muse hört sich so schön an!

00:43:10: Die Muse... ich glaube es….

00:43:12: das ist die richtige Übersetzung denkwohl.

00:43:15: Ein kleiner Agent den ich mit mir rumtrage wie so eine Atamagocci Ja, also im Grunde das was wir von OpenAI ja auch eigentlich erwarten oder erwartet haben schon dieses Jahr was wahrscheinlich nächstes Jahr kommen soll.

00:43:31: Ein kleines Gadget was ich mit mir rum trage ein Assistent der permanent herumläuft ist und hat ein kleines Display hatte eine schöne putzige Animation und Apple und Metas News ist nicht nur recht umtriebig sondern hat auch einfach mal die Heimat oder die Heimadresse, wie sagt man denn?

00:43:54: Die eigene Adresse des mancher Anwender in bestimmten Kontexten sehr bereitwillig halt verteilt.

00:44:00: Ja also das Thema Privatsphäre hat dieser kleine Tamagotchi Agent nicht so richtig gut wahrgenommen oder geschützt und das hatten wir ja auch schonmal.

00:44:09: erinnerst du dich Du hast ja die Meta Ray-Ban oder hattest sie ja zumindestens.

00:44:13: Auch da war es ja so dass ja die Videos die aufgezeichnet wurden irgendwie ... in dem Fall ja sogar von echten Menschen ausgewertet wurden.

00:44:21: Und das... ...in dieser Kombination, also wenn ich mir überlege wie wir mit Datenschutz umgehen,... ...wie wir mit sensiblen Daten umgehen, wie wir überhaupt mit Trainingsdaten umgehen da muss ich sagen,... ...da habe ich nicht Angst, dass macht mich eher wütend.

00:44:35: tatsächlich weil letzter Satz dazu bei uns in der Branche,... ...der wird zu Recht auf wirklich jedes kleinste Detail geschaut.

00:44:44: Wir können nicht mal eben Umsatze, Umsatzdaten unserer Kunden auswerten.

00:44:49: Ja, für Trainingszwecke.

00:44:50: Das kann so hart abpacken!

00:44:52: Schon?

00:44:53: Also ich natürlich... Ja also ich rede mich hier in Rage weil ich das zu furchtbar finde.

00:45:02: Ja aber deine Doomsday Sachen sind viel zu shallow.

00:45:06: Zu dem was du eben noch gerade gesagt hast habe ich noch etwas total geiles.

00:45:10: Weil du hast darüber gesprochen über Robotik und vielleicht irgendwie Warfare und alles wird schlimm.

00:45:16: Was heißt denn Shallow?

00:45:17: Die sind, das sind noch gute Themen.

00:45:18: Du

00:45:18: passst mal auf was ich habe.

00:45:19: Kennst du also den wunderschönen US-Verteidigungsminister und ich glaube der nennt sich mittlerweile Kriegsminister Pete

00:45:24: Hexer.

00:45:25: Der hat mit einem Drohnenunternehmen Palma Lucky.

00:45:28: Den kennt man auch, er baut so die Hardcore Drohne für, also er nennt es Dual Use aber das ist totaler Bullshit weil das sind eigentlich nur militärische Drohner und die haben ein neues Forschungsprojekt.

00:45:39: Und der Herr Pete Hexeth hat sich jetzt überlegt, wer kann das ein bisschen beschleunigen damit wir hier mal wieder vor China die Nase vornhaben?

00:45:46: Und auf wen sind sie gekommen?

00:45:48: Auf Elon Musk!

00:45:49: Das bedeutet Sie haben ein neues Forschungs-Projekt gegründet und Sie nennen das die Zukunft der Kriegsführung Future of Warfare... ...und im Mittelpunkt davon stehen natürlich ausschließlich autonome Waffensysteme Robotik gepaart mit künstlicher Intelligenz.

00:46:04: Und weil der Herr Hexith Nicht so wahnsinnig viel Zeit hat und Regulatorik nichts zu wahnsinnige relevant ist, hat er sich überlegt.

00:46:12: Wie lange kann sowas dauern eigentlich Entwicklungszügel in ja viele Jahre oder Jahrzehnte?

00:46:17: Na komm!

00:46:18: Drei Monate sind doch eigentlich, so ein Quartal ist auch super.

00:46:20: Das heißt er hat jetzt gesagt, hundertzwanzig Tage gibt der den Projekt und dem Elon Musk um Ergebnisse vorzulegen Und er möchte richtige Ergebnisse haben.

00:46:28: Er sagt, er möchte einen militärisches vier Sterne Kommando wo der Elon Musk jetzt drei Monate das Ganze führt Um autonome und robotergestützte Fähigkeiten wirklich in die Kriegsführung Einzubauen.

00:46:41: und wir müssen jetzt gar nicht über diesen konflikt sprechen den enthropic ja mit dem pentagon von erweiler hatte wo es um die nutzung von vollständigen autonomen waffen gegenüber internen bürgern.

00:46:50: Und der massenüberwachung geht.

00:46:51: darüber haben, wir beide hier schon ganz ganz viel im sommer gesprochen aber Jetzt holt er quasi mit mask und parmelaki zwei unternehmer ins bot die für den ich würde sagen Offensivsten technologie einsatz in der geschichte des militär stehen.

00:47:06: dies gibt und dadurch wird k i zur wirklich mal mindestens geopolitischen Infrastruktur, wahrscheinlich aber zu deutlich mehr.

00:47:16: Und was wir hier wirklich sehen ist die machen kein Heel mehr daraus dass die Grenze zwischen Zivide und militärischer Technologie nicht mehr nur verschwimmt sondern es geht um militärische Technologie.

00:47:26: Die kannst du wahrscheinlich theoretisch auch zivil einsetzen geht es nicht.

00:47:30: Es geht um die Grundlagen, mit denen die Prozesse automatisiert Roboter in Kriegsgebieten gesteuert werden können im militärischen System eingesetzt werden.

00:47:40: Natürlich ist am Ende die entscheidende Frage nicht sein wird wie leistungsfähig das Modell ist sondern wofür's benutzt wird.

00:47:47: an der Stelle und du hast hier mal wieder eine Ambition die wahrscheinlich aus dem weißen Haus kommt ... wo es null um Governance und Regulatorik gibt, sondern es geht darum schneller zu sein.

00:48:01: Ja auch am Ende natürlich immer im Geld aber einfach schneller zu seien als ein vermeintlicher Feind.

00:48:05: wahrscheinlich auch ganz viel Clickbait-und mediale Berichterstattung dass der Präsident sich jetzt natürlich in den Griff kriegt KI auch im mediterischen Kontext so zu benutzen das an anderen Ländern hier voraus ist.

00:48:16: Aber wenn du halt irgendwie dich fragst was wir vorhin hatten ja bei Microsoft Word wär's doof Bei der Bank mit einer falschen Kreditentscheidung wäre es richtig doof.

00:48:24: Aber wir reden hier halt darüber, dass quasi autonome Roboter im fünf bis sechsstelliger Anzahl nicht irgendwie in zwanzig Jahren auf die Battlefields kommen würden.

00:48:35: Sondern nächstes Jahr!

00:48:39: Da sind es vielleicht die letzten Minuten.

00:48:41: A.I.

00:48:41: in Finance?

00:48:42: Oh, stimmt, da war das was.

00:48:44: Du hast nämlich etwas Interessantes mitgebracht und ich habe sie nicht gelesen.

00:48:47: Die Nachricht, nämlich die Geschichte a der FC... Ich wollte schon sagen, FZL.

00:48:53: Wo bin ich?

00:48:54: Also der FZB.

00:48:55: und eine weitere Nachricht geht auch ein bisschen nur durch Domestay aber es ist immer in einer Bank getroffen.

00:49:03: Ja genau fangen wir mal den EZB an.

00:49:05: also ich glaube nach dieser ganzen Sicherheitsdebatte auch um Frontiermodelle ist jetzt noch so ein bisschen die EZ B aufgewacht und es gibt ja auch noch immer diese zweite KI Risikodimensionen die einfach weniger futuristisch ist aber für die Grundsatzdiskussion ja immer noch wichtig.

00:49:21: In unserer allerersten Podcastfolge hatten wir noch diese Doomsday-Kategorie, mittlerweile ist alles doomsday.

00:49:26: Und darüber haben wir da gesprochen.

00:49:28: was wären denn eigentlich die Implikationen auf Kapitalmärkte?

00:49:32: Wenn Agenten da also damals noch AI da eingerauft?

00:49:34: und es gibt jetzt so eine neue Expertengruppe der Europäischen Zentralbank EZB.

00:49:39: Die waren davor dass die aktuelle KI Rally an den Börsen mit aus ihrer Sicht hohen Wahrscheinlichkeit irgendwann demnächst In eine brutale Korrektur läuft und das bemerkenswerte daran ist.

00:49:50: die Forscher sagen ausdrücklich.

00:49:51: Das ist nicht diese klassische Blase, die jetzt mal in der einen Börsenzeitung hoch-und runter diskutiert wird und am nächsten Tag geht es doch wieder alles hoch.

00:49:59: aber sie argumentieren dass selbst wenn die heutige Bewertung von NWD an Microsoft Alphabet Meta & Co rational wären kann also wenn das Kurs Gewinnverhältnis jetzt einmal so ganz trivial betrachtet gesund ist Was es bei manchen ist, zum Beispiel Meta und Microsoft, NVIDIA ganz sicher nicht.

00:50:18: Aber selbst dann kann ein Kursrutsch folgen!

00:50:21: Und dann fragen sie warum ist das so?

00:50:23: Und Sie argumentieren weil neue Technologien am Anfang quasi immer extreme Unsicherheiten haben... ...und diese auch so bewertet werden.

00:50:29: aber wenn diese Technologie dann in größere Teile der Wirtschaft oder des Wirtschaftssystem eingreift steigt auch einfach dass Gesamtrisiko im Gesamtsystem.

00:50:39: Also Investoren sagen, sie verlangen irgendwann eine höhere Risikopremie und dann können quasi Aktienkurse selbst dann fallen wenn die Gewinne weiter steigen.

00:50:47: Und die EZB hat ein paar historische Vergleiche mal aufgemacht, irgendwie Eisenbahnrevolution in den neunzehnten Jahrhundert, Elektrizität unter Radio in den, ich glaube, frühen zwanziger Jahren und natürlich worüber wir hier auch ab und zu sprechen, die Dotcom Blase.

00:51:01: Das Muster ist immer ähnlich das heißt du hast eine Technologie die erfunden wird.

00:51:05: Irgendwann wird sie transformativ, geht in die gesamte Gesellschaft und Wirtschaft ein.

00:51:10: Es fließt extrem viel Kapital hinein Die Bewertungen steigen Und dann kommt es immer zu einer Korrektur.

00:51:16: So und jetzt kann man natürlich sagen KI ist ja irgendwie nicht so real.

00:51:21: aber KI ist real nur KI.

00:51:22: Aktien sind noch sehr sehr volatil und fiktiv wenn man sich gar nicht so weit nach hinten schaut gar nicht diese große industrielle Revolution ... das war ja keine falsche Idee, aber die Bewertungen waren komplett überzogen.

00:51:46: Danach kamen die Dotcom-Blase und für Europa ging es zumindest kurzfristig, mittelfristig stark bergab.

00:51:54: Das heißt... Es kann einfach heißen dass Nvidia, Microsoft, Alphabet & Co ganz stark korrigieren müssen.

00:52:02: Und wenn das passiert, ist das kein Silicon Valley-Problem mehr.

00:52:05: Denn was passiert?

00:52:06: Es landet dann in allen europäischen Depots altersvorsorgeprodukten institutionellen Portfolios weil natürlich europäische Haushalte nicht nur die guten alten DAX Aktien gekauft haben, die Volksaktien sondern eben auch Fonds ETFs und ich glaube alleine europäischer Bürger haben ETF im Wert von fünfhundert Milliarden Euro nur an den Magnificent Seven.

00:52:29: also Nvidia Microsoft Alphabet & Co Bedeutet und ich mache es jetzt kurz, dass dadurch diese Forschungsgruppe gerade extrem warnd in Brüssel das wir da durch ein riesiges Problem in der Finanzstabilität auch im Euroraum kriegen können was zehnmal so groß wie Dotcom Blase.

00:52:46: Und jetzt tatsächlich die Notenbanken und Staaten aufrufen indem deutlich weniger Spielraum gehen können um so einen Crash quasi mit fiskalischem Programm aufzufangen hast relativ wenig Spielraum bei sowas natürlich.

00:52:58: aber was würde es bedeuten wenn so'n KI Kuss Rutsch kommt, dann wird es auf der einen Seite natürlich im Depot dunkel.

00:53:05: Gleichzeitig kann das aber auch wirtschaftlich sehr unangenehm werden wenn es quasi diesen in diesem Longtail Effekt auch auf die gesamten anderen Wirtschaftsthemen hätte.

00:53:15: Also ist ein sehr interessantes Artikel.

00:53:18: Ich glaube tatsächlich anders als bei anderen Themen, das ist nur mein leihenhaftes und ich bin wirklich nicht tief drin in solchen Themen.

00:53:24: Aber leihenhaftes Verständnis ist der die Auswirkung oder den letzten Satz, den du gesagt hast nämlich auf andere Branchen und auf andere Wirtschaftszweige ungleich höher als es in der Vergangenheit beispielsweise mit der Immobilienblase, die irgendwann geplatzt ist.

00:53:39: also da war ja sehr Wie sagt man denn?

00:53:42: Sehr gekapselt.

00:53:44: Hier ist es so, die Auswirkungen wären ja auf die komplette Gesellschaft, auf alles irgendwie.

00:53:50: Also wenn die KI-Blase platzt dann haben wir glaube ich nicht nur ein Problem in unserem Portfolio sondern wir haben einen Problem in allen möglichen Bereichen.

00:54:00: Ja, das stimmt so.

00:54:01: Das ist so.

00:54:02: Genau.

00:54:02: und meine zweite Nachricht... Es knüpft ein bisschen daran an was wir vor allem jammal hatten wo wir bei einer anderen großen ich glaube thailändischen oder chinesischem Banken CEO-Fraud hatten.

00:54:13: Aber

00:54:13: es

00:54:14: gab jetzt quasi wieder nur noch Geiter also bei der italienischen Bank passiert und Betrüger haben mit möglichst einfasten Mitteln fünfundneunzig Millionen Euro erbeutet Also Euro ja.

00:54:26: Und dieses mal ging's Mit WhatsApp los, also es gab schon Täter und die gaben sich hier als CEO des Mutterkonzerns aus.

00:54:32: Und präsentierten so ein paar Analysten dieser Bank erhebliche Investmentchancen.

00:54:37: Dann kam so ein entscheidender Schritt einen Anruf mit einer komplett durch wahrscheinlich elevenlabs synthetisierten Kahi-Stimme eines bekannten Konzernenanwalts den sie halt vorher synthetisiert konnten über eine YouTube Video weil der mal auf ner Bühne war oder irgendeinem Podcast.

00:54:56: Und genau das machte quasi für diese Analysten die Geschichte so glaubwürdig, weil sie ein Livegespräch hatten mit einer KI-generierten Stimme von diesen Menschen.

00:55:04: Er hatte zwar kein Video aber er klang halt so... Und dann sagte der Manager ja gut, da muss ich das halt irgendwie jetzt machen.

00:55:10: Und dann überwies er einfach mal stumm, ninety-fünf Millionen Euro auf eine chinesische Bank und erst danach ging irgendwie ein Alarm bei deren Compliance Leuten los.

00:55:18: Dann wollten sie versuchendes Geld einzufrieren was natürlich nicht gingen weil es irgendwie auch über internationale Transfer sofort weg war.

00:55:24: Es war sofort in irgendwelche Kryptowährung weg und also wir haben Cofraught gibt's seit Jahren, Social Engineering gibts seit Jahren gefälschte E-Mail.

00:55:32: aber diese Qualität der Täuschungen ... ist halt neu, ne?

00:55:37: Weil früher konnte ich sagen... Ich rufe kurz zurück oder ich kenne die Stimme nicht in mir gerade.

00:55:43: Oder die Mail klingt irgendwie komisch.

00:55:44: Das gibt so Authentizitätsmarker,... ...die wir im Social Engineering haben.

00:55:47: Der Rückenfeld

00:55:48: würde schon helfen!

00:55:49: Ich rupe einfach die Nummer aus dem Telefonboot.

00:55:51: Das

00:55:52: ist weg.

00:55:53: Stimme ist kein Beweis mehr, Videos kein beweis mehr.

00:55:55: eine perfekt formulierte Nachricht ist auch kein Beweiß mehr.

00:55:58: und also das heißt du hast keine echte Fraud Prevention mehr weil du vollkommen andere Verhaltsmuster und Empfängerthemen hast.

00:56:06: ich find's krass.

00:56:08: Next Level Enkeltrick.

00:56:10: also ja das ist es Ja, total.

00:56:13: Es gibt noch was Gutes wenn wir über Banken sprechen und nämlich Claude Mitrus hat nämlich ganz viele Sicherheitslücken gefunden.

00:56:20: das wissen wir dass ja dieses Modell insbesondere sehr gut dabei ist um Sicherheits Lücken zu finden.

00:56:26: zwei Meldungen dazu.

00:56:28: die eine Meldung finde ich übrigens maximal bemerkenswert geht nämlich in Richtung Apple.

00:56:37: Vergangenheit immer ein großes Problem in den letzten Jahren weniger, aber in der Vergangenkeit immer ein riesengroßes Problem gehabt mit dem Thema Jailbreak.

00:56:46: Wir wissen ist das iPhone ja closed loop sozusagen.

00:56:49: also das heißt ich kann nur das installieren was auch Apple zulässt und das gefällt natürlich nicht jedem Anwender weil durchaus dass sehr restriktiv sein kann.

00:56:59: Also man kann bestimmte Apps nicht nutzen.

00:57:01: Man kann bestimmten Spiele nicht so nutzen, man kann halt auch das System nicht so anpassen wie man das vielleicht gerne möchte oder wie es manche Anwenderinnen und Anwänder möchten.

00:57:08: Und dann hat sich in den Anfängen des iPhones eine Jailbreak-Zene entwickelt und es war immer ein bisschen Katzen im Ausspiel.

00:57:16: Und man muss sagen bis zur iOS so dreizehn vierzehn war es so dass es eigentlich immer relativ schnell einen Jail Break gab.

00:57:25: Das ist aber dann, weil Apple natürlich sehr viel in diesem Bereich getan hat.

00:57:31: Unter anderem natürlich auch die Chips immer sicherer wurden war es so dass es eigentlich in den letzten Jahren kaum noch J-Racks gab und vor allen Dingen nicht für die neuen Modelle.

00:57:41: Es gab also immer wieder Sicherheitslücken, die aber dann für ältere Modelle iPhone XVI, iPhone XIV, aber nicht für.

00:57:47: Und letzte Woche wurde auf, ich glaube es ist in Italien, in Paris eine große Hackerkonferenz Hexagon.

00:57:56: Das ist sowas wie die CCC.

00:57:58: in Deutschland hat man einen Live-Jailbreak gezeigt für das aktuelle iPhone, das iPhone Achtzehn Pro und fürs aktuelle iOS siebenundzwanzig Und das ist schon sehr bemerkenswert.

00:58:12: Es ist kein veröffentlicher Jailbreak, also er isst noch nicht öffentlich, es ist nur eine Frage der Zeit und es ist ein sogenannte Un-Tethered Jail Break.

00:58:18: Das heißt er ist dauerhaft.

00:58:19: Das heisst nach einem Reboot ist er immer noch da.

00:58:22: Wie ist das zustande gekommen?

00:58:24: Naja man hat halt KI genutzt um halt Sicherheitslücken zu finden.

00:58:28: Ja hätte Apple mal selber KI genutscht um die eigene Sicherheitslücken zu finden.

00:58:32: Das wiederum hat man aber bei Der Bank of America gemacht.

00:58:36: und jetzt kommen wir zur positiven Meldung.

00:58:38: Die wiederum hat Mythos genutzt, die Tausendexzene Mitarbeiter engagiert um sich als Lücken zu schließen.

00:58:54: Also um eine große Anzahl von Security Lacks, die man gefunden hat.

00:58:57: Und die waren so groß dass man wie gesagt einmal die dreitausend internen Mitarbeiter darauf angesetzt hat diese Lücken zu fixen plus noch mal tausende.

00:59:07: ich weiß nicht wie man viertausend Mitarbeiter orchestriert um irgendwelche Sicherheitslücken zu fixing aber Die Schlagzeile war die Sicherheitslücken die man gefunden hat haben eine große Reparaturaktion aufs Gülis.

00:59:23: Also ich nehme mal an, da gingen so ein paar Sachen schief und der erste Gedanke war dann wie ist das denn also so ein Kernmangesystem bei der Bank of America?

00:59:32: Das kann ja so schlecht auch nicht sein im Vergleich zu den europäischen.

00:59:36: Ich glaube jetzt nicht dass die auf DOS laufen.

00:59:39: Keine Ahnung vielleicht aber... Könnt ihr mir vorstellen, dass die ein oder andere IT-Dienstleister vielleicht jetzt auch überlegt mal intern auf die Sicherheitssuche zu gehen?

00:59:49: Vielleicht ist das ja unser... Wir

00:59:50: können es gar nicht nutzen.

00:59:52: Das große Mythosmodell in...das ist doch immer noch closed, oder?

00:59:55: Ist immer noch close, ja und wird auch noch... Also es gibt wohl zwei Banken in Deutschland, die das im Einsatz haben.

01:00:03: Ich kenne die Namen nicht ich weiß nur, dass es so ist.

01:00:05: Okay

01:00:06: Aber vielleicht haben wir ja einen Wettbewerbsvorteil gegenüber den Amerikanern mit ihren achso modernen Shiki-Migikorbanking-System, weißt du?

01:00:14: Weil wir noch schön auf Kobold programmieren.

01:00:16: Da traut sich die A einig ran!

01:00:19: Und zwar die Trauze.

01:00:20: ist es nicht dran weil das einfach würdelos ist.

01:00:22: Ist ehrenlos.

01:00:24: Stimmt so Kindergarten.

01:00:26: Ich wollte nochmal was zum Thema Anthropic und Börsengang erzählen.

01:00:29: Weil darüber sprechen wir auch immer.

01:00:32: Der SEC Filing ist geliegt der soll demnächst kommen.

01:00:36: Und jetzt haben sie neue Zahlen nach dem SCC-Finding über das letzte Quartal gemacht und ist brutal.

01:00:46: Über fünfzig Prozent Wachstum, aber die Investoren werden trotzdem nervös und ich finde es eine sehr verrückte Geschichte weil Sie planen ja quasi für alle, die uns öfter hören, ihr wisst das.

01:00:56: Sie plan den größten Börsengang aller Zeiten.

01:00:59: Plan ist eigentlich so Mitte November Und die Zahlen sind superspektakulär, also nur noch mal so ein paar.

01:01:05: Die haben jetzt siebzehn Milliarden Dollar Umsatz im dritten Quartal gemacht.

01:01:10: davor im Quartall waren es noch elf Milliarden das heißt fünfzig Prozent Wachstum in nur drei Monaten in dieser extremen Situation auf Wettbewerbssituationen vor allem mit OpenEI die auch wieder stärker werden.

01:01:21: Damit kommt das Unternehmen gerade, ich glaube in die Mai-Bewertung liegt bei neunhundertfünfundsechzig Milliarden Dollar.

01:01:27: Das ist so dieser interne.

01:01:28: Es gibt natürlich noch über Secondary-Plattformen Bewertungen, die eher von anderthalb bis sogar zwei bis zweieinhalb Billionen, also Englisch Trillion sorgen.

01:01:40: Aber Reuters argumentiert, sie gehen von maximal ein zu fünf Billionen aus.

01:01:45: Und das ist schon spannend weil die Analysten dann jetzt halt wie so fünfhundert Milliarden eigentlich weniger.

01:01:50: ich meine fairerweise fünfhundert Milliarden wenn man es mal einordert.

01:01:53: Es entspricht ungefähr dem Börsenwert der zehn größten europäischen Unternehmen zusammen und das ist so der Abschlag den Enthropik jetzt hinnehmen soll obwohl Sie eigentlich die geilsten krassesten Wachstumszahlen liefern, von denen kein anderes Unternehmen weltweit auch nur träumen kann.

01:02:11: Und da muss man schon so ein bisschen gucken was passiert da gerade?

01:02:13: und dann gibt es einen Bloomberg Artikel der beschreibt so ein bissel als potenziellen Wendepunkt in die AI-Economie weil bisher ja der Narrativ war wer das beste Frontiermodell immer wieder baut?

01:02:23: Der gewinnt einfach immer neue Kunden!

01:02:24: Wer Kundengewinnt bekommt Milliarden Investoren und mit diesen Milliarden kaufest du dir dann die Rechenleistung um die nächsten neuen Modelle zu bauen.

01:02:31: Das ist dann dieses Circle Industry also der gigantischste Kreislauf seit Menschen gedenken.

01:02:37: Der Kapitalmarkt sagt aber jetzt, na ja Moment mal.

01:02:39: also dieses Wachstum ist ja null nachhaltig.

01:02:41: das heißt selbst wenn ihr euren Umsatz mehr als verdoppelt dann schafft es doch trotzdem nicht technologisch immer wieder die nächsten Rechenzeiten drin halt irgendwie zu bestücken erst einmal quasi zu kaufen und dann zu gestücken Und diese hohe Nachfrage nicht andersweise zu bedienen.

01:02:59: gleichzeitig sagt der Kapitalmarkt Die Profitabilität dahinter Funktioniert nicht.

01:03:05: Enthropic wiederum sagt, wir sind cash flow positiv zwei Quartale hintereinander.

01:03:09: das ist aber cash flow positive für unsere finanzer hier dass es quasi auf einer bereinigten Basis das heißt die haben zwar eine operative Marge ich glaube die lag bei zehn oder elf Prozent Das ist bewerbungswert für ein lab muss man auch sagen.

01:03:23: Aber also wirklich Wirkliche Profitabilität ist das nicht sondern das hat so ein bisschen aufgehübscht vor dem Börsengang und davon geht man halt irgendwie aus.

01:03:32: Auch hier kommt es wieder die Frage in diesem extrem kapitalintensiven Geschäft.

01:03:37: Sehen wir die Blase, sehen wie sie nicht und wann wird sie eintreten?

01:03:40: vor dem Börsengang oder erst nach dem Bösengang?

01:03:44: Aber man muss schon sagen... ...die Analysten und die großen Investoren, die sich da auch schon eingekauft haben über den unterschiedlichsten Vehikel der letzten Monate waren bis Juni-Juli deutlich bolischer als ist jetzt sind weil alle gesagt haben okay wenn ist Enthropic Wirklichschaft nochmal eine hohe zweistellige Wachstumszahl, Quartal-over-Quartal hinzulegen.

01:04:06: Was Sie jetzt getan haben?

01:04:07: Dann werden sie mindestens zwei Billionen schaffen mittlerweile gegen niemand mehr von der Zwei vorne aus sondern alles nur noch einsa.

01:04:13: Also auch das wäre extrem muss halt irgendwie sagen, einzeigendmal fünf Millionen Euro.

01:04:17: Börsengang hat es so auch nicht gegeben.

01:04:20: Ich wollte gerade sagen...

01:04:21: Trotzdem ist das naja für Für die ist das schon krass, weil auch die nehmen natürlich nicht alle Aktien halt irgendwie gleichzeitig raus sondern nur halt einen kleinen Teil.

01:04:30: Aber sie müssen ja wirklich durch diesen Börsengang sehr schnell sehr viel Liquidität erreichen um für den nächsten Frontiermodelle die entsprechende Rechenkapazität und Chips dann auch einkaufen zu können Weil Sie sich ja nicht selbst produzieren wie die anderen Wettbewerber.

01:04:43: Und dafür müssen sie glaube ich schon mal drei vier fünfhundert Milliarden an Fresh Money halt kriegen.

01:04:50: Sonst hat sich der Börsengang nicht so richtig gelohnt.

01:04:52: Aber wir schauen uns das auf jeden Fall an.

01:04:55: Sobald das SEC-Finding auch öffentlich wird und nicht nur diese geliebten Themen, die jetzt immer auf der Financial Times sind, geben wir da mal rein und machen vielleicht hier nochmal so ein bisschen einen Deep Dive.

01:05:05: Weil ich glaube also der Börsengang von XAI war ja schon oder SpaceX, Space SI heißt es ja mittlerweile.

01:05:13: War ja schon sehr spannend im Juni.

01:05:15: Super interessant!

01:05:17: Ich glaube der von Anthropic wird noch einmal größer und auch umspannender.

01:05:22: Bin ich sicher.

01:05:24: Guck ein bisschen auf die Uhr, weil du hast einen harten Anschlag auch.

01:05:27: Stimmt?

01:05:27: Hast du noch was?

01:05:29: Nö also ja, zwanzig Sachen aber wie immer die lösche ich einfach.

01:05:33: Aber löschen oder beim nächsten Mal!

01:05:36: Ja ihr Lieben, Hörerinnen und Hörers.

01:05:37: Schön dass ihr – ich sehe auf die Uhr eine Stunde und fünf.

01:05:40: wenn man alle Elms in Mums ausschneidet sind wir vielleicht bei einer Stunde und vier weil wir ganz wenig Mums haben.

01:05:48: Schön das ihr dabei geblieben seid bis hierhin.

01:05:50: Wir freuen uns über Kritik wie bei den letzten Folgen auch.

01:05:53: Wenn ihr Anregungen habt worüber wir mal sprechen sollten lasst es uns gerne wissen und ansonsten bleibt uns euch einen guten Start in die Woche zu wünschen und uns beiden ein schönes Wochenende!

01:06:06: Wunderbar,

01:06:07: machts gut bis bald.

01:06:09: Tschüss!