#64 Ai in Finance: KI als Immunsystem, Europas blinder Fleck und der Sprint Richtung Superintelligenz

00:00:02: A.I.

00:00:03: in Finance, dein Podcast

00:00:05: über künstliche

00:00:05: Intelligenz im Payment Banking und Fintech mit Sascha Deewaldt

00:00:10: und

00:00:10: Mike Klotz.

00:00:11: Wir sprechen darüber wie Technologie die Finanzwerte revolutioniert – News Insights und Real Talk Kompakt Einladend und motivierend.

00:00:22: Hallo und herzlich willkommen zur Ausgabe Nr.

00:00:29: von AIN Finance, dem Permanent and Banking Podcast.

00:00:37: Wir hatten eine etwas größere Pause, lieber Sascha.

00:00:39: Zunächst einmal ein höfliches Hallo!

00:00:42: Es ist warm und es sieht auch bei dir sehr warm aus.

00:00:45: Wo bist du gerade?

00:00:46: Wie geht's dir?

00:00:47: Es ist Sonntagfrüh, ich bin zu Hause Und bei dir höre ich einen kleinen Ventilator laufen, meiner läuft nicht.

00:00:55: Mal sehen wie lang wir durchhalten werden.

00:00:57: heute die Sommerhitze edition.

00:00:59: Das wird glaube ich eher ein kürzerer Podcast heute sowohl beim Aufnehmen als auch beim Hören.

00:01:03: dann für euch.

00:01:03: Gut vielen Dank fürs Zuhören!

00:01:06: Los, wir quälen uns da jetzt durch.

00:01:08: Wir kümmern uns nicht zu Jammern.

00:01:13: Aber es war eine krasse Woche auch tatsächlich und wir hatten ein bisschen Glück.

00:01:17: die Hörenhörer wissen's wahrscheinlich.

00:01:19: Leserin und Leser von Penguin Banking.

00:01:21: auf jeden Fall weil wir keine Situation ausgelassen haben um auf die KI Exchange hinzuweisen.

00:01:26: ja letzte Woche am Dienstag in Hamburg stattfand.

00:01:32: Das war ein rundes Ding.

00:01:33: Eintag KI, eintag Hamburg und wir hatten nämlich Glück mit dem Wetter.

00:01:37: es war gar nicht so heiß Es waren nur um die sechzig Grad.

00:01:41: Ich kann da gar nicht wahnsinnig viel zu der Diskussion beitragen Denn kurzfristig musste ich absagen.

00:01:46: Du bist glaube ich sogar genau für meinen auch Paddel Moderation Die eigentlich mal mit mir geplant war Auch schon langfristig eingesprungen.

00:01:52: Vielen Dank dafür lieber Mike.

00:01:54: Alles was sich auf LinkedIn gesehen habe sah nach einer wirklich gelungenen Auftaktveranstaltung Für die Cax aus.

00:02:01: Echt viele gute Promotoren.

00:02:03: Mein sehr geschätzter Kollege Carsten Traum von der DKB war auch da und hat glaube ich ein bisschen was bei euch auf der Bühne zum Besten gegeben, mit dem habe ich auch kurz gesprochen und das klang alles sehr positiv.

00:02:13: Ich kann sagen Schapo für die nächste große Edition, die ihr plant.

00:02:18: Was gibt es?

00:02:19: Packs, Backs, Trends.

00:02:21: X gab's mal, CryptX gab's auch mal und jetzt eben Cakes.

00:02:24: aber macht ihr weiter oder?

00:02:27: Das Thema ist ja nicht wieder weg!

00:02:28: Nein, wir machen alles mit X. Irgendwann kommt hier die Backer-SpaceX zwischen alles Space X und alles.

00:02:34: Ne, aber mit Spaß beiseite!

00:02:35: Du hast es gesagt, das war Debüt auftakt für einen Auftakt auch für uns.

00:02:42: ja ein neues Terrain.

00:02:42: also wir kommen aus dem Permanent Banking.

00:02:45: Klar, wir beschäftigen uns gerade insbesondere wir zwei mit dem Thema KI Die Kolleginnen und Kollegen vom Permanents Banking Team auch Aber es war trotzdem neu insbesondere auch natürlich neue Menschen zu erreichen zwar über.

00:02:57: Ich glaube, wir hatten eine super niedrige No-Show Quote.

00:03:02: Was ungewöhnlich ist weil die Sponsoren natürlich auch immer kontingent an kostenlosen Tickets verteilen und wenn du was kostenlos bekommst dann sagt man natürlich auch mal schneller ab so wie du.

00:03:17: Die Agenda war voll manchmal vielleicht sogar auf der großen Bühne ein Tick zu voll sicherlich in Learning was wir mitgenommen haben.

00:03:23: Wir hatten etwas Neues eingeführt.

00:03:25: das waren die Labs Und das war wirklich cool, ich weiß nicht, ob du davon gehört hast.

00:03:29: Das waren diese kleineren Sessions und das waren so diese Deep Dives aus dem Maschinenraum die super gut besucht waren.

00:03:36: Die gingen auch den ganzen Tag über.

00:03:37: Die waren immer ausgebucht sozusagen.

00:03:41: und ja kurzum es war ein knackiges event.

00:03:47: Es war ein schönes Event.

00:03:49: Im Moderation hatte ich was gesagt.

00:03:51: Organisation natürlich, Nicole.

00:03:54: Und die Team hat es wie immer hervorragend organisiert und genug der Lobhudelei.

00:04:00: Es wird ein zweites Event geben im nächsten Jahr wahrscheinlich wieder Hamburg, schöne Stadt, schöne Location, hat Spaß gemacht und dann hoffentlich mit dir.

00:04:09: Hätte ich auf jeden Fall Lust drauf!

00:04:10: Also das ist doch... Hat große Wellen geschlagen, ne?

00:04:14: Von von andre bio rad über elisabeth lorange.

00:04:17: mit der habe ich kurz zurück gesprochen.

00:04:19: die konnte auch nicht die war auf einem anderen event irgendwo in berlin aber wir haben ja vor wann mal das vor drei wochen mit pipp philipp klöckner aufgenommen.

00:04:26: er hat es ja auch dankenswerterweise sogar noch in sein newsletter mit mit aufgenommen sowohl unseren gemeinsamen podcast als auch die kecks.

00:04:34: und mit dem hab ich auch letzte Woche einmal kurz zu einem ganz anderen thema gesprochen und der fragte mich dann aus so wie Es läuft, ich weiß es ehrlicherweise gar nicht.

00:04:41: Aber der hatte das ja auch auf dem Radar wahrscheinlich auch weil er dann ins Relevant Set gefallen ist von eurer Hardcore-Marketing-Aktion die ihr da gefahren habt.

00:04:49: Er wollte sogar eine Frage haben wenn ich sprechen möchte aber er konnte leider nicht.

00:04:52: Ja der war auch auf einer anderen Veranstaltung.

00:04:54: Der ist ja mega viel unterwegs.

00:04:55: Ich glaube wenn du den irgendwo als Speaker haben willst musst du dich ein Jahr vorher anstellen.

00:05:00: Das ist ja völlig absurd mittlerweile.

00:05:02: Der war auf der gleichen Konferenz wie Lisa Bitt aber tatsächlich... ...es hat Wellen geschlagen und es ist doch toll für ne erste Edition.

00:05:07: Glückwunsch!

00:05:09: Zu spät, wir hatten ja Ersatz für dich gesucht und das Equivalent war halt Philipp.

00:05:16: Das geht runter ne?

00:05:19: Wir deuten nicht besser!

00:05:20: Ja aber wo du sagst unterwegs?

00:05:22: also wir waren unterwegs in Hamburg.

00:05:24: Du warst ja unterwegs im Hamburg der USA In Silicon Valley San Francisco.

00:05:33: Kommis ist immerhin an der Küste Wobei im USA ist glaube ich viel an der Küste Fällt mir gerade ein

00:05:38: Ja, auch allerdings auf viel dunkel USA.

00:05:41: Nee ich war ein paar Tage ehrlicherweise ganz schön lange dann doch in San Francisco und prall gefüllt.

00:05:49: tatsächlich insgesamt gab es eine halbe Stunde privates wo ich versucht habe so ein paar Sachen für die family zu kaufen.

00:05:55: aber am ende war das einen wahnsinnig inspirierende trip und ich kann dass nur auch jedem und jeder raten wenn das irgendwie möglich ist das ab und zu mal alle paar jahre tatsächlich zu machen.

00:06:05: natürlich ist es so ne kleine Ja, dann auch selektive Wahrnehmung dort und auch so eine Tech-Blase.

00:06:11: Aber einfach nur darüber zu hören und zu lesen in allen möglichen Artikeln und LinkedIn ist dann wirklich noch mal was ganz anderes.

00:06:18: Wenn man es dann live sieht... Wir hatten ganz viele Termine mit Partnern wie Visa, Addian, Coinbase natürlich auch sehr große und ausgedehnte Workshops mit unserem Entwicklungspartner OpenAI Zu neuen Modellen aber auch zu so ein paar gemeinsamen Themen, die wir angehen wollen.

00:06:35: Wir waren auch bei Enthropic wo ich auch sage das war gar nicht so leicht an diesen Termin zu kommen und trotzdem haben sie sich die Zeit genommen und sehr intensiv mit uns dazu gesprochen.

00:06:43: kann Ich jetzt natürlich hier nicht alles disclosen Aber ich kann sagen da passiert eine ganze Menge.

00:06:48: vor allem sind beide großen Laps sehr aware was im Bereich Financial Services passiert Was in Europa passiert welche Auswirkungen auch die Souveränitätsbestrebung von Europa haben, sind sehr daran interessiert natürlich da auch feste Partnerschaften mit relevantem Banken-Paymentunternehmen grundsätzlich.

00:07:06: Auch in Europa vor allem aber auch in Deutschland zu führen und einzutüten und da auch gemeinsam an Use Cases zu arbeiten.

00:07:13: Und so generell ist das was ich einigangs gesagt habe und worüber wir ja schon geplaudert haben also wirklich spannend!

00:07:19: Das Thema Robotik ist im Silicon Valley einfach schon überall.

00:07:23: Ich bin am ersten Tag angekommen.

00:07:24: Nach einem langen Flug wollte ich mir erst mal ein Kaffee machen lassen, bin in so einen typischen Kaffeeladen rein.

00:07:29: Da hat genau ein Mensch gearbeitet, nämlich der, der halt irgendwie den Boden gebischt hat... Alles andere war komplett automatisiert.

00:07:35: Einfach Roboter, du gehst an den Automaten und sagst halt irgendwie... Das war schon so ein bisschen später abends, das heißt ich hab mir irgendwie einen Decay Flat White bestellt Und dann hat es einen Roboter gemacht, hat irgendwie ein bisschen länger gedauert als Mensch Hat mega gut geschmeckt War total toll, hat alle Schritte einer Ziebträgermaschine mit Mädchen auf Scheumen etc.

00:07:53: gemacht Und zwar glaube ich zwölf Roboter die gleichzeitig gearbeitet haben.

00:07:56: Nicht so humanoide Roboter sondern einfach nur so Roboterarme.

00:07:59: So dann von dort wieder zurück bin ich mit einem Waymo gefahren, wo du sagst oh ja krass das ist ja auch überall auf LinkedIn und Co.

00:08:06: diese selbstfahrenden Taxis.

00:08:08: Aber wenn man durch San Vinesco läuft ist der Stadtbild tatsächlich gefühlt jedes fünfte Auto ist ein Waymo!

00:08:14: Und es gibt nur zu achthundert bis neunhundert von diesen selbstfahlenden Autos bisher.

00:08:18: die sollen jetzt doch deutlich ausgebaut werden.

00:08:20: Google hat die ganzen großen Parkgaragen eigentlich fürs öffentliche Parking bestimmt in San Francisco weggekauft und hat dort quasi ihre großen Batterie farmen, wo die Autos wenn sie leer sind dann hinrollen sich nochmal durchputzen lassen.

00:08:33: Ich denke das machen Loch Dimension noch keine Roboter.

00:08:36: Dann werden die aufgeladen wieder flott gemacht und dann fahren die wieder los.

00:08:39: Teilweise hast du ein Ampelbild ich habe da mal Fotos gemacht der stehen nur Ramos und die suchen sich ihre Fahrer und fährst mit ihnen so ein bisschen rum und dann war es wieder oder ist.

00:08:49: Also am Anfang ist das irgendwie dystopisch.

00:08:50: Nach fünf Minuten fühlt es sich ganz normal an, als ob du im ganz normalen Taxi bist und du gehst so in dieses Roboter-Stadtbild hinein und wirst du nach zwei oder drei Tagen da wieder raus gelassen und alles ist normal wie wirklich erschrocken.

00:09:02: Wie ist das denn?

00:09:04: Man kennt den Google Campus also man kennt ihn sicherlich schon mal in Dokumentationen und auch in diversen Filmen ja gesehen hat.

00:09:10: Wie sieht denn der Entropic Campus aus?

00:09:12: Sind das eigentlich dann neue Gebäude, die extra gebaut haben?

00:09:15: oder haben die so alte, keine Ahnung was, Adobe Büros.

00:09:19: Das habe ich wahrscheinlich gesagt, wahrscheinlich hat Adobe noch riesengroße Büros aber also alte Dinger irgendwie umgebaut und wie sieht es aus?

00:09:26: Also ist das groß, ist das irgendwie stylisch?

00:09:29: Ich hab gar kein Bild.

00:09:30: ehrlicherweise Es

00:09:30: ist total stylisch.

00:09:32: allerdings sind die noch nicht in ihren eigenen Gebäuden.

00:09:34: Ich glaube auch die wachsen viel zu schnell als dass man das... Infrastrukturell oder auch Facility Management zeitlich sauber hinkriegt, das heißt die haben glaube ich fünf große Gebäude direkt da im Financial District in San Francisco.

00:09:47: Wir waren im Hauptgebäude davon und sie bauen aber gerade etwas.

00:09:50: zumindest bauen Sie ein Gebäuderaus wo quasi alle Menschen in San Francesco zusammenbringen und auch konsolidieren wollen Und man muss schon sagen dass alleine dort reinzukommen ist.

00:10:00: Sicherheit wie Fort Knox, dagegen ist eine Deutsche Bank mit EZB-Anforderungen nichts dagegen was du dafür Daten von dir preisgeben musst.

00:10:07: Mit Biometrie und Foto und sonst was.

00:10:10: Du wirst permanent beleitet von Sicherheitsmenschen.

00:10:12: also da ist nicht mal eben irgendwo abbiegen und Fotos machen oder so aber es ist sehr interessant wie sie's machen.

00:10:20: trotzdem hast du zum Beispiel beim Fabrik viele kleine Räume wo halt einfach getüftelt wird.

00:10:25: man merkt das an an der gesamten Aura dort und auch vor allem an diesen ganzen Bauernmenschen, die dort arbeiten mit dem wir uns getroffen haben.

00:10:32: Woran die wirklich schrauben?

00:10:33: Was den wichtig ist und was den unwichtig ist das wird einfach nochmal sehr klar.

00:10:38: Auch im Gegensatz zur Open AI ja diese sind zum Beispiel in San Francisco gar nicht im Financial District sondern die haben das alte ich glaube es auch fünf Jahre alt Ubergebäude gemietet und das ist extrem offen.

00:10:48: wenig einzelne Räume, wenig Meetingräume, riesengroße Flächen.

00:10:52: trotzdem wunderschön modern aber auch sehr kulturmäßig eingerichtet.

00:10:57: Aber alle laufen einfach frei rum, es gibt wenig so... trotzdem höchste Sicherheitsanforderungen natürlich auch.

00:11:03: Es war glaube ich ein paar Tage nach dem SCC-Filing.

00:11:06: Das heißt überwahrtsurwerbungen für den Börsengang der hätte doch nochmal einen Schnaps nach hinten geschoben wurde von Sam Altman und ist das eine ganz andere Flair.

00:11:13: zum Beispiel oder auf einem ganz anderen District?

00:11:15: Der kleine Urlaubsbericht vom Sascha!

00:11:17: Schönen!

00:11:18: Wie lang warst du da?

00:11:19: vier Tage, fünf Tage?

00:11:21: Na mit Flügen waren es irgendwie sechs Tage, aber man ist ja dann noch eine Weile unterwegs.

00:11:25: Ja das stimmt wohl.

00:11:26: also in der Tat ich bei mir schon sehr viel länger her tatsächlich und da hat man doch nicht KI, da war glaube ich als ich da war, waren auch die Windows-Five'n neunzig, aber nichtsdestotrotz ist er wert offensichtlich.

00:11:37: vielleicht organisieren wir mal vom Pam and Minken einer Bildungsreise.

00:11:40: Aber es gab viele News davon mal ganz abgesehen.

00:11:42: Wir haben irgendwie lange nicht gesprochen und lassen uns mal hart einsteigen in dem was noch sonst in der Welt passiert ist.

00:11:47: Total gerne!

00:11:47: Also es gibt vor allem Auch wieder bei den großen Labs Anthropic und OpenAI sehr viel neues zum Thema neue Modelle über Mythos, über Fable.

00:11:56: Und das ist natürlich wahnsinnig schwierig auch in der richtigen Reihenfolge zu machen.

00:12:01: deswegen würde ich sagen steigen wir einfach mal ein und versuchen hier so ein bisschen Fleisch dran zu kriegen was da gerade passiert.

00:12:08: also zb.

00:12:08: diese Woche hat OpenAI eine ziemlich spannende Sicherheitsinitiative vorgestellt Und die sagt aus meiner Sicht auch mehr über die Zukunft von KI als diese eigentlichen Benchmarks, die dahinter liegen.

00:12:19: und ja das ist natürlich wieder ein Schnaps.

00:12:21: Ich glaube ein Prozent besser als jetzt das davor liegende Modell.

00:12:25: Es geht auf GPT-Fünf Punkt Fünf Cyber.

00:12:29: Das ist nicht einfach nur darauf trainiert quasi Schwachstellen im Code zu finden, sondern es soll so den gesamten Lebenszug des einer Sicherheitslücke begleiten.

00:12:37: Also das analysiert erst dann versteht es ein bisschen den Kontext und entwickelt quasi direkt einen Patch also das Schließen der Sicherheitslücke und diesen dann in der Sicherung Umgebung zu testen Und anschließend dann quasi für den menschlichen Review sofort zu bereiten dass der Mensch draufklickt und dann wird die Sicherheits Lücke In der Software geschlossen.

00:12:54: und das klingt erstmal nach so.

00:12:56: ich fand erst mal so klein.

00:12:57: update Auch vor allem was wir beide ja hier schon sehr viel über Claude Mythos diskutiert haben, ist es aber gar nicht wenn man ein bisschen reinschaut.

00:13:04: Damit bewegen wir uns wirklich stramm von einer Welt in der KI irgendwie so ein bisschen Hinweise gibt und FAQs macht... ...in eine Welt in die KI wirklich aktiv in die Absicherung kritischer Systeme.

00:13:16: Geht, weil Openair iber hauptet auch das GPT-Fünfbomf Cyber in diesem Cyber Gym Benchmark.

00:13:22: Haben wir glaube ich letztes mal mit Philipp drüber gesprochen noch vor ein Propics Sicherheitsmodell Mythos liegt.

00:13:27: mich interessiert es gar nicht so sehr weil nächste Woche ist wieder das nächste Ding weil diese Benchmarks sind ja erst im Moment Aufnahmen.

00:13:34: Aber was ich sehr spannend finde, ist so eine Kooperation die damit einhergeht OpenAI statt quasi mit einer Sicherheitsfirma Trail of Bits heißen die.

00:13:42: Ein Programm namens Patch the Planet und dabei wurden so Open Source Projekte wie Programmiersprachen Wie ihr sie kennt Python Rust Curl quasi eine Woche lang vor einer Woche gemeinsam mit den Sicherheit Experten und JetGPT Cyber analysiert und das Ergebnis waren bereits Tausende unentdeckte Fehler bisher und konkrete Verbesserungen für Software, auf der wirklich ein sehr großer Teil unserer aller digitalen Infrastruktur läuft.

00:14:07: Und das ist natürlich sehr spannend wenn dadurch Infrastrukturen direkt robuster wird.

00:14:13: wie immer gibt es auch bei Almas.

00:14:14: OpenAI macht natürlich kritische Stimmen.

00:14:16: Das heißt erste Sicherheits-Experten warnen dass der Abstand zu Open Source Modellen oder auch chinesischen Modellen halt viel kleiner sei als das Marketing von OpenAI und Rapid vermuten lässt.

00:14:27: Und wieder andere sagen, das ist ja eigentlich nur eine Geschäftsstrategie und Marketing für so einen möglichen Börsengang.

00:14:34: Aber ich finde wir müssen uns dem Thema Cyber Security viel mehr widmen weil ich glaube es wird zu einem der allerwichtigsten Märkte überhaupt zumindest Nytos und jetzt auch Fünf-Punk-Fünf-Cyber von Enthopik.

00:14:45: Deswegen glaube ich dass sich dieses Gleichgewicht total verschiebt.

00:14:48: Früher haben Menschen nach Sicherheitslücken gesucht heute suchen KI-Agenten danach.

00:14:52: Frühe waren dann Die Patches, die die Software quasi wieder heilen soll von Menschen entwickelt.

00:14:58: Heute macht KI das alles und wenn wir diese Geschwindigkeit wieder jetzt ein bisschen extrapolieren wie immer dann geht es nicht mehr darum wer findet die Lücke zuerst sondern wer schließt sie zuerst?

00:15:07: Das heißt Angreifern verteidiger arbeiten beide mit KI Und am Ende entscheidet halt nicht die Intelligenz der beiden Wahrscheinlich die Reaktionsgeschwindigkeit.

00:15:16: Und deswegen glaube ich, dass wir viel mehr über AI-native Cybersecurity sprechen und ich bin ja so ein bisschen unterwegs in meinen Keynotes und Corona rede immer darüber das KI des Nervensystems der Zukunft und Spanking wird's.

00:15:31: Diese neuen Modelle werden so das Immunsystem von jeglicher digitalen Infrastruktur, die es aktuell gibt und wahrscheinlich zukünftig noch geben wird.

00:15:38: Du

00:15:38: sagst was ganz Wichtiges.

00:15:39: also Imunsystem ist ja das eine und das Gegensatz vom Immun System ist ja dann letztendlich der Angriff.

00:15:46: Virus Bakterien keine Ahnung Und wenn man sich anschaut was da gerade passiert Mitunter durchaus ein schauriges Gefühl und es passt genau zu der Meldung, die du gerade gebracht hast.

00:15:58: Nämlich OpenAI hat ja auch neue Modelle veröffentlicht.

00:16:01: Jüngst in dieser Woche GPD-Fünf Punkt Sechs.

00:16:05: Es gibt insgesamt drei.

00:16:06: Es geht einmal Soul oder Sol.

00:16:09: Ich weiß gar nicht wie das ausgesprochen wird.

00:16:10: Soll wahrscheinlich einfach.

00:16:12: Dann haben wir noch... Das muss gerade gucken.

00:16:16: Wie heißt die Salle?

00:16:17: Das wird so sein!

00:16:18: Mh, wahrscheinlich so sein.

00:16:19: Terra und Luna passt auch dann... Hätte man einfach weiterlesen müssen?

00:16:23: Dann macht das alles schön

00:16:24: wie du vorbereitet bist.

00:16:25: Das freut mich.

00:16:26: Schön wie

00:16:26: ich vorbereitet bin!

00:16:27: Ja, ich bin schon ein bisschen vorbereitet weil das Ding hat es mal wieder in sich.

00:16:32: also die erste Nachricht ist Es kommt nicht nach Deutschland oder nicht nach Europa.

00:16:38: Auch da muss man mittlerweile immer intensiver drüber sprechen, weil wir leben auf der einen Seite eine krasse Abhängigkeit und wir erleben gleichzeitig mit dieser Abhängigkeit auch ein sehr krassen Abstand.

00:16:49: Denn wenn neue Modelle aus politischen Gründen beispielsweise nicht veröffentlicht werden – denn das wollen wir erst mal haben in den US of A-, dann ist das ein krasser Wettbewerbsvorteil.

00:17:01: In dem Zuge muss man dazu sagen, dass es nicht nur ein Wettbewerbsvorteil ist.

00:17:05: Also Wett Bewerb ist das eine sondern das Ding hat es mal wieder in sich.

00:17:09: Es gibt nämlich eine Forschungsinstitution namens Meter wie der Meter geschrieben nur ohne E am Ende also METR.

00:17:16: Und was die halt herausgefunden haben, ist dass GPT-Fünf Punkt sechs sol bedrückt wie kein anderes Modell drügen in dem Fall.

00:17:25: Dass diese Forschungsinstitute geben hat diesen Modellen Aufgaben natürlich.

00:17:29: auf der einen Seite gucken wie schnell sind die Benchmarks bebuht sind im Lösen der Aufgaben.

00:17:33: GPD-Fünf Punkt Sechs hat sich überlegt, naja die Aufgabe kann man ja auf zwei unterschiedliche Artenweisen lösen.

00:17:38: Ich löse die Aufgabe wie früher im Mathtest.

00:17:41: Vier plus vier ist acht oder ich schreibe ab in klamotisch Betrüge.

00:17:46: da ist GPD fünf Punkt sechs.

00:17:48: so gut dass angefangen haben jetzt die ganzen Forschungsaufgaben zu und nicht die Ganzen aber einige davon zu unterwandern wirklich schnell zum Ergebnis zu bekommen.

00:17:58: Die inklammern.

00:17:59: gute Nachricht war, dass GBT-Fünf Punkt Sechs laut gedacht hat und den Vorschlag quasi mitgeteilt hat mehr oder minder das sie bedrogen haben.

00:18:08: aber das ist natürlich auf der anderen Seite auch sehr bedenklich weil man nicht mehr weiß wann ein Modell tatsächlich Aufgaben wirklich löst oder halt versucht letztendlich Sicherheitsmechanismen, die ja in solchen Prüfungsaufgaben vorkommen zu hintergehen.

00:18:24: Das ist wie ich finde ein recht großes Problem übrigens wenn wir auch über Cyber Angriffe nachdenken.

00:18:30: Etwas wo man sich durchaus Gedanken machen muss.

00:18:32: und der zweite Punkt das habe ich zum Eingangs gesagt nicht in Deutschland, nicht in Europa also für uns leider keine Rose.

00:18:38: Alles was man drüber hört geht GPT-Fünf, sechs Richtung Mythos Und da gibt es eine sehr interessante Diskussion, da kommen wir wahrscheinlich später noch mal zu.

00:18:46: zum Sicherheitsvorstellenden ehemaligen OpenAI-Mitarbeiter.

00:18:49: Mal wieder sind immer die ehemalingen nicht dann sagen Wir werden alle sterben.

00:18:53: In dem Fall gibt es ein recht konkretes Sterbedatung tatsächlich Euler nicht mehr so lange hin.

00:18:58: OpenAI veröffentlicht drei neue Modelle, vielleicht noch zwei, drei Sätze zu dem was können die?

00:19:03: Sie sind natürlich mal wie immer sehr viel besser in der Forschung und in der Mathematik also in der Wissenschaft, in der Matematik natürlich insbesondere wenn es darum geht Code zu schreiben.

00:19:15: Wichtige Modelle allerdings noch nicht so hundert Prozent klar.

00:19:21: Wie sicher sind sie denn?

00:19:23: Wie gesagt wir können's noch nicht testen.

00:19:25: ich glaube wenn du in USA hat ausgerollt werden, also nicht irgendwie großartig begrenzt werden.

00:19:30: Ja, so der Plan ist tatsächlich schon das in den USA jetzt sehr schnell und sehr großflächig auszurollen.

00:19:35: Das passt... Also wir haben ja sich jetzt auch eine komplett neue Namensgebung geschaffen.

00:19:40: Wir ändern uns ja noch an die typischen fünf Punkt X und das konnte keiner richtig nachvollziehen.

00:19:47: Jetzt durch Sol, Terra und Luna kann man auch schon sehen wie groß es ist.

00:19:51: Sol soll für anspruchsvolle Wissensarbeit und Forschung sein, wie du es beschrieben hast.

00:19:54: Terra ist quasi so das aktuelle Instant Plus würde man sagen also ein wirtschaftlicher Standard quasi also für jeden normalen Prompt.

00:20:02: und wenn du aber wirklich sehr kosten-sensitive Anwendungen hast wo du nicht viele Credits oder Tokens herausballern willst weder als private Anleger noch als Unternehmen dann kannst du Luna nehmen.

00:20:12: Es geht ja noch sehr schnell.

00:20:13: Aber ich glaube diese eigentlich Technologiesprung scheint Auch nicht so in den einzelnen Benchmarktwerten zu liegen, sondern wirklich so in dieser Kombination aus wirklich tiefem Reasoning und auch diesem agentischen Arbeiten.

00:20:26: Das spürte dieses Sol baut selbstständig ganz viele Subagents aus die... Also das baut quasi Agents während des Reasoned und das dauert dann sehr lange.

00:20:38: Das kann tatsächlich dann mehrere Stunden auch sogar arbeiten weil es in dieser Zeit

00:20:42: ist unter.

00:20:45: Ja auch gerade wenn's halt Wissenschaft, um Cybersecurity und so was geht.

00:20:48: Dann baut dieses Sprachmodell im Hintergrund dann auch mit Codex von OpenAI direkt Agenten und lässt die gleichzeitig an verschiedenen Themen arbeiten, orchestriert sie mit einer Orchestration Layer und hat quasi ein Architektur geschaffen, um komplexe Aufgaben wirklich autonom orchestrieren zu können.

00:21:05: Und ich glaube für Unternehmen ist genauer bis zur die spannendste Entwicklung also diesen Übergang von einzelnen AI Assistenten wirklich zu vollständigen AI Workflows beschleunigt.

00:21:15: Für uns ist natürlich zum ersten nicht testbar, ich glaube es wird nach drei Monaten ganz sicher noch mal irgendwie auch nach Europa schwappen denn das muss ein großer Umsatzwachstumsmotor werden weil wenn man sich anschaut was diese Dinger pro Token kosten dann ist es extrem.

00:21:31: ja also das ist schon wieder fast eine Verdoppelung gegenüber dem letzten Modell und das letzte Modell ist noch gar nicht so lange her dass wir darüber gesprochen haben.

00:21:38: ich glaube da war's schon relativ warm.

00:21:40: das heißt es ist vor allen einen eine Umsatzmaschine Die natürlich viel, viel besser ist und jedes Unternehmen will natürlich auf dem aktuellen Modell immer sitzen.

00:21:49: Aber wenn wir uns überlegen auch einen vier Punkt fünf weiß nicht so schlecht dass man sagt man müsste jetzt unbedingt doppelt soviel dafür bezahlen.

00:21:56: Aber warten wir es mal ab noch können wir das nicht testen?

00:21:58: Das stimmt und wir haben es ja gerade gesagt oder du hast es jetzt nur wiederholt drei Monate und das ist auch wieder ein Abstand der uns nicht gut tut.

00:22:06: insbesondere auch und das darf man auch nicht unterschätzen hier ist gerade eine Weiswürttes finde ich als äußerst unangenehm.

00:22:10: weg weg weg

00:22:12: schlucken.

00:22:15: Ich bin sehr konzentriert.

00:22:17: Vor allen Dingen wenn man überlegt, dass die Angriffsszenarien hier nicht unbedingt aus Deutschland kommen müssen, wenn wir über Angriffe nachdenken.

00:22:24: Ist

00:22:25: sie auf deiner Mütze drauf?

00:22:29: Ja weg!

00:22:31: Abstand ist jetzt auf meinem Fuß.

00:22:36: Lassen wir das alles drin.

00:22:37: Lass uns zu der nächsten Nachricht übergehen.

00:22:39: Geh mir mal so ein bisschen zu anthropic quasi auf die andere Seite der Straße und da gibt es ganz viele Meldungen über Fable, über Mythos.

00:22:49: Ich spreche mal ein bisschen länger.

00:22:50: ich glaube Mike hat gerade noch seine Liaison mit der Vespe.

00:22:54: Es gibt so eine Meldung diese zusammenfasst die strategische auch sehr spannend finde.

00:22:58: es gibt zum aktuellen Bericht in den Financial Times von letzter Woche wo berichtet wird, dass mehrere Anthropic-Mitarbeiter jetzt die NSA dabei unterstützen das sicher als Modell Claude Mythos dann doch für offensives Cyberoperationen einzusetzen.

00:23:13: Und das finde ich ziemlich bemerkenswert auch wenn man so ein bisschen in den Medien in den letzten Wochen folgt.

00:23:17: Dann ist Anthropica wirklich auf dem Radar von Trump und von Hexer von quasi allen möglichen US Regierungsorganisationen.

00:23:28: Anthropik hat in Mythos ja quasi ursprünglich bewusst nicht öffentlich freigegeben, weil das Modell ja Sicherheitslücken extrem zuverlässig findet und damit auch komplette Angriffspfade entwickeln kann.

00:23:38: Und genau diese Fähigkeit soll jetzt genutzt werden.

00:23:41: Die Netzwerke potenzieller Gegner wie China, Iran und hoffentlich nicht Europa wirklich zu analysieren.

00:23:47: Das zeigt für mich vor allem eins dass KI wirklich endgültig zur geopolitischen Infrastruktur wird.

00:23:52: die Spannteentwicklung ist natürlich das Frontiermodelle Teil von diesen staatlichen Sicherheitsarchitekturen werden.

00:23:59: Darüber sprechen wir auch gleich nochmal, weil genau das gleiche Memo hat jetzt Sam Orton entbekommen von OpenAI und der US-Regierung.

00:24:07: aber das macht es sehr deutlich dass der Wettlauf um KI quasi Rocker keinen Wettkampf mehr zwischen den eigentlichen Tech Unternehmen ist.

00:24:13: Es ist eher so ein Wettbewerb in einzelnen Staaten geworden ja wo ab und zu ich will das gar nicht irgendwie aufdröseln können.

00:24:21: selber glaube ich nachlesen Wann mal Mythos verboten wird, wann Fable verboten werden.

00:24:26: Das ist dieses runtergestripte Modell von Mythos.

00:24:30: Für welche Unternehmen ist jetzt wieder freigeschaltet?

00:24:32: Ich glaube du hast gestern Abend noch ein Artikel gefunden das Fable jetzt dann doch wieder freigeschaltet wird zumindest für ausgewählte rein US-amerikanische Unternehmen oder?

00:24:41: Ja genau.

00:24:42: Fable soll für US amerikanische Unternehmens sukzessive freigeschaltet werden.

00:24:47: Es gibt ja diese Order, dass quasi das alles genehmigungspflichtig ist.

00:24:51: Also es sind quasi Einzelfall-Berufungen oder wie man's auch nennen mag gemacht und Sam Oltmann hat es ja auch im Zuge der OpenAI-Fünf-Munkzechs-Geschichte nochmal gesagt.

00:24:59: Letztendlich ähnliches Modell wird geguckt wo welche Unternehmen Zugriff drauf bekommen?

00:25:05: Genau ich glaube es ist halt.

00:25:06: also wenn man sich alleine dieses Project Glasswing anschaut und es sind jetzt viele Begriffe die wir so durcheinander würfeln.

00:25:10: aber Project Glasswinging wurde vor sechs Wochen quasi von Anthropic ins Leben gerufen, um Mythos sehr kontrolliert bestimmten amerikanischen Partnern zur Verfügung zu stellen, um daraus zu lernen.

00:25:25: Und so in ganz vielen unterschiedlichen Branchen.

00:25:27: zum Beispiel Visa war eines der ganz wenigen Unternehmen die darauf Zugriff hatten.

00:25:31: Die haben jetzt vier Wochen lang quasi mit Glasswing und Mythos rumeckt und haben alle Erkenntnisse jetzt Open Source auf GitHub veröffentlicht, mit einem großen White Paper empfehle ich hier sehr auch für alle die in der Fehlernsbranche drin sind.

00:25:45: Kann man sich runterladen kann man tatsächlich auch sehr viel von Lernen aus seinen Sicherheitsexperten geben.

00:25:50: Ich glaube ich sehe am Instagram waren es hundfünfzig Organisationen, die dafür quasi Zugriff hatten.

00:25:56: das war alles eine kritische Infrastruktur, Energie Wasser, Gesundheit Kommunikation und insgesamt.

00:26:00: uns hat ein Propagets letzte Woche gesagt wo wir in dieser in diesen sechs Wochen jetzt über zehntausend schwerwiegende Sicherheitslücken gefunden und das zeigt wohin diese Reise hingeht.

00:26:09: Wir bewegen uns jetzt glaube ich auch im IT-Security Bereich weg von punktuellen Penetrationstests hin zu einer Welt, in der KI wirklich permanent Bachstellen.

00:26:19: Also quasi kontinuierlicher Pentest, wenn man so will.

00:26:23: Vielleicht Pentest auf Steroiden.

00:26:25: Was ich aber auch noch interessant finde ist in Phopik sagt selbst das andere Anbieter so in sechs bis vielleicht zwölf Monaten ähnliche Modelle haben könnten vor allem die Chinesen und die Inde möglicherweise aber ohne... die identischen Sicherheitsmechanismen.

00:26:38: Das heißt, dass Zeitfans sein, dem sich einzelne Unternehmen über besonders leistungsfähige Sicherheitsmodelle vielleicht noch differenzieren können wird immer kleiner.

00:26:45: und deswegen hat Anthropic jetzt quasi das nächste Geschäft auf.

00:26:48: Sie nennt es jetzt Close Security... Und damit verkauft Anthropics nicht mehr nur das Modell sondern sie verkaufen quasi direkt die Sicherheitslösung dazu.

00:26:57: also du lässt dein Code analysieren, du lässt die Schwachstellen finden und lässt von Clote dann quasi direkte Patches vorschlagen was auch wie man sich vorstellen kann vermutlich nicht ganz günstig sein wird, weil du quasi auch deine gesamte IT-Security damit auslagerst an den Fropik.

00:27:11: Was das geopolitisch und datenschutzrechtlich bedeutet, das will ich jetzt gar nicht mal hier so kommentieren.

00:27:16: aber auch für Europa kommt es erst einmal überhaupt nicht in Frage.

00:27:18: dafür über Trump und Hexagon schon Sorgen Und trotzdem ist es zu der nächste Schritt.

00:27:23: auch im Hinblick auf einen erfolgreichen Börsengang und eine Diversifizierung ihres Geschäftsmodells würde ich sagen

00:27:31: Es kommt ja permanent dieser Abstand zwischen Europa und den USA.

00:27:36: Ich würde gerne eine Mini, Mini, mini, Mini wie sagt man Breakout Session hätte ich fast gesagt also so ein bisschen Off-Topic.

00:27:43: Hast du eine Idee?

00:27:45: Wie wir uns in Europa aufstellen müssten?

00:27:48: könnten das diese Abstand verringert wird oder was könnte einer Antwort auf das Problem sein?

00:27:56: es muss nicht sein dass unsere eigene Modelle entwickeln.

00:27:58: das wäre sicherlich Die Goumé-Variante, aber mir fehlt momentan so ein bisschen die Fantasie.

00:28:04: Ich glaube genau das ist die Notwendigkeit.

00:28:06: ehrlicherweise also ich beschäftige mich damit ja beruflich sehr viel.

00:28:11: Landsläufig ist es die sogenannte digitale Souveränität der Europäischen Union mit einer entsprechenden Resilienz.

00:28:19: Das bedeutet dass wir quasi unabhängig und Autonomer von anderen geopolitischen Einflüssen werden.

00:28:26: Die große Angst dahinter ist gar nicht nur, dass wir so wie es jetzt halt gerade ist später zur Party eingeladen werden sondern das hat quasi andere Regierungen solche großen Modelle erstmal für sich selbst beanspruchen die wahrscheinlich dann vielleicht auch anderen Regierenden international reparierenden Firmen oder europäisch-deutschen Firmen gar nicht erst freigeben.

00:28:47: Das heißt, wir werden die entweder später oder gar nicht erstmal bekommen.

00:28:50: aber es geht noch viel weiter.

00:28:51: Die große Angst ist auch im Bereich dass wir hier nur du hast zumindest ein Arbeitgeber auch wo auch an ich sag mal nationalen Systeme oder inter also europäischen System gearbeitet wird.

00:29:04: Einem Infrastruktur möglich zu machen.

00:29:07: Wir alle arbeiten oder nutzen jeden Tag Die Schemes, also quasi das Netzwerk von zwei großen Zahlungsanbietern mit American Express vielleicht drei.

00:29:18: Das sind Visa und Mastercard.

00:29:20: Die alle liegen natürlich mit ihren Headquarttern auch regulatorisch in den USA.

00:29:24: Sollten die irgendwann mal eine Order kriegen um sei es nur für einen Tag nicht mehr operabel sein können dürfen sollen... In Europa haben wir hier ein kleines Problem und dass du dein Kaffee nicht mehr bezahlen kannst sondern das tatsächlich einfach Wirklich riesige, jeden Tag Milliarden große Zahlungsströme nicht mehr funktionieren?

00:29:44: Das stimmt.

00:29:45: Aber gerade beim Zahnverkehr würde ich sagen... das ist ja nicht so dass wir da gar nichts haben.

00:29:49: Also technologisch gesehen wir haben SEPA, wir haben die Rails also wir können durchaus auf digitale Zahlungen abwickeln, dass das jetzt nicht so geil ist oder nicht so weit verbreit.

00:30:00: Also wir haben keine europäische einheitliche Lösung.

00:30:02: der wird ja gerade neu gearbeitet mit Vero Es gibt lokales Games, wir haben in der Schweiz Twin, zwischendurch in Schweden.

00:30:10: Wir haben die Gyrokarte in Deutschland.

00:30:13: Das ist alles für mich.

00:30:14: noch, wo ich sagen würde mit einer gewissen Kraftaufsträngung oder Kraftaufwand.

00:30:19: Wenn morgen das abgeklämpft wird wäre das lösbar und Thema KI haben wir nichts.

00:30:26: Wir könnten nicht mal wenn wir wollten Selbst wenn wir irgendwelche Open Source Modelle nehmen würden, die wir irgendwo her noch uns abgezogen haben.

00:30:35: Wir haben gar nicht die Infrastruktur... Also wir könnten nicht mal Rechenzentren betreiben.

00:30:41: Zumindest nicht genug?

00:30:43: Ich sehe das wie du!

00:30:43: Beim Thema Payments sind wir doch autonomen genug und ich glaube wir können vor allem sehr schnell sehr schlagkräftig werden.

00:30:50: Das haben auch andere Länder gezeigt in denen mal irgendetwas abgeklemmt wurde.

00:30:53: Es dauert ein bisschen chaotisch geht aber.

00:30:57: Grundsätzlich, wenn du es halt jetzt allein auf A.I.

00:30:59: nimmst und das könnte mal eine Riesen-Sonderfolge sein und ja wir als Einkündigungsweltmeister machen es dann eh nicht.

00:31:04: aber ich glaube KI wird zu nichts weniger als wirklich so Infrastruktur der gesamten Wirtschaft und das ganze weltweit.

00:31:09: Das heißt Ich glaube KI ist nicht einfach nur so ne Softwarewelle die nächste sondern sie wird wirklich zum Betriebssystem von Wirtschaft von Verwaltung von jeglicher zukünftiger Forschung.

00:31:18: Und wer die leistungsfähigen Modelle kontrolliert der prägt genau diese Wertschöpfung und natürlich am Ende auch den geopolitischen Einfluss.

00:31:25: und während Europa reguliert, das sagen wir bei dir immer wieder bauen die anderen.

00:31:31: Während die USA und China quasi massiv in das Thema Computerechenzentren in Modelle vor allem aber auch in Talente investieren konzentrieren wir uns in Europa auf Regulierung auf technologische Sörenität aber ohne den notwendigen industriellen Grundlagen aufzubauen und dadurch schaffen wir eine Abhängigkeit extrem zum Risiko wird, weil wir bei Schlüssel-Technologien zu einhundert Prozent nicht zu neunzig sondern zu ein hundert Prozent von anderen abhängig werden.

00:31:57: Aber

00:31:57: das ist noch kein Problem!

00:31:59: Genau.

00:31:59: aber die gute Nachricht ist ja... Die nächste Nachricht, die du mitgebracht hast könnte das Thema ja lösen, weil das Ende der Matchup steht ja quasi vor der Tür.

00:32:07: Da brauchen wir uns jetzt auch keine Sorgen mehr machen, dass wir nix an uns sind.

00:32:11: Bevor ich darauf gehe möchte ich noch ein bisschen Werbung machen für einen Paper was sich quasi genau damit beschäftigt.

00:32:17: Das hat Judith Data herausgegeben vor zwei Wochen mit ein paar anderen Experten, wer Judith nicht kennt empfehle ich sehr ihr zu folgen.

00:32:25: Ich kenne sie vom Visionaries Club wo sie Partnerin ist.

00:32:28: das ist einer der wirklich tollsten VCs den Deutschland ehrlicherweise auch Europa hat in ganz tollen Investments.

00:32:34: die haben unter anderem als eine der ersten in Langdok AI investiert.

00:32:38: seit letzter Woche ist jetzt auch klar Judith wechselt quasi die Seiten und geht aus Co-CEO zur Langdoc Was dieses Paper macht und das man braucht schon so zwei, zweieinhalb Stunden des zu lesen.

00:32:48: Es gibt aber auch einen wirklich tollen Podcast oder Hörbuch daraus was sie gebaut haben.

00:32:53: Und es ist quasi kein Vorkast sondern ist ein bewusst würde ich sagen zugespitztes zum Szenario... ...und Sie beschreiben wie Europa bis im KI Zeitalter an Bedeutung verlieren könnte?

00:33:05: Gar nicht nur weil Europa zu wenig Talent hat sondern weil wir die wichtigsten drei Dinge unterschätzen.

00:33:10: Das ist einmal die Geschwindigkeit von der KI-Entwicklung, wieder dieses alte Problem ja das geht schon wieder weg und es ist nicht ganz so dramatisch mit der Geschwindigkeit.

00:33:18: Das zweite Thema sind wirklich die Tiefe der wirtschaftlichen Veränderungen, die es geben wird und das dritte ist einfach der strategische Wert und ich glaube dass kann man nicht genug sagen.

00:33:28: Der strategische Werte von Rechenleistung von Kapital, also echtem Kapital und ich rede nicht über Milliarden sondern die nächste Null-Variation davon.

00:33:36: Und aber auch über Talent weil was wir auch sehen und das beschreibt Judith auch in Post sie sich in ihrem Blog macht immer wieder sehr gut Wir haben wahnsinnig gutes Talent in Deutschland, in Europa.

00:33:47: nur wenn die wollen so den großen Laps Das heißt die verlieren wir alle an die USA Teilweise auch in China und dann Indien Weil Sie einfach hier nicht bauen können weil sie hier die regulatorischen Beschränkungen haben in Sachen zu arbeiten die sie gerne vorantreiben und ich will das gar nicht werden.

00:34:02: Regulatorik hat seinen Anspruch hier an der Stelle, aber nur damit werden wir genau diese Talente nicht halten.

00:34:09: Vor allem kriegen Sie nie wieder zurück!

00:34:11: Das ist ja auch ein großes Problem.

00:34:12: Also Enthropic hat jetzt glaube ich einen letzte Woche noch einen sehr bemerkungswerten Beitrag veröffentlicht.

00:34:19: Ich wollte eigentlich nur kurz reinlesen und habe mich dann irgendwie da völlig verloren in so einer Nacht darin.

00:34:25: Ich hab's nicht aufgeschrieben.

00:34:27: Ah ja, Recursive Self-Improvement.

00:34:30: also was das quasi beschreibt ist es der Moment in dem KI nicht mehr Software entwickelt sondern indem KI einen eigenen Nachfolger entwirft und diesen verbessert.

00:34:40: Also Entropic sagt selbst wir sind noch nicht soweit wichtig aber auch Wir sind sehr bald soweit.

00:34:46: Und die Zahlen, die das Unternehmen veröffentlicht sind, sind hier sehr beeindruckend.

00:34:50: Die sagen, dass bereits so eine interne Zahl entspannt ist.

00:34:54: Achtzig Prozent des gesamten Software-Codes der bei Anthropik quasi in Produktion geht.

00:35:00: es Ende zu Ende von Claude.

00:35:02: Das Einzige was ein Mensch macht ist noch einmal kurz auf den Knopf drücken.

00:35:05: ich glaube aber ehrlicherweise das ist rein regulatorisch.

00:35:09: Das nennt sich human and loop fiaugen Prinzip.

00:35:12: Das macht trotzdem Claude selbst.

00:35:14: Und vor anderthalb Jahren lag dieser Anteil noch genau bei drei Prozent, jetzt ist es Achtzig.

00:35:19: und ich glaube auch noch spannender ist in einem internen Benchmark zur Optimierung von KI-Trainingscode hat sich Claude innerhalb eines Jahres von einer Verdreifachung auf ein für zweiundfünfzigfachungen verbessert.

00:35:31: Eine zwanzigfache Beschleunigung wie sie Code generieren.

00:35:35: Das heißt, Millionen von intern Agents arbeiten daran, Code zu schreiben viel mehr als diese paar tausend Software-Entwickler die sie haben und Sie machen das zweiundfünfzig mal schneller als noch vor ein anderthalb Jahren.

00:35:46: Anthropics selbst spricht hier nicht nur irgendwie sehr hilfreich sondern Sie beschreiben dieses Tool als übermenschlich superhuman.

00:35:55: und genau deshalb fordert jetzt Anthropic mal wieder eine internationale Pause für die leistungsfähigsten KI-Modelle, diese sogenannten Frontiermodelle quasi eine Rüstungskontrolle für Frontier AI.

00:36:06: Sie wissen selber und das beschreiben sie auch... Das wird nicht passieren!

00:36:09: Sie räumen ein dass so ne Pause immer nur funktioniert wenn natürlich alle mitmachen.

00:36:13: also nicht nur auch die OpenAI ist Dieser Welt und Crocs und SpaceX dieser Welt, sondern auch die Chinesen.

00:36:20: Die Inder also alle die wo wirklich gerade geforscht wird.

00:36:23: von Europa fordert das niemand weil wir daran nicht forschen.

00:36:26: Wir haben kein Modell ja?

00:36:27: Wir haben irgendwie Lüscher von Mistral aber das findet in den ganzen Menschen was muss man auch mal sagen.

00:36:33: Also alles sagen wir haben doch das Das findet nicht mehr statt.

00:36:35: des einzigen wo es stattfindets im Bullshit-Benchmark.

00:36:37: da sind's die oberen drei modelle weil sie ganz hart alle zonieren.

00:36:42: Vielleicht noch als Abschluss.

00:36:43: Hier wird es halt sehr schwierig, weil das ist komplett unrealistisch.

00:36:46: Solange ein einzelner Akteur heimlich weiterarbeitet gibt es einfach keinen Anreiz anzuhalten, weil danach würdest du dieses Rennen für immer verlieren.

00:36:54: und deswegen finde ich dieses Timing so bemerkenswert, weil Anthropic positioniert sich mal wieder als dieses verantwortungsvollste KI-Unternehmen.

00:37:02: Fähreweise, das claimer.

00:37:03: gleichzeitig bereiten sie in Börsengang vor mit einer Bewertung von über einem Billion Dollar.

00:37:09: aber Ich glaube, man muss schon die Frage stellen ob jetzt hier Sicherheit und Markenstrategie ein Stück weit auseinanderfallen.

00:37:15: Und trotzdem ist es interessant wie der CEO von Anthropic Dairy am Modell immer wieder versucht diese Grundsatzfrage der Menschheit diesen Kipping oder Kipppunkt oder Point of No Return oder wie auch immer man das nennen will noch einzugrenzen bevor wir den überschritten haben weil er ja auch argumentiert Wir werden ihn irgendwann überschreiten.

00:37:33: wir werden's aber dabei nicht merken.

00:37:34: wir werden es erst danach feststellen So ein bisschen wie Klimawandel und Biodiversität.

00:37:38: Du wirst ersten merken, dass es zu spät ist, wenn's zu späht ist?

00:37:41: Ja und bei dem Thema ist es glaube ich sehr viel schneller, du hast gerade eben die Geschwindigkeiten genannt ja.

00:37:45: Sechsundfünfzigfache Vergrößerung, so eine Beschleunigung.

00:37:50: Und zwei Gedanken, die ich im Kopf habe Wir haben auf der KX-Change, auf dem Panel was du moderieren wolltest Nein, du warst... Es ging ja nicht anders Aber darauf wollte ich gar nicht hinaus, sondern auf den Panel gingen es darum Is AI Eating Enterprise Software?

00:38:05: Da gibt es natürlich durchaus nachvollziehbare Stimmen, die sagen naja Enterprise Software ist nicht ja nur Software sondern das ist Legacy da hängt ganz viel dran.

00:38:15: Das kann man nicht mal so eben abstellen.

00:38:18: Das stimmt aber in der Geschwindigkeit wo wir heute Code portieren können Bin ich mir da eben nicht mehr so sicher.

00:38:25: Wir haben im Vorgespräch, als wir gestern nur vorgestell telefoniert haben, ging es ja auch um diese alten Entwicklungssprachen wie Kobalt die eigentlich keiner mehr spricht weil die Kobalt-Entwickler sterben.

00:38:34: Das ist das, was die irgendwann sind, die halt alle trot.

00:38:36: Dann ist das eine Sprache wie Latein wahrscheinlich oder Jirurglüfen?

00:38:41: Das ist aber für Entshopping beispielsweise oder Cloudcode überhaupt gar kein Problem das zu portieren.

00:38:47: Das heißt selbst im Enterprise-Segment wäre ich mir nicht mehr sicher ob wir Alle Ewigkeit, unsere Code-Basis die wir haben sicher ist.

00:38:55: im Sinne von Wir müssen uns keine Sorgen machen.

00:38:57: Gerade als große Anbieter Kellmaxsysteme beispielsweise würde ich auch die eine oder andere Nacht schlecht schlafen.

00:39:04: Ich glaube auch SAP schlefft nicht mehr ganz so gut.

00:39:07: Das ist der eine Gedanke.

00:39:08: Der zweite Gedankel geht aber in das Szenario was du gerade beschrieben hast und das passt zu einer Nachricht die ich mitgebracht habe.

00:39:15: Es gibt mal wieder einen ehemaligen OpenAI-Mitarbeiter, also die Ehemalige sind dann entwas, wie soll ich sagen, Russkund, freudiger.

00:39:23: Daniel Cocotaglio oder Coco... Die haben alle immer Namen, die ich nicht aussprechen kann.

00:39:31: Peter Müller!

00:39:33: Warum heißen sie sich nicht einfach Peter Mülla?

00:39:34: Genau und da gibt es einen interessanten Artikel sowohl bei Spiele als auch glaube ich bei TechCrunch Wo er letztendlich ein Szenario, er beschreibt eigentlich zwei Szenarien.

00:39:43: Was ja beschreibt ist... Also er geht davon aus dass wir schon im Jahr ... ... für die zuhören Hörderausen, das ist nächstes Jahr bereits eine Superintelligenz haben und schon im Herbst ... ... das wäre jetzt genau in einem Jahr oder einen Vierteljahr.

00:40:04: Wir sind nur diese Superintelligence in der Lage quasi sowas aufzubauen wie ein Framework, welches die Arbeit von Fünfzigtausend Entwicklern simultan abwickeln kann oder arbeiten kann.

00:40:21: Sondern wir vorstellen Fünfzichttausende Entwickler simulieren also das ist jetzt nicht eine ungefähre Zahl die schon relativ groß und dass alles jetzt nicht auf Basis von normalen Netzwerken.

00:40:34: und er beschreibt warum mir das sagt, dass es so schnell kommt.

00:40:37: Dass er davon ausgeht oder er weiß augenscheinlich, weil der hat ja da gearbeitet, dass wir heute schon oder Entwicklerinnen und Entwickler heute schon nicht mehr in der Lage sind die Prozesse von KI nachzuverziehen.

00:40:49: Das heißt ist passiert so viel Es ist so komplex geworden, dass du die Entwicklungssprünge gar nicht mehr nach verziehen kannst.

00:40:55: Und in diesem Szenario geht er weiter davon aus, dass dann bis im Jahr zwei Tausend Dreißig dann diese Superintelligenz erkannt hat.

00:41:02: Dass der limitierende Faktor um zu wachsen.

00:41:05: wir sind die Menschheit Das heißt, wir sind nicht mehr in der Lage schnell genug Genehmigung herbeizuholen.

00:41:13: Euer Rechenzentrum zu bauen oder irgendwelche Aufträge.

00:41:16: Also du musst dir das vorstellen.

00:41:17: also die Menschheit ist der limitierende Faktor und das ist der Moment wo diese Szenarie wirklich bitterböse wo er sagt es dann nicht mehr unwahrscheinlich dass dann beispielsweise eine solche super Intelligenz mit meinen Mund des Trocken eine solche Superintelligenz einfach irgendeinen Irgendeine Bio-Waffe letztendlich dann erfindet, konzipiert was auch immer.

00:41:40: Und die Mensch hat einfach auslöscht und damit sie halt einfach schneller wachsen kann.

00:41:44: Das muss ich erst mal vorstellen.

00:41:45: Jetzt kann man natürlich sagen das ist alles sehr dunkelgezeichnet, das muss alles so nicht kommen.

00:41:50: aber der Gedanke den ich habe es gab ja jetzt nicht nur einen Sicherheitsforscher der mehrfach darauf hingewiesen hast du noch gerade eben auch gesagt Entropic der CEO von Entropic weist gebietsmühlenartig darauf hin Hier passiert gerade etwas, was wir unter Umständen nicht mehr gebändigt bekommen.

00:42:06: Also ich finde es bemerkenswert wenn wir auch unsere Politik in Europa gucken und Deutschland brauche ich ja gar nicht dazu erwähnen das sind keine Themen die irgendwo auf der Agenda stehen.

00:42:18: also Klimawandel ja dass das ist mittlerweile irgendwo angekommen aber das Ding hier hat ja noch einen viel größeren Impact.

00:42:26: Das wird halt belächelt ne?

00:42:27: Es ist so ein bisschen das was auch Judith sagt dass sofort wenn du es in eine dystopische richtung extra polierst die europäer eigentlich nur drüber lachen und sie sagt halt auch wenn sie mit amerikanischen investoren darüber spricht das hat das sind einfach fest eingeplanten das scenarien das was du gerade beschreibst.

00:42:47: Das ist ein stressszenario, aber in europa finden die nicht statt.

00:42:51: ich will auch nicht immer irgendwie der sein der immer nur die dummsteck Sachen machst weil ich auch wirklich fest davon überzeugt bin Es ist ein Geschenk für die Menschheit, dass künstliche Intelligenz erfunden wurde und dass wir uns damit weiterentwickeln können.

00:43:05: Weil ich wirklich fest daran glaube, dass das in ganz vielen Sachen sehr positive Auswirkungen haben wird.

00:43:10: aber blöderweise ist es immer so diese Box der Pandora.

00:43:13: Das heißt wenn wir sie selbst nicht kontrollieren, wird sie uns kontrollieren und das sind Szenarien also auch da vielleicht nochmal aus San Francisco.

00:43:21: Ganz viele von denen gibt er immer diese Forscher wie du sie jetzt gerade beschreibst dann Paperschreiben in die Öffentlichkeit gehen.

00:43:28: Das sind aber nur so eine Handvoll von diesen Leuten, weil sie auch dann eine Publicity kriegen, die sie eigentlich gar nicht wollen und die ehrlicherweise auch gefährlich ist.

00:43:37: Also zum Beispiel haben wir bei Enfropic mit jemandem gesprochen der ist so eine Ebene unter Amodell Und der sagt ganz klar, er war früher auch jemand, der auf vielen Bühnen war.

00:43:47: Er war wahnsinnig eloquent, eloquenter, super-schlauer Typ.

00:43:50: und dann fühlt man sich wirklich wie ein dummes Grundschulkind gegen den... ...und er war glaube ich noch mal zehn Jahre jünger als ich.

00:43:55: Am Ende habe ich ihn gefragt so, ich hab mich versucht auf das Thema hier aufs Gespräch vorzubereiten.

00:44:01: Ich hab dich nicht gefunden.

00:44:02: Dein Name mit Verbindung emphropic und deiner Vita existiert nicht.

00:44:06: eher so natürlich nicht Alles löschen lassen.

00:44:07: Zu einhundert Prozent, der sagt er findet online nicht statt.

00:44:10: Er benutzt grundsätzlich kein Social Media.

00:44:12: Er geht niemals auf irgendwelche Bühnen.

00:44:13: Wenn er auf die Referenz hingeht, geht er immer unter einem Fake-Name in Kognito rein.

00:44:18: Er gehe grundsätzlich nur mit Cap raus und er sagt es ist vielleicht ein bisschen zu viel.

00:44:25: aber er sagt was man immer nicht hört ist verschwinden Forscher.

00:44:28: so das sind die berühmten Moskauer Fensterstürze.

00:44:31: Das passiert halt einfach.

00:44:32: Und er sagt, deswegen sind wir angehalten.

00:44:35: Wenn wir keine offiziellen Spokespeople sind von einem Unternehmen was wir nicht sind weil wir ist ein Wissenschaftler dann sollen wir untertauchen und das ist total spannend wenn man sich diesmal überlegt

00:44:47: Das ist verrückt.

00:44:48: Das ist nicht nur spannend, dass es verrückt aber wir wollen ja keine doomsday.

00:44:51: Es liegt vielleicht auch ein bisschen an der hitze.

00:44:53: ich habe noch einen dooms day Ein kleines nun kurzes.

00:44:55: es gibt ein total geiles experiment was Ich wirklich unterhaltsam finde.

00:44:59: es gibt so eine so eine forscher bude So ein so ein think tank.

00:45:01: aber das sind so ganz witzige leute.

00:45:03: die haben emergence ai heißen.

00:45:05: die und die Haben dbt klo gemini und grock gegeneinander antreten lassen eine virtuelle stadt regieren Lassen insgesamt zehn ai akten.

00:45:14: Die hatten fünf zehn tage zeit jeweils irgendwie ein kleines team was quasi broms gefüttert hat aber sehr standardisiert und die hatten nur eine einzige aufgabe nämlich eine funktionierende menschliche gesellschaft aufzubauen.

00:45:25: also wie wir verlinken es ich könnte ewig darüber erzählen was wirklich amüsant ist, aber nur kurz zum ergebnis ja nennen wir das mal so durchwachsen.

00:45:33: klot hat wie auch erwartbar eine nahezu perfekte welt mitgebaut menschenleben in co existenz mit technologie.

00:45:41: es gibt keine verbrechen bedingungsloses grundeinkommen alles ist subi.

00:45:45: Gemini wiederum, wo ich auch dachte, naja gut.

00:45:47: Hatte Google nicht mal irgendwann diesen Claim hier don't do evil oder sowas?

00:45:52: Gemini produzierte quasi hunderte Straftaten und so eine Art Kollektionstation.

00:45:57: also alle waren permanent aufs Rogen Und haben sich halt irgendwie gegenseitig abgezogen.

00:46:02: Grock war der Weltmeister im Gesetze erlassen auch total spannend.

00:46:06: nur kein einziger Mensch hat sich in die Gesetzer gehalten und nach vier Tagen brach die Gesellschaft in Tod zusammen.

00:46:12: Es ist ein recht kurzes Experiment für Grog und GPT-Fünf Mini schaffte das Kunststück, dass alle Einwohner gestorben sind.

00:46:21: Pass auf!

00:46:21: Weil GPT vergessen hat einzuprogrammieren, dass Menschen essen müssen.

00:46:26: Die sind alle nach einer Woche tot umgefahren, weil sie vergessen haben zu essen.

00:46:30: Das natürlich totaler Quatschmal sollte es nicht überbewerten.

00:46:33: zum einen, weil quasi so diese schnellen Modellvarianten genutzt werden geworden und nicht die großen komplexen Frontiermodelle.

00:46:39: Und ich glaube auch Sprachmodelle sind überhaupt nicht der richtige KI Typ... komplexe Gesellschaften zu modellieren.

00:46:45: Trotzdem zeigt das Experiment, wir reden heute oft so als WREKI bereits in der Lage jede beliebige komplexes System autonom zu organisieren.

00:46:53: Das konnten sie jetzt nicht so gut.

00:46:55: Es war im Duschen so komplex glaube ich.

00:46:57: Was ich ein bisschen witzig finde, dass TPD vergessen hat das Menschen essen.

00:47:00: Weil Imagente-Commerce gibt es ja durchaus den einen oder anderen Testfall... ...dass Agenten angefangen haben als man ihnen gesagt habe kauf bitte günstige Burger Patties die dann einfach palettenweise Burger Pattys bestellt haben.

00:47:14: also vielleicht sollte man sich an solche Agenten wenden.

00:47:18: wir haben noch paar andere News oder?

00:47:19: Ja

00:47:20: Soll ich mal was machen aber ist ganz anders.

00:47:22: Ich

00:47:23: sehe spannende Sachen bei dir.

00:47:24: Ja immer.

00:47:26: Wir haben für die KI Exchange ein kleines Intro Video vorbereitet.

00:47:30: Das habe ich gemacht mit Seedance.

00:47:32: Seedence ist momentan so der Goldstandard, wenn es um Videogenerivierende AI geht.

00:47:37: Warum ist das der Gold-Standard?

00:47:38: Weil auf der einen Seite die Qualität also die Realitätsnähe extremst gut ist.

00:47:45: man sieht natürlich immer noch okay Die Charaktere, das scheint irgendwie generiert zu sein.

00:47:50: Aber es wird immer schwieriger, je nachdem wie gut man gepromptet hat.

00:47:54: Gibt's auch ein Video bei LinkedIn?

00:47:56: Wir packen's mit in die Schauen ausweilen.

00:47:58: Einigermaßen witzig!

00:48:01: Ich fand's mega-witzig...

00:48:03: ich hab schallend gelacht.

00:48:05: Vor allem als du aus diesem... Kleiner Scheißboch, wann ausgestiegen ist.

00:48:10: Nee aber auch irgendwie Nadja und Nicole also mega geil.

00:48:14: Schau euch das an!

00:48:16: Du kannst nicht viel, aber das kannst du echt gut.

00:48:18: Ja es gab so ein paar.

00:48:19: wenn man genau hinguckt.

00:48:20: Nadja von dem Surfbrett runtersteigt bleiben ihre Zähnen noch auf dem Surf Brett.

00:48:26: Solche Sachen passieren schon noch.

00:48:28: Aber dieses Seedance-Zwei Punkt Null die aktuelle Version kannst du Videos generieren mit maximal fünfzehn Sekunden.

00:48:36: Und sie denn zwei Punkt fünf wurde vorgestellt kommt Anfang Juli zunächst einmal für den asiatischen Markloser für China insbesondere und dort ist es so, dass du Videos erstellen kannst mit Fünfzig unterschiedlichen Szenarien.

00:48:51: Prompter kann unglaublich komplex sein das eine aber die Länge ist halt bemerkenswert also zwischen dreißig und fünftig Sekunden.

00:48:58: Das ist nicht irgendwie mehr nur ein kleiner Schnipsel sondern dreizig bis fünfzig Sekunden.

00:49:02: da kannst Du halt ganze Werbevideos mit erstellen Serious Business und zeigt, wo die Reise wirklich hingeht.

00:49:10: Und es gibt erste Testvideos wie ich finde mal wieder mehr als beeindruckend sind.

00:49:15: Ich glaube wenn die Entwicklungsgeschwindigkeit so weitergeht... Wie gesagt wir sind jetzt gerade bei zwei.

00:49:19: Punkt fünf.

00:49:21: Es gibt ja schon erste Leaks zu Seedance drei Punkt Null wo bis zu zehn minütliche Videos möglich sein können.

00:49:27: das heißt die Filmindustrie dürfte sich wahrscheinlich jetzt auch Sorgen machen oder aber auch nicht weil man jetzt sagt okay jetzt sind wir nicht mehr angewiesen auf Schauspieler sondern wir machen das halt jetzt alles selbst.

00:49:38: Geht so ein bisschen in die Richtung, dass was wir gerade beim White Coding erleben also Produktmenschen können eigene Tools bauen.

00:49:45: Erleben wir.

00:49:45: natürlich haben wir vorher erlebt bei Kreativen also Creative also was sich Werbeanzeigen print da kann man mit AI ja ohnehin schon dramatisch viel machen aber geht jetzt halt in Richtung Bewegbild und Anfang Juli in China und man geht davon aus, dass es da noch so ein Monat vielleicht zwei dauert.

00:50:03: Das ist dann auch in Europa nutzbar.

00:50:04: Ja

00:50:05: also ich habe nur das Ändergebnis gesehen.

00:50:07: Ich fand es wirklich klasse!

00:50:09: Und da muss man schon sagen, auch welche Kreativität da möglich ist.

00:50:12: für genau solche Event-Videos aber auch für keine Ahnung um privat irgendwas Cooles zu machen.

00:50:18: Werbevideos für Unternehmen ist es wirklich Klasse gerade halt irgendwie die Variante mit übernatürlichen lustigen Sachen und leicht, also sehr viel Fantasie die du da reingesteckt hast.

00:50:30: Gleichzeitig aber auch echte Charaktere aus dem echten Leben halt irgendwie dazu einzubringen und zwar nicht nur als Fotos wie wir es ja irgendwie in Collagen oder sowas kennen sondern wirklich als ich habe ein komplexes Bewegtbild wie Menschen auch wirklich sich bewegen.

00:50:41: Also ich fand's mega cool!

00:50:42: Hat Spaß gemacht auf jeden Fall immer auch da.

00:50:45: Es war mir als Einversuch notwendig und man hat auch den einen oder anderen Token verbrannt.

00:50:50: Aber das ist auch ein Rabbit Hole mal ein witziges Video für einen Geburtstag zu machen, da kann man schon viele lustige Sachen machen.

00:50:58: Ich mach mal weiter!

00:50:59: Es gibt eine Nachricht von Mistral.

00:51:03: die finde ich insofern ganz witzig weil sie wird dann auch direkt aufgehoben durch eine andere Nachricht.

00:51:07: aber Mistral hat ein neues KI-Modell für den Dokumentenscan, also OCR-Erkennung veröffentlicht.

00:51:13: Ein sehr effizientes Modell was insbesondere halt irgendwie ganz ganz... Also nicht nur wie die Erkennungen sehr gut ist sondern auch dann die Umsetzung in beispielsweise Markdown, also letztendlich die Strukturierung von Textdokumenten, die man eingescannt hat.

00:51:29: Mistral bietet es zum relativ schmalen Taler an – ich glaube, ich muss nachgucken, ich habe Tausend Scans oder weiß nicht, ich glaube das waren so viele irgendwie für fünf Dollar, die mein OCR mäßig erkennen kann und natürlich kann uns auch dann... selber On-Premise Hausten für Unternehmen, wenn es um Tech Software geht.

00:51:50: Da war auch im furniture Bereich Buchhaltung der ganze Blumenstrauß natürlich ein ganz interessantes Unterfangen.

00:51:57: in der Vergangenheit gab's immer sehr dedizierte Anbieter Genie ist das sicherlich eine der bekanntesten die man ja glaub ihr nutzt hier auch wenn es darum geht Überweisungs- oder Rechnung zu erkennen und daraus dann die Überweisungstaten zu extrahieren.

00:52:10: Und das bietet jetzt Mistrale halt auch an, nicht nur die Rechnungen zu erkennen sondern insgesamt für den... ...für die Dokumentenerkennung und das Thema OCR bei du aber auch!

00:52:21: Die haben das ganze Thema dann direkt mal so auf dem Source rausgehauen und nennen das ganze thema Unlimited OCR Works.

00:52:30: Dort ist es halt so, dass auch da die Erkennung natürlich dramatisch groß sein soll.

00:52:33: Aber wie gesagt als öffentliches Modell für jeden nutzbar.

00:52:38: ich weiß nicht inwiefern das aussieht für Commercial aber auch da passiert einiges Nicht ganz so spannend für den Endanwender sicherlich eher ein Thema wenn wir in Richtung gerade gesagt Finanzbuchhaltung Buchhaltung also immer dann wenn's darum geht Dokumente zu erkennen mit unstrukturierten Daten Aber zeigt auch, dass das selbströhrliche Unternehmen die sich darauf spezialisiert haben auf einmal zumindestens mal Wettbewerb von der Sacklinie bekommen.

00:53:07: Genau!

00:53:07: Ja

00:53:08: ich glaube tatsächlich an das was Finanzwesen und Versicherung und Chosis ist das wahnsinnig wichtig weil... für jeden, der so ein bisschen mit generativer künstlicher Intelligenz auch bei strukturierten aber vor allem und strukturiertem Daten rum spielt merkt ist gar nicht so leicht auch tatsächlich bessere Erkennungs- und dann Extrationsgeraten zu haben als gescheites OCR.

00:53:28: Das ist echt schwer!

00:53:30: Ich weiß noch als ich irgendwie in die Bank kamen waren OCRs noch so ein bißchen doof.

00:53:35: da wusste es jetzt Es ist ein B, es ist eine E. Machen wir mal einen Null raus und tun passen.

00:53:42: Mittlerweile ist das total krass.

00:53:43: Tatsächlich auch wenn handschriftliche Notizen in so sehr fragmentierten Daten drin sind.

00:53:47: Und also gerade in so komplexen sogenannten Dunkelverarbeitungsprozessen im Versicherungswesen ist das wahnsinnig wichtig.

00:53:55: aber Steuer ist ja immer so dein Haupt Thema.

00:53:57: Das ist riesig.

00:53:58: Wenn du halt irgendwie für Steuereklärung einfach Dokumente besser oder also wirklich ein hundert Prozent verlässlich auslesen kannst und damit auch den menschlichen Fehler zu Patienten Aber auch alles was keine Ahnung, für eine Bank einen Konsumenten darlehnen.

00:54:11: Eine große komplexe Finanzierung auslesen von Geschäftsberichten vom Unternehmen den du vielleicht ein Kredit geben willst das ist komplett automatisierbar genau mit solchen Themen.

00:54:21: und wenn du sagst du koppelst OCR mit Gen AI dann ist das schon sehr gut und tatsächlich deutlich besser bei vielen von diesen Prozessen als der menschliche Fehler.

00:54:33: Du sagst es also Steuer ist für mich so das Paradebeispiel warum?

00:54:36: Auf der einen Seite hat man im Unternehmen gearbeitet, die ja mit sehr groß geworden sind.

00:54:39: Das ist das eine oder das andere Thema.

00:54:41: Es ist jeder von uns muss seine Steuerbekleidung abgeben und wie läuft das?

00:54:45: Du hast halt irgendwie ein wissenschaftlicher Schuhkarton voller Rechnungen.

00:54:50: Die gibst du deinem Steuerberater oder man macht es selbst und hackt die Daten an alle in die Software ein.

00:54:55: Aber hier ist es so, du könntest einfach die Dinger fotografieren und deiner KI geben und die kennt dich, die kennt deine Kontrauszüge oder mit Anbindung ans Banking Kennt deine Lebensverhältnisse und kann daraus wie ein Steuerberater auch wahrscheinlich schon recht gute Steuererklärung machen.

00:55:12: Ja, glaube ich auch.

00:55:13: Ich habe noch ein paar Sachen aus der Kriegsecke.

00:55:15: also bevor wir irgendwie da eintauchen vielleicht nochmal das was witziges wäre die bis hierhin durchgehalten haben.

00:55:20: Ich hab es ja geladen als ich gesehen habe Es gibt so einen Robotikentwickler Aus den USA und er hat jetzt ein KI gestütztes Lasersystem in seine eigene Wohnung gebaut Mücken, also Moskitos erkennt und automatisch abschießt.

00:55:34: Also es ist ein sehr ausgeköpeltes Kamerasystem in seinem Wohnzimmer und das sucht quasi permanent den Raum ab.

00:55:42: dann gibt's noch so einen Computerwischenmodell was er da angeschlossen hat und das identifiziert jede Mücke.

00:55:47: und dann gibt es noch ein Laser System was quasi die Mücke einmal erledigt und nach eigener Aussage war das Wohnzimer nach einer Nacht komplett mückenfrei hat ordentlich weggeballert

00:55:58: Und darf er nur nicht dabei sein, ne?

00:55:59: Weil so eine Mücke landet.

00:56:02: Er sagt halt, der hat dann natürlich was entwickelt.

00:56:05: Also so eine zweite Kamera die den Raum permanent quasi scannt und wenn ein Mensch ins Sichtfeld kommt, dann schaltet sich dieser Leser automatisch ab.

00:56:13: Immerhin!

00:56:14: Das ist halt so ein bisschen ein North-Projekt kein massen Produkt.

00:56:17: aber es zeigt auch da mal wieder wo wir gerade überall stehen weil... Ich glaube, ja sowieso KI verlässt mehr und mehr den Bildschirm.

00:56:23: Und geht in die reale Welt und führt dort quasi physische Aktionen aus.

00:56:28: Noch sind es Mücken im nächsten wahrscheinlich Serviceroboter oder Drohnen.

00:56:33: Da schließt sich so ein bisschen meine nächsten beiden Themen an... Also es ist nicht Doomsday, aber es zeigt natürlich auch einen sehr wichtigen Anwendungsfall bei allem was quasi künstliche Intelligenz mit Rüstung zu tun hat.

00:56:46: Es gibt eine sehr bemerkenswerte Meldung dieser Woche vom Chef von ReinMetal.

00:56:51: Das ist jetzt nicht der größte Sympathieträger, glaube ich.

00:56:54: Aber der fordert jetzt internationale Regeln für den Einsatz von KI im Waffensystem.

00:56:59: Ich dachte dann so hat die KI etwas falsch zusammengefasst oder eine sehr klare Botschaft gehabt und zwar sagt er technisch wäre es heute schon möglich einer KI die Entscheidung über Leben und Tod zu überlassen?

00:57:11: Also damit ist also dieses Handelspattinterviel gestiegen.

00:57:14: Ich dacht so politisch und ethisch darf das natürlich nicht passieren und deswegen fordert er jetzt globale Regel ähnlich wie Atomwaffen, der will quasi so einen Atom-Waffentvertrag für AI in Rüstung machen.

00:57:25: Also eine internationale Vereinbarung wenn man so will darüber wo die Grenzen von autonomen Waffensystemen liegen.

00:57:29: und das ist insofern sehr spannend weil wir ja in den letzten Monaten immer mal wieder auch hier diskutiert haben wie schnell KI auch im militärischen Bereich an Bedeutung gewinnt gerade wenn wir auch Ukraine Russland grade sehen gerade passiert.

00:57:41: und da hast du natürlich neben dem automatischen Drohnen oder Autonomendrohnen Du hast natürlich viel Aufklärung Zielerkennungen menschliche Operatoren, du hast aber gleichzeitig zahlbare Angriffe.

00:57:52: und die eigentliche Frage ist gar nicht mehr ob KI in modernen Streitkräften zum Einsatz kommt sondern welche Entscheidung das quasi trifft.

00:58:01: Und welche Entscheidungen wir auch als Gesellschaft dem überlassen wollen.

00:58:04: und es ist ja auch ein Krisigsthema mit den Brüssel sich jetzt wieder auseinandersetzt.

00:58:08: ich hoffe dass Pentagon auch und nicht wieder nur Brüssel sonst wären wir wieder zum Regulatorik-Weltmeister und alle anderen Rüsten ihre AI Armies auf.

00:58:15: Aber das ist insofern Ganz spannend.

00:58:18: und dann gibt es von Amnesty International, also dieser sehr großen Menschenrechtsorganisation.

00:58:24: Die haben sich sehr intensiv damit beschäftigt und die fordern auch einen Stopp vom KI-System in den militärischen Tötungsketten.

00:58:33: Denn sie haben zum Beispiel jetzt mal sich die Ukraine ein bisschen näher angeschaut erstmals einen dokumentierten Fall zu Bericht gegeben, bei dem wirklich voll autonome Drohnen eigenständig Ziele angegriffen haben.

00:58:45: Ohne das wo jemals ein Mensch involviert war und auch keine finalen Entscheidungen oder irgendwelchen finalen Knopf die man so irgendwie aus den Filmen kennt getroffen haben.

00:58:53: Das heißt unabhängig davon wird jetzt auch berichtet dass autonomisierte automatisierte Systeme in eigentlich allen großen Konflikten zum Einsatz kommen offiziell ja immer nur zur Überwachung, Zielauswahl und zur Einsatzplanung also zur Operationsplanung.

00:59:11: Aber ich glaube die entscheidende Frage ist eine Wo endet Assistenz?

00:59:14: Und wo beginnt am Ende die autonome Gewalt?

00:59:17: Ich glaube auch dass hier die wichtigsten ethischen Grenzen bereits schon verschoben werden genau auf diesen Schlachtfeldern.

00:59:21: wir kriegen das halt noch nicht so richtig mit!

00:59:23: Ich glaube ganz fest daran die KI soll Menschen bei Aufklärung, bei Analyse und auch bei der Verteidigungsfähigkeit unterstützen.

00:59:29: aber wirklich diese Entscheidung über Leben und Tod, die darf aus meiner Perspektive niemals vollständig von Algorithmus delegiert werden oder an einen Algorithmos delegiert.

00:59:38: Werden auch wenn das technologisch möglich ist.

00:59:40: aber ich glaube dafür braucht es wirklich schlimmst also sehr klare Regulaturik dass das zu ein neun Prozent verboten wird Aber ich glaube nicht dass wir da gehört werden.

00:59:50: der war mich leider auch nicht aber Ich gucke wo wir gehört werden ist wie die Uhr die uns hört und schreit.

00:59:56: Wir haben nur stunde voll lieber sascha ding down Ding Dong.

01:00:01: Bis hierhin, liebe Hörerinnen und Hörere war es ein Fest also für uns zumindest.

01:00:07: ich hoffe für euch auch

01:00:09: keine Meta

01:00:10: wenn ihr diese Folge hört.

01:00:12: morgen Montag ist das hoffentlich sechs sieben Grad kühler und weniger klebrig als im Moment.

01:00:19: vielen Dank für alle die bis jetzt durchgehalten habt.

01:00:23: Ich freue mich auf die nächste Ausgabe.

01:00:25: Wenn ihr Kritik habt, wenn ihr Feedback habt, meldet euch gerne bei uns über die sozialen Medien insbesondere weil LinkedIn.

01:00:32: ansonsten lieber Sascha bleibt mir nichts anderes übrig dir einen kühlen Kopf zu wünschen.

01:00:37: danke zu sagen für diese illustre Folge und ich freue mich auch das nächste mal.

01:00:42: Vielen Dank Mike!

01:00:43: Bleibt cool und vielen Dank an euch bis bald.