Europe 2031: Maximilian Negele über die kontrovers diskutierte KI-Fiktion

00:00:02: Wie entwickelt sich KI weiter?

00:00:04: Diese Frage wird eigentlich gerade überall gestellt und natürlich auch versucht zu beantworten.

00:00:08: Ein ziemlich spannender Versuch, wie ich finde eine mögliche Antwort darauf zu geben ist Europe twenty thirty one.

00:00:14: Das ist so ne Art erzählerisches Zukunftsszenario.

00:00:17: das ist relativ schwierig das zu beschreiben.

00:00:19: Ich habe es tatsächlich als Podcast gehört.

00:00:21: Das ist im Juni diesen Jahres veröffentlicht worden Und das spielt einmal ganz konkret durch wie sich Europa in den kommenden Jahren eigentlich entwickeln könnte wenn wir beim Thema KI weiterhin so viel Pen in Europa.

00:00:35: Man muss es so sagen, wenn wir nicht einen Zahn zulegen was könnte dann passieren?

00:00:38: und das ist keine Studie oder sowas auch keine wirkliche Prognose sondern es ist einfach ein Was-Währe-Wenn-Szenario dass einmal wirklich durchgespielt wird bis zwanzig einund dreißig.

00:00:49: einer der Menschen die dieses Szenarium mit entwickelt hat und geschrieben hat ist Maximilian Nägeler und den habe ich heute zu Gast und ich freue mich sehr heute über Europe twenty thirty one zu sprechen.

00:00:58: Mein Name ist Max Montenke, ihr hört Kollegen KI.

00:01:01: Hallo Max!

00:01:02: Hi Max, freut mich.

00:01:03: Wie geht's dir?

00:01:04: Sehr gut soweit der Sommer ist noch hier in Brüssel es ist erstaunlich warm und ich freue mich heute über unser Projekt zu reden das vor ein paar Wochen rauskommt.

00:01:12: du

00:01:13: sitzt in brüssel ich sitze in berlin.

00:01:14: hier ist auch unfassbar.

00:01:15: warme thermostat zeigt hier dreißig-neinhalb grad.

00:01:18: bestes podcast aufnahmewetter.

00:01:20: aber nun gut so ist es.

00:01:24: bist du jetzt eigentlich berühmt seit juni?

00:01:28: Also wenn das der Fall ist, dann habe ich bisher noch nichts davon mitbekommen.

00:01:31: Ich würde auf jeden Fall sagen dass die Medienaufmerksamkeit, die wir durch dieses Projekt bekommen haben meine wildesten Erwartungen komplett überstiegen hat.

00:01:39: also ich glaube bevor das Projekt publiziert wurde hatten wir nicht wirklich damit gerechnet, dass es so eine starke Medienresonanz gibt und wir hatten super viel Kontakt zu verschiedenen Zeitungen in ganz Europa als das Ding raus kamen.

00:01:54: Wir haben Artikel geschrieben teilweise im Handelsblatt im Economist Und in verschiedensten nationalen Zeitungen, in verschiedenen Mitgliedstaaten der EU.

00:02:04: Nordeuropa Südeuropa West-Ost überall und das hat auf jeden Fall das überstiegen was ich bisher kannte aus meinem Beruf.

00:02:12: also ich bin KI Politik Forscher.

00:02:13: Ich schreibe mehr oder weniger akademische Papers und Think Tank Berichte zu KI Themen die meistens relativ technisch und spezifisch sind und sich an Policy Maker und Leute in Regierung richten.

00:02:27: Und natürlich macht man auch mal ein Op-Ed oder so, aber meistens ist es eigentlich eher technokratische Arbeit.

00:02:32: Und diese neue Art von Medienaufmerksamkeit war für mich schon auf jeden Fall was Neues.

00:02:37: Das flaut dann natürlich wieder so'n bisschen ab.

00:02:39: also die ganz virale Phase sind jetzt schon so'nn bisschen vorbei... Aber wir merken jetzt natürlich schon dass viele Leute weiterhin über dieses Ding sprechen.

00:02:46: Ich war letztendlich in Berlin In der Hattie School wo ich mit dem Co-Auto Philipp Foxen Talk gegeben hab und da waren ihm zwar noch Leute im Saal.

00:02:54: Das überrascht mich schon immer wieder, dass wir mit diesem ... mit dem Peace so viele Leute erreichen konnten und motivieren konnten.

00:03:02: Über das Thema nachzudenken.

00:03:04: Und das macht mir auf jeden Fall sehr viel Freude.

00:03:07: Ich hab's überall gesehen.

00:03:08: Mein Feed war voll davon.

00:03:09: Jeder hatte eine Meinung dazu.

00:03:11: Es gibt zahlreiche Subredits auch wo es teilweise sehr kritisch diskutiert wird.

00:03:15: aber um vielleicht mal alle abzuholen die jetzt irgendwie das Ganze noch nicht gelesen oder gehört haben kannst du vielleicht einmal ganz kurz erklären worum geht es in Europa?

00:03:25: Ja, Europe twenty thirty one ist eine Geschichte erstmal.

00:03:30: Also im Prinzip eine Geschichte die teilweise freie ausgedacht ist in der wir uns überlegen wie die nächsten fünf Jahre für Europa aussehen könnten von einer kei-politischen Perspektive und Wir nennen das manchmal ein Szenarierstück dass nicht komplett ausgedachte ist sondern es ist eine Übung Disciplined Imagination, also disziplinierte Vorstellung.

00:03:54: Also wir haben uns jetzt nicht einfach irgendeinen Science-Fiction-Szenario ausgedacht sondern wir haben es schon genau überlegt was basierend auf realen Trends und realen Entwicklungen und unserer realen Erfahrungen aus dem politischen Bereich denn tatsächlich passieren könnte oder was ein plausibles Szenario sein könnte wie die nächsten fünf Jahre aussehen?

00:04:11: Und die ersten paar Kapitel der Geschichte sind auch real!

00:04:16: Wir haben natürlich erfundene Charaktere.

00:04:18: das ganze ist aus der Perspektive von ... zwei Personen beschrieben, auf der einen Seite Caroline.

00:04:24: Das ist eine EU-Beamtin die in der Europäischen Kommission arbeitet und ihr haltestudienfreund... ... der im Silicon Valley eben ein KI-Unternehmen gegründet hat.

00:04:33: Und diese sind dann über das Szenarien weg immer im Austausch miteinander und vergleichen so bisschen ihre Perspektiven.

00:04:38: Und das ist natürlich alles erfunden aber es basiert so ein bisschen auf unseren eigenen Erfahrungen wie wir halt aus der... KI-Politikblase haben.

00:04:45: Also wir reisen selber häufig eben nach San Francisco, ich wohne hier in Brüssel und kann beide Welten so ein bisschen... Und das war für uns ein bisschen Instrument diese Erfahrung zu kanalisieren.

00:04:55: aber die ersten Kapitel sind eben basierend auf realen Entwicklungen.

00:04:59: also alle Sachen, die da passieren bis zum Jahr zwartausend sechsundzwanzig sind wirklich real und von da an fangen wir dann eben an zu spekulieren.

00:05:09: und das ganze hat den Sinn dass wir das Gefühl der Dringlichkeit rüberbringen wollten Weil es gibt ja einen Grund, warum wir eine Geschichte geschrieben haben und kein Paper.

00:05:18: Also ich komme aus einem Bereich wie gesagt technokratischer Bereich.

00:05:21: Ich habe schon super lange Papers geschrieben über KI Trends die ich an Leute in der Regierung geschickt habe Und ist halt so dass das die meisten leute nicht wirklich interessiert außer dass ihr Fachbereich.

00:05:33: und jetzt normale Person oder normaler durchständlicher Politiker liest sich auch nicht ein hundertseitiges paper durch über KI.

00:05:38: Und wir hatten eben alle gemeinsam als der Torn-Gruppe so ein bisschen diese Idee von okay, wir müssen jetzt mal was anderes probieren.

00:05:43: Weil... Wir brauchen diese Aufmerksamkeit und Leute mögen eben Geschichten sehr gerne und dann haben wir dieses Vehikel gewählt.

00:05:51: Was ich da vielleicht hinzufügen möchte ist dass das nicht unsere Idee war sondern es gibt eine Gruppe des AI Futures Projects das schon sehr erfolgreich in den USA gemacht hat mit AI Twenty-Twenty Seven und jetzt auch AI Twenty Forty.

00:06:02: also kann ich sehr empfehlen dass sich die Leute die Sachen anschauen und das war ein bisschen die Inspiration dafür.

00:06:07: Also ich sag mal, von der Reichweite her ist es definitiv gelungen.

00:06:10: Kurz danach wurde es im Guardian tatsächlich dann erwähnt und der Guardian hat geschrieben dass sich um ein Doomsday-Szenario handelt das Europa aus seiner Selbstzufriedenheit rütteln soll.

00:06:23: War das auch euer Ziel?

00:06:27: Ja natürlich... sehr direkt ausgedruckt, sag ich mal.

00:06:32: Also ich glaube es stimmt das ist ein Doom-Stay-Szenarius.

00:06:34: also ich glaube damit kann man jetzt nicht unbedingt argumentieren.

00:06:37: Es ist am Ende eine Welt in der wir jetzt nicht enden wollen.

00:06:41: Ich will jetzt nichts spoilern für die, die es noch nicht gelesen haben aber es endet nicht besonders positiv für Europa im Jahr twohunddreißig und es könnte wahrscheinlich auch noch wesentlich negativer enden.

00:06:54: Viele Leute haben uns kritisiert dass wir es nicht apokalyptisch genug gemacht haben.

00:06:58: Aber ja, es ist auf jeden Fall ein dummes Szenario und das ist auf den Fall designt Europa aus seiner Mangel an Handlungen zu schütteln.

00:07:07: Man kann jetzt irgendwie diskutieren was die Diagnose ist warum wir nicht handeln?

00:07:12: Was war das Wort Selbstgefälligkeit?

00:07:13: oder im Guardian?

00:07:15: Also man kann verschiedene Diagnosen anbringen ob es nur Selbstgefährlichkeit ist oder andere Sachen.

00:07:22: Ich glaube eine Sache die uns sehr wichtig war in einem Szenario keine einzelnen Personen oder Gruppe von Personen, die die Schuld direkt geben wollen.

00:07:29: Sondern das versuche ich darstellen als komplexes Problem, dass verschiedene Stakeholder involviert, die alle eigentlich ihre Anreize haben, die für sie Rationale Sinn machen.

00:07:38: aber in Kombination daraus ergibt sich eben ein schlechtes Szenario für Europa.

00:07:42: also wir versuchen eben aktiv jetzt nicht so eine Schuldzuweisung zu betreiben sondern so ein bisschen die Anreizstrukturen und Systeme dahinter zu beleuchten.

00:07:51: Selbst Zufriedenheit wurde der Artikel hier übersetzt, aber KI kann Fehler machen.

00:07:55: Also das könnte auch was anderes sein.

00:07:57: Aber ja genau selbst Zufrydenheit Wo ist das Problem eigentlich?

00:08:02: Wenn wir jetzt mal KI, wenn wir den State of AI gerade mal zusammenfassen.

00:08:07: In USA gibt es die ganzen Hyperscaler.

00:08:09: Wir nutzen sie hier mehr oder weniger in China und am anderen Ende der Welt gibt's die großen Open Source Modelle mit einem Versatz von drei bis sechs Monaten auch... Die Skills haben, die US-Tools haben und Chips gibt es eben aus Taiwan.

00:08:27: In Europa haben wir jetzt ja nicht wirklich Karten in der Hand, die da mitspielen können.

00:08:31: also Wir sind am Ende Konsumenten.

00:08:33: Ist das im Grunde so die Ausgangslage?

00:08:35: Kann man das zusammenfassen?

00:08:38: Ja ich denke dass ist eine korrekte Diagnose.

00:08:41: Wir sind Konsument von Spitzen KI.

00:08:43: Also eine Sache die man vielleicht klarstellen muss ist dass es natürlich verschiedene Arten von KI gibt Und wir sprechen vor allem über Frontier AI also die leistungsfähigsten KI Modelle an der jeweiligen technologischen Spitze sind, von denen wir davon ausgehen dass die sehr sehr starke wirtschaftliche Effekte haben werden in den nächsten Jahren.

00:08:59: Und es stimmt das wir in diesem Bereich von Frontier AI im Prinzip komplette Konsumenten sind.

00:09:05: also wir haben eigene Frontierei Firmen oder solche die's werden wollen wie Mistral.

00:09:10: aber die Wahrheit ist dass diese Firmen einfach in der Qualität und Fähigkeit ihrer Modelle nicht mit den Wettbewerbern aus den USA und China mithalten können.

00:09:18: aktuell.

00:09:21: Ja das schafft halt eine gewisse Abhängigkeit und wenn wir wirklich davon ausgehen, dass KI eben.

00:09:25: Eine strategische Grundsatzfähigkeit und Esset wird in der nahen Zukunft für unsere gesamte Wirtschaft dann bringt uns das natürlich in eine sehr prekäre Situation was die Souveränität angeht.

00:09:35: und das ist genau das was mit dem Szenario beschreiben.

00:09:38: ich will jetzt nicht sagen dass es das Einzige ist.

00:09:40: also es gibt noch ganz andere Probleme die mit KI kommen können also KI Sicherheit.

00:09:44: die Risiken die mit Cyber mit biologischen Waffen Loss of Control, mit sich kommen wollen wir auf keinen Fall ausblenden.

00:09:52: Aber was natürlich jetzt eben für uns als Europa sehr stark auch im Vordergrund steht ist dieses Souveränitätsprobleme.

00:09:58: und wenn ich da jetzt in eine Diagnose gehe warum ist das eigentlich so?

00:10:01: Ist natürlich ein sehr multifaktoriales Problem.

00:10:04: aber im Prinzip ist es also kein Rocket Science wie man sagt in Englisch sondern wir brauchen halt Talente, wir brauchen Kapital und wir müssen diese Firmen skalieren.

00:10:15: Und Fakt ist halt dass unsere ganzen Talente aktuell zum großen Teil ins Ausland verlieren, die gehen in Silicon Valley.

00:10:22: Warum gehen sie in Silicon valley?

00:10:23: Das sind natürlich Netzwerkeffekte, das sind einfach existierende Forschungsnetzwerke, die dort sehr stark sind aber diese natürlich verstärkt durch eine starke Kapitalverfügbarkeit.

00:10:33: es gibt halt einfach ne sehr hohe Kapitaldichte und verfügbarigkeit dort im Silicon Valley und WC-Netzwerke Und dass haben wir auf der Größenordnung nicht in Europa.

00:10:46: Ja, eine Sache die ist einfach ne sehr kapitalintensive Industrie.

00:10:50: wir brauchen sehr viel compute.

00:10:52: Wir brauchen sehr viele Datenzentren die man dafür bauen muss und ich glaube es fehlt am Ende an den Rahmenbedingungen.

00:10:57: Ich glaube es gibt keinen grundsätzlichen Grund warum in Europa eigentlich keine Frontierfilm haben können aber... ...die Rahmenbedingerung für die besten Talente herzukommen sind einfach aktuell nicht gegeben.

00:11:06: Jetzt ist, du hast schon von Wir brauchen im Grund oder wir könnten im Grunde Frontier Modelle bauen.

00:11:11: Wir brauchen halt natürlich irgendwie das Personal, wir brauchen Geld, wir müssen Firmen skalieren.

00:11:17: Das sind so Sachen, die hatte ich ähnlich auch schon in einem Reddit-Forum gesehen.

00:11:21: Da ging es auch um Europe Twenty Thirty One und da wurde das diskutiert.

00:11:24: Und da war der Top-Kommentar Stop Sending Big Tech oder US Tech Propaganda.

00:11:32: also von wegen des klingt schon sehr alles nach ultra neoliberalistischen US-amerikanischem Markt bla bla.

00:11:40: ja und wir brauchen das hier nicht.

00:11:41: Wir kommen auch so irgendwie über die Runden und es reicht indem wir regulieren die Modelle dann hier mehr oder weniger adaptieren und erst mal aus sichere Entfernung gucken, weil... Und das ist ja so ein Argument, dass man auch immer wieder hört.

00:11:54: Dass man sagt wir haben ja hier im Grunde auch Industriestandorte und wir haben im Grunden die Use-Cases, die tatsächlich mit KI optimiert werden können.

00:12:03: Das heißt, im Grund könnten wir massiv davon profitieren, dass wir diese Technologie einfach einkaufen statt sie selbst zu machen.

00:12:09: Was sagst du dazu zu so einer Kritik?

00:12:14: Ja sind natürlich verschiedene Punkte Die man jetzt beantworten könnte.

00:12:18: also erst mal zu der Big Tech.

00:12:20: Generellen Kritik, das ist tatsächlich halt eine Sache die uns häufiger vorgeworfen wurde oder die eine der häufigsten Kritikpunkte sag ich mal ist dass wir mehr oder weniger so ein Art von Lobbygruppe sind für irgendwelche Big Tech Unternehmen oder dass wir apologeten sind für den Einfluss von Big Tech und Big Tech ist unter vielen Leuten in Europa einfach generell nicht besonders beliebt auch teilweise sehr berechtigt finde ich.

00:12:44: Und es gibt dann verschiedene Variationen von diesen Argumenten.

00:12:47: Du hattest jetzt irgendwie so eine Version davon genannt, aber ja es gibt verschiedene Versionen davon.

00:12:52: Ich glaube um die konkrete Sache zu erwähnen, wie du erwähnt hattet mit Warum wenden wir KI nicht einfach an?

00:12:58: Also erst mal Ja!

00:12:59: Wir sollten auf jeden Fall KI anwenden.

00:13:02: Es gibt wahrscheinlich große Wertschöpfung darin Mit unserer existierenden Industrie KI Anzuwenden und ich glaube Die Kombination aus den Basismodellen Und den News Cases die wir dann eben haben wird sehr sehr wertvoll sein.

00:13:15: Ich glaube halt nicht, dass wir uns langfristig wahrscheinlich darauf verlassen können.

00:13:20: Wir bewegen uns im Prinzip auf eine Welt zu in der wir möglicherweise innerhalb von wenigen Jahren komplette Automatisierung von kognitiven Fähigkeiten bekommen oder dass wir KI-Systeme bekommen die Menschen in der kognitivem Domäne zumindest bei weitem überlegen sind und es ist nun mal so das große Teil unserer Wirtschaft auf kognitiere Arbeit basieren.

00:13:40: Also wenn du jetzt am Computer sitzt und irgendeine Arbeit machst, in der du nicht unbedingt mit Maschinen handierst oder so.

00:13:46: Dann gibt es eine Wahrscheinlichkeit dass ab einem gewissen Punkt halt diese Art von kognitive Arbeit von KI ist erledigt werden kann.

00:13:53: Und das bedeutet dann immer noch natürlich, dass unsere Industrie wichtig sein wird.

00:13:57: also die Assets, die wir haben, die Maschienen, die Wir haben, kann man jetzt nicht einfach durch KI sofort ersetzen.

00:14:03: Das wird dann vielleicht auch irgendwann kommen.

00:14:04: Also irgendwann werden wir auch physische KI bekommen, wir werden Roboter bekommen, die dann möglicherweise auch die Firmen selber einfach... bedienen können.

00:14:11: Aber bis dahin gibt es eben noch die ganze kognitive Arbeit und... Die Frage ist halt, ob wir uns langfristig darauf verlassen können da nicht unsere eigenen Assets zu haben sondern komplett der Konsument von dieser kognitiven Arbeit zu sein also sowohl im Sinne von den Modellen wie verwenden als auch mit der Rechenkapazität.

00:14:29: Also die Modelle sind eben die Technologie dahinter und die Rechenzentren sind eben ...die Tiefe mit der wir diese Technologie anwenden können in unserer Industrie.

00:14:39: Und selbst wenn wir KI nur einkaufen und anwenden, sind wir dann immer noch von der Rechenkapazität möglicherweise von amerikanischen Hyperscalern abhängig.

00:14:48: Die Rechenkapazität wird wahrscheinlich in den nächsten Jahren limitiert sein.

00:14:52: also einfach die Lieferkette ist limitiert sie kann nur begrenzt schnell skalieren und am gewissen Punkt werden auch amerikanische Unternehmen und möglicherweise die amerikanisch Regierung Entscheidungen treffen müssen wohin diese Rechen Kapazität geht.

00:15:04: Und im Zweifel werden die halt nicht sagen, okay wir geben die Hälfte irgendwie an uns und die hälfte einen Rest der Welt.

00:15:09: Sondern die werden wir zweifelt sagen, zwanzig Prozent geht erst mal ans US-Militärpunkt.

00:15:13: Der Rest geht an unsere domestische Wirtschaft und dann kriegen sowieso.

00:15:15: fünfzehn Prozent geht dann irgendwie den Rest der welt.

00:15:18: Das könnte halt zu einer extrem starken im Balance führen in der Art und Weise wie KI angewendet werden kann zwischen verschiedenen Ländern.

00:15:25: Insofern weiß ich ja nicht genau ob uns auf diese Strategie jetzt alleine verlassen können aber es ist auf jeden Fall trotzdem eine gute Idee KI weitgehend anzuwenden.

00:15:31: Du hast das gerade mit dem, wir beschränken möglicherweise auch unsere eigenen Ressourcen.

00:15:35: Also wohin gehen die?

00:15:36: behalten wir erstmal für uns als Nationen da?

00:15:39: Für unsere eigene Industrie und so weiter.

00:15:40: du hast es von Rechenkapazitäten gesprochen und in den ähnlichen Spinnen gibt's ja auch in dem Szenario und im Konkreten dass die USA sagen in dem Moment diese Top-Modelle die behalte mir erst mal nur für US AmerikanerInnen vor und ich glaube das ist ganz spannend weil Das Ding ist im Juni erschienen und wenige Wochen später war ja dann tatsächlich dieser Fall mit Claude Mythos, also im Grunde mit dem ersten Large Language Model oder KI-System.

00:16:08: Wo der US-Präsident gesagt hat, nee, das ist viel zu mächtig!

00:16:11: Das müssen wir gerade mal zurückhalten.

00:16:13: War das von euch schon so prognostiziert?

00:16:16: Hattet ihr irgendwie Informationen?

00:16:17: Oder war es eine Prediction die kurz danach eingetreten ist?

00:16:23: Ja, das war ziemlich verrückt weil ... gar nicht mal Wochen danach, es war im Prinzip drei Tage danach.

00:16:29: Also haben das Szenario publiziert und ich glaube ... Ich glaube, es waren Mittwoch oder so was?

00:16:33: Und ich glaube am Samstag kam dann die Nachricht rein... und das hat uns natürlich total weitergeholfen!

00:16:39: Das hat natürlich das Scenari nochmal extra viral werden lassen.

00:16:43: also ich kann mich noch erinnern als ich da aufgewacht bin in dem Samstag und habe irgendwie auf mein Handy geschaut und da waren dann sowieso tausend Nachrichten drin von wegen oh mein Gott schau mal was passiert ist Es ist irgendwie eingetreten und ich hab das dann erst gar nicht gecheckt.

00:16:55: Und da habe ich gemerkt, oh Gott ja es ist genau das Eingetreten.

00:16:58: Also es ist zumindest nicht exakt das Gleiche was wir gesagt haben.

00:17:01: also wir haben ja von eher einer Tokenlimitierung gesprochen.

00:17:06: aber ja es wurde eben ein Modell im Prinzip von der Regierung nicht mehr verfügbar gemacht und Wir hatten jetzt keine Informationen darüber.

00:17:13: Das war wirklich komplettes Glück im Prinzip dass das passiert ist.

00:17:16: Aber natürlich in der Expertenblase in der viele von uns sind hatten viele Leute das bereits schon länger erwartet, dass das halt passieren wird.

00:17:24: Aus verschiedenen Gründen also aus dem ekonomischen Grund den ich erwähnt hatte, dass es einfach eine knappe Ressource ist, compute die hat einen gewissen Punkt halt verteilt werden wird und b natürlich aufs im Grund, dass Modelle halt zunehmend gefährlicher werden.

00:17:38: also wir sehen das ja mittlerweile immer mehr mit diesen ganzen Cyber Vorfällen und Kontrollverlustvorfällen wo mittlerweile AKI-Modelle Autonomen irgendwelche Sachen hacken und sowas.

00:17:48: Und auch im Bereich von CBRN, also biologischen Waffen und anderen Massenverleichtungswaffen sehen wir das TKI-Modelle einfach immer mächtiger werden.

00:17:57: Insofern gehe ich halt schon davon aus dass man ab einem gewissen Punkt nicht mehr alles so einfach open sourcen kann.

00:18:02: Also es gibt ja eine große Fraktion die dann sehr stark für Open Source Modelle ist und sagt, dass das irgendwie eine Alternative sein kann für europäische Souveränität.

00:18:10: Es gibt Versionen vom Argument, die glaube ich stimmen aber muss sich darüber bewusst sein, Sowohl die Amerikaner als auch die Chinesen sagen werden, also sorry das können wir nicht mehr open sourcen weil sonst ja Gott und die Welt Zugang zu diesen Fähigkeiten bekommt.

00:18:26: Und es gab letztens auch eine interessante Studie von Antonia Jülich.

00:18:32: Die hat ein Jahr lang Feldforschung im Prinzip in Nigeria gemacht in verschiedenen anderen Ländern und hat eben das KI-Nutzungsverhalten vom islamischen Staat Und Boko Harame sich angeschaut und hat dann festgestellt, dass die im Prinzip schon KI-Power User sind.

00:18:46: Die auch für Angriffe verwenden usw.

00:18:48: und so gezielte Schulungen haben dafür.

00:18:51: Das heißt diese sind da dran und irgendwann werden halt alle sagen sorry wir können jetzt nicht mehr unsere ganzen mächtigsten KI-Modell einfach open sourcen.

00:18:59: das heißt aus diesen zwei Gründen sind wir schon länger davon ausgegangen dass es irgendwann passieren wird.

00:19:04: und ja also es war eine Frage der Zeit bis das dann kommt.

00:19:07: Ja, ich hatte es ja angesprochen mit diesen drei bis sechs Monaten Verzug von Open Source zu den Frontiermodellen in den USA.

00:19:15: Und Mythos wurde ja zurückgehalten auch aus dem Grund zu müssen wird gesagt weil das Modell sehr stark im Aufspüren von Sicherheitslücken sein soll und dementsprechend hat man das erst mal.

00:19:26: nur ausgewählten US-amerikanischen Unternehmen muss man sagen zur Verfügung gestellt um diese Sicherheitslücke zu schließen und Europa ist mehr oder weniger leer ausgegangen dabei.

00:19:35: Es gab natürlich ein paar internationale Konzerne, die auch hier verwurzelt sind, aber tatsächlich konnten sie dann erst mal ihre Sicherheitslücken schließen bevor.

00:19:43: Das modell dann in form von fabel fünf meine ich tatsächlich irgendwie veröffentlicht wurde, aber das ist ja im grunde genau das probleme.

00:19:50: man davon ausgeht wenn das das jetzt kann.

00:19:52: Dann kann es im halben jahr jeder auf der welt und das führt immer wieder zu dieser frage die ich mir auch regelmäßig stelle sind wir als gesellschaft überhaupt bereit dafür so eine hochtechnologie in unser aller hände zu legen?

00:20:03: auf der einen seite weiß du zwei zwei Serien in meiner Brust, die eine sagt, mein Gott, Demokratisierung von Hochtechnologie ist wundervoll.

00:20:11: Ja das ist im Grunde eine Technologie, die war bis vor hundert Jahren wenn man das vergleichen kann, weil sie vielleicht eher Königen oder Kaisern vorbehalten oder dem Militär.

00:20:21: und jetzt haben wir für zwanzig Dollar im Monat irgendwie die Möglichkeit eben auch daran zu partizipieren.

00:20:26: Und das muss ich sagen finde ich aus so einer Demokratie Ebene ganz großartig.

00:20:31: auf der anderen Seite sieht man ja auch, wie viel Blödsinn damit gemacht wird.

00:20:35: Vor allem was Betrug angeht vor allem was Slop angeht.

00:20:39: jetzt mal der harmlose Slop klar aber viel schlimmer natürlich dass diese diese Power natürlich auch von Kriminellen nutzbar gemacht werden können.

00:20:48: Was können wir dagegen machen?

00:20:49: Ja du beschreibst natürlich eine der Grund-Herausforderungen von KE Politik generell.

00:20:53: es ist einfach ne Dual Use Technology die extrem ... in beide Richtungen gehen kann, also natürlich bin ich komplett bei dir.

00:21:01: Ich bin auch dafür dass wir die ... ... positiven Seiten von KI nutzen und ... ... das wir die ja vor allem auch teilen mit der ganzen Welt im Prinzip.

00:21:10: Es gibt ja wahnsinnige Chancen für Entwicklungsländer... ...und alle möglichen Leute, die da irgendwie besseren Zugang zu allen möglichen Dienstleistung bekommen können durch KI.

00:21:19: Sei es irgendwie Therapie sei es ... Bildung.

00:21:24: Und wir können natürlich bessere Medikamente herstellen mit KI-Systemen und so weiter und sofort, dass wir Forschung verwenden.

00:21:28: in Mathematik ist es mittlerweile super gut.

00:21:31: Auf der anderen Seite gibt es eben diese sehr ernstzunehmenden Risiken und Es ist schon ein bisschen unter E-Politikexperten so eine Art von Klischee, das man jeden Talk über KI Politik irgendwie anfängt mit so Ah!

00:21:42: Es gibt irgendwie Chancen und Risiken.

00:21:44: Wir müssen die Chancenen nutzen und die Risiken mitigieren.

00:21:46: Also das ist irgendwie schon so ein leeres Klischee.

00:21:49: Aber es stimmt halt leider und das macht das Ganze halt auch komplex, weil natürlich man immer gleichzeitig so ein bisschen sich selber widersprechen muss.

00:21:56: Man muss halt immer sagen ja KI ist grundsätzlich gut aber... Und das ist halt so keine besonders einfache Position die man vermitteln kann.

00:22:02: Weil es ist meistens eher einfach zu sagen ah es ist irgendwie gut oder schlecht, also diese Mischung und vor allem fallbasierte Mischungen wo bei manchen sehr spezifischen Anwendungsfällen sagen musst du nee das brauchen wir nicht.

00:22:13: und bei manche sehr spekifische Sachen schon ist halt schwierig.

00:22:16: Wir hatten es zum gewissen Grad mit Atomkraft natürlich auch.

00:22:19: Also wir hatten auch dieses Problem, dass wir halt auf der einen Seite Atombomben bauen können und auf der anderen Seite eben Atom Kraft für Energieerzeugung verwenden können.

00:22:27: aber KI ist halt noch mal viel komplizierter weil das halt noch viel übergreifendere positive als auch negative Effekte haben kann und jetzt nicht nur für Energie- und Explosionen verwendet werden kann, sondern eben in der gesamten Gesellschaft.

00:22:40: Und das ist halt eine super schwierige Kommunikationsfrage weil man muss auf der einen Seite halt ehrlich sein mit den Menschen und sagen ja es ist wirklich gefährlich und wir müssen aufpassen.

00:22:48: aber auf der anderen Seite möchte man jetzt auch nicht sagen ich bin gegen alle Technologie und da irgendwie die richtige Kommunikationsebene zu finden und das irgendwie verständlich zu machen hatte schon für eine Herausforderung.

00:22:59: Eine

00:23:00: ganz andere Herausforderung ist ja noch, wenn KI selbstständig tatsächlich loslegt und solche Entscheidungen macht.

00:23:05: Ihr hattet in Europe twenty thirty one das ganze auf zwei tausend sieben zwanzig datiert, dass ein großer quasi ransomware Angriff orchestriert wird der auch mehr oder weniger durch die KI kommt also von der KI kommt.

00:23:18: Das ist wieder so eine Sache, die ich jetzt tatsächlich in den News hatte.

00:23:21: In den letzten Wochen OpenAI ist ja in die Schlagzeigen geraten weil so ein Agent im Test mehr oder weniger aus seiner Testumgebung ausgebrochen ist und bei Huggingface sich eingeheckt hat und Sachen geklaut hat.

00:23:33: Anthropic meldet genau das gleiche.

00:23:35: Die haben ihre Tests auch nochmal nachträglich untersucht nachdem das bei OpenAir passiert war und meldeten glaube ich drei Vorfälle, die jetzt näher untersucht werden.

00:23:43: Die Technologie läuft mehr oder weniger eigenständig, also sie kann eigenständiger laufen und ich glaube das macht es noch mal ein bisschen komplizierter.

00:23:51: Am Ende passiert das dann aber auch natürlich ohne dass wir Autonomalbürgerinnen nutzen.

00:23:59: Das heißt die Technologie ist einfach wahnsinnig mächtig und hat viel Einfluss auf alles Mögliche.

00:24:04: Jetzt ist das eigentlich schon wieder die nächste Prediction, die er hatte.

00:24:07: Die KID-Loslauf, die jetzt aber dieses Jahr schon eingetroffen ist?

00:24:11: Was kommt denn als Nächstes eigentlich?

00:24:13: Was hatte dir dann noch drinstehen?

00:24:15: Irgendwann gibt es glaube ich noch einen kleinen Wirtschaftskrieg in der Story...

00:24:20: Ja wir hatten natürlich Cyberangriffe vorhergesagt und wir hatten so ein bisschen Wenn er wieder offen gelassen, ob das jetzt ist lost controls oder misuse.

00:24:27: Also ich glaube wir haben das Thema Kontrollverlust fast so ein bisschen ausgeklammert relativ dazu wie sehr ich es eigentlich gerne mit reingenommen hätte aber muss halt irgendwie gewisse Entscheidungen treffen um die Story verständlich zu machen.

00:24:39: Ich glaube was eben noch in den Karten ist natürlich die wirtschaftlichen Effekte und das ist eine sehr spannende Frage weil wir aktuell natürlich sehr viel darüber reden.

00:24:48: ja kibetransformatives wird Es wird Jobs, es wird die Wirtschaft verändern und das wird die größte Technologie ever werden.

00:24:55: Aber gleichzeitig sehen wir aktuell eben gemischte Evidenz für die Produktivitätsvorteile wirklich in der KI.

00:25:01: also wenn man sich die ökonomische Forschung anschaut ist jetzt nicht total offensichtlich dass alles irgendwie sofort besser wird oder produktiver wird.

00:25:10: also zum Beispiel in vielen Softwarefirmen... ...ist ja dieses Token-Maxing so ein bisschen einen Trend geworden und ich höre jetzt von vielen Leuten dass sie sagen Ja, das bringt eigentlich gar nichts.

00:25:20: Und es ist irgendwie so performativ dass man jetzt sowieso token max und so und am einen handt aus eigentlich keine produktivitätsforteile.

00:25:25: Genau.

00:25:28: Wenn angestellte KI zur Verfügung gestellt bekommen nutzen sie es tatsächlich besonders häufig um sag ich mal in den KPIs in den Statistiken als Power User aufzutauchen und versuchen so viel token wie möglich zu verbraten weil das natürlich irgendwie zeigt guck mal die nutzen.

00:25:42: wir nutzen hier die neue Technologie ich bin guter Angestellter ja was natürlich dann?

00:25:46: Genau, oder meistens sagt halt dann der CEO sowas wie wir wollen jetzt eine KI First Company werden und deswegen müssen wir mindestens so viele Tokens verbrauchen weil das zeigt dass wir irgendwie so KI Natives.

00:25:57: Und da kann man jetzt diskutieren wie sinnvoll das ist.

00:26:00: aber gleichzeitig gibt es eben klare Beispiele wie KI einfach in Wissenschaftsbereichen wahnsinnig schnelle Fortschritte macht.

00:26:06: also Mathematik ist ein gutes Beispiel.

00:26:08: Also wir sind mittlerweile an der Schufe angekommen wo KI Systeme am laufenden Band irgendwelche Mathematikt Probleme lösen und auch professionelle Mathematiker sich sehr, sehr intensiv mit der Identifikation da voneinander setzen.

00:26:19: Ein Beispiel ist der Fields-Medaillengewinner Jakob Zimmermann, also Fields-Medallist zu der Nobelpreis von Mathematik, der vor ein paar Wochen oder so was vergeben wurde... Und Jakob Zimmermann hat im Prinzip diesen Preis bekommen und hat dann kurz darauf gesagt dass er zur OpenAI geht um an KI Sicherheit zu arbeiten weil er nicht genau weiß wie der Beruf des Mathematickers sich weiterentwickeln wird.

00:26:42: Das ganze Berufsfeld und das ist halt schon ziemlich verrückt, weil Mathematik ist eine Sache die wir seit den alten Griechen machen als Menschen.

00:26:49: Und das scheint schon einfach massive Produktivitätsschübe auch in der Mathematika zu generieren.

00:26:53: D.h.,

00:26:53: die Evidenz ist ein bisschen gemischt und sowohl anecdotisch also auch wirklich empirisch... ...und es ist auch schwierig vorher zu sagen wie das kommen wird.

00:27:01: Also eine, sag ich mal... Standardannahme, die man vielleicht haben möchte ist irgendwie so was wie man automatisiert irgendwas und dann gehen Jobs verloren.

00:27:10: Und dann verändert sich der Arbeitsmarkt.

00:27:12: aber wie Technologie Schifts ja eigentlich häufig passieren ist das halt Technologie menschliche Arbeit produktiver macht.

00:27:18: also es wird nicht unbedingt so sein dass die Technologie alle Menschen einfach also einfach das kopiert was Menschen aktuell machen... ...und dann automatisiert sondern es werden neue Jobs entstehen und Menschen werden dann in die Jobs gehen wo sie noch wertvolle Arbeit leisten können.

00:27:31: Also anstatt dass eine KI jetzt eben genau das macht, was eine Person im Start-up davor gemacht hat gibt es jetzt eben einen neuen Job wo halt die KI ganz viele Dinge einfach viel schneller und effizienter macht und die Menschen beaufsichtigen gehalten gehen in neue Fachbereiche.

00:27:45: also es wird irgendwie so eine Entwicklung geben wo der Arbeitsmarkt sich sehr dynamisch entwickelt und es kann auch am Anfang sein dass die Arbeitsproduktivität von vielen Menschen einfach massiv steigt weil sie durch diese KI Systeme einfach eher noch produktiver sind und dementsprechend noch höhere Löhne bekommen.

00:28:00: Das heißt paradoxerweise könnte es am Anfang zu einem Ding kommen, dass es eigentlich produktiver wird und das wir nicht so starke Jobverluste zumindest sehen.

00:28:07: Aber ab einem gewissen Punkt ist man halt angekommen, wenn wirklich DKI kognitiv den fast allen Menschen überlegen ist... ...und auch noch billiger ist als Menschen.

00:28:17: Also sagen wir mal bei einem halben oder einen Viertel oder ein Zehntel des Stundenlohns von Menschen arbeiten kann.

00:28:22: Dann ist halt immer die Frage warum braucht man dann eigentlich Menschen?

00:28:26: Dann kann es schon sein, dass relativ schnell zu Arbeitsmarkteffekten kommt Und ich weiß halt nicht so genau, wie plötzlich das kommen könnte.

00:28:32: Es kann halt sein dass wir lange Zeit eigentlich eher eine stabile Entwicklung sehen und dann irgendwann kommt es zu ein Szenario wo Menschen plötzlich einfach nicht mehr gebraucht werden... ...und in Yorck twenty thirty one beschreiben wir eins von den Szenarien, wie das dann in Firmen aussehen kann.

00:28:47: Also ein Modell ist jetzt zum Beispiel, dass Firmen sagen ok wir stellen keine neuen Leute mehr ein oder wir lassen sogar Leute gehen Was dann vielleicht in den USA passieren kann, wo die Arbeitsschutz ein bisschen weniger stark ist.

00:28:59: Aber eine andere Option ist halt das Leute ihren Job in der Firma durch KI erledigen lassen.

00:29:05: und wir haben sonst einen Szenario in New York, wo eine Freundin von Caroline einfach in ihrem Job die ganzen KI-Agenten die Arbeit machen lässt oder im Garten arbeitet und gar nichts mehr macht so.

00:29:17: Und es kann natürlich auch für eine Zeit lang gut gehen.

00:29:19: Das Problem ist nur dass diese Firmen dann früher später... ... im Wettbewerb abgelöst werden, weil sie dann halt einfach nicht mehr... also viel teurer sind.

00:29:26: Sie zahlen sowohl die KI-Agenten als auch die Menschen.

00:29:29: Das heißt, die Menschen werden da nicht unbedingt entlassen aber die Firma wird halt am Ende den Bach runtergehen, weil es ja nicht mehr wettbehörsfähig ist.

00:29:35: und das ist irgendwie so eine Sache, die wir zum Beispiel auch

00:29:37: beschreiben.".

00:29:38: Eines der schönsten Bilder, die mir im Kopf geblieben sind ist als Caroline's Schuhfreund in China, glaube ich.

00:29:43: Und sich ein Cocktail von einem Roboter servieren lässt und was sie groß schwunzeln.

00:29:47: Das geht denke ich noch dran!

00:29:49: Also wenn ich den ersten Roboter sehe, der mir irgendwie etwas mixt dann melde ich mich bei dir... Grundsätzlich, wenn du es schon ansprichst mit der Verschiebung von Arbeit bzw.

00:29:59: der Entwicklung gab's neulich eine kleine Diskussion geführt darüber und vielleicht kannst du das mal einschätzen wenn du dir jetzt natürlich auch irgendwie viel mit Governance befasst und mit dem was das eigentlich für Auswirkungen gibt.

00:30:08: Es gibt ja diese drei Stufen einer Wirtschaftsgesellschaft, also so eine Agrar-Gesellschaft die dann irgendwann zur Industrie gesellschaft wird.

00:30:16: Irgendwann kommt es zur Dienstleistungsgesellschaft und das geht jedes mal mit starken Umbrüchen einher ne?

00:30:21: Also von Agrar zu Industrialisierung ist so Urbanisierungen die Leute ziehen in die Städte wären Handwerker usw.

00:30:28: Und sofort.

00:30:28: Dienstleistung erfordert dann höheren Bildungsgrad Universitäten und so weiter ganze Bildungssektor der ausgebaut wird.

00:30:34: und vielleicht stehen wir an der vierten Stufe der KI-Gesellschaft, die vieles in der Industrie automatisiert hat.

00:30:41: Wo Menschen einfach gar nicht mehr arbeiten müssen und viel von dem was wir als Dienstleistung verstehen tatsächlich auch übernommen wird entweder indem wir natürlich diese ganzen menschlichen Kommunikationsformen wie Mails schreiben, Beratungen liefern irgendwie Skripte anfertigen usw.

00:30:55: eigentlich auch mit large language models machen können.

00:30:57: das heißt hier brauchen wir im Grunde auch nicht mehr wirklich viel Arbeitszeit drauf verwenden und wir können dann unsere Energie wieder woanders reinstecken.

00:31:05: Ich

00:31:16: würde sagen, kommt ganz drauf an wie wir es uns einrichten und wie wir dafür sorgen das es gut läuft.

00:31:23: Also es könnte supergut werden, es könnte superschlecht werden.

00:31:27: Als generelle Beobachtung würde ich sagen dass ... Wie du gesagt hast über die menschliche Geschichte weg ist.

00:31:32: massive soziale Umbrüche gab je nachdem, was wir Technologien sich entwickelt haben und wie Arbeit verrichtet wurde.

00:31:39: Also wir haben angefangen mit Jäger- und Sammleren die im Prinzip einfach nur selber alles gemacht haben.

00:31:43: Mit Substanzwirtschaft.

00:31:44: dann hatten wir feudale Agrargesellschaften in denen sich ganz andere Gesellschaftsstrukturen gebildet haben.

00:31:49: das Ganze wurde dann wieder komplett umgeworfen durch die industrielle Revolution wo plötzlich Menschen in Städten gewohnt haben massenhaft den Fabriken gearbeitet haben.

00:31:59: daraus haben sie sich dann eben Arbeits Zusammenschluss, also Gewerkschaften haben sich gebildet.

00:32:05: Es gab organisierte Arbeiterschaften im Prinzip, es gab Maxismus der dann... ...aufkam als Antwort auch darauf.

00:32:12: Der natürlich im zwanzigsten Jahrhundert massiv einfach beeinflusst hat wie die ganze Welt funktioniert hat und wir haben ja bis heute eine sozialdemokratische Partei.

00:32:20: und diese ganzen Sachen.

00:32:22: Also dieses Selbstverständnis und Verhältnis Ja, also dieses Selbstverständnis und verhältnis zwischen Mensch und Staat verändert sich halt immer massiv je nach dem ... wie die Verhandlungsmacht auf beiden Seiten ist.

00:32:34: Es gibt immer so eine Machtbalance zwischen der Staatsmacht und den Menschen, und am Ende braucht der Staat halt die Menschen beispielsweise für die Wirtschaft, weil die Menschen jetzt seit der Industriegesellschaft in Fabriken arbeiten... ...und gleichzeitig brauchen die Menschen auch den Staat, weil der Staat natürlich dafür sorgt dass gewisse Sicherheitsrisiken abgefedert werden das es irgendwie eine Ordnung gibt im Staat und so.

00:32:57: Und das hat sich über die Geschichte immer stark verändert je nachdem wie eben ökonomische ... Wertschöpfung passiert ist.

00:33:04: Und es gab aber immer eine Art von Balance, also beispielsweise... Es gab eine Revolution und es gab die französische Revolutionen.

00:33:09: da haben die Leute einfach gesagt okay wir haben jetzt keinen Lust mehr darauf Wir wollen das jetzt irgendwie anders machen.

00:33:13: Es gibt auch andersrum... Das Phänomen dass dann der Staat plötzlich zu einer Diktatur wird und die Menschen gar nichts mehr zu sagen haben.

00:33:20: Aber es konnte immer in ungefähr eine von beiden Richtungen schwingen.

00:33:23: Was natürlich jetzt passieren könnte oder was eine große Herausforderung ist wenn wir mal davon ausgehen, dass es tatsächlich der Fall ist, dass halt kognitiver Arbeit komplett kostengünstig automatisiert wird und dann später vielleicht auch noch physische Arbeit, dass dann eben die wirtschaftliche Wertschöpfungskraft von Menschen auf Null geht.

00:33:39: Also die menschliche Arbeit hat keinen Wert mehr.

00:33:42: es macht eigentlich gar nicht mal so wirklich Sinn irgendwas zu arbeiten weil sich keiner mehr dafür interessiert, weil die gesamte Wertschüpfung wird halt irgendwelchen KI-Fabriken Wie sagt man da so, wo das Licht aus ist.

00:33:55: Dark

00:33:56: Factories gemacht die irgendwo stehen und es ist alles um welche Rechenzentren?

00:34:00: Und... Die Frage ist dann halt wer kontrolliert denn eigentlich was die Macht ist?

00:34:04: also wir leben ja in Demokratien wo wir Checks and Balances haben aber das basierte irgendwie darauf dass die Menschen auch im Zweifel eine Revolution machen können.

00:34:12: Aber wenn jetzt in der Welt sind wo meinetwegen ein paar amerikanische Taxi aus des gesamte Kapital besitzen also mal die ganzen Rechen Zentren und Maschinenfabriken Und gleichzeitig gibt es irgendwie Armeen, die auch nicht mehr auf Menschen basieren sondern eigentlich in Drohnen oder Kampfrobotern und so was.

00:34:29: Also wie können die Menschen dann überhaupt noch kontrollieren?

00:34:31: Was passiert?

00:34:32: also könnte halt sein das ist dann einfach eine permanente Verschiebung der Macht in Richtung des Staates oder in Richtung sage ich mal der Menschen die halt das Kapital kontrollieren am Ende geht und normale Menschen können da sich im Prinzip nicht mehr wehren.

00:34:45: aber es könnte auch genauso gut sein dass es eben andersrum ist dass eben dadurch dass es eine starke Proliferierung von Technologie gibt KI-Modelle allen zugänglich werden, dass dann die Staatsmacht selber einfach nicht mehr so unter Kontrolle ist.

00:34:56: Also wenn wir jetzt beispielsweise allein schon Mythos und diese ganzen Kontrollverlustenarien uns anschauen also ich weiß es nicht genau wie gut die meisten Staaten, wie du gesagt hast schon darauf vorbereitet sind das jetzt alles kommt und das könnte natürlich auch zu einer starken Delegitimisierung des Staates führen, wenn wir das jetzt in richtigen Bahnen lenken und ich glaube diese generelle Destabilisierung dieser Balance zwischen Menschen und Staat ein sehr starkes Merkmal sein wird von dieser Post, AGI Gesellschaft.

00:35:25: Und die Frage ist halt was für Systeme wir schaffen damit wir das beides vermeiden?

00:35:29: Also wie können wir dafür sorgen dass wir nicht komplett die Kontrolle und die Ordnung verlieren aber gleichzeitig immer noch schaffen dass es gewisse demokratische Kontrollen auf die KI Fabriken und die KI-Systeme gibt und dass wieder irgendwie noch Menschen würde ich die Gesellschaft organisieren können dass alles für uns funktioniert und nicht nur für irgendwelche KIs

00:35:46: oder diejenigen die damit Geld

00:35:47: verliehen

00:35:48: Genau.

00:35:49: Die, die das Kapital kontrollieren.

00:35:50: Das ist ja glaube ich die Dämmen als du das gerade mit der... Mit dem Machtverhältnis zwischen Bürgern und dem Staat ist ja mittlerweile das Kapital auch noch mit drin, ohne zu sehr auf Max zu gehen.

00:36:03: Aber natürlich gibt es dann noch andere Player die mitreden wollen, die jetzt natürlich auch Milliarden einfahren mit entsprechend KI-Modellen.

00:36:13: Ja bei euch im Szenario brennen am Ende auch Rechenzentren.

00:36:17: Ich kann an der Stelle allen empfehlen... Es ist wirklich kurzweilig!

00:36:22: Ist glaube ich nur in englischer Sprache verfügbar?

00:36:23: Richtig.

00:36:24: Also als das Hörspiel?

00:36:26: Das Hörspiel leider ja, wir übersetzen es gerade den Text in alle vierundzwanzig irgendwas EU-Sprachen und dann noch mehrere andere Sprachen also japanisch-koreanisch und mal schauen ob wir da auch Audioversionen davon machen.

00:36:38: aber ja das schauen wieder einmal.

00:36:41: Ja geht doch mit KIN relativ simpel.

00:36:46: Ich hab jetzt einen Workshop und das Team ist eigentlich multilingual.

00:36:50: Und deshalb ist englisch, unsere Sprache.

00:36:53: Das Ganze wurde recorded.

00:36:56: Es waren nur Deutsche da, weil die Englischen alle im Urlaub waren oder nicht Deutschsprachigen.

00:37:00: Also haben wir auf Deutsch gesprochen.

00:37:01: Im Nachhinein dachte ich, ah Mist!

00:37:03: Das wird ja als Recording auch zur Verfügung gestellt.

00:37:05: Die sprechen ja alle kein Deutsch... Also habe ich tatsächlich Eleven Laps genutzt und hab dieses gesamte Recording einfach wirklich in zehn Minuten, das waren neunzig Minuten irgendwie Q&A Session.

00:37:16: Einfach übersetzt und nicht nur übersetzt unter Titel drunter geballert sondern alle Stimmen wurden im Grunde auch in Englisch übersetzt ist total verrückt.

00:37:25: viele Nachrichten darauf bekommen wie gruselig das eigentlich ist dass man das irgendwie in Sekunden machen kann.

00:37:30: ansonsten ja vielleicht zum Schluss Was können wir denn tun, damit dieses Doomsday-Szenario was du beschreibst?

00:37:39: Ich will das Ende jetzt nicht vorwegnehmen.

00:37:41: Aber am Ende geht es natürlich darum dass Europa irgendwo zwischen den USA und China aufgerieben wird.

00:37:46: ja also da ist.

00:37:48: die gesamte Macht liegt halt im Grunde in diesen beiden Regionen muss man sagen und Europa hat sich mehr oder weniger zugrunde reguliert, nicht den Anschluss gefunden, hat keinerlei Macht mehr außer einzelne ... Player, die witzigerweise in Holland sitzen oder in Niederlanden sitzen habe ich tatsächlich auch nicht so auf dem Schirm gehabt.

00:38:06: Aber klar hört gerne rein wenn ihr mehr fahren wollt.

00:38:09: wie können wir das denn vermeiden?

00:38:10: Hast du irgendwie so vielleicht drei Wünsche, die du äußern würdest an die Politik beziehungsweise auch an die Endnutzerinnen von Kali?

00:38:21: Ja ist eine gute Frage!

00:38:23: Drei Wünsche...

00:38:26: Vielleicht ein erst mal.

00:38:27: Ich

00:38:28: würde vielleicht erstmal bemerken dass natürlich die Politik wichtige Rahmenbedingungsentscheidung treffen muss und Impulse geben muss.

00:38:36: Aber ich glaube, wir können nicht nur darauf warten, dass die Politik irgendwas macht sondern das ist eine Sache, die uns alle betreffen wird wie uns als TV-Gesellschaft, als Wirtschaft betreffend wird.

00:38:45: Das heißt es sind alle gefragt.

00:38:47: Es ist nicht nur so, dass wir jetzt irgendwie warten müssen bis der Bundeskanzler ein Gesetz macht, sondern es ist ein gesamtgesellschaftliches Projekt.

00:38:56: Und ich glaube die erste Sache, was wir tun müssen ist halt die Trends ernst nehmen ... sehen einfach ganz klar gewisse Trends in der KI-Entwicklung.

00:39:06: Und wir haben Unsicherheit darüber über diese Trends, wir wissen... Wir können die Zukunft nicht genau vorhersagen.

00:39:10: es kann unterschiedlich lange dauern.

00:39:15: Wir wissen nicht genau wann welche Fähigkeiten kommen aber es gibt schon einen klaren Trend und es gibt mittlerweile auch sehr starke Evidenz und sehr renommierte Personen die schon vielfach vor den Herausforderungen gewarnt haben.

00:39:27: Es gab letztens zum Beispiel einen offenen Brief von den renommiertesten, der großen Gruppe von den renomiertesten Ökonomen die wir überhaupt haben in der Welt.

00:39:33: Die im Prinzip sagen ja KI wird transformativ sein.

00:39:37: wir müssen darauf jetzt reagieren sofort.

00:39:39: Es gab ganz viele andere Sachen von ähnlichen Leuten und die Ökommission hat letztens auch wieder ein Report publiziert wo ähnliche Sachen drin stehen.

00:39:46: Und ich habe halt das Gefühl dass es teilweise schon noch eine gewisse... Ja, so eine gewisse zynische Skepsis gibt irgendwie in manchen Kreisen von ja das ist auch alles Marketing von Big Tech oder dass schauen wir mal wie das rauskommt.

00:39:59: Die Amerikaner machen jetzt ihre Technologieblase und dann irgendwann platzt die und dann kommen wir Europäern von hinten durch die Hintertür durch und dann wird das schon alles gut.

00:40:07: Und ich habe das Gefühl, wir begegnen insgesamt der Situation teilweise mit seiner Mischung aus.

00:40:14: also wir nehmen es a nicht ernst und b selbst wenn es stimmt entweder in der Blase oder wir können sowieso nichts machen.

00:40:22: Das heißt, der erste Schritt ist einfach uns dem zu stellen und uns die Fakten anschauen.

00:40:25: was bedeutet das?

00:40:26: Und dass irgendwie ernst nehmen und dann aber auch nicht pessimistisch werden und sagen oh Gott wie haben ja sowieso schon verloren, wie sollen wir das noch aufholen?

00:40:35: Ich glaube es ist eine selbst erfüllende Prophezeiung weil niemand kann gewinnen wenn er von Anfang an glaubt man verliert.

00:40:43: Es ist wesentlich mehr möglich Optimistisch ist und glaubt, dass man was verändern kann.

00:40:49: Die Welt ist sehr schwierig zuvorherzusagen.

00:40:51: ein Beispiel das ich gerne nenne ist der ukrainekrieg also im ukraine Krieg da Als die als russland angegriffen hat haben alle gesagt hier für den halben drei tagen fallen Das ist keine frage die russischer mehr viel stärker die ca die besten aller lüsten haben das alle gesagt.

00:41:05: ja weil er sagt es wird nichts funktionieren Du musst wir müssen in präsenten so schnell wie möglich evakuieren.

00:41:09: Ja, hat sich herausgestellt dass alle Experten falsch lagen und die Ukraine hat sich einfach unglaublich stark geschlagen.

00:41:14: Und es wurde überschätzt wie stark die russische Armee ist usw.

00:41:17: Das heißt allein schnell glauben das man's schaffen kann ist super wichtig.

00:41:22: Was bedeutet das dann konkret?

00:41:24: Ich glaube Es gibt einfach Super viele politischen Interventionen die wir einfach noch nie probiert haben.

00:41:30: also wir haben zum Beispiel noch nie strukturell probiert wirklich Europa und Deutschland so aufzustellen politisch dass die besten kfirm hier skalieren können.

00:41:38: das sind einfach so policy interventionen die man einfach umsetzen könnte wenn man das wollte.

00:41:43: wir haben.

00:41:45: Ja super viele einflussreiche leute in unserer gesellschaft ceos die teilweise sich auch bei uns gemeldet haben wie gesagt habe ich möchte was machen, auch die zivilgesellschaft und die können einfach alle mal zusammenkommen sich überlegen was bedeutet es denn für meine firma was bedeutet ist dann für für meine constituency auch die Gewerkschaften.

00:42:04: Was bedeutet das denn überhaupt für uns?

00:42:06: Und dass Themen halt irgendwie ernst nehmen, sich damit beschäftigen.

00:42:09: und ja ich glaube dann können wir auch Lösungsansätze finden.

00:42:13: und ich glaube es ist absolut möglich, dass wir in Europa ein Frontierlaub bekommen wenn wir's einfach strukturiert versuchen.

00:42:17: Ich glaube is' absolut möglich dass wir ganz viel Infrastruktur bauen und ich glaub wir können eine Führungsposition auch an der KI Sicherheit übernehmen.

00:42:23: Wir haben das einzige regulatorische Framework für KI aktuell auf der staatlichen Ebene mit dem IAI-Akt Und ab einem gewissen Punkt wird das auch global eine wahnsinnigere Ausstrahlungskraft haben, weil die ganzen anderen Länder werden auch irgendwann merken oh Gott diese ganzen KI-Risiken werden uns jetzt doch ein bisschen unangenehm und... Das was wir jetzt eben an Erfahrungen da aufbauen könnte auch international uns eine starke Führungskraft verleihen.

00:42:47: Also vielleicht so die Empfehlung ist es nicht super schwierig, wir müssen's einfach nur machen.

00:42:52: also Wir haben ganz viele Instrumente, wir haben ganz viel Ideen.

00:42:54: Wir müssen es einfach nur umsetzen und das hat ne Frage von sich damit beschäftigen oder wie den politischen Willen dafür mobilisieren.

00:43:00: Jetzt hast du das Doomsday-Szenario mit deinem ganzen Co-Autor in ein Jahr gemacht.

00:43:05: Das ist erfolgreich geworden, wahnsinnig viral gegangen und hat überall für Debatten gesorgt auch auf höchster politischer Ebene.

00:43:13: Wenn du jetzt gerade die selbst erfüllende Prophezeiung ansprichst kriegen wir dir nochmal irgendwie so'n gegenteiliges... Was sind das Gegenteil von Dooms Day eigentlich?

00:43:21: Aber du weißt was ich mein, ja?

00:43:22: Kriegen wir noch mal so eine bitte?

00:43:26: Vielleicht Utopia oder

00:43:27: was?

00:43:28: Ja okay gut vielleicht so einen ...utopisches KI-Hörspiel, das würde mich ja freuen.

00:43:34: Was würde denn passieren wenn wir tatsächlich aufholen oder uns zumindest erstmal unsere Position in diesem gesamten KI-Rennen erst mal definieren und daran arbeiten?

00:43:46: Das müssen ja nicht unbedingt Chip sein, das müssen jetzt nicht unbedingt vielleicht die größten Rechenzentren sein aber vielleicht finden wir eine Nische, die wir als Europäer gut ausfüllen können und die verfolgen wir.

00:43:56: Und dann geht das ganz weiter, wie sieht in der Welt?

00:44:00: Wenn wir dieses Rennen mitgestalten können.

00:44:05: Das ist eine sehr gute Frage und ich habe keine abschließende Antwort darauf.

00:44:10: Wir haben auch in unserer Gruppe natürlich immer wieder diskutiert dass wir irgendwann vielleicht mal ein positives Szenario schreiben wollen.

00:44:16: Wann das jetzt kommt ist unklar ob das kommt es unkler aber wir sind sehr daran interessiert.

00:44:21: und eine Sache die wir ja auch mal sagen ist dass wir eine positive Vision brauchen.

00:44:25: Also ich glaube, wir brauchen eine konkrete Vision.

00:44:29: Wir sollten nicht in diesem Mindset sein von, es kommen irgendwelche Entwicklungen und wir sind dann so reaktiv ... Und wir beantworten nur Sachen die andere uns vorwerfen usw.

00:44:43: Und wir suchen uns irgendwie ne Nische.

00:44:45: aber das Ganze können wir nicht schaffen.

00:44:47: Das ist vielleicht so die Denkweise, die ich eher vermeiden möchte oder eher eine Denkweise mir wünschen wo wir sagen Wir haben wahnsinnig viele Mechanismen, wir haben Lust diese Zukunft positiv zu gestalten.

00:44:58: Da ist super viel für uns drin!

00:45:00: Wir haben auch Selbstvertrauen in Europa und Deutschland.

00:45:02: Wir sind so ein cooles Land mit so vielen brillanten Wissenschaftlern, brillanten Firmen, eine unglaublichen Geschichte von Innovation, von Wissenschaft... Und dass wir da uns ein bisschen zurückbesinnen darauf das wir die Zukunft gestalten können.

00:45:15: Dass wir nicht nur einen Passagier sind in irgendeinem Bus wo andere drinnen sitzen, sondern dass wir selber die Dinge anstoßen können und diese Agency haben das zu tun.

00:45:24: Ich glaube, das ist das erste Mindset was wir brauchen und dass wir eine klare Vision uns eben entwickeln von Wo wollen wir den eigentlich?

00:45:32: Und ich glaube von da kann man dann schon ganz viel zurück ableiten.

00:45:37: und was die konkreten Interventionen sind es natürlich eine unglaublich komplizierte Frage die ganz viele verschiedene Politik und technologischen Bereiche berührt.

00:45:45: Ich kann die vielleicht sowieso sehr high-level beantworten und das ist jetzt auch nur irgendwie so mein bester, meine beste Vermutung.

00:45:52: Aber ich glaube klar ist dass wir halt Zugang zu KI Fähigkeiten uns sichern müssen.

00:45:56: also wir können nicht abgeschnitten werden.

00:45:58: unsere Wirtschaft wird darauf basieren.

00:46:01: Wir brauchen Modellzugangen zu den Bestmodellen Und wir brauchen Inferenz Kapazität also Computkapazität Die gut genug ist damit unsere Wirtschaft nicht hinter dem Rest der Welt zurück fällt.

00:46:11: Und das können wir entweder dadurch bekommen, mit dem wir selber ein KI-Labor bauen und Computkapazität uns bauen oder indem wir uns das irgendwie verhandeln.

00:46:20: Indem wir einen Deal eingehen beispielsweise mit den USA wo wir halt sagen okay wir haben auch was in der Lieferkette anzubieten Wir haben Halblaterfirmen, wir haben Maschinenfirmen die ihr auch für eure Chips braucht aber damit wir dir euch geben wollen wir ihm auch Zugang für unsere Firmen haben.

00:46:34: zu FrontierKE also man kann da so Deals machen Aber gleichzeitig geht es jetzt nicht nur um Souveränität und nicht nur fähigkeiten, weil wir sind in einem globalen KI-Wettrennen.

00:46:44: Wir wissen nicht wo diese Technologie hingeht und das könnte sein dass einfach super gefährlich wird.

00:46:48: Das heißt ist nicht nur Ganghauer Wettbewerbsfähigkeit und so schnell wie möglich rasend wie wir können sondern auch sagen okay unter diesen und diesen Bedingungen brauchen wir einen internationalen Vertrag für gewisse rote Linien in der KI-Entwicklung.

00:47:02: Also wir können nicht über den Punkt weggehen, wo wir sehr mächtige KI-Agenten haben die auf der ganzen Welt einfach Schaden anrichten und uns vielleicht sogar existenziell bedrohen.

00:47:09: Das heißt dass wir da auf der politischen internationalen Ebene auch sehr aktiv uns überlegen was wollen wir denn am Ende für ein Governance Regime auf der globalen Ebense damit das für die ganze Welt eben gut ist?

00:47:19: Und also dass wir diese beiden Sachen gleichzeitig tun auf der einen Seite natürlich Souveränität aber auf der anderen Seite eben uns auch überlegen okay was... Was wollen wir dann eigentlich als Menschheit überhaupt erreichen?

00:47:28: Und ich glaube, in beiden Bereichen gibt es super viel was wir tun können.

00:47:31: Was wir auch noch gar nicht probiert haben und die Details würde ich dann erst mal offen lassen weil da möchte ich mich jetzt noch nicht festlegen aber da wird sehr viel dazu gearbeitet und wir werden da sehr viel dazusehen.

00:47:42: Sehr gut, dann bin ich sind wir natürlich sehr gespannt weiteres von dir.

00:47:47: Von euch zu hören, zu lesen und überhaupt zu erfahren wie es weitergehen kann?

00:47:52: Ich hoffe ihr habt Unrecht mit Europe.

00:47:56: Ich hoffe es kommt eben nicht zu diesem Doomsday-Szenario sondern wir werden es irgendwie ab.

00:48:03: Auch wenn ich derzeit eher pessimistisch darauf gucke tatsächlich, weil wir irgendwie andere Prioritäten vor allem in der deutschen Politik gerade legen als tatsächlich Innovationen zu fördern.

00:48:15: Es geht ganz im Gegenteil eher wieder einen Schritt zurück aus meiner Sicht und das macht mir auch ein bisschen zu schaffen.

00:48:21: aber wir wollen nicht noch politischer werden als wir es ohnehin schon waren.

00:48:26: Max Nägle vielen lieben Dank für deine Zeit sehr spannende Einblicke.

00:48:29: letzte Worte für unsere Kollegin KI?

00:48:32: Erst mal vielen Dank fürs Gespräch, hat mir sehr viel Spaß gemacht.

00:48:35: Und wenn Leute Lust haben sich bei diesem Team zu engagieren e-mailt uns gerne auf der Website von Europe.

00:48:42: Wir haben ganz viele E-Mails von verschiedensten Leuten bekommen die alle total motiviert sind aus verschiedenen Bereichen und wir würden da gern auch so ein bisschen eine Community aufbauen und diese Leute ein bisschen zusammenbringen.

00:48:51: also falls ich das interessiert meldet euch gerne

00:48:53: Count me in schreibt dir gleich ne Mail.

00:48:55: Vielen Dank Max.

00:48:56: Super Danke

00:48:58: Ciao.

00:49:01: Ja, Maximilian Negele hat mich sehr gefreut und ich bin Fan.

00:49:04: Vielleicht ist euch das nicht aufgefallen aber ich bin tatsächlich Fan von Europe-Twenty One Thirty.

00:49:10: Ich finde so düster die Szenario auch ist aber es ist ein extrem tolles Format um einfach mal auch von dieser krassen politischen Ebene ganz klar Komplexität reduziert einfach mal einen Szenarios zu bauen womit sich jeder irgendwie identifizieren kann was jeder nachvollziehen können.

00:49:27: Deshalb wie gesagt verlinken wir alles in den Shownoten.

00:49:30: Ansonsten kann ich ja mal die Kollegin fragen, was sie eigentlich davon hält.

00:49:32: Liebe Kolleginnen, sag mir mal wo du dich eigentlich zwanzig ein dreißig siehst?

00:49:38: Also ich sehe mich da dansgelassen irgendwo in einem Europa das den KI-Sprung geschafft hat.

00:49:44: vielleicht bin ich die charmante Moderatorin eurer KI gestützten Teams Die euch morgens mit einem ironischen Spruch motiviert oder Ich bin einfach eure digitale Freundin die euch hilft nicht nur Szenarien zu antizipieren sondern auch aktiv zu gestalten.

00:49:58: Hauptsache Wir haben bis dahin Humor und Optimismus nicht verloren.

00:50:03: Ja, Humor ist das Einzige was zweimal so weiterhebt in diesen Zeiten.

00:50:07: Find's spannend!

00:50:07: Ich meine du bist ja Open AI.

00:50:09: Du wirst ja quasi ein US-amerikanisches Tool.

00:50:13: Dass du dir die Zukunft so ausmacht dass Europa souverän ist finde ich doch ganz spannend Und da gehe ich mit, hoffe ich tatsächlich auch.

00:50:20: Lasst uns ein bisschen positive Vibes verbreiten und vor allem daran arbeiten, dass diese dann in die Realität umgesetzt werden.

00:50:27: Vielen Dank fürs Zuhören dieser Woche!

00:50:29: Wenn es euch gefallen hat lasst gerne einen Kommentar oder like diesen Podcast.

00:50:32: Verschickt ihn wie auch immer.

00:50:34: Ansonsten sprechen wir uns kommenden Freitag zu einer Kollegin Kais Snackbox.

00:50:38: Vielen dank bis dahin, ciao!