Jahrhundert-Problem, gelöst in zwei Stunden: Wie KI die Wissenschaft überrollt

00:00:02: Wahrscheinlich habt ihr in den letzten Wochen und Monaten viel über die Millennium-Probleme gelesen.

00:00:09: Das sind so Probleme, die wurden zweitausend aufgestellt – das sind sieben Stück!

00:00:13: Und da sind Probleme aus der theoretischen Mathematik könnte man sagen, die einfach als ungelöst gelten.

00:00:18: Es ist eine Gleichung, die nicht erklärt werden können usw.

00:00:21: ganz viele, also sieben Stück... Und jetzt gab es so einen Aufreger, weil OpenAI gesagt hat mit unserem neuen Large Language Model konnten wir eins dieser sieben Probleme also quasi der großen Fragen rund um die moderne Mathematik konnten wir lösen.

00:00:36: Das hatten Streit verursacht und ist ohnehin eine ganz interessante Debatte auf die ich heute mal gucken möchte was KI eigentlich mit der Wissenschaft anstellt?

00:00:46: Und da soll ich mir jemanden eingeladen ein Wissenschaftler den ich persönlich kenne, mit dem ich ein paar Mal schon aufm Panel gesessen habe.

00:00:52: Den ich sehr schätze und der tatsächlich so eine ganz eigene Erfahrung mit dem Lösen von theoretischen Problemen und KI gemacht hat.

00:00:59: Von daher ja, KI-Philip stelle es doch mal vor, wen ich heute sitzen hab!

00:01:02: Max manche Leute lassen sich von KI ihre E-Mails schreiben.

00:01:06: Danny Hucke hat damit ein wissenschaftliches Problem aus seiner eigenen Dissertation gelöst.

00:01:11: Da würde ich gern genauer wissen wie ist ihm das gelungen?

00:01:14: Und was bedeutet das für die Wissenschaft?

00:01:16: wenn Sprachmodelle Plötzlich bei solchen Problemen weiterhelfen, fragt du ihn mal.

00:01:21: Eine Dissertation hast Du ja zum Glück nicht mehr abzugeben!

00:01:24: Ja das stimmt zum glück nicht mehr... Hi Danny, grüß dich!

00:01:27: Hallo!

00:01:29: Eigentlich müsste er Dr.

00:01:30: Danny Hooker heißen.

00:01:31: Du bist Doctor der Theoretischen Informatik

00:01:35: Dr.

00:01:35: der Naturwissenschaften, aber mit Fachgebiet theoretisch in der Formatik ganz genau.

00:01:39: Herzlich willkommen!

00:01:39: Ich freue mich sehr dass du Zeit hast.

00:01:41: wie gesagt wir kennen uns schon eine Weile.

00:01:43: Wir quatschen immer mal wieder über KI Sitz noch zusammen auf Panels Du arbeitest in Leipzig Du bist nicht in der Wissenschaft geblieben Wie so viele sondern ein bisschen Unternehmen gegangen.

00:01:52: und man muss ja irgendwie sagen lange vor KI wenn man so möchte also vor der generativen KI die wir jetzt so kennen Hast du über Ja ein wissenschaftliches Problem Promoviert.

00:02:03: ist das?

00:02:04: Das ist komplett richtig, genau.

00:02:06: Du hattest mir das nämlich erzählt als du uns letztmal getroffen hast und das fand ich ganz spannend.

00:02:09: Mit dir muss ich mal drüber reden vor allem weil dieses Thema Wissenschaft und KI ja so gerade hochkocht.

00:02:15: Kannst du mir einmal oder kannst du uns einmal das erzählen was du mir auf der Veranstaltung wo wir uns letzt Mal getroffen haben erzählt hast um uns mal ein bisschen abzuholen wo wir hier eigentlich gerade stehen?

00:02:26: Klar sehr gerne Max also... Es ist so, meine Dissertation habe ich schon von einer Weile geschrieben und war auch danach noch eine Weile der Forschung treu geblieben.

00:02:33: Ich habe es immer schon geliebt an theoretischen Problemen zu arbeiten.

00:02:37: das hieß damals aber insbesondere an der Tafel mit Kreide oder mit Edding sitzen und mit den Kollegen Tüfteln die Köpfe rauchen lassen.

00:02:46: Ein Problem konnte ich nie lösen, da habe ich tatsächlich gute Fortschritte gemacht.

00:02:50: Die hab' ich auch publiziert damals.

00:02:52: aber da gab's so eine Frage die zu erklären würde den ganzen Podcast sprengen.

00:02:56: Aber ich sag euch ein Problem das hat mich nie losgelassen.

00:02:59: Und dann kam eben die Revolution mit KI.

00:03:03: Ich selbst bin da sehr tief eingetaucht Bin wie gesagt mittlerweile selbst in diesem Bereich intensiv tätig und hab mir so Routine gemacht.

00:03:11: Das war immer ein neues Prachmodell, ein Frontiermodell.

00:03:14: Ein führendes Modell auf dem Markt erschienen ist, dass ich mir am Wochenende mal einen Tag freigeräumt habe oder eine Nacht und mich mit dem KI-Modell zusammen hingesetzt hab und mal versucht hat mein altes Problem meine Art schneller sind irgendwie zu lösen.

00:03:26: das heißt dann die Nacht der KI erst einmal beigebracht worum es geht Und dann ihr die Chance gegeben mir zu helfen vielleicht doch noch endlich meinen Endgegner zu besiegen.

00:03:35: Das hat nie geklappt bis eben in meiner Elternzeit diesen Jahres, im August wo ich ein bisschen mehr Zeit hatte und dann kam von OpenAI das Astra-Modell mit Fable.

00:03:49: vorher hat es auch probiert von Anthropic da hat es noch nicht geklappt.

00:03:53: Und tatsächlich zu meiner großen Überraschung saß ich eben eine Nacht mit Astra da Und kurz darauf hat Astra, nachdem ich beigebracht habe worum es geht.

00:04:02: Ja, Astra mir eben einen Lösungsvorschlag präsentiert eine richtig gute Idee und ich war sehr skeptisch.

00:04:08: Ich hab auch gemerkt dass nach all den Jahren raus aus der Wissenschaft ist gar nicht mehr so einfach ist komplexe mathematische Beweise nachzuvollziehen Hab aber mein bestes gegeben auch mit KI hab auch meinen Doktor Vater eingeschaltet und wie sich's rausstellt bis zum jetzigen Zeitpunkt hält der Beweis also das Problem is Stand jetzt gelöst.

00:04:25: Es ist noch nicht post-reviewed und publiziert, das heißt wir machen mal noch einen Stern oben dran.

00:04:30: Vielleicht jemand der noch schlauer ist findet vielleicht noch irgendwo ein Haken.

00:04:33: aber stand jetzt ist das Problem tatsächlich mithilfe von KI gelöst worden

00:04:37: oder dass das nächste Language Model dann wieder aufmacht Sensationell, finde ich wirklich sensationell.

00:04:45: auch dass du da geguckt hast ja also dein eigener Benchmark quasi.

00:04:49: Also wie gut sind das?

00:04:50: Sind sie schlauer als ich?

00:04:52: Nein kann ich so jetzt mal sagen und dann mit einmal kann mir gar nicht vorstellen was ist das für ein Gefühl wenn man da irgendwie abends sitzt und sagt verdammt dieses System hat gerade das geknackt wo ich keine Ahnung vier Jahre oder wie lange man so eine Diskussion mittlerweile schon länger ja irgendwie in mein Büro gesessen habe und einfach nachgedacht haben und nicht draufgekommen.

00:05:08: und jetzt kriegt es so einen Modell dass in einer Nacht hin

00:05:12: Leider sogar nur in zwei Stunden effizient, nachdem ich musste sagen, sie hat ein paar Falsche oder das Modell hat eine paar falsche Richtungen eingeschlagen.

00:05:20: Ich musste schon immer mal noch nach navigieren.

00:05:22: Das muss man auch dazu sagen.

00:05:23: trotzdem die entscheidende Idee und auch die ganze Ausführung ist dann vollständig von der KI gekommen nach einigen Nachbesserungen von mir.

00:05:31: Ja, die Gefühle waren ambivalent.

00:05:34: Er hat mich auf einen ... Mein Doktor-Vater, den ich danach angerufen hab und mit dem überdrehen geredet habe, der hat mich auch gefragt, wie fühlt sich das jetzt an für dich?

00:05:41: Und ich muss sagen, trotzdem gut!

00:05:45: Das Problem hat mich wirklich genervt, muss ich sagen.

00:05:47: Ich bin froh, dass es vom Tisch ist.

00:05:50: Das ist so das Haupt, was überwiegt.

00:05:52: Man muss auch sagen, ich hatte meine Chance.

00:05:53: Ich hab's wirklich versucht, das Problem zu lösen.

00:05:55: Ich habe mir wirklich Mühe gegeben.

00:05:57: Und ja, ich sehe da eher die positiven Sachen.

00:06:01: Diese Macht oder diese neue Ära, auf der wir dazusteuern.

00:06:05: Eine Phase der wissenschaftlichen Erkenntnisse, die offensichtlich vor uns steht, dass er so meinen Eindruck dahängen bleibt.

00:06:11: Also insgesamt bin ich schon ganz happy.

00:06:13: Sehr schön!

00:06:14: Die Erfahrung, die du da gemacht hast damit bist du nicht allein.

00:06:18: es gibt offenbar immer mehr Dissertationen, die eingereicht werden.

00:06:22: Die Probleme lösen... ...die Generation von Denkan vorher nicht lösen konnten.

00:06:28: und du hattest gerade schon gesagt es ist noch nicht peer-reviewed dein Paper richtig?

00:06:33: Richtig ja!

00:06:34: Wobei man sagen muss meine Disservation ist ja schon Jahre her von daher wird mir nicht mehr aberkannt.

00:06:38: aber das Paper ganz richtig das ist noch nie peer reviewed Ja

00:06:41: Und das ist tatsächlich ein Problem grade.

00:06:43: oder also dass irgendwie eine ganze Menge Paper da draußen rumliegen wo einfach noch keine Menschen drauf geguckt haben?

00:06:48: Absolut Weil immer mehr auch eingereist werden, richtig?

00:06:52: Absolut.

00:06:53: Das ist so ein bisschen... Das Ding, dass in der Wissenschaft ja so ein Ehrenkodex herrscht oder herrschte muss man vielleicht sagen.

00:07:01: Dass viele Wissenschaftler oder alle Wissenschaftler die selbst auch publizieren eben nebenher ehrenamtlich auf Papers Reviewen also diese Schinssätzen und ihre Zeit investieren und von der haben sie in der Regel nicht viel neben Lehre und Forschung um andere wissenschaftliche Abhandlungen zu bewerten Fehler zu finden das kann echt viel zeit fressen vor allem wenn die Probleme komplex sind Ja und wenn jetzt auch einmal die Anzahl der wissenschaftlichen Publikation sich oder Verhundertfach, wenn jetzt jeder auch Paper schreiben kann ist der wissenschaftliche Vertrag da einfach nicht mehr einzuhalten.

00:07:35: Das kann gar niemanden mehr reviewn.

00:07:36: und was macht man dann am besten?

00:07:38: Man versucht auf der Gegenseite auch wieder eine KI ranzusetzen, versucht schon mal ein Filter davor zu schalten.

00:07:44: ja genau dass man einfach schon einmal anfängt zu sagen hey wir filtern hier schon mal die raus die irgendwie nicht unseren Standards entsprechen mit einer KI.

00:07:51: aber insgesamt ist das noch ein offenes Problem

00:07:53: Den Wissenschaftslop.

00:07:55: Ja, den Wissenschaftslopp.

00:07:56: Den gibt's auf jeden Fall!

00:07:59: Also mittlerweile muss man sagen, gibt es eine ganze Menge Dinge die mit KI gelöst werden in der Wissenschaft oder woran zumindest mit KI auch gearbeitet wird?

00:08:08: Ich hab keine belastbaren Zahlen gefunden tatsächlich zu der Menge von Publikationen und wie viele Paper irgendwo auf dem Schreibtisch noch unreviewd rumliegen aber man sieht auf jeden fall dass ne ganze Menge News drum herum entstehen.

00:08:20: Also da gibt es Open AI, die jetzt gerade das Nature-Magazin berichtet.

00:08:25: Siebenhundert mathematische Arbeiten auf einen Schlag irgendwie veröffentlicht, die natürlich auch geprüft werden müssen.

00:08:31: Es gibt im Hause Anthropic ähnliche Versuche.

00:08:36: Da wird mit tausenden Agenten geguckt Enzymesysteme in der Biologie zu finden DNA irgendwie neu zu erklären.

00:08:43: So wie du experimentiert hast machen das offenbar grad eine ganze Menge Leute und das führt natürlich hin und wieder auch mal zu Problemen.

00:08:49: Du kennst die Wissenschafts-Community, du weißt das da natürlich auch, sei mal durchaus dieser Ehrenkodex vorherrscht.

00:08:57: aber sie sind manchmal schon ein bisschen sehr eigen mit dem was da passiert.

00:09:01: und wenn da jetzt noch Big Tech drauf trifft dann haben wir so Dinge wie in dem eingangs angesprochene Millenniumproblem.

00:09:07: Du hast es wahrscheinlich mitbekommen und verfolgt richtig?

00:09:09: Absolut ja!

00:09:10: Kannst

00:09:11: uns da mal abholen.

00:09:13: Ja, das ist wieder wie es in letzter Zeit so oft ist mit diesen Geschichten.

00:09:16: Das ist eigentlich ein kleiner Spielfilm der da passiert ist.

00:09:20: Erst mal muss man vielleicht dazusagen dass OpenAI und Anthropic natürlich das Glück haben dass bei denen auch zufällig die weltbesten Mathematiker so ungefähr mitarbeiten den ihr den Recruiting selbst ja quasi voraus dass du an solchen Problemen schon einmal gearbeitet hast und erfolgreiche Fortschritte gemacht hast.

00:09:34: Das heißt da drinnen sitzen Leute die einfach wissenschaftlich extrem weltweit extrem stark sind ne?

00:09:39: Und die sind noch gut vernetzt!

00:09:41: Die Wissenschaft viel kleiner als man denkt.

00:09:44: Wenn man irgendwo fortgeschritten ist, kennt man dann jeder jeden und es ist so dass ein sehr berühmter Mathematiker oder ein bekannter Mathematiker eben mit einem Anthropic Mitarbeiter die beide das jetzt nicht hauptberuflich gemacht haben sondern eben auch nebenbei weiter an der Navier Stokes Problem gearbeitet haben und dazu haben sie auch KI genutzt wie man das heutzutage eben macht und die haben sich dafür entschieden Codex also von OpenAI die Chatchapity Ergänzung zu nutzen der ähnlich wie Chatchi Petit funktioniert von OpenAI und haben eben diesen auch mit ganz vielen Informationen gefüttert.

00:10:17: Und haben eben auch relevante Fortschritte gemacht im Bereich von Navier Stokes, wir müssen ja sagen das Problem Navier stokes ist so alt da gibt es Zichtfade die sich dem schon genährt haben man kräbt er aktuell eher sozusagen sehr tief.

00:10:30: Jedenfalls ist es so, dass irgendwann einer der Mathematiker, der nicht bei Anthropic gearbeitet hat, mal bei OpenAI angefragt hat.

00:10:37: Weil er kannte natürlich auch einen Mathematik von OpenAI.

00:10:40: Man kennt sich ja!

00:10:41: Hey wir sind bei Navier Stokes ziemlich gut vorangekommen.

00:10:44: Wir haben so ein kleinen Meister und erreicht und wir nähern uns dem Ganzen und wir wollten mal fragen da wir euer Tool genutzt haben wie ist das eigentlich mit Credits geben usw.

00:10:52: Und der andere Typ hat natürlich gehört, dass da einer von Anthropic dabei war und das fand er sogar nicht cool in das Welt, die Welt der Gerüchte über.

00:11:02: Zumindest was die beiden Kollegen sagen, die selbst die Fortschritte an den Problemen gemacht haben ist es wo so dass Open AI danach eben für mehrere Millionen Comput ihre neuesten Modelle tausende Stück davon Instanzen auf die Reise geschickt haben um eben Navios Dogs voranzutreiben genau in dem Bereich wo die beiden anderen Herren gearbeitet haben.

00:11:23: Gerüschen zufolge aber da ist nichts bestätigt weiß man jetzt nicht ob die KI oder die OpenAI-Mitarbeiter sogar auf die Information Zugriff hatten, die eben die beiden Mathematiker da schon zusammengesammelt hat.

00:11:38: Also ob es hier einen Fortschritt oder so was wie abschreiben gab?

00:11:42: Das ist ja offen!

00:11:46: Zumindest ist es so dass OpenAI den entscheidenden Schritt scheinbar gemacht hat.

00:11:52: auch hier sind wir noch nicht durch das Peer Review Final durch haben muss man auch hier das Sternischen setzen.

00:11:57: Aber danach war natürlich der Soft-Cross, die beiden anderen haben sich mehr oder weniger für Albert gefühlt und einiges an Drama folgte.

00:12:05: Das ist der Wahnsinn.

00:12:07: Man muss dazu sagen, diese Milleniumprobleme wurden vom Clay Mathematics Institute rausgegeben, zweitausend und tatsächlich gibt es da eine Million Euro für diejenigen, die das Problem lösen oder eins dieser sieben Probleme lösen.

00:12:20: Und da wird sich jetzt wirklich darum gestritten wer ist denn eigentlich Urheber?

00:12:23: Ist das überhaupt die Lösung des Problems?

00:12:25: Das ist ja auch immer die Frage!

00:12:27: Wie ich gerade von dir gelernt habe, ist diese Frage nicht endgültig zu beantworten weil natürlich etwas so lange noch gilt ist ja eigentlich logisch bis es nicht ein Gegenüber eine bessere Erklärung oder wie auch immer gibt.

00:12:37: Und da geht jetzt gerade so ein bisschen der Bief los, nach wie vor.

00:12:41: das Institut hat gesagt sie bedanken sich erst mal irgendwie für die Einreichungen und wir prüfen das nach unseren hohen Anforderungen.

00:12:49: Das heißt da wird glaube ich jetzt erstmal gegrübelt inwiefern da einen Urheber ausgemacht werden kann, der dann möglicherweise beschenkt wird mit einer Million Dollar oder entsprechend natürlich andere Preise bekommt.

00:13:01: Ich find's sehr sympathisch, dass du das Navier-Stokes-Problem nicht mal versucht hast zu erklären.

00:13:05: Weil ich muss sagen mein Intellekt so viel zu meiner wissenschaftlichen Karriere reicht nicht mehr aus, das Problem zu verstehen.

00:13:12: Ich hab keine Ahnung.

00:13:13: es geht um Gas und Flüssigkeiten und so aber... Und

00:13:16: Wellen?

00:13:16: Genau!

00:13:17: Tatsächlich auch nicht meinen Homegame.

00:13:19: also ich versuchst tatsächlich.

00:13:21: Es gibt noch ein paar andere Probleme da drin in diesen Millenniumsprobleme zum Beispiel das PE gleich oder ungleich NP problem.

00:13:27: Da könnte ich dir vielmehr erklären.

00:13:28: Aber hier halte ich mich auch lieber raus.

00:13:30: Ich glaube,

00:13:30: wir wollen nicht alle abschrecken hier.

00:13:33: Du sagst es ist eine kleine Wappel?

00:13:36: Wahrscheinlich gibt's ein paar tausend Leute die sich am Ende da wirklich reingenördet haben und die das verstehen.

00:13:40: Ist aber auch nicht so wichtig für uns, aber natürlich eine schöne Sache wenn man solche Probleme lösen kann und gut für die Wissenschaft.

00:13:48: Jetzt stellt sich erst mal die Frage Wenn so'n Problem mit Hilfe von KI gelöst wird.

00:13:54: wer ist denn dann eigentlich noch Urheber dieser Lösung?

00:13:59: Die Frage kannst du gleich erweitern auf Software und auf Kunst.

00:14:03: Da hast du bestimmt schon richtig gute Podcasts zugemacht, ich kann es wirklich nicht sagen.

00:14:10: Eine Sache die ich sagen kann das ist vielleicht ganz gut, dass in der Wissenschaft am Ende auch gar nichts so wichtig ist.

00:14:16: Ja viele Papers sind zum Beispiel ein Thema wie das Navier Soaks Problem.

00:14:21: ja Ich habe schon vorhin erwähnt, da hat niemand von Null angefangen.

00:14:25: Also diese Lösung die wir gerade sehen basiert auf Jahrzehnten von Arbeit und das heißt dass insgesamt eine Liste von Hunderten vielleicht Tausenden je nach Problem von Namen da ihren Beitrag geleistet haben.

00:14:37: Von daher am Ende zählt es, dass das Problem gelöst ist.

00:14:41: Solche Lösungen haben ja auch meistens Implikationen auf nächste und folgende Probleme.

00:14:46: aber ich wage mir nicht hier eine Vorzustärkung wie man damit umgehen soll.

00:14:51: Da gehörst du dann aber auch zur alten Riege von Wissenschaft, da muss man sagen.

00:14:54: Weil ich hatte es ja schon ein bisschen angesprochen wenn jetzt der Wissenschaftsbetrieb mit Big Tech aufeinander trifft Dann gibt es natürlich zum einen die Wissenschaftler Ehre, die sagt ja Hauptsache Problem gelöst und wenn da am Ende irgendwie Millionen von Leuten drin stehen dann ist das auch okay.

00:15:11: Das war so eine Teamarbeit gewesen und wir sind in der Wissenschaftskommunität vielleicht eher anders gepolt.

00:15:17: Da gibt's auch schöne Beispiele für dass es durchaus alles einfach nebenbei gemacht wird und man da gar keine Aufmerksamkeit hinbekommt.

00:15:24: gleich noch zu.

00:15:25: aber jetzt kommt natürlich Big Tech die im Rennen um den besten Marketingstand und die Macht der Modelle einfach mal behaupten wollen, natürlich eins dieser mathematisch ungelösten Probleme der Menschheit gelöst zu haben.

00:15:40: Man stellt sich das vor klar auf.

00:15:41: eine EI kann dann damit werben, man kann sagen guck mal unser Modell hat ein Problem der Menschkeit gelöst du solltest es kaufen ja?

00:15:48: Und da kommt diese Marketing-Erwartung trifft im Grunde auf eine Kultur die bislang eigentlich gar nicht unbedingt so aufgebaut war.

00:15:58: Ja, absolut und auch in der Wissenschaft muss man sagen ist das nicht immer so.

00:16:02: egos gibt es überall und auch an der wissenschaft das keine ausnahme.

00:16:06: du weißt ja nicht dass eins der millennium probleme schon gelöst wurde

00:16:10: Die Poincartische Vermutung, richtig?

00:16:12: Sehr gut.

00:16:13: Weil ich hätte es nicht mal aussprechen können.

00:16:16: Ich hab's nur gelesen!

00:16:17: Genau die entsprechende Vermutungen wurde gelöst und das schon im Jahr zwei-tausend-zwei, also tatsächlich kurz nach dem Ausloben muss man sagen dieser Millenniumprobleme lange vor generativer KI.

00:16:29: Und da find' ich ganz spannend Weißt du wie der entsprechende Löser?

00:16:33: den kennst du wahrscheinlich oder Du weißt der Perelmann, der Mathematiker, der ist gelössert.

00:16:37: Weißt Du wie er damit umgegangen is'?

00:16:39: Er hat den Preis diese auch eine Million für die vieles Medaille, die man ihm gegeben hätte.

00:16:44: Die hatte er abgelehnt.

00:16:45: ja wirklich so Der Typ, das ist Wahnsinn wirklich.

00:16:48: Das finde ich irgendwie super sympathisch.

00:16:51: Er ist so ein Eigenberödler, der lebt wohl in St.

00:16:53: Petersburg und ist auch finanziell nach Berichten, wo er es gar nicht so gut aufgestellt hat.

00:16:59: Aber hat halt Bock daran an solchen Problems zu lösen?

00:17:02: Hat das Ding dann gelöst?

00:17:03: Dann wurden ihm vieles Medaille zu erkannt oder dem Angeboten die eine Million gesagt, lasst mich!

00:17:09: Ihr habt gar keinen Bock auf Rampenlicht und so... Ich will hier einfach nur weiter knobeln.

00:17:12: Das find' ich irgendwie sau-sympathisch.

00:17:17: Ja, diese alte riege Wissenschaft also für mich so in meiner Traumwelt ja auch wenn die alle ein bisschen eigen sind.

00:17:23: Aber jetzt kommt natürlich Big Tech und versucht das Ganze zu Marketing-Zwecken mehr oder weniger sich anzueignen?

00:17:29: Ja,

00:17:31: die Überschrift OpenAI löst Millenium-Probleme.

00:17:34: Die ist natürlich riesig!

00:17:35: Kann ich verstehen, Per Raimann ist sicherlich am anderen Ende der Scala... Der ist jetzt auch nicht der bessere Präsentant der Gilde, würde ich sagen.

00:17:42: Also unendlich schlaue Mensch aber vielleicht doch ein sehr großer Eigenbrötler.

00:17:48: Nee, ich finde ganz bei dir.

00:17:50: also die Frage wird sich stellen wie wir damit umgehen wenn KI anfängt was nach Probleme zu lösen?

00:17:56: Voll und bei einigen braucht man vielleicht auch gar keine Peer Review, da kann man es relativ schnell überprüfen.

00:18:01: Bei einigen wissenschaftlichen Problemen.

00:18:03: Und zwar gab es jetzt im Oktober von der MIT in einem Bericht über den ich gestorben bin das KI-Wettervorhersagen für Wochen im Voraus deutlich besser preisgeben können.

00:18:14: Das sind ja Dinge die kann man ja kann mal in dem Himmel gucken und schauen.

00:18:18: hat das Modell hier richtig gerechnet oder nicht?

00:18:20: Und das sind ja erstmal wissenschaftliche Erkenntnisse, die auf die Landwirtschaft Einfluss nehmen könnten.

00:18:25: Die eine ganze Menge positive Dinge auch bringen können.

00:18:28: bislang ist ja Wetterbericht sagt man immer so ne Woche maximal aber alles was darüber hinausgeht es eigentlich schon wieder geraten.

00:18:33: Aber mit KI-Modellen soll das in Zukunft auch in dem Bereich deutlich besser gehen.

00:18:38: Ja, dort kann man es beobachten.

00:18:39: Ich meine bei wissenschaftlichen Arbeiten gibt's auch so ein paar Ansätze wie man sagt Wie kann man das verifizieren ohne dass man eben diese Armada ehrenamtlicher Menschen braucht?

00:18:48: Da gibt´s auch eine coole Geschichte.

00:18:49: Das ist diesmal eine Anthropica Volksgeschichte.

00:18:51: Es gibt dieses Problem der fermarsche letzte Satz Auch ein großes mathematisches Problem allerdings schon vor zwei tausend geknackt wurden von den britischen Mathematiker Andrew Wiles und er beweist der war ellelang Unvorstellbar kompliziert.

00:19:04: Der Mann hat sich ein Jahrzehnt eingeschlossen, um den Beweis zu liefern und es braucht auch ein weiteres Jahrzehn bis andere Menschen in der Lage waren, den wirklich final nachzuvollziehen.

00:19:14: Und was Thorpey gemacht hat, gibt ein sogenanntes Verifizierungssystem.

00:19:17: Da gibt's mehrere von.

00:19:18: aber es gibt sozusagen den Versuch... Automatische Systeme zu bauen, die eben diese Korrektheit von Beweisen dann nicht durch Mensches-Reviewen, sondern eben durch Implikation folgen logischer Schritte.

00:19:30: Die Korrekte nachvollziehen.

00:19:31: und das gibt es einen bekannten Formalismus, das ist Lean.

00:19:35: Und was Enthropey gemacht hat auch mit ihrer eigenen Armada von tausenden Agenten Ist mal diesen Andrew Wiles Beweis also diesen komplexen Beweis formalisiert in dieser Sprache und dann eben nachgewiesen.

00:19:46: ja dass was Menschen jetzt in den letzten Jahren Jahrzehnten gemacht haben beweisen, dass es wirklich wirklich korrekt ist.

00:19:52: Haben wir jetzt auch mal gemacht und zwar eben mit diesem Framework diesen Verifikationsframework das hat OpenAI übrigens auch mitgeliefert wird die Navy Astokes Gleichung.

00:20:00: allerdings haben danach schon wieder andere Leute gefunden.

00:20:03: ah das ist nicht so ganz genau das.

00:20:04: also eure Verifikationen sich ganz genau da was ihr eigentlich in dem in den Dokumenten schreibt.

00:20:10: also auch da gibt's Schwierigkeiten aber es gibt auch dar Bestrebungen sozusagen ähnlich wie man ins Wetter gucken kann dass man versucht diese mathematischen Beweise auch verifizierbar zu machen.

00:20:19: Ich glaube gerade diese Verifizierbarkeit ist ein Riesenproblem, wenn wir bei Anthropic bleiben.

00:20:25: Anthropic soll ein eigenes Biolaborer.

00:20:28: aufgebaut haben, in dem mehr oder weniger rund um die Uhr – wenn ich richtig informiert bin – bis zu tausend Agents laufen und riesengroße Datenbanken rund um DNA auslesen.

00:20:40: Und einfach nur Hypothesen publizieren bzw.

00:20:43: raushauen und sagen, hey, ich habe ihr das gefunden?

00:20:44: Das könnte darauf hindeuten!

00:20:46: Und Menschen das am Ende prüfen.

00:20:48: Also quasi, wenn du so willst eine Wissenschaftsfabrik.

00:20:51: ja wo Agents schauen?

00:20:53: was passiert hier eigentlich?

00:20:54: Was gibt es für Annahmen?

00:20:55: Und dann den Menschen hinwerfen, so hey du menschlicher Wissenschaftler prüft das doch mal.

00:20:59: Guck mal ob das stimmt!

00:21:01: Ist das die Zukunft der Wissenschaft?

00:21:03: Es ist eine sehr gute Frage.

00:21:05: Ich kenne auch Leute und das kann ich auch verstehen, dass meiste Wissen findet man eigentlich bei dem Versuch, das Wissen zu erlangen.

00:21:12: Der Weg zum mathematischen Beweis liefert am Ende viel mehr Abzweigungen für den Wissenschaftsbetrieb als dieser... eigentliche Beweis.

00:21:20: Und dass ganz viel verloren geht, wenn wir sozusagen jetzt von der KI einfach nur den Stempel kriegen stimmt nicht.

00:21:26: und dem Beweis dahinter vielleicht diese Learning Experience.

00:21:29: am Ende haben wir weniger Erkenntnis als zuvor.

00:21:31: ich persönlich mit so Bio-Labor.

00:21:32: gut jetzt nehmen wir mal aus dem vorn was da vielleicht alles los sein könnte.

00:21:35: das klappt euch vielleicht kurz raus aber wenn er am ende dort einen Weg gefunden wird Alzheimer zu bekämpfen oder Krebs dann ja Ich nehme es.

00:21:44: Ich finde das großartig, wenn wir wissenschaftlichen Fortschritt feiern und ich bin auch kritisch in gewissen Sachen.

00:21:50: aber gerade überwiegt bei mir die Vorfreude auf eine ähre wissenschaftliche

00:21:56: Fortschutz.".

00:21:57: Ja voll!

00:21:59: Was ist denn so dein größter Kritikpunkt grade?

00:22:01: Also wenn du so die News liest... Wir nehmen jetzt hier Ende Oktober auf.

00:22:05: was sind grad so Dinge, die dich umtreiben als jemand der vom Fach isst tatsächlich ja weiß, was zu WASKA ihr auch im Stande ist.

00:22:12: Im positiven Sinne drehen wir das vielleicht mal um und gucken mal so ein bisschen auf diese ganze Doomsdayerzählung.

00:22:18: Ja, genau.

00:22:19: Da ist natürlich auch was dran.

00:22:21: also die Gefahren sind real wann immer du Chancen hast das irgendwie immer auch gefahren und gerade jetzt vielleicht ein bisschen von der Wissenschaft weg.

00:22:27: aber IT Security wir hatten jetzt vor kurzem da haben wir ein gutes Timing von unserem Podcast gewählt.

00:22:32: Wir hatten jetzt am Wochenende die PAP Sicherheitslücke wo auf einmal irgendwie ein paar Prozent des Internetes abgeschaltet werden mussten.

00:22:38: Übrigens die Sicherheitslücke auch wieder gefunden von Open AI Natürlich Genau Aber noch nicht gefixt und schon berichtet.

00:22:46: Das heißt Jetzt konnten Leute wirklich sich Zugang zu den Servern verschappen und das ist gerade ein Ding.

00:22:51: Das wird uns jetzt noch ein paar Jahre begleiten, es ist so wer mal im öffentlichen Dienst irgendwie einen Kunden hatte.

00:22:57: aber das ist nicht nur öffentlicher Dienst das ist auch Mittelstand.

00:23:00: die in ihrer IT-Systeme sind nicht gehärtet in aller Regel.

00:23:03: da brauchen wir gar nicht den allerbesten Ancient der neue Sicherheitslücken entwirft und findet um irgendwo reinzukommen.

00:23:10: Da brauchst du nur Compute also die Möglichkeit, viele Sachen zu versuchen und dann findest du einen Fehler gemacht hat.

00:23:18: Das wird uns jetzt begleiten.

00:23:19: Wir werden wirklich lange ... Meine These können wir irgendwann noch mal darüber reden auf das Eingetreten.

00:23:23: Wir müssen eine Härtung unserer IT-Systeme sehen, weil eben heutzutage was früher eine Armada von Hackern in irgendeinem Labor gebraucht hätte, die können jetzt sozusagen eine Person mit hundert Agents, tausend Agents oder ein bisschen Budget kann jetzt so viele Systeme unerlässlich angreifen, Methoden.

00:23:44: Ja, das wird wahrscheinlich jetzt in der Weile auf uns zukommen dass wir wirklich viel Unsicherheit im Retter erleben

00:23:50: und das lässt sich natürlich nur lösen indem wir selbst auch KI nutzen um die Sicherheitslücken bei uns selbst zu schließen.

00:23:57: also erst mal so ein bisschen salopp gesprochen aber es gibt ja immer diese Erzählung von wegen hey wir haben hier eine wahnsinnig krasse Bombe gebaut.

00:24:05: Aber wir können euch gleich den Schutzbunker auch mitverkaufen, wenn ihr wollt.

00:24:09: Also wird das überhaupt noch menschlich lösbar sein?

00:24:12: Sowohl IT Security als auch Review und checken dieser ganzen wissenschaftlichen Arbeit, die da gerade rauskommen.

00:24:19: oder müssen wir einfach sagen wir Menschen sind überholt?

00:24:22: Ja, vor dem Geschwindigkeitsaspekten her ist es tatsächlich so.

00:24:26: In der Geschwindigkeit wie jetzt Angreifer oder Publikation entstehen in der Geschwindigkeit können wir nicht mithalten als Menschen die sozusagen ihre Finger über eine Tastatur schwingen oder an einer Tafel was schreiben.

00:24:37: also ja genau auch hier wird KI für die Verteidigung brauchen für die Härtung unserer Software Systeme und auch die Hardware.

00:24:45: Also da werden wir KI brauchen um uns gut aufzustellen genauso wie wir auch für den Review Prozess im Wissen.

00:24:53: Wir können ja auch gar nicht alles lesen.

00:25:01: Also KI muss uns das auch erklären, es ist wirklich so!

00:25:05: Sonst kommen wir einfach nicht hinterher.

00:25:07: Ob das Gutes oder Schlecht muss jeder für sich entscheiden aber auf jeden Fall verändert sich viel.

00:25:11: Das gilt fest.

00:25:12: Ja, das ist tatsächlich etwas was in der Vorbereitung auch so als Abschlussfrage aufkam.

00:25:17: Was passiert eigentlich wenn wir mit einmal Probleme gefunden und gelöst werden die wir Menschen eigentlich gar nicht verstehen?

00:25:23: Also wenn tatsächlich KI jetzt irgendwie Sachen aufmacht wo wir am Ende sagen da reicht die Kapazität von unserem Wissen einfach noch gar nicht aus um das tatsächlich zu checken muss KI uns unsere eigene Wissenschaft erst mal erklären.

00:25:34: Das finde ich eine absurde Vorstellung.

00:25:36: Ich glaube, das sind wir auch noch ein bisschen weg.

00:25:40: Die KI-Modelle die wir gerade haben... Zum Beispiel gehen wir mal um den Kreis vielleicht noch zu schließen auf das Problem was die KI bei mir gelöst hat.

00:25:47: Was die KI halt extrem gut kann ist die kennt sozusagen ganz viele Patterns aus ganz vielen Beweisrichtungen Auch Sachen die kenne ich überhaupt nicht weil sie aus anderen Fachrichtungen kommen Und diese Querdecken dieser Probleme und Verbindungen schaffen wo ein Mensch gar nicht das Wissen hat dass sozusagen eine sehr intelligente Zusammenführung verschiedener Techniken, die aber im Großen und Ganzen schon existiert haben.

00:26:16: Irgendwann werden wir vielleicht dieses Self-improving, sich selbst weiterentwickelte KI haben, die irgendwann uns abhängt... Aber da sind wir gerade nicht!

00:26:24: Gerade haben wir ... KI ist extrem schlau plus KI hat einfach diese Rechenkapazitäten, die unser Mensch jetzt gehören.

00:26:30: Einfach nicht hart, ne?

00:26:32: Und das mit einer Geschwindigkeit von einem High-Computerechner.

00:26:35: Das gibt KI gerade den Vorsprung.

00:26:38: wann wir zu dem Punkt kommen, wo vielleicht KI sich sagt, hey ... mit den Menschen in ihrer dummen Sprache zu reden, das ist mir wirklich so blöd geworden.

00:26:45: Da sind wir auf jeden Fall noch nicht!

00:26:48: Okay, was das alles mit sich bringt ist.

00:26:50: Ist auf jeden Fall verrückt!

00:26:51: Schöne neue Welt oder?

00:26:53: Vor allem wenn man jetzt überlegt, Compute ist das, was so eine KI ausmacht... Da stehen wir ja, wenn mal ein bisschen auf die Geopolitik gucken in Deutschland und Europa irgendwie nicht so gut da.

00:27:04: Das ist eigentlich alles einen großen Rechenzentren im USA, den Asien.

00:27:08: Wie siehst du das?

00:27:10: Auf jeden Fall hast du vollkommen recht.

00:27:13: Es gibt Initiativen da aufzuholen, es gibt auch ein paar Firmen und ein paar Bestrebungen wo schon dann massenhaft GPUs in Europa installiert und angeschafft wurden.

00:27:22: Aber im Vergleich hast du völlig recht.

00:27:23: also das ist ein Bruchteil den wir hier in Europa haben zum Beispiel in dem Vergleich von Meta XAI Space XI Open AI Anthropic Google usw.

00:27:34: Also die haben den Computer weltweit für sich gebunkert mit China noch auf der anderen Seite.

00:27:37: ja Da muss man gucken, was das bedeutet.

00:27:39: Man muss auf jeden Fall seine Freunde bei sich halten wenn es geht und man muss versuchen den Vorsprung zu verringern so gut man kann da sich nicht zu abhängig machen.

00:27:48: Ich bin mal gespannt ob uns das gelingt.

00:27:49: aber diese... geopolitischer all diesen geopolitischen Einblick müssen wir natürlich hier am Ende noch mal wagen.

00:27:54: Ja, wir werden sehen auch je nachdem was für wissenschaftliche Probleme eigentlich wo von wem noch gelöst werden.

00:27:59: also wir können ja dann sagen okay wir haben ihr irgendwie starke Unis und die gibt's ja durchaus in deutschen europa auch.

00:28:06: aber wenn dann am ende weniger paper veröffentlicht werden kann man natürlich auch gucken inwiefern ist das denn eigentlich noch nützlich?

00:28:14: Aber da muss ich auch noch etwas zu sein.

00:28:15: habe ich nämlich auch was gelesen?

00:28:16: es gibt diese forderung Hast du davon gehört?

00:28:21: Das ist Terence Tau, der Fieldsmedaillenträger Terrence Tau fordert in Nature ein Umdenken.

00:28:27: Wenn Maschinen immer mehr mathematische Probleme lösen sollte die Wissenschaft menschliches Verständnis höher gewichten als die bloße Anzahl veröffentlichter Lösungen.

00:28:37: Ich kenne tatsächlich, der hatte so ein Manifest geschrieben.

00:28:40: Das habe ich gelesen und ich weiß nicht ob das dasselbe ist.

00:28:43: Geht auch in die Richtung, die ich vorhin gesagt hab also, dass vieles von einem mathematischen Lösungsprozess tatsächlich der Weg davon macht ganz viel mit uns und hat auch langfristig immer viele Implikationen, von denen man gar nicht denkt weil man eben auch auf dem Weg ganz viele Wissen erlangt.

00:29:00: zu einem Teil.

00:29:01: Ich stimme mindestens soweit zu, dass wir das Ganze neu denken müssen.

00:29:04: Stellen wir uns mal die Frage mit der Dissertation, Max?

00:29:06: Also... Was ist denn eine

00:29:08: DissERTATION?!

00:29:08: Das stellt mich und ich stelle mir die Frage!

00:29:10: Ich bin so froh, dass sich promoviert hat bevor wir in dieses Zeitalter kommen sind, weil das ist auch was, was ich mit meinem Doktorvater tatsächlich besprochen habe.

00:29:17: Jetzt fängt jemand an und will promovieren.

00:29:20: Ist es eine DISSERTATION, weil er eine KI gefragt hat nach einer Lösung und sie hat sie ihm gegeben?

00:29:24: Ist das ne

00:29:24: DISSORTATION?!

00:29:26: Wir müssen uns auf jeden Fall neu denken, wie wir auch Anerkennungen in der Wissenschaft schaffen.

00:29:31: Ich würde mal die These ausstellen, dass es nie so einfach war an Doktortitel zu kommen wie jetzt?

00:29:37: Bis sich die Universitäten bekanntlich ein bisschen länger brauchen um die Regeln aufzustellen bis sie sozusagen nachgezogen haben.

00:29:44: mit Regelwerken ist es gerade glaube ich echt gut möglich eine hochwertige Situation zu schreiben.

00:29:49: ja

00:29:50: vielleicht muss ich dann doch noch einmal eine raushauen.

00:29:56: Vielen

00:29:57: lieben Dank für deine Zeit, Danny.

00:29:58: Sehr spannende Einblicke in KI und Wissenschaft!

00:30:01: Ich bin gespannt wie es weitergeht mit dem ganzen Thema.

00:30:04: da wird uns sicher noch einiges erreichen.

00:30:06: was machst du jetzt?

00:30:07: Du hast gerade ich glaube ich gerade between jobs wie man so schön sagt.

00:30:10: Ja genau also ich bleibe der Softwarewelt verbunden geht zu einem kleiner Startup komme grad eher aus im hunderthundfünfzig Mann Unternehmen werde das auch mal bisschen agiler wie man sich schon sagt bleibt aber bei der KI erhalten.

00:30:21: also KI-Lösung dass ist weiterhin mein Mitje.

00:30:24: Dann

00:30:25: drücke ich dir dafür die Daumen, lieben Gruß nach Leipzig und bis bald.

00:30:30: Danke Max, tschau-tschau!

00:30:34: Ja liebe Leute das war Danny Hucke, Doktor Danny.

00:30:37: Und ich freue mich sehr, dass er zu Gast war und ein bisschen berichtet hat über sein Case aber auch so ein bisschen ins Mega-Picture zu gehen was hier eigentlich gerade in der Wissenschaft passiert.

00:30:45: und dieses Human Bottle Neck gibt es durchaus auch an anderer Stelle.

00:30:49: Ich habe mit einem befreundeten Entwickler, mit dem Geschäftsführer von einem KI Startup und Entwickler gesprochen im Nachhinein an die Folge und er sagte das kennt er sehr gut denn die haben selbst ein paar KI Agents die über Nacht Code Reviewen, Code Neuschreiben auf ganz neue Ideen für deren Softwareprodukt kommen.

00:31:07: und er sagt, das Problem sind wirklich die Kapazitäten auf menschlicher Ebene.

00:31:11: Also wenn am nächsten Morgen dann irgendwie siebenundzwanzig neue Ideen dastehen und die Codes entsprechend verbessert wurden oder erst mal verändert muss man ja sagen?

00:31:18: Dann sagt er reicht es häufig nicht mit den Angestellten das überhaupt noch zu checken.

00:31:21: und dass ist ganz ähnlich wie eben in der Wissenschaft auch wenn Beweise erbracht werden und das am Ende nicht in diesen Peer-Review-Prozess gehen kann, weil einfach keine Menschen da sind die Kapazitäten haben um das Ganze durchzuführen.

00:31:35: Und dass ist doch etwas ja wo wir darüber sprechen müssen was uns mit Sicherheit auch im nächsten Jahr noch begleiten wird und wahrscheinlich nochmal ganz andere Lösungsansätze erfordern wird.

00:31:45: Spannendes Thema.

00:31:46: ich hoffe es hat euch gefallen.

00:31:48: können wir mal die Kolleginnen fragen was sie eigentlich vorschlagt um dieses Dilemma aufzulösen?

00:31:54: Lasst die Agents nicht nur Code liefern, sondern gleich die prüfbaren Tests dazu.

00:31:59: Dann filtern unabhängige Checks vor

00:32:01: und Menschen schauen nur bei den wirklich heiklen Sachen drauf.

00:32:04: Und wenn sich der Stapel trotzdem turmt,

00:32:06: müssen die Agens halt langsamer machen!

00:32:08: Auch eine KI braucht gelegentlich einen Türsteher...

00:32:11: So genau auf Auge guck mal.

00:32:12: vielleicht lernen wir Menschen Türstehe in Zukunft.

00:32:14: für die KI muss ich drüber nachdenken.

00:32:17: Vielen Dank fürs zuhören diese Woche.

00:32:19: Ich hoffe es hat euch gefallen.

00:32:20: dann lasst gerne ein Kommentar.

00:32:22: like da oder Ja, bewertet uns.

00:32:24: Das auf der Plattform Eurer Wahl.

00:32:26: das bringt uns tatsächlich am meisten.

00:32:28: und ansonsten hören wir uns kommenden Freitag zu Kollegin Kais Snackbox mit den News der Woche.

00:32:33: Ich wünsche euch bis dahin eine fantastische Woche.

00:32:35: Bis dann!

00:32:36: Macht's gut, ciao!

00:32:36: Tschüss

00:32:37: Max war schön mit dir Und ja mehr Bewertungen helfen mehr als mein schlechtester

00:32:42: Witz Tschüssi.

00:32:45: Lass mal so stehen, ciao.