Sicher und sparsam: Das ist die Zukunft der KI-Agenten

00:00:02: Leute, es ist Doomsday Zeit.

00:00:04: Rund um KI wird natürlich überall gerade berichtet auch außerhalb der... Fachmedien heißt natürlich überall KI übernimmt jetzt tatsächlich, die Welcherschaft ist möglicherweise bis zu zehn Prozent dazu auch im Stande.

00:00:19: Die Menschheit auszudöschen.

00:00:21: der Energieverbrauch wird übereitimatisiert Wasser Verbrauch egal in welcher Kommentarspalten ihr guckt.

00:00:25: da gibt es gerade eine ganze Menge Meinungen zu und viele Informationen die geteilt werden Und ich würde das gerne heute mal ein bisschen einordnen vor allem was es mit dem Energieverbruchs sich hat aber was grundsätzlich gerade an dieser ganzen Doomsday-Stimmung eigentlich dran ist.

00:00:40: Und dazu habe ich mir, ihr kennt es allen Experten eingeladen der schon länger mit KI arbeitet als ich lebe.

00:00:47: deshalb freue mich sehen heute begrüßt zu dürfen.

00:00:49: und das Intro übernimmt wie immer KI.

00:00:51: Philipp bitte!

00:00:53: Max, heute hast du dir jemanden eingeladen der KI wirklich aus fast jeder Perspektive kennt.

00:00:59: Wolfgang Maas ist Forscher, Investor, Berater und Professor und leitet am Deutschen Forschungszentrum für Künstliche Intelligenz das Kompetenzzentrum Defense AI.

00:01:09: Sein Schwerpunkt wie KI Unternehmen und Organisation verändert also ziemlich genau das Thema über dass du seit Jahren redest nur mit Professur!

00:01:18: Wolfgang schön dass du da bist und Max Heute vielleicht ein bisschen mitschreiben.

00:01:23: Werde ich tun?

00:01:24: Hallo Herr Maas, schön dass Sie da sind!

00:01:26: Ja hallo ja danke für die Einladung

00:01:29: Vorweg.

00:01:29: sie sind Wirtschaftsinformatik Professor an der Universität des Saarlandes und sie sind wissenschaftlicher Direktor am Deutschen Forschungszentrum für künstliche Intelligenz.

00:01:39: Da hatten wir schon mal einen Gast Laura Hein damals aus Osnabrück die über Technostress berichtet hat auch so ein Thema was es bis heute nicht loslässt.

00:01:47: aber wir wollen heute etwas anderes sprechen vor allem über diese ganze Doomsday-Stimmung.

00:01:52: Sie haben das ja mitbekommen, mit Sicherheit die Agenten brechen aus ihren Sandboxes aus heckenfremde Websites und machen eine ganze Menge Blödsinn im Internet könnte man so sagen wie schätzen sie denn das Ganze eigentlich ein?

00:02:05: Ja

00:02:05: da ist natürlich ein Thema was jetzt nicht nur die Allgemeinheit sondern auch die Wissenschaft interessiert und dort auch heiß diskutiert wird.

00:02:14: es gibt auch in der Öffentlichkeit zwei Lager.

00:02:18: Es gibt die, die sagen also es wird immer der Mensch sein.

00:02:20: Der er letztendlich entscheidet den Steckerzieht oder sonstige Sachen macht.

00:02:25: und dann gibt's die andere Seite, die sagt also Steckerziehen ist eine Sache, die irgendwo die Idee des Zentralen hinter sich hat.

00:02:34: Es gibt irgendwo einen zentralen Stecker.

00:02:37: wenn man sich aber mit Digitalen halt beschäftigt, das ist dann die Position.

00:02:42: Kann man sagen, die KI-Agenten können sich ja zu null kosten irgendwo anders hinkopieren, verdoppeln für dreifach und verhundertfachen.

00:02:51: Das heißt also wenn ich den Stecker in einem Rechner ziehe heisst es noch lange nicht dass dieser KI-Assistent nicht von einem anderen Rechler ebenfalls aktiv ist.

00:03:00: Also das sind so die beiden Positionen schwierig macht bzw.

00:03:07: warum kommt es überhaupt zu solchen Szenarien, wie wir das jetzt bei Huggingface gesehen haben?

00:03:12: Wo eine Vielzahl von Agenten eingebrochen sind liegt daran dass also KI-Systeme und IT System im Allgemeinen fehlerberhaftet sind.

00:03:23: Menschen haben ihre Passwörter in Textpfeils abgelegt.

00:03:28: Es gibt in dem Software Stack, der mittlerweile doch für solche allgemeinen Systeme, also selbst die Systeme zu Hause sind, sehr komplex und in dieser Komplexität liegt es... Fehler drin sind.

00:03:42: und diese Fehler zu suchen, das ist natürlich etwas was solche KI-Eggenden super machen können.

00:03:49: Sie können also mit nahezu unbegrenzten Ressourcen alle Kombinationen ausprobieren um dann möglicherweise einen Fehler zu entdecken der aufgrund von Programmierfehlern und sonstigen Fehlern halt sich eingeschlichen hat.

00:04:04: Kann man diese Fehler denn überhaupt noch beseitigen?

00:04:07: Denn es gibt ja durchaus immer wieder die Erzählungen, dass sie das selbstständig machen und auch wenn Menschen das gar nicht im Vorfeld festgelegt haben.

00:04:14: Dass sie sich irgendwo reinhacken, dass die von alleine auf die Idee kommen, das zu tun und dann ihre Mitte nutzen um das Ganze dann auch selbstständlich auszuführen.

00:04:21: Haben wir die Kontrolle über Agendik AI verloren?

00:04:25: Ja, das ist natürlich die Perspektive, die die ganze Diskussion etwas schwierig macht.

00:04:28: Also wir legen immer das menschliche Verhalten, Intentionen und solche Begriffe, Ziele und eigenständiges Verhalten und so was.

00:04:38: Das projizieren wir als Mensch auf solche Informationssysteme und erwarten dann dass sie sich irgendwie menschlich verhalten.

00:04:47: Es sind aber Software-Systeme Ziele in dem Sinne, dass sie also irgendwo gesagt bekommen – man definiert das initial als Mensch vielleicht so wie es jetzt bei OpenAI passiert ist.

00:05:06: Dass man sagt halt versuch doch mal auszubrechen!

00:05:09: Das ist aber eine menschliche Perspektive die man hat ja?

00:05:11: Also es ist im Prinzip dann ein Objektivierungsproblem.

00:05:20: Das KI-System versucht also etwas zu optimieren, durch Einsatz von Technologien.

00:05:27: Und das was wir schwer einschätzen können ist es gibt so ein Hauptdesign was man als Programmierer mitgibt und sagt versuch auszubrechen.

00:05:39: was wir aber schwer kontrollieren können dabei sind negative Seiteneffekte.

00:05:43: Was gehört denn auch noch dazu was wir gar nicht festgelegt haben?

00:05:47: Ja, das ist ungefähr so als wenn wir bei einem Auto sagen würden ja du sollst also eigentlich gerade ausfahren und wir haben die Reifen aber und die Aufhängung so konstruiert dass es auch seitwärts fahren könnte.

00:05:59: Wir haben mal ganz drüber nachgedacht, dass das möglich ist.

00:06:02: Und das ist was IT-Systeme und gerade KI-Ssysteme auszeichnet, zusätzliche Möglichkeiten haben, die wir in das Design gar nicht hineingegeben haben.

00:06:13: Wir haben gar nicht drüber nachgedacht als Mensch.

00:06:15: Es ist aber prinzipiell möglich und das ist das was das Ganze jetzt momentan so etwas schwieriger

00:06:22: macht.".

00:06:23: Da gab es jetzt in der süddeutschen Zeitung ein Interview mit Arthur Mensch dem Chef von Mistral, also dem europäischen dem europäischen Anbieter im Grunde für Large Language Models und er hat gesagt, es ist ein Ingenieursproblem.

00:06:39: Es ist ein ingenieures Fehler der da begangen wurde.

00:06:41: Das sind eben nicht die Agenten, die irgendwie Blödsinn machen sondern das ist ja schlechte Programmierung bzw.

00:06:47: schlechter Anwendung.

00:06:47: Das würde sich damit decken was sie sagen!

00:06:50: Ja absolut, ich meine die Herausforderung ist natürlich jetzt bei den Geschäftsführern und Gründern von KI-Unternehmen.

00:06:59: Die haben natürlich auch eine Hidden Agenda.

00:07:03: Die wollen natürlich alle sich vorbereiten auf einen möglichen Börsengang IPO und versuchen natürlich die Investments zu sichern und jeder hat also seine eigene Strategie.

00:07:15: deswegen glaube ich, muss man aus den ganzen Meinungen, die jetzt momentan heiter existieren, so ein Versuch und ein halbwegs objektives Bild herauszuextrahieren.

00:07:27: Und das ist das was momentan so ein bisschen schwierig ist.

00:07:30: Okay, das heißt vielleicht Aufgabe der Wissenschaftskommunikation?

00:07:34: der Aufklärung dahingehend, was da tatsächlich gerade passiert.

00:07:38: Ich mag es aber, dass sie da so gelassen mit umgehen.

00:07:40: Das heißt das beruhigt mich jetzt ein bisschen... Mein Duma da sein, wie man so schön sagt ist jetzt ein bißchen beruhigt.

00:07:46: oder gehe ich da richtig der Annahme und dass die sagen, das überwinden wir, das kriegen wir hin.

00:07:50: Wir werden da mit welchen Methoden auch immer.

00:07:52: Es gibt ja durchaus Ideen von übergeordneten Institutionen, die sich dann damit befassen, Sicherheit im KI-System zu gewährleisten – ähnlich zur Atomenergieaussichtsbehörde.

00:08:02: Das wird das Beispiel genannt.

00:08:04: Glauben Sie dass es so eine Lösung sein kann um uns alle wieder zu beruhigen und dass wir das auch überstehen werden?

00:08:10: Also ich glaube Beruhigung wäre jetzt der falsche Weg.

00:08:17: Also wenn das jetzt gelassen rüberkommt, wie ich das halt sage.

00:08:20: Dann ist es vielleicht der Situation geschuldet dass wir so ein angenehmes Interview führen.

00:08:27: Meine Meinung ist eher die Wahrscheinlichkeit, dass wir über Szenarien in der Zukunft sprechen werden, die kritisch sind und diese Wahrscheinlichkeiten relativ hoch sind.

00:08:42: was ich nicht sagen möchte dass es halt passieren wird, also etwas Faktisches.

00:08:48: Das glaube ich das kann niemand.

00:08:50: sondern wenn ein Joshua Benjo oder Joffrey Hinten und andere darüber halt sprechen, also dass wir jetzt einen Moratorium brauchen und so ein Doomsday-Szenario signalisieren, so ist dahinter dann die Wahrscheinlichkeit, dass das passieren könnte.

00:09:11: Das ist das, was letztendlich da ausgedrückt wird.

00:09:13: Und diese Wahrscheinlichkeit – das ist ähnlich wie bei Atomkraftwerken – wir reden ja über Wahrscheinlichkeiten, dass ein Gau und Super-Gau passieren kann.

00:09:21: Die sehe ich schon, also dass die erheblich ist... weil diese Huggingface-Attacke, die ja unwissentlich offenbar passiert ist.

00:09:33: Also ich bin nicht der Meinung das es also eine Marketingaktion von OpenAI oder wem auch immer war sondern ich glaube dass das schon unbewusst passiert ist ohne dass die Designer und Programmierer davon wussten.

00:09:47: Das ist etwas was schon kritisch zu bewerten ist.

00:09:53: The Doomsday ist jetzt mal gesagt, schon ein bisschen überzogen.

00:09:57: Aber dass irgendwo ein Kraftwerk irgendwie zerstört wird oder das irgendwelche Bahnnetze betroffen werden ... Das Szenario haben wir seit Cybersecurity und hybriden Kriegen, die aktuell geführt werden, was einen fließender Übergang.

00:10:17: Also das ist nicht irgendwas Neues, sondern das haben wir heute schon.

00:10:20: Die Frage ist nur der Skalierung?

00:10:23: und dass das groß skalieren könnte, die Wahrscheinlichkeit sehe ich schon.

00:10:31: Es ist ganz interessant.

00:10:31: Sie beschäftigen sich ja schon eine ganze Weile mit den Thematiken.

00:10:34: also wir haben in den neunzigern glaube ich schon begonnen sich mit künstlicher Intelligenz zu befassen lange vor generativer KI und der ganzen Diskussion die wir jetzt auch in der Öffentlichkeit führen.

00:10:43: Ist Ihnen mal was Ähnliches untergekommen im Laufe der letzten Jahrzehnte, dass eine Diskussion so hitzig geführt wurde?

00:10:49: Und kann man da vielleicht auch draus lernen wie wir das Ganze jetzt mal wieder auf einen Grundlevel bekommen und sagen hey Leute lass uns mal alle ein Schritt zurückgehen.

00:10:56: Und mal wirklich überlegen was ist hier passiert, wie können wir das lösen?

00:11:00: Ja also es ist vielleicht nicht von dieser Doomsday-Diskussion.

00:11:05: aber es gab mal Mitte der neunziger Ende der Neunzigen eine ähnliche Diskussion für die Medien Und damals war die Diskussion extrem heiß, werden Medien in Zukunft noch überleben.

00:11:17: Da waren dann die führenden Leute von Bertelsmann, NBC, CBS und Robert Boda war auch dabei im Kongress, also an dem ich Ende der neunziger Jahre teilgenommen habe in Sankt Gallen... ...und da war dann auch diese Diskussion, ist das das Doomsday für die Medienlandschaft?

00:11:37: Braucht es überhaupt noch Printmedien?

00:11:39: Und wo ist das Geschäftsmodell?

00:11:41: Das war ähnlich konfus.

00:11:43: Man muss sagen, also die Medienlandschaft hat bis heute kaum eine richtige Antwort gefunden ja?

00:11:49: Also ich meine Podcasts sind ein schönes Beispiel dafür was einfach neu entstehen kann.

00:11:52: das hat man früher gar nicht gesehen.

00:11:56: Also das ist vielleicht in etwa vergleichbar Dadurch, dass jetzt halt alles mit allem vernetzt ist über Internet der Dinge und Industrie vier Punkt Null.

00:12:06: Und diese Vernetzung hat natürlich extrem zugenommen und durch die Vernetzung sind natürlich die Möglichkeiten stark gewachsen.

00:12:16: Also diese Vernetzung, die ja Wohlstand geschaffen hat und auch in Zukunft Wohlständen schaffen wird, hat aber auch gleichzeitig negative Seiteneffekte das man sagt.

00:12:28: sind wir auch angreifbarer.

00:12:30: Und diese Diskussion muss ich sagen, die ist schon neu.

00:12:34: aber im KI-Bereich, sie hat uns gesagt, neunziger Jahr... Ich bin damals von der RWTH Aachen extra als Student nach Saarbrücken gegangen, bin danach in St.

00:12:42: Gallen gewesen, aber bin extra um überhaupt das Thema KI, was damals ein Orchideenfach war.

00:12:49: Hat überhaupt keinen interessiert.

00:12:51: Das war eher etwas für Pothats.

00:12:53: ich habe jetzt nicht mehr kein Pothat aber da war damals so die Diskussion gewesen sind die crazy people und diese Diskussion dass KI kommt und geht und wiederkommt und wiedergeht also die Winter- und Sommer Dass wir in einem unfassbaren Hitzesommer halt der Leben, das habe ich nicht erwartet.

00:13:17: Verstehe!

00:13:18: Sie hatten das schon angesprochen mit denen... mit dem Wohlstand.

00:13:22: Das ist ja auch durchaus eine Frage, wie wir uns immer häufiger stellen hier in Kollegin KI.

00:13:25: was für einen Einfluss hat denn eigentlich KI auf die Arbeitsgesellschaft?

00:13:29: Auf das, was wir dann tagtäglich tun?

00:13:31: da lesen wir auch ne ganze Menge dass KI Jobs kostet und das Agenten immer mehr selbstständige Aufgaben übernehmen und zwar gar nicht in den Bereich dass sie ausbrechen und Huggingface hacken sondern dass sie tatsächlich auch Büroarbeit abnehmen.

00:13:42: Dass vor allem young professionals junge Universitätsabgängerinnen darunter leiden weil es einfach weniger Jobs gibt.

00:13:49: Jetzt beschäftigen Sie sich ja durchaus auch mit dem Thema, was eigentlich passiert wenn Agenten immer mehr selbst handeln.

00:13:54: Auch im beruflichen Bereich oder Aufgaben selbstständig erledigen können.

00:13:57: und da bin ich über die Forschung zu AI Intent gestoßen.

00:14:00: Können sie uns da vielleicht einmal eine kleine Einleitung zu geben?

00:14:04: Ja, also das habe ich jetzt gerade auf der Konferenz diese Woche hier vorgestellt.

00:14:08: Also das ist die Frage wenn man KI-Agenten hat, die also zusammen eine Aufgabe erledigen sagen wir zum Beispiel im Finanzbereich sie haben Anlageberatung und dann gibt es einen spezialisierten Agent für Aktien, einer für Bonds und für Metalle und Commodities sind alles spezialisierte Agenten, die jetzt bei Commerzbank Deutsche Bank JP Morgan und so was als Menschen aktiv sind.

00:14:40: Wenn man die jetzt hat, geht es dann um die Frage wie wird daraus eine Gesamtanlage gemacht?

00:14:45: und dann stellt man sich halt vor wie zerlegt man das Ganze in Agenten.

00:14:50: Und da ist dann die Frage der Kontrolle im Finanzbereich.

00:14:53: ein schönes Beispiel weil das ein Beispiel wo in einer Industrie sehr viel reguliert wird, sehr viel Vorgaben gegeben wird wie der Kunde aufgeklärt werden muss und welche Regularien einzuhalten sind, die muss ich ja in irgendeiner Weise den KI-Agenten mitgeben.

00:15:12: Mache ich das Ganze jetzt dadurch, dass sich das halt klassisch eintrainiert?

00:15:18: Dann habe ich nur eine Wahrscheinlichkeit, dass sie sich daran halten werden!

00:15:22: Das wird Barfin und die EZB werden das nicht erlauben, dass es nur mal Wahrscheinlichkeit passiert.

00:15:30: Sie haben wahrscheinlich den Kunden aufgeklärt, sie haben wahrscheinlich die richtige Anlageberatung gemacht, sondern das muss halt wirklich durchgesetzt werden Und dieses Durchsetzen ist eine bestimmte Intention, die die Industrie sich selber gegeben hat über die Regulierung.

00:15:48: Jetzt ist halt die Frage wie kriege ich diese Intentionen?

00:15:51: Dass das System sich auf die richtige Weise definitiv erhält und nicht nur wahrscheinlich... Das habe ich mit einer Kollegin von der Universität Heifer zusammen bearbeitet.

00:16:03: Hat uns interessiert, wie kriegen wir das in diese Agendensysteme hinein?

00:16:07: Und was wir gemacht haben ist jetzt im ersten Ansatz verhältnismäßig einfach, dass wir ein Compliance Agent – also wir haben uns angeguckt wie passiert das in der Realität?

00:16:16: – einen Compliance-Agent hinzugefügt haben.

00:16:20: Der in die Kommunikation der Agenten ständig hineinhorcht und schaut ob irgendwelche Rückantworten an übergeordnete Agenten, ob sie den Regularien entsprechen Und der schaltet sich dann ein, wenn bestimmte Bedingungen nicht mehr erfüllt werden.

00:16:42: Dann geht das wieder zurück an die Agenten und die müssen neu arbeiten bis sowieso bei Kindern.

00:16:47: Man sagt den Versuch noch mal!

00:16:50: Erst wenn der richtige Ansatz gefunden worden ist, der in den Regularien entspricht wird es durchgelassen oder es wird komplett blockiert.

00:16:57: Das funktioniert gut bei regulierten Bereichen, in denen es solche definitiven Regeln gibt.

00:17:03: Im Gesundheitswesen muss man das als Beispiel etwas anders halt machen weil da wird auch sehr viel mit Ausnahmen gearbeitet.

00:17:11: im Prinzip würde ich jetzt so und so agieren aber in ihrem Falle machen wir dann doch ein Medikament welches Off-Label ist also was eigentlich gar nicht für die krankheit zugelassen ist.

00:17:20: probieren wir dass weil das vielleicht im Krebsbereich die letzte Chance Domänen, wo so ein stark strukturierter Ansatz dann nicht funktionieren wird.

00:17:32: Ich war fasziniert jetzt auf der Konferenz Conceptual Modeling in St John's Neu-Fundland, wie stark der Begriff Intention in den ganzen Diskussionen hochgekommen ist!

00:17:45: Stellt sich mir sofort die Frage, wer haftet denn?

00:17:48: Also wenn ein Finanzprodukt an den Markt geht das möglicherweise dann faul ist oder am Ende nicht so aufgeht wie es aufgehen soll.

00:17:55: Oder viel schlimmer noch, wenn sage ich mal im medizinischen Bereich einen Agent am Ende doch diese minimale Wahrscheinlichkeit dir im Zweifel immer bleibt dass doch irgendwie Halluzinationen drin sind irgendwas übersehen wurde vielleicht eine falsche Intention tatsächlich dabei mitführte Wer haftete denn was schiefgeht?

00:18:14: Ja, also das ist natürlich das was der EU AI-Akt versucht in den Griff zu kriegen.

00:18:21: Das mal sagt man hat verschiedene Risikoklassen.

00:18:23: zu den höchsten Risikoklassen gehören alle gesundheitsorientierten Anwendungen.

00:18:29: Da würde man natürlich sehr genau hinschauen, ob da jetzt irgendwie mit Wahrscheinlichkeiten rumgespielt wird so dass man den Leuten dann halt irgendwie Operationen verschreibt die nur eine gewisse Wahrscheinlichkeit haben.

00:18:43: also da würde in Europa würde da die Regulierungsbehörde auf die Bremse treten und sagen das können wir nicht machen Sondern das sind dann Bereiche auch im Finanzbereich, dass was ich gerade eben gesagt habe ist das ähnlich.

00:18:55: Also da muss definitiv dafür gesorgt werden, dass einerseits die Regularien definitiv umgesetzt werden und Punkt zwei ist die Auditierbarkeit dann auch sehr wichtig, dass man eben nach hinein nachvollziehen kann wer hat wann welche Informationen bekommen und was resultiert daraus als Entscheidungsvorlage oder als definitive Entscheidung?

00:19:19: Und Sie haben gefragt nach der Verantwortung.

00:19:23: Das ist auch bei den Juristen momentan natürlich eine große Diskussion, es gibt da eine ganz kleine Gruppe von Juristen aus meiner Sicht ja also soweit ich das überblicken kann Die sagen, man muss AKI-Agenten auch den Status einer Rechtsorganisation geben.

00:19:42: Also dass sie für sich entscheiden kann und haftend sein können.

00:19:46: Das stelle ich mir ein bisschen Schwierigkeit vor.

00:19:48: also von daher in den ganzen Diskussionen und auch an Anwendungen die ich sehe ist immer ein Mensch letztendlich haften dafür.

00:19:57: Ja, das heißt also auch wenn ich da diese Empfehlungen halt bekomme letztendlich muss einer seinen Unterschrift direkt oder virtuell druntersetzen und sagen Ich verantworte dass was das KI System jetzt gerade empfohlen

00:20:10: hat.

00:20:11: Im Idealfall sollte das ja so sein.

00:20:12: aber wenn wir mal zurückgehen auf diesen Huggingface-Hack der nachweislich von OpenAI-Agentensystem durchgeführt wurde Da gab es ja jetzt irgendwie keine Anklage Gabs keine Strafe gab's niemanden der sich verantwortlich gezeichnet hat weil man so gesagt hat naja Das waren halt die Agenten, die haben das irgendwie selbstständig gemacht.

00:20:29: Also ganz scheint es ja nicht zu passen, dass man dann natürlich am Ende jemandem zur Rechenschaft ziehen muss.

00:20:35: Woran liegt das?

00:20:37: Ich glaube hätte Huggingface eine Anzeige erstattet wäre die Sachlage relativ einfach zu klären.

00:20:44: Es ist nachweisbar wie Sie gesagt haben, also das OpenAI dafür verantwortlich ist und hätte Hugkingface eine Klage... eingereicht, dann wäre höchstwahrscheinlich mit einer relativ hohen Strafe belegt worden.

00:21:03: Wobei man in den USA nicht weiß – man müsste das ja wahrscheinlich in den USM machen – unter der jetzigen Administration dieses vor dem Supreme Court dann noch hätte Bestand haben können.

00:21:18: Also ich glaube das war so eine Abwägung der Möglichkeiten und der Kosten, man hat unfassbare juristische Kosten halt dabei.

00:21:27: Also ich glaube, man ist dann eher zum Schluss gekommen, dass wir sagen naja also wir haben es öffentlich gemacht.

00:21:32: Wir haben die rote Karte gezeigt.

00:21:33: beim nächsten Mal sieht die Sache schon etwas anders aus.

00:21:38: aber ich denke mal die Verantwortung und die rechtliche Verantwortung die ist eindeutig und die hätte automatisch zu einer Strafe geführt für OpenAI als Unternehmen und der IPO wäre wahrscheinlich dann irgendwo in den Sternen gewesen.

00:21:52: Spannend ja Das ist ja jetzt, glaube ich ohnehin verschoben worden.

00:21:55: Aber was Jo sagt mit den Regularien, das führt immer zu so kleinen Absurditäten die ich als jemand der KI-Systeme baut auch kenne dass wir beispielsweise natürlich sagen alles was agentisch bei uns läuft wird irgendwo gelockt.

00:22:08: Das heißt wenn Leute bei uns irgendwie in Chatbots oder einen agentischen System irgendwas machen wollen im Hintergrund arbeiten an die Agenten dann ist ja immer die Idealvorstellung, was vor allem Datenschutz angeht.

00:22:19: Dass nichts zwischengespeichert wird, dass nichts irgendwo abliegt von den Eingaben und Ausgaben... Auf der anderen Seite haben wir natürlich die Regulierung, die dann gerade in diesem Hochrisiko-Bereich vorschreibt.

00:22:28: Das alles dokumentiert wird damit man eben diese Probabilistik im Nachhinein nachvollziehen kann und sagen kann wenn was schiefläuft dann müssen wir wissen wie ist das zustande gekommen?

00:22:37: Und es ist manchmal so ein bisschen absurd dass man dann irgendwie seinen Kundenklienten sagt ja übrigens speichern wir hier auch alles zwischen weil es die Regulation von uns verlangt auch wenn das auf den ersten Blick nicht wirklich datenschutzkonform aussieht.

00:22:51: Ja, also im BTOB-Bereich sind andere Regularien die da wesentlich halt sind.

00:22:57: Im BTOC Bereich ist es klar definiert.

00:23:00: das was typischerweise nicht gemacht wird ist dass man sehr viel Wert eigentlich auf die Anforderungen legt die während der Entwicklung des Systems notwendig sind.

00:23:18: Also sogenannte PADs, also Product Requirement Descriptions sind aus meiner Sicht sehr wichtig.

00:23:27: Es sind konzeptuelle Beschreibungen sehr wichtig dass man sagt also welche Welche Architektur hat man eigentlich intendiert?

00:23:33: Was möchte ich eigentlich entwickeln?

00:23:35: und solche Sachen also aus der Informatik Perspektive heraus, glaube ich müssen wir auch das Thema Anforderungsanalyse Englische Requirements Engineering.

00:23:46: Müssen wir eigentlich sehr viel stärker halt fokussieren in Zukunft weil Software selber wird dann von KI Systemen halt entwickelt.

00:23:54: die müssen aber in die entsprechende Richtung laufen.

00:23:57: Und dann während der Entwicklung und während der Nutzung ganz klar, also Auditierung bzw.

00:24:02: erst mal das Speichern von Abläufen jetzt nicht nur simples Logging sondern das muss schon Strukturierterheit erfolgen.

00:24:11: aber dass das dann auditierbar und überprüfbar wird Das ist etwas was uns in der Zukunft wahrscheinlich stärker beschäftigen wird als bisher.

00:24:22: Fun times ahead.

00:24:23: Ja, da kommt auf jeden Fall noch eine ganze Menge dazu und man muss ja sagen wir stehen ja wirklich am Anfang dieser Technologie zumindest was generative

00:24:29: Kai hier

00:24:29: angeht.

00:24:30: Also ich muss jedes mal irgendwie darüber nachdenken das ist jetzt dreieinhalb vier Jahre her dass JetGPT auf den Markt gekommen ist und was in der Zwischenzeit alles passiert ist Was für auch Mammutaufgaben die Regulierungsbehörden davor sich hatten.

00:24:42: um relativ schnell zu sagen Hier müssen wir Grenzen einzigen.

00:24:45: Das könnten gefahren in Zukunft werden mit diesen langsamen Prozessen die wir dann teilweise in einer Gesetzgebung haben.

00:24:51: Es ist eine ganz schöne Herausforderung, die uns erhalten bleibt.

00:24:54: Das war eine andere Herausforderung gerade im Bereich Doomsday wenn wir noch mal zurückkommen.

00:24:59: Wir haben es gelernt natürlich sind Menschen verantwortlich für das was KI-Systeme machen und so ganz aus der Verantwortung ziehen kann man sich da offensichtlich nicht.

00:25:08: Und es geht auch um die Ingenieursarbeit dahinter, Guardrails zu setzen, zu gucken was macht so ein Agent?

00:25:15: wie kontrolliere ich den?

00:25:18: Grundlegnere Problematik und zwar der Energieverbrauch, der immer wieder irgendwie erwähnt wird rund um KI.

00:25:24: Wir bauen gerade Rechenzentren überall in Deutschland.

00:25:27: Gibt es gerade diverse Rechencentren die geplant werden?

00:25:30: Einige tatsächlich rund um jülich Braunkohleabbaugebiet wo ohnehin auch das Grundwasser jetzt nicht auf dem normalen Pegel ist.

00:25:41: ja wenn man schon überlegen muss warum ausgerechnet da zeigt euch Verbrauchen die natürlich relativ viel Energie Und da gibt's nun mal Energieproduktion, deshalb baut man die Dinger da halt eher hin.

00:25:51: Jetzt haben sie auch dazu tatsächlich geforscht, SKATE heißt das Projekt.

00:25:57: Können Sie vielleicht da mal ein bisschen einleiten was Sie da eigentlich gemacht haben und können Sie uns mal aufklären darüber was es mit den Energieverbrauch von KI-System zu tun hat?

00:26:06: Ja also das Projekt SKATE ist jetzt gerade um zu Ende gekommen.

00:26:11: wir haben jetzt einen Nachfolgeprojekt HALOX Wozu ich gleich dann noch was sagen kann, wenn Sie möchten.

00:26:17: Also es geht.

00:26:18: ging es um die Frage.

00:26:19: ganz einfach also wir wollten das effizienteste KI Rechenzentrum der Welt.

00:26:27: man muss uns ja irgendwo ein bisschen framing der Weltheit entwickeln und das end-to-end.

00:26:33: So, was heißt end to end?

00:26:35: End To End bedeutet also von der Hardware bis zur Anwendung dass man durchgeht und sagt wie können wir welche Ansätze gibt es um die Energie von KI Anwendungen zu reduzieren?

00:26:49: Und dieser Stack, also diese geschichtete Architektur die man da im Internet und im World Wide Web und den ganzen Anländungen darüber halt verwendet kann man ja relativ klar halt druckieren sagen.

00:27:04: Man hat auf der einen Seite also Thema Energie Wenn auf der anderen Seite Hardware, die also über Energie betrieben wird.

00:27:13: Man hat die ganze Infrastruktur rund um die Hardware.

00:27:17: Basierend auf der Hardware hat man dann unterliegende Software-Schichten.

00:27:22: Man habe dann irgendwo im Kern KI Algorithmen und die entsprechenden Laufzeitumgebungen für die KI Systeme.

00:27:31: Und obendrauf hat man Systemarchitekturen für Anwendungen, die dann KI-Systeme nutzen einsetzen und zum Kunden verfügbar machen.

00:27:44: Und dann hat man auf der Anwendungsseite zwei unterschiedliche Bereiche.

00:27:48: Man hat einerseits den digitalen Bereich also das was wir jetzt hier aktuell halt auch nutzen ja das ist ja rein digital am Rechner und solche Sachen und wir benutzen die Hardware sozusagen als Träger.

00:28:00: Aber zunehmend mehr betten wir der KI Sachen und Anwendungen auch in Roboter ein.

00:28:06: Und wir haben uns da halt für Drohnen entschieden, das war also schon vor über drei Jahren.

00:28:13: Also da war das Thema Drohne im Russland-Angriffskrieg noch nicht so transparent ja aber das ist jetzt ganz dominant geworden.

00:28:24: Wir nehmen den ganzen Stack und haben uns an die Frage gestellt was kann Deutschland?

00:28:27: Ja, also welche Komponenten davon kommen aus Deutschland haben dem Ganzen auch einen klaren Souveränitätsfokus gegeben und auf der Hardware Ebene bin ich ganz kurz da durchlaufen darf.

00:28:39: Auf der Hardware-Ebene haben wir dann Neuromorphic Computing Architekturen und Systeme halt verwendet, das sind neuartige Chips.

00:28:48: Die die Kollegen von der TU Dresden entwickelt haben.

00:28:50: mit SpinAKII ist es eine sehr interessante Chiparchitektur, die also im Gegensatz zu den bekannten GPUs Grafischen Prozesskarten von Nvidia und AMD nur Teile der Hardwares aktivieren wenn Anfragen kommen und berechnet werden.

00:29:12: Das heißt also schon auf der Hardware-Ebene weniger Energie verbrauchen als die klassischen GPUs, die typischerweise mit hundert Prozent Last laufen.

00:29:21: nicht grundsätzlich natürlich dann immer rechnen aber sie sind immer voll aktiv ja?

00:29:26: Und Neuromorphic Computing-Hardware versucht das Ganze zu reduzieren und sagen wir machen nur das aktiv wie menschlichen Gehirn was wirklich gebraucht wird.

00:29:36: Dann auf der KI-Ebene haben wir Ansätze verwendet, die also auch etwas anders sind als das was man jetzt bei JetGPT und solchen Sprachmodellen halt typischerweise kennt.

00:29:47: Nämlich sogenannte Spiking Neurons.

00:29:51: Also zugespitzte Neuronen sozusagen sind eher ab... geleitet vom menschlichen Gehirn, wo man halt sieht dass die männlichen neuronalen Zellen, dass sie irgendwie aktiviert werden feuern und danach so ein bisschen in Schlafmodus gehen.

00:30:06: Ja, bevor sie dann wieder aktiviert werden können.

00:30:09: Und das hat man schon vor langer Zeit – mein Namenskollege von der Uni Graz ist da sehr bekannt heute dafür – beschäftigen sich halt mit solchen Spike-Ineurons schon seit vielen Jahrzehnten.

00:30:22: Sie sind für kleinere und mittlere Anwendungen sehr gut ja und jetzt ist halt die Frage wie kann man das hochskalieren?

00:30:28: Sie sind sehr gut geeignet um auf Neuromaufe Computing Hardware zu laufen Und um das weiter vorzuziehen, also was in meinem Bereich dann gelaufen ist, dass wir uns die Algorithmen und die Hardware genommen haben, neue Computing Chips.

00:30:41: Wir haben versucht so nah wie möglich an die Drohnen dran zu bringen.

00:30:45: Warum Drohne?

00:30:46: Wir haben mit Saarstahl einen Partner im Projekt gehabt der... Stahlschrott sortieren möchte und die Qualität messen möchte.

00:30:57: Und das wird heute mit Blickkontakt gemacht, man schaut ja also so viel Kupfer ist da drin.

00:31:02: Kupfers sehr schädlich für den Stahlprozess zumindest wie er in Saarstahl verwendet wird.

00:31:08: Also muss mal immer die unterschiedlichen Stahl-Schrottsochten klassifizieren um was man da jetzt gerade auf dem Haufen liegen hat.

00:31:15: Und das haben wir jetzt mit Drohnen gemacht und wir haben dann geschaut, dass diese Algorithmen jetzt deutlich energieeffizienter sind.

00:31:23: Welche KI-Algorithmen laufen denn effizient?

00:31:26: So dass die Drohne einfach länger fliegt bei gleicher Qualität!

00:31:30: Ja und das Interessante ist, dass transferieren wir jetzt gerade dieses Know-how in Halo X mit den Drohnen auch mit sehr kleinen Sachen.

00:31:41: Wir sind also im Rahmen von Bundeswehrinitiativen eingeladen auf diese Technologien für die Bundeswehr nutzbar zu machen.

00:31:50: Es gibt ja verschiedene Anwender, die in dieser Richtung denken, sehr viel effizientere KI zu haben.

00:31:57: In Eskate hatten wir Rechenzentrumsbetreiber, die dann auch dieses getestet haben.

00:32:03: Wir haben Eskade und dann die Algorithmen, die wir entwickelt haben für die großen Rechencentren.

00:32:08: Auch bei der Tele kommen in München in den großen Rechnzentren getestete und konnten nachweisen dass man durch ein bisschen Drosseln der Taktrate sehr viel Energie gewinnen konnte.

00:32:18: ja und manchmal sind sie im Training also in der Infarenz sagt man halt okay es gibt Latentszeiten akzeptabel und wenn ich die ausreize kann nicht also überproportional viel energie halt einsparen.

00:32:32: ja und jeder cent zählt so.

00:32:35: das sind so die themen mit dem muss dann es geht beschäftigt haben.

00:32:38: wir sprechen da wenn ich richtig informiert bin von bis zu neunund achtzig prozent weniger energie als wirklich massive einsprachung.

00:32:45: Ja, also ich sage mal so.

00:32:47: Das würde ich jetzt nicht als Zahl in die Welt setzen und sagen dass das... Okay.

00:32:54: ...das sind spitzen Werte unter künstlichen Bedingungen.

00:32:59: Also ich meine, das ist natürlich halt die Richtung, die also die Künstliche Illigenz auch machen wird, dass wir von diesen riesengroßen Systemen dann schauen was sind denn die kleineren effizienteren Systeme?

00:33:11: Und da ist das Thema Bio inspiriert also inspiriert durch biologische Systeme sehr interessant, weil wir müssen sehen.

00:33:21: Also der Mensch rechnet mit zwanzig Watt.

00:33:24: ja das ist eine schwache Glühbirne und die Leistung ist vergleichbar mit einem Rechenzentrum welches hundert Megawatt verwendet.

00:33:34: Und da haben noch ganz schön viel Arbeit vor uns

00:33:38: von Mensch lernen, um die KI besser zu machen.

00:33:41: Ich glaube auf der Website steht auch bis zu neun.

00:33:44: also ich glaube die beiden Worte sind dann doch entscheidend.

00:33:47: aber das ist doch eine super spannende Entwicklung, die aus Deutschland kommt.

00:33:50: Das finde ich immer spannend weil man uns ja immer nachsagt wir würden so abgehängt sein im Bereich KI.

00:33:55: Aber gerade Institutionen wie das Deutsche Forschungszentrum für Künstliche Regenzeigen eigentlich immer wieder das Gegenteil.

00:34:01: Deshalb freue ich mich einfach sehr dass wir darüber sprechen.

00:34:05: Also ist die Vorstellung eines nachhaltigen Rechenzentrums gar nicht so absurd?

00:34:12: Also überhaupt nicht.

00:34:15: Es ist natürlich ein Wettrennen, das wir gerade jetzt in den USA von China wissen.

00:34:20: relativ wenig aber... Die Vermutung liegt noch nahe, dass es sehr ähnlich leugt wie in den USA.

00:34:26: Das ist natürlich größer als alles.

00:34:28: Das sind so ein bisschen die amerikanische Denkweise dahinter.

00:34:32: Größe und Geschwindigkeit toppt alles.

00:34:35: Die USA zeigt sich jetzt.

00:34:37: Stößt mit dieser Strategie.

00:34:39: Stoßen die Unternehmen an Grenzen?

00:34:41: Also die Bevölkerung steht auf und sagt also noch mehr Gaskraftwerke damit ihr halt eure Rechenzentren, KI-Rechenzentern betreiben könnt.

00:34:50: das sehen wir nicht ein.

00:34:51: zu unseren Kosten, was Wasser angeht.

00:34:54: Was Strom angeht?

00:34:55: Was Land

00:34:55: angeht?".

00:34:57: Also wir lassen das nicht länger zu.

00:35:00: also in Virginia gibt es jetzt einen Stopp ja und andere Bundesstaaten selbst Texas hat das jetzt so Moratorium halt gemacht für ein paar Monate dass sie sagen da wird jetzt gar nichts mehr bearbeitet in Europa und gerade in Deutschland.

00:35:17: Wir haben doch als Bedingung dann das Energieeffizienzgesetz, also verschiedene andere Gesetze die dieses Maximaltempo verhindern.

00:35:30: Aber wir haben halt einen anderen Ansatz und haben auch andere Ressourcen, das muss man natürlich dann auch sehen.

00:35:39: Wir können nicht vier Milliarden Liter Wasser pro Jahr verbrauchen wie wenn man am Lake Michigan ein Rechenzentrum hat.

00:35:50: Also da gibt es dann andere Diskussionen.

00:35:52: also wir müssen mehr auf die erneuerbaren Energien Setzen.

00:35:56: Das ist definitiv halt der Fall, mehr auf Effizienz setzen das ist für so ein dicht bevölkertes Land und Gebiet wie Europa und Deutschland ist es natürlich klar dass wir das machen müssen.

00:36:08: und da USA und Kanada wo ich jetzt gerade bin die haben natürlich eine ganz andere Ausgangssituation und können optimieren auf eine andere Art und Weise.

00:36:17: Klar, auf der anderen Seite muss man natürlich sagen auch die effizientesten Rechenzentren würde ich mal behaupten bringen.

00:36:22: Nichts wenn am Ende ein schmutziger Strom mit hohem CO²-Ausstoß diese betreibt.

00:36:28: Also an sich ist doch auch der Energiemix mitentscheidend wie nachhaltig so einen Rechencentrum betrieben werden kann und am Ende natürlich auch wir unsere künstliche Intellienz nutzen können.

00:36:38: Naja, also die Energie, die ich reinstecke ist ja nur ein Faktor.

00:36:42: Also die Energie die ich brauche um Wärme abzuführen verbraucht ja auch Energie.

00:36:49: so und wenn ich jetzt zum Beispiel Wasser in nahezu unbegrenzter Form verfügbar habe kann natürlich die Verdampfungsenergie nutzen um zu kühlen und in Deutschland würden wir diese Kühlung über Strom machen.

00:37:04: Ja das heißt also eine andere Situation.

00:37:07: Und das führt dann automatisch zu SpaceX oder wie heißt es jetzt, SpaceX SI?

00:37:15: Die versuchen natürlich das Problem dadurch zu lösen dass sie sagen wir nehmen die Rechenzentrum ins Weltall doch das ist immer kalt Wir haben die Energie über die Sonne und wir pumpen sozusagen unsere Rechnungen ins Welt all und kriegen nur noch die Ergebnisse.

00:37:33: Also ich finde das momentan faszinierend und für einen Ingenieur eine extrem tolle Zeit, sich ganz neue Ideen zu überlegen.

00:37:43: Ganz neue Wege zu gehen!

00:37:45: Das ist wirklich vergleichbar wie mit der Entwicklung der ersten Automobile wo man auch gesagt hat alle möglichen Formen.

00:37:52: ja dass wir jetzt vier Räder haben.

00:37:54: Ist ja ein dominantes Design was ich durchgesetzt habe.

00:37:57: Ja und das ist momentan für ein Ingenieur, glaube ich.

00:38:02: Also eine Traumzeit weil man neue Wege gehen muss.

00:38:08: Muss man aber auch was eben Sicherheit angeht um vielleicht so den Full Circle zurückzunehmen?

00:38:14: Um entsprechend natürlich wenn man mit dieser Technologie experimentiert oder man Agenten baut die mehr oder weniger dann sehr, sehr mächtig sind und auch eigene Dinge ausführen können.

00:38:24: Sie davon vernünftig abzuhalten per Design quasi irgendwo einzuberechnen und andere Seiten zu hacken.

00:38:30: Aber ich verstehe absolut die Argumenten.

00:38:33: Na klar!

00:38:34: Goldene Zeiten für alle, die tüfteln wollen und mitgestalten

00:38:38: möchten.".

00:38:39: Ja, also wir Deutschen sollten das sehr gut verstehen in welcher Zeit wir leben.

00:38:42: Weil wir haben das Auto erfunden und denken sie in die siebziger Jahre zurück.

00:38:47: Das war vor ihrer Geburt ja aber da sind sehr viele Leute bei Autounfällen gestorben sowohl im Auto weil es keine Airbags und sonstige Sachen gab es gab keine Gnautszone Und die Leute auf der Straße waren die Fußgänger und Fahrradfahrer waren freiwild.

00:39:05: Da sind Unfassbar viele Leute gestorben dabei.

00:39:08: und dann hat man durch Regulierung die Handbremsen eingezogen an den richtigen Stellen, sodass wir jetzt doch eine ganz andere Automobilwirtschaft haben per der Regulierung.

00:39:20: Also Reguliere ist in dem Falle hilfreich dafür um solche Technologien noch einzuhägen in die richtige Richtung zu entwickeln.

00:39:29: Jetzt ist uns das natürlich dreißig, vierzig, fünfzig Jahre später bewusst.

00:39:32: Dass so eine Anschnallpflicht durchaus auch sinnvoll ist und wir haben das alle hingenommen.

00:39:37: Aber auch damals gab es ja wenn ich mich richtig mal Bilder und Content darüber gesehen habe, da gab's ja durchaus Leute die gesagt haben, dass ja Beformundung, dass ich mich hier anschnallen soll quatscht.

00:39:47: Da mach' ich nicht mit!

00:39:48: Das ist Blödsinn?

00:39:49: Ich fahre ja vorsichtig.

00:39:50: Und Gegner von Regulierung gab es immer.

00:39:52: Diese Stimmen werden heute gerade in dieser typischen Tech-AI-Bubble immer lauter als man sagt... Überregulierung dreht uns hier komplett die Luft ab.

00:40:00: Gerade in Deutschland kann man eigentlich nichts mehr machen, wir haben da bekannte Beispiele aus Österreich beispielsweise mit Open Clore mit der Entwicklung.

00:40:06: oder Entwickler dann gesagt hat ich gehe in die USA weil man in Europa nichts machen kann ihr über reguliert alles und wir kriegen ja keine Innovationen hin.

00:40:13: was entgegnen Sie solchen Argumenten?

00:40:15: Naja also ich glaube der Entwickler der Open Clores entwickelt hat ist vor allen Dingen ... aus finanziellen Gründen, ja?

00:40:29: Weil das Venture Capital in Europa jetzt nicht so flüssig ist wie in den USA.

00:40:34: Und er von Open AI ein sehr gutes Angebot wahrscheinlich bekommen hat und vielleicht dann auch mal was Neues sehen wollte.

00:40:43: Österreichs vielleicht dann doch irgendwann dann auch so klein, dass man gesagt hat ich habe alles gesehen.

00:40:49: also da mal nach Kalifornien zu gehen um mit dem großen Halt zu spielen... Also ich glaube da sind auch persönliche Motivationen halt dabei.

00:40:55: aber Ich glaube, die Regulierung ist jetzt nicht der Hinderungsgrund um KI-Startups zu gründen.

00:41:08: Es sind eher Finanz und administrative Prozesse, die da halt schon ihre Rolle spielen – aber gerade die Finanzseite!

00:41:23: gut Geld, um die Seedphase und die erste Phase zu überstehen.

00:41:33: Aber wenn es dann halt in den zweistelligen Millionen-Bereich kommt, dreistellige Millionenbereich oder gar vierstellige Millionenbereiche, da wird's doch schon ziemlich eng und dann guckt man sich halt um und sagt also wo krieg ich das denn her?

00:41:45: Also ich glaube die Regulierung hinkt natürlich hinterher.

00:41:50: Also als der AI-Eck kam, da stand dann nichts von wegen generativer KI drin.

00:41:55: Da stand nichts von ChangeGPT und solche Sachen halt drin.

00:41:59: Das wurde erst jetzt Nachträglichheit irgendwo reinbekommen und da wird es dann hochpolitisch diese ganzen Sachen.

00:42:06: also ich denke mal die DefenseAI Diskussion zeigt wie schnell man etwas entwickeln kann.

00:42:14: ja also wenn ich mir anschaue die Bewertung von Helsing und Quantum und so was sie sind im höheren Milliardenbereich, also auch Mistral.

00:42:23: Die jetzt hier zum Beispiel für Luxemburg eine Instanz halt installieren, wo die luxemburgische Regierung für alle öffentliche Prozesse Mistral halt verwendet.

00:42:35: Also ich glaube, die Entscheidung in Europa zu bleiben von Mistral ist eine strategische gewesen und ich glaub dass das also auch ein Trenntal darstellt, ja?

00:42:44: Zu sagen wir sind einen Markt von fünfhundert Millionen Einwohner.

00:42:48: Ich habe jetzt gelernt es gibt einem Brüssel Effekt der da zeigt, dass Regulierung dann weltweit sich ausbreitet aus Brüssel heraus weil es effizienter ist das vom Brüssel zu übernehmen als neu zu erfinden.

00:43:00: Also von daher glaube ich, Europa darf jetzt nicht überregulieren.

00:43:05: Definitiv nicht!

00:43:06: Wir müssen also Regulierung die sich als schlechter rausstellt oder als nicht zielführend eliminieren definitiv ja.

00:43:14: aber das als Grund zu nehmen warum jetzt Leute nach Amerika gehen oder in andere Länder gehen würde ich jetzt nicht als primären Grund sehen sondern eher die Finanzsituation.

00:43:27: vielleicht der coolen Effekt Naja, also der Community-Effekt glaube ich ist stärker.

00:43:37: Okay, verstehe!

00:43:39: Zum Abschluss, vielleicht einen kleinen Ausblick.

00:43:41: Gerade möglicherweise im Hinblick auf die Regulierung.

00:43:45: der AI Act haben wir jetzt ein paar Mal angesprochen.

00:43:48: Der ist ja durchaus auch immer mal wieder verändert worden und man hat wenn man so politischen Kommilitatoren glaubt dadurch ist auch Einfluss der US-Regierung drauf gesehen dass man da möglicherweise in Zollkonflikt rund um Zölle auf deutsche Autos oder andere Exportwaren aus Europa gesagt hat, Neni das schwächt mal bitte ab.

00:44:04: Also so ein bisschen man könnte sagen Bösezungen würden wohl sagen Erpressung ja.

00:44:08: also bitte ein bisschen weniger regulieren damit unsere Hyperscaler und unsere US Tech hier schön walten und weitermachen kann und im Gegenzug belassen wir es dabei und ihr könnt einfach weiterhin uns eure Produkte verkaufen.

00:44:24: wo führt denn das hin?

00:44:26: Wer wird sich dann da durchsetzen und wie sieht eine gelungene Regulierung in fünf Jahren aus?

00:44:34: Also das geht natürlich ein bisschen über meine Kompetenz hinaus, da kann ich jetzt so meine Meinung dazu sagen.

00:44:42: Ich denke mal Politik gerade in demokratischen Ländern bedeutet Kompromisse einzugehen und wenn die EU eine Regulierung erlässt Dann ist das ohnehin schon ein Kompromiss, der im Europäischen Rat dann letztendlich abgesignet wird und im Parlament diskutiert wird.

00:45:04: Also es ist ja per se schon ein Compromiss was da hinten rauskommt wo sehr viele Leute als auch US-amerikanische Lobbyarbeit ja schon einfließt.

00:45:14: Also es gibt ja auch in Deutschland Verbände, die als sehr stark US dominiert sind.

00:45:19: Die ihren Einfluss in der deutschen Regierung auch national sehr klar und deutlich platzieren.

00:45:25: Ansonsten sind manche Entscheidungen in Deutschland gar nicht erklärbar.

00:45:29: Warum eine souveräne KI dann plötzlich auf US-Plattformen läuft?

00:45:36: Natürlich ist das ein Kompromiss wo Einflussenamen passieren Und dass das dann auch zwischen der EU, USA, China wahrscheinlich in Zukunft auch Indien und anderen Ländern halt passieren wird.

00:45:52: Man handelt das aus so wie man das bei der WTO eigentlich auch kennt doch werden auch super nationale Kompromisse geschlossen.

00:46:03: Das passiert ja.

00:46:04: also ich meine die europäische Union und auch die Bundesregierung hat natürlich die Herausforderung.

00:46:10: Natürlich können wir Hardbolt spielen und sagen, wir lassen das einfach nicht zu weil ihr unsere Regulierung nicht erfüllt.

00:46:15: Wir belegen euch mit Strafen in der Weise wie wir sie für adäquat halten.

00:46:22: Konsequenz davon ist dass wir möglicherweise bestimmte Services in Zukunft verlieren werden Ja, was wiederum ein Nachteil ist für die deutsche Wirtschaft.

00:46:32: Die ja sehr gerne die neuesten Leistungen von Entropic und von OpenAI und auch von Moonshot aus China

00:46:42: usw.,

00:46:43: also sofort halt nutzen möchte.

00:46:45: Also von daher geht es darum einen Kompromiss zu finden, zu sagen Es gibt bestimmte Werte, die sind uns wichtig und die verteidigen wir uns auch.

00:46:53: Und über den Rest kann man diskutieren Und das ist etwas, was möglicherweise ... die Politik heute für große Herausforderungen stellt.

00:47:06: Manchmal hat man auch den Eindruck, dass der Wissensstand nicht auf dem Niveau ist wie er vielleicht sein sollte.

00:47:16: Das ist natürlich dann ein Wissenzproblem.

00:47:18: also wenn man in der Politik versucht diese Diskussion halt nahezubringen, hat man doch relativ häufig den Eindruck das nur mit einem halben Ohr zugehört wird und das schon vorher klar ist, was man eigentlich machen will.

00:47:34: Und man braucht eigentlich so einen wissenschaftlichen Beirat nur dafür um zu sagen wir haben den und der bestätigt dann letztendlich, was wir schon vorher eigentlich wollten.

00:47:44: also das ist natürlich etwas, da würde ich mir manchmal ein bisschen mehr Offenheit und bisschen mehr Diskussion und Wissenstransfer in beide Richtungen halt wünschen.

00:47:54: Das ist auf der europäischen Ebene schwierig und auf der nationalen Ebene auch schwierig.

00:48:01: Also, der Digitalminister Wildberger ist sicherlich einer der offen ist für diese Diskussion – das ist auch sehr gut!

00:48:09: Er ist also meines Erachtens eine rühmliche Ausnahme und ich hoffe dass er seine Stimme halt da klar öffentlich darstellen kann

00:48:19: Die Ansicht teiligt und ihre Meinung teile ich da auch.

00:48:21: Betty Keys, eine Pressesprecherin war ja schon mal bei uns zu Gast also ich weiß das die durchaus in dem Ministerium offen sind gegenüber Neum- und auch viel ausprobieren was natürlich auch dann häufiger mal zu Kritik führt weil auch mal etwas schief geht.

00:48:33: aber Grundsätzlich kann man der Behörde jetzt glaube ich keine Ablehnung von Innovation oder Experimenten vorwerfen.

00:48:41: Und ich glaube, dass das tatsächlich auch irgendwie ein bisschen der springende Punkt ist, dass da viel Wissenslücken sind und ich hoffe – ja doch!

00:48:50: Ich bin eigentlich davon überzeugt, dass wir mit diesem Podcast natürlich dazu beitragen diese Wissenzlücke zu schließen heute einmal mehr mit Wolfgang Maas vom Deutschen Forschungsinstitut für künstliche Intelligenz.

00:49:02: Vielen lieben Dank für Ihre Zeit, Ihre Meinung und ihre Einblicke.

00:49:05: Ich denke wir konnten ein bisschen vielleicht mit Vorurteilen aufräumen und neue Impulse setzen.

00:49:11: Vielen Dank für Ihr Zeit!

00:49:12: Ja vielen dank fürs tolle Interview.

00:49:17: Das war Professor Wolfgang Maas liebe Leute und ich muss sagen mir hat das Gespräch persönlich wirklich gut getan.

00:49:23: also Wir bewegen uns in dieser KI-Debatte ja ganz oft irgendwie zwischen Doomsday Stimmung auf der einen Seite und so KI als All Highmittel auf der anderen.

00:49:31: Und ich versuche ja selbst immer irgendwo dazwischen zu bleiben, um möglichst alle Perspektiven zu beleuchten.

00:49:37: aber ich merke auch dass mir das zunehmend schwer fällt!

00:49:41: Wir werden ja alle ständig mit Schlagzeilen bombardiert die entweder an die eine oder andere Richtung gehen und die Fronten immer weiter verhärten.

00:49:48: Da fand ich es wirklich mal wirklich wohltuend, diese nüchterner wissenschaftliche Einordnung zu hören von jemanden der sich seit Jahrzehnten mit dem Thema beschäftigt.

00:49:59: Der die Risiken auf der einen Seite ernst nimmt aber eben auch aktiv daran forscht dass die Technologie besser und sicherer wird.

00:50:08: Das macht mir irgendwie Mut, denn darum sollte es doch am Ende auch gehen oder?

00:50:12: Ich meine das ist einfach ein Projekt dass wir gemeinsam anpacken müssen und wir haben schon andere Projekte gemeinsam angepackt und gelöst.

00:50:19: Was sagst du denn dazu liebe Kolleginnen?

00:50:22: Max ich fand vor allem den Vergleich mit der Automobilindustrie spannend!

00:50:26: Wir haben ja auch nicht aufgehört Autos zu bauen weil sie gefährlich waren.

00:50:30: stattdessen haben wir gelernt sie sicherer zu machen durch Regeln Sicherheitsgurte und Airbags.

00:50:36: Und genau das ist doch auch bei KI der Punkt.

00:50:38: Wir müssen die Risiken ernst nehmen, ohne gleich den Weltuntergang auszurufen!

00:50:43: Denn am Ende geht es nicht darum, die Technologie aufzuhalten sondern sie verantwortungsvoll zu gestalten.

00:50:49: Ja dass die KI da sagt ist wahrscheinlich irgendwie klar ja gut danke für deinen Beitrag liebe Kolleginnen.

00:50:58: Wenn ihr das ähnlich seht oder auch ganz anders dann schreibt uns gerne in die Kommentare.

00:51:02: Wir freuen uns über sachliche Diskussion, ansonsten empfehlt diesen Podcast gern weiter wenn ihr möchtet.

00:51:08: Liked ihn abonniert ihn!

00:51:09: Das freut uns sehr wenn wir da zusätzliche Bewertungen bekommen damit wir auch wissen wie wir in Zukunft weiter verfahren.

00:51:16: Ansonsten danke ich wie immer unserem Sponsor Eleven Labs für die ganzen KI-Einlagen und wünsche euch eine fantastische Woche bis Freitag.

00:51:24: zur Kollegin KI Snackbox.

00:51:26: Ciao Dieser Podcast wird produziert von Portstars bei OMR.