Deepfake-TV, cyberkriminelle Agenten, Frontier-Lab-Regulierung | Snackbox KW38

00:00:01: Happy Friday, liebe Leute!

00:00:03: Max Montenke hier mit der Kollegin KI Snackbox.

00:00:05: Ich bringe euch einmal in zehn Minuten durch die KI News der Woche und vielleicht erst mal in einer Sache.

00:00:10: ich war im Fernsehen.

00:00:12: Und zwar gibt es einen Kika-Beitrag von mir mit meinem Co-Founder Jan.

00:00:16: Wir waren an der Grundschule und machen ja hin und wieder so AI Literacy Kurse.

00:00:20: Jetzt ist das Kika.

00:00:22: Der Kika hat darauf aufmerksam geworden verlinke ich euch in den Show notes.

00:00:25: Es ist total cute muss sagen.

00:00:28: diese Arbeit mit Kindern und KI Gibt mir so viel, wenn das bezahlt werden würde.

00:00:33: Ich würd's wahrscheinlich den ganzen Tag machen.

00:00:36: Wird es aber nicht?

00:00:37: Deshalb gehen wir jetzt mal zum Podcast ab in die News.

00:00:42: Langdog kommt zurück nach... Deutschland.

00:00:45: Wir starten diese Woche mal ausnahmesweise mit einer sehr guten Nachricht für den europäischen KI-Standort und zwar kommt Langdok zurück nach Deutschland.

00:00:53: Langdoc, KI-Tool kennen viele von euch.

00:00:56: wahrscheinlich rund dreizehntausend Organisationen, nutzen bereits das deutsche ChatGPTV wie es immer wieder genannt wird.

00:01:04: Es ist im Grunde ein LLM Wrapper also ein Tool dass verschiedene Language Models anbindet und das Ganze in Europa bzw.

00:01:12: aus Deutschland heraus baut.

00:01:13: Und wie viele Start-ups hatte Langdock eine US Holding bis vor Kurzem.

00:01:19: Das ist in so einer frühen Phase durchaus sinnvoll, was einfach irgendwie nochmal für amerikanische Investoren deutlich besser ist wenn man eben den USA gelistet ist.

00:01:30: und Langdock hat jetzt gesagt ne bei Unternehmenskunden führte wohl die US Mutter immer mal wieder zu Fragen rund um US Recht den möglichen Behörden Zugriff auf die entsprechenden Daten, also Stichwort Cloud Act.

00:01:44: Also es gibt eine andere Vorstellung von Datenschutz in den USA als hier und dementsprechend hat Langdok gesagt ne wir gehen nach Europa, wir entscheiden uns für Deutschland und wir meinen das ernst.

00:01:56: Und zwar wollen sie wohl noch im Jahr auch ein eigenes Rechenzentrum in Betrieb nehmen.

00:02:03: Zehn bis fünfzehn Millionen Euro sind dafür vorgesehen.

00:02:06: also ich finde das sind sehr gute News!

00:02:08: Ich freue mich über ein weiteres europäisches Tool dass sich jetzt auch so ein bisschen von den USA los sagt kann Schule machen.

00:02:15: von mir aus Gehen wir weiter, es gibt KI im Fernsehen.

00:02:19: Jetzt habt ihr vielleicht mitbekommen RTL hat diese Woche versucht Fernsehwiederholung neu zu erfinden.

00:02:26: Ihr kennt wahrscheinlich wenn ihr so ein Jahrgang seid neunziger Jahre geboren dann kennt ihr die ganzen Gerichtsshows noch die man sich danach der Schule irgendwie noch angucken konnte wo dann immer effektive Gerichtsfälle verhandelt wurden.

00:02:38: und da gibts eine ganze Menge von.

00:02:40: tatsächlich hat jetzt RTL zusammen mit Konstantin Entertainment fünf bereits produzierte Folgen von Ulrich Wetzel das Strafgericht genommen und mit generativer KI neue Folgen daraus gebaut.

00:02:53: Also, es ist nicht nur irgendwie Bildbearbeitung sondern Figuren beziehungen Handlungsverläufe auch Urteile werden mit KI verändert und da wird eine neue Sprache drüber gelegt.

00:03:05: Es gibt ein Lip-Sync und dann kann man diese Shows die ja im Grunde immer gleich aussehen und immer gleich verlaufen inhaltlich ändern.

00:03:14: Das ist erstmal sehr spannend, dass KI so eingesetzt wird führt natürlich aber auch zu diversen Fragen.

00:03:24: berichtet beispielsweise, dass im linearen Fernsehen so eine Kennzeichnung das KI manipuliert ist.

00:03:30: Einfach komplett fehlt.

00:03:32: RTL Plus hat das zwar online gemacht aber im linearen Fernsehen gab es das nicht.

00:03:36: Das führt natürlich zu entsprechenden Fragen die verantwortlichend bei RTL verweisen auf Sonderregeln für fiktionale Werke.

00:03:45: Ihr erinnert euch wir hatten über den AI-Eck Die haben schon auch einige Male gesprochen.

00:03:49: Wenn es klar ist, dass es ein fiktionales Wert ist muss keine Kennzeichnungspflicht gelten oder gilt die nicht.

00:03:54: und da ist gerade bisschen Streit im Gange.

00:03:58: sehr spannend verfolgen wir weiter.

00:04:01: Ich glaube aber die interessante Frage ist gar nicht ob jetzt die Lippenbewegung da schon hundertprozentig stimmt.

00:04:06: Das wird dann viel diskutiert in den Kommentaren von Social Media auch das alles echt schlecht aussieht Und man erkennt das ja sofort.

00:04:13: Die Frage ist viel eher, was passiert eigentlich mit bestehendem Content?

00:04:16: Wo Schauspielerinnen daran auch beteiligt waren Drehbuchautoren und so weiter.

00:04:21: Wenn KI das Ganze einfach neu mischt und daraus mehr oder weniger neue Folgen macht.

00:04:27: Und da auch nochmal den Verweis auf unsere Folge aus dem April.

00:04:30: Mit Franziska Polmann der Regisseurin habe ich über KI im Kino gesprochen und die hat auch noch mal einen professionellen Blick auf den ganzen KI Einsatz gemacht Verlinke ich euch gerne auch in den Kommentaren.

00:04:45: So, jetzt ab in die düstere Ecke.

00:04:47: es gibt einen ersten gemeldeten Datenschutzvorfall mit einem KI-Agenten und zwar in Spanien!

00:04:54: Die spanische Datenschutzbehörde hat eine entsprechende Meldung von einer betroffenen Organisation erhalten, nach deren Angaben verwendete der Angreifer einen KI-Agent auf Basis eines bekannten aber nicht näher genannten großen Sprachmodells.

00:05:08: Wir haben ja schon ein bisschen gesprochen über die Agents, die sich selbstständig machen in den letzten Wochen – das ist ein riesengroße Sicherheitsproblem.

00:05:17: und jetzt gibt es tatsächlich den ersten Vorfall, könnt euch im Kalender anstreichen, dass war ein Cyberangriff selbstständig oder größtenteils selbstständisch durchgeführt hat.

00:05:29: Man muss sagen, das Ganze ist noch in Untersuchung der Fall wird noch geprüft es gibt keine Informationen darüber welches Modell verwendet wurde oder welches Unternehmen betroffen war und so weiter.

00:05:41: Aber es wirft natürlich einen neuen Blick auf Regulierung, auf Sicherheit durch Large Language Modules und was die kleinen Dinger mittlerweile alles können.

00:05:50: Denn natürlich können sie auch für kriminelle Zwecke eingesetzt werden oder wenn wir diesem Fall hier jetzt Glauben schenken tatsächlich auch selbstständig sagen ja da guck ich doch mal ob ich an entsprechende Daten rankomme die vielleicht eigentlich eher geschützt werden sollten.

00:06:06: also wie umgeht man Sicherheitsmechaniken von Websites von Datenbanken usw.

00:06:11: Wahnsinnig aktuelles Thema.

00:06:13: bleiben wir dran.

00:06:15: Und damit auch zur letzten News, die auch daran anknüpft und zwar hatten wir schon über Jacob Coxen gesprochen.

00:06:23: Jacob Coxon war lange bei OpenAI und ist dann zu Anthropik gewechselt und hat da nach kurzer Zeit bereits geschmissen, hat gesagt KI läuft hier komplett aus dem Ruder ja?

00:06:35: Wir verlieren die Kontrolle Wir könnten alle sterben durch KI.

00:06:40: und da gab es dann Aufruhr und durchaus auch andere Sicherheitsforschende, die ihm zugestimmt haben.

00:06:45: Da gab's dann diese Zahl, die im Raum geisterte von zehn Prozent Wahrscheinlichkeit dass die Menschheit das Ende des Jahrzehnts nicht mehr erleben wird durch KI.

00:06:54: Und jetzt folgen einige anderen auch dem Beispiel von Coxen und zwar bei Google DeepMind, wir haben andere Safety Forscher die sage ich mal große KI Unternehmen verlassen alle mit dem Hinweis darauf dass diese Technologie nicht sicher weiterentwickelt werden.

00:07:16: Das ist tatsächlich ein Riesenproblem, also wenn die Sicherheitsforschenden davor waren.

00:07:21: Wenn über die Unternehmen hinweg Leute des Unternehmens verlassen aus moralischen Gründen sagen es funktioniert hier so nicht mehr wie wir das weiterentwickeln dann muss uns das zu denken geben und Es gibt jetzt so von den großen Hyperscalern Ansage, man schraubt so ein bisschen die Forschung zurück und tritt auf die Bremse.

00:07:42: Was ich quatsch halte um ehrlich zu sein.

00:07:44: also Forscher werden jetzt nicht sagen ich denke nur noch fünfzig Prozent schnell oder so ja oder arbeite vielleicht weniger an entsprechenden Systemen.

00:07:51: was Hermos sind Sicherheits Garantien ist vor allem eine Behörde die international die Entwicklung von künstlicher Intelligenz überprüft und die das unabhängig sei ich mal lizenziert.

00:08:06: Ähnliche Modelle haben wir, da ist immer wieder die Atomenergiebehörde international im Gespräch, die ja auch mehr oder weniger international handelt, kontrolliert wer nutzt, Atomkraft für was und sowas brauchen wir auch für KI.

00:08:20: Da sind sich viele Leute einig wie schnell wir das Ding bekommen und in welcher Form das dann auch über entsprechende Befähigung verfügt, das sei nochmal dahingestellt.

00:08:32: Aber das Thema wird auf jeden Fall dringender.

00:08:35: es gibt noch eine andere Perspektive auf diese ganze Thematik und dieses Bekenntnis der großen Taxiost die jetzt alle in Gang zurückschalten wollen und zwar dass sie natürlich allen noch kein Geld verdienen.

00:08:46: Und im Zuge dieser ganzen Skandale gerade hat OpenAI auch den IPO also dem Börsengang verschoben was sag ich mal durchaus den ganz gelegen kommt denn eigentlich sehen die zahlen alles andere als rosig aus.

00:09:00: das vielleicht dazu und vielleicht auch zu dieser woche.

00:09:03: ansonsten freue mich sehr über den klick beitrag immer noch wirklich vollbeflügelt ist ein ganz süßes ding.

00:09:11: so wie man k i an schulen irgendwie unterrichten kann ist einfach Wahnsinnig tolles Feld.

00:09:18: Macht mir ganz viel Spaß, ich hoffe euch macht der Beitrag auch Spaß!

00:09:20: Ich freue mich auf Feedback.

00:09:22: Redaktionsschluss war Donnerstag der siebzehnte neunte um zwölf Uhr siebzen.

00:09:26: Ich wünsche euch ein fantastisches Wochenende und wir hören uns kommenden Dienstag zu.

00:09:31: Kollegin KI.

00:09:32: bis dahin ciao.