Netflix’ Wonka-Zombie, Menschen ersetzen KI, die AfD-Hassmaschine I Snackbox KW27

00:00:01: Happy Friday, liebe Leute!

00:00:02: Herzlich willkommen zu einer weiteren Folge.

00:00:05: Kollege in KI Snackbox mit den KI News der Woche.

00:00:09: Meine Woche persönlich war sehr cool.

00:00:11: Ich war in Hamburg, in den heiligen Hallen von OMR und hab da eine Podcast-Folge im Studio aufgenommen.

00:00:16: und es war so cool weil's einfach ... Es war kühl!

00:00:19: Die haben einfach so gut gelüftete Aufnahmeräume.

00:00:21: Jetzt bin ich wieder zurück in Berlin im Homeoffice und nehme dieses Snackboxfolge für euch auch bei gefühlten hundert Grad.

00:00:27: aber ihr kennt das schon.

00:00:29: Wir gehen direkt mal rein in die News und zwar fangen wir an mit guten News.

00:00:33: Wir hatten zum Ende noch richtig dark Aber wir fangen mal sachte an.

00:00:38: Spiegel berichtet bzw.

00:00:40: Anthropic berichtet, dass die Frontier-Modelle wieder zurück sind.

00:00:46: Wir haben Fable wieder.

00:00:47: Fable V Ja das Modell erinnert euch was von der US Regierung mehr oder weniger sanktioniert wurde Was dann für vierundzwanzig Stunden verfügbar war und dann abgeschaltet wurde weil man festgestellt hat Moment!

00:00:57: Das ist aber zu gefährlich wenn die ganze Welt das jetzt plötzlich nutzen kann Und Anthropic ist dann kurzerhand für alle abgeschaltet hat natürlich auf Druck der US Regierung.

00:01:07: Die Tools sind zurück Also die Large Language Models, die High Class Models alles gut?

00:01:11: Ja.

00:01:11: Weiter machen gar kein Problem?

00:01:13: Nein natürlich nicht.

00:01:14: Zeigt wieder einmal das wir komplett der Willkür anderer Nationen ausgesetzt sind wenn es um die Nutzung von Hochtechnologie geht.

00:01:23: Trump hier einfach den Knopf drücken kann und sagen kann jetzt sind Large Language-Models nicht mehr verfügbar und jetzt halt wieder doch!

00:01:30: Das macht uns hochgradig abhängig.

00:01:33: und zum Stichwort digitale Souveränität dürfen wir jetzt natürlich nicht nachlassen, sondern müssen uns hier daran erinnern was hier eigentlich passiert ist und endlich in die pötte kommen in europa um selbstständiger und unabhängiger zu werden.

00:01:46: es ist wirklich allerhöchste eisenbahn wenn hier irgendjemand zuhörte da macht drüber hat macht mal was so.

00:01:53: ja das waren die guten news wisst also so stets um diese woche leute.

00:01:56: naja.

00:01:57: zweite news netflix.

00:02:00: Netflix hat eine neue Show, One Cars The Golden Ticket und da wollte man offenbar die Stimme von Gene Wilders haben.

00:02:10: Problem war, Gene Wilder ist seit zehn Jahren tot der kann nichts mehr einsprechen aber man hat ja genug Stimme vom ihm aus vorherigen Produktionen.

00:02:18: deshalb könnte man das ganze Jahr einfach klonen mit KI machen und so wird es tatsächlich gemacht.

00:02:23: denn die Erben Beziehungsweise die Verwalter innen seines Nachlasses, zu denen ja dann offenbar auch die Stimmenrechte gehören.

00:02:31: Die haben entschieden das erlauben wir Netflix und da können wir jetzt mal irgendwie mit produzieren.

00:02:36: Ja rein rechtlich ist der Fall damit offenbar sauber scheint geregelt sein aber was bedeutet es eigentlich ethisch?

00:02:44: Das ist tatsächlich eine Debatte, die wir immer wieder führen und die wir auch noch weiterführen werden.

00:02:49: Ist das okay von Verstorbenen die Stimme zu nehmen?

00:02:53: Dinge, die die Identität ausgemacht haben um die mit KI ja sag ich mal unendlich weiterfühlen zu wollen.

00:03:00: Schwierige Debatte!

00:03:01: tatsächlich in einer Folge vor einigen Wochen mit Sascha Rotermund darüber gesprochen.

00:03:05: Er ist selbst Synchronsprecher und hat diese ganze KI-generierte Stimmdebatte rund um Netflix auch einmal eingeordnet.

00:03:11: aus seiner Sicht.

00:03:12: Verlinke ich euch gerne in den Kommentaren, wenn ihr die Folge noch nicht gehört habt.

00:03:15: Sehr spannende Ansichten!

00:03:17: Ich glaube wir müssen hier gerade den Betroffenen zuhören, die jetzt mit ihrer Stimme und mit ihrer Identität Geld verdienen was dir eigentlich dazu sagen und deshalb hört gerne nochmal in die Folge mit Sasca rein das auf jeden Fall Sehr, sehr cool geworden.

00:03:32: Dritte News!

00:03:33: Es gibt wieder mal News von Unternehmen die erst Leute entlassen haben und dann festgestellt haben... Moment, die KI kann das ja gar nicht.

00:03:39: Wir holen die Leute mal zurück und dieses Mal trifft es Ford.

00:03:42: Ja, der Autobauer hat offenbar eine ganze Menge Qualitätssicherer.

00:03:47: Qualitätsingenieure entlassen, vielleicht ist das ein Übersetzungsfehler in Bloomberg ins Engineers.

00:03:53: Der Spiegel übersetzt das eindeutig mit Ingenieure aber wahrscheinlich sind es einfach miterweitende überhaupt in der Qualitätssicherung.

00:03:59: Die wurden entlassen weil es dann hieß ja wir machen jetzt eine KI gestützte Qualitätzkontrolle und dann hat man festgestellt dass die Qualität irgendwie ziemlich gelitten hat und jetzt holt Ford diese ganzen Ingenieurs wieder zurück.

00:04:11: Ja, schönes Beispiel wieder mal!

00:04:12: Wir kennen das alle Bekanntes der Fall bisher war, glaube ich, klarer die ihren gesamten Customer Support irgendwie an Agents ausgelagert haben und dann festgestellt haben ja KI kann irgendwie doch nicht so gut mit Menschen bzw.

00:04:24: wollen Menschen vielleicht auch einfach mit Menschen sprechen?

00:04:26: also hat man die wieder teuer zurückgekauft aber es hat zumindest eine tolle Story gegeben für die Aktionäre.

00:04:33: Ja Ford ist das gleiche passiert oder sehr ähnlich auf jeden fall.

00:04:36: das heißt Was lernen wir daraus?

00:04:39: Am Ende braucht KI auch Experten, damit KI gut funktioniert.

00:04:43: Sie wird den Menschen einfach nicht ersetzen aber die Rolle der Menschen verändert sich natürlich.

00:04:48: also schöne News rund um Fort und unersetzbare Arbeit so.

00:04:53: und jetzt kommen wir zum knaller Thema.

00:04:55: kurz vor der Folge habe ich noch ein Nachricht bekommen von meinem Chef Redakteur der sagte hier das musste mit rein nehmen das muss ja definitiv heute noch mit rein Und deshalb habe ich die Folge jetzt nochmal aufgenommen, weil das ist tatsächlich krass.

00:05:06: Ich nenne das Ganze mal Propaganda as a Service.

00:05:09: so ist es nämlich auch in dem Korrektivartikel beschrieben.

00:05:13: Korreaktiv hat davon Wind bekommen dass die AfD offenbar in die Content Automatisierung eingestiegen ist.

00:05:19: ja Es gibt ein Tool das heißt Alternita Studio Das kurz vor dem Rollout steht.

00:05:24: das soll auf den nächsten Parteitag der AfD tatsächlich vorgestellt werden.

00:05:28: Ja und das sage ich mal automatisiert die Content Erstellung.

00:05:32: Aber wie sie automatisiert und nach welchen Gesichtspunkten ist tatsächlich ziemlich krass.

00:05:36: Und das haben die Investigativjournalistinnen von Korrektiv rausgefunden, indem sich einer dieser Journalisten... offenbar als AfD mit Glied ausgegeben hat und sich einfach mal eine Demo hat geben lassen.

00:05:47: Ja, hat sich hingesetzt im Zoom-Call und hat sich im Grunde dann mal zeigen lassen was das Tool so kann... ...und der entsprechende Entwickler, der ja das in der ich meine AfD eigene Firma wenn ich es richtig gelesen habe entwickelt hat, der hat auch ja sag ich mal Auskunft gegeben, mal gezeigt wie das funktioniert.

00:06:04: und das ist tatsächlich ziemlich hart denn erstmal geht es natürlich in vielen Unternehmen ja auch um Content Generierung und vor allem so Automatisierung usw.. Aber Was wir hier sehen, ist tatsächlich eine Propagandamaschine.

00:06:17: Also ganz klar es geht schon los mit den Quellen aus denen dieses Tool die Information bezieht auf deren Grundlage dann Content generiert wird.

00:06:25: das ist News das ist Apollo News ja dass das ist junge Freiheit all die rechten Vorzeigemedien interessanterweise auch der Bild Politikteil und die NTV Wirtschaftsnachrichten ein bisschen Springer haben aber noch mit dabei.

00:06:41: Wirklich das sind so die Quellen, wo das Ding suchen soll und dann wird Content vorgeschlagen.

00:06:46: Gleich mit einer erwarteten Reichweite, die man damit erzeugen könnte.

00:06:51: Dann werden Visuals gebaut, Texte dazu geschrieben und dann kann man das Ding mehr oder weniger automatisiert raushauen.

00:06:56: Alice Weidels Account ist offenbar auch schon mit dem Tool verbunden.

00:06:59: Ja,

00:06:59: d.h.,

00:07:01: was soll ich sagen?

00:07:03: Es ist gruselig!

00:07:05: KI natürlich viel zum guten Einsetzen.

00:07:07: Das machen die meisten ja auch, also ganz klar.

00:07:09: Die viele Use Cases über die wir hier auch brechen haben einen Mehrwert, die Sparen am Ende Zeit ein, die sind für irgendwas gut!

00:07:18: KI kann doch aber natürlich auch für negative Sachen eingesetzt werden.

00:07:21: Das ist so ein Paradebeispiel dafür, dass man Menschen hinter das Licht führen kann und Propaganda betreiben kann.

00:07:26: Dass man News verkürzt darstellen kann mit einem ganz klaren Ziel in eine gewisse politische Richtung abzudriften Stimmung zu machen einfach nur irgendwie die Reichweiten KPI's zu erzeugen ohne tatsächlich sich Problemen zu nähern.

00:07:39: Das is gefährlich!

00:07:40: Und ich bin sehr froh, dass Korrektiv das aufgedeckt hat runtergeschrieben, was da eigentlich passiert ist mit konkreten Beweisen.

00:07:50: Ich empfehle euch den Artikel, ich packe ihn euch in die Shownose und lehst ihn wirklich durch.

00:07:53: Ist ein langer Artikel aber es ist wirklich insane was da passiert und... Was für Fragen dann natürlich noch aufgeworfen werden?

00:07:59: Was für eine Verantwortung haben eigentlich die Toolbetreiber?

00:08:01: weil irgendwie müssen natürlich die large language Models auch da angeschlossen werden.

00:08:04: Die Bilder müssen generiert werden, die Texte das heißt Darf man das überhaupt?

00:08:08: Was bedeutet dann auch der AI-Akt hinsichtlich Kennzeichnungspflicht, was davon ist dann juristisch angereifbar wenn es um Volksverhetzung geht?

00:08:18: und so weiter und so fort.

00:08:18: Also viele Fragen.

00:08:20: lest euch den Artikel durch.

00:08:22: Das ist definitiv ein Negativbeispiel für die KI Nutzung also wahrscheinlich das schlechteste was ich irgendwie seit Deep Fake Porn gesehen habe.

00:08:30: Und damit schließen wir ab und ich wünsche euch trotz allem Ein schönes, erholsames Wochenende.

00:08:36: Redaktionsschluss war Donnerstag der zweiten, siebte, achtzehn Uhr, zweinviertzig.

00:08:40: Wir hören uns am Dienstag wieder bis dahin.

00:08:44: Schönes Wochenende!

00:08:45: Passt auf euch auf, ciao!