Niedlich und neugierig, KI-Gender-Pay-Gap, AI Imposter entlarven I Snackbox KW41

00:00:01: Happy Friday, den neunten Oktober.

00:00:04: Mein Name ist Max Montenko und ich begrüße euch ganz herzlich zu Kollegin KI Snackbox!

00:00:08: Ich bringe euch in unter zehn Minuten einmal durch die KI News der Woche damit ihr bestens vorbereitet seid auf KI Smothawk am Wochenende.

00:00:16: Gehen wir noch direkt mal rein?

00:00:17: Ich habe richtig viel mitgebracht.

00:00:18: zum einen... sind die Nineties zurück.

00:00:20: Wissen wir alle?

00:00:22: Ihr habt vielleicht vor einigen Wochen gesehen, wie Mark Zuckerberg posiert hat mit seinem neuen Tamagotchi, so einen Schlüsselanhänger-Ding... Der Vergleich liegt nahe.

00:00:31: So ein kleines Gerät, mit dem kann man sprechen und das ist Muse.

00:00:35: Muse Charme heißt dieses Gerät und die zugrunde liegende Technologie.

00:00:39: Muse ist im Grunde ein KI Assistent der einem durch das Leben begleiten soll und alles Mögliche irgendwie für einen klären soll.

00:00:48: Das heißt man hat die natürlich immer dabei, dass man den Füttern kann mit Informationen.

00:00:51: Jetzt findet aber Wired heraus in einem Artikel das es nicht nur die Informationen sind, die wir diesem Wort selbst geben sondern dass er sich durchaus auch Information von den Metacanälen holt.

00:01:01: und zwar werden da Profile angelegt über Freunde soziale Kontakte Dinge die man mag natürlich Interessen usw.

00:01:07: Und sofort und offenbar ganze Ordner angelegt über die Leute, mit denen man über die Metacanäle kommuniziert hat.

00:01:15: Das heißt wenn ihr Muse mitlaufen lasst und entsprechend eure Accounts verknüpft dann macht sich Muse auch erstmal in euren dms breit und guckt was habt ihr denn mit wem so besprochen?

00:01:24: Und was kann ich denn eigentlich über diesen Nutzer hier auch speichern damit ihr background Informationen habt?

00:01:29: das ist natürlich alles irgendwie erst mal ganz romantisiert.

00:01:32: Mius erinnert euch daran, wenn jemand Geburtstag hat und findet dann auch heraus was sich diese Person im Idealfall wünscht.

00:01:37: Weil ich das aufgrund seines Instagram- und Facebook-Profils oder wie auch immer irgendwie erschließen konnte als KI Assistent ist doch aber natürlich Datenschutztechnisch extrem heikel denn Es nutzt natürlich auch Informationen, speichert die ab von Leuten, die eigentlich gar nicht eingewidigt haben dieses System zu nutzen.

00:01:55: Von daher wahnsinnig schwierig.

00:01:58: Artikel verlinke ich euch natürlich wie alles andere auch entsprechend in den Show-Notes.

00:02:03: Muse startet erstmal in den USA und Kanada.

00:02:05: Natürlich fraglich ob das nach Europa kommt.

00:02:08: Ich weiß auch nicht ob wir das brauchen um ehrlich zu sein.

00:02:11: Marc was machst du wieder für komische Sachen?

00:02:13: Naja egal!

00:02:14: Wir kriegen neulter Margot Cheese Leute.

00:02:17: Wer auch noch Profile erstellt, ist die Bundeswehr.

00:02:35: Also verfassungstreue, steht man zum Rechtsstaat?

00:02:37: Möchte man im Grunde auch irgendwie diesen Rechtsstaats verteidigen oder ist man vielleicht doch eher Terrorist oder was anderes.

00:02:44: Das macht der militärische Abschirmdienst in der Regel händisch und hat das bisher gemacht und geguckt.

00:02:48: passt dieser Bewerber diese Bewerbern zu uns oder nicht?

00:02:51: ja mittlerweile wird das offenbar KI unterstützt gemacht.

00:02:55: Und das läuft dann so ab, dass Bewerber in den Fotos genommen werden die Offiziellen und dann wird sie geguckt mit KI auf welchen Plattformen sind hier unterwegs?

00:03:03: Was schreiben die da?

00:03:04: was liken die da?

00:03:05: Was haben die so für Interessen?

00:03:06: und daran kann man dann offenbar besser herausfinden, ob es sich um Terroristen handelt oder nicht.

00:03:11: Nein natürlich nicht!

00:03:12: Also ob die Verfassungstreue gegeben ist oder ob es da Zweifel dran gibt und das ganze wurde tausenden Fällen bereits gemacht und es waren wohl einige hundert Fälle dabei wo die KI gesagt hat ne hier guck mal bitte genauer hin Mensch und das wurde danach auch menschlich wird ja auch betont entschieden und die Leute wurden entsprechend abgelehnt.

00:03:33: Jetzt weiß man natürlich nicht, was da für Fehlerquoten herrschen und ihr kennt die ganze Debatte um den Human in the Loop.

00:03:38: Wir sprachen auch schon drüber wir Menschen neigen dazu dann einfach der KI zu glauben und so sagen ja gut das double check ich jetzt noch mal dass das passt schon.

00:03:47: Das heißt ganz neue Fragen die damit aufkommen.

00:03:49: grundsätzlich muss ich aber sagen erst einmal ganz cool sowas mit technischer Unterstützung machen warum nicht wenn es am Ende zu genaueren Ergebnissen führt?

00:03:57: Und man damit mehr Sicherheit bekommt würde ich erstmal sagen in dem Feld ist das absolut angebracht.

00:04:03: Das geht natürlich nicht in dem klassischen HR-Office des deutschen Mittelstellers, weil für die natürlich nach dem AI andere Regeln gelten.

00:04:11: Das heißt KI in den HR Auswahlprozessen immer eine heikle Sache sollte man sich genauer vorher informieren aber die Bundeswehr bzw der MAD macht das.

00:04:20: Jetzt habe ich ne schlechte Nachricht für meine liebe Kolleginnen KI.

00:04:23: Sie würde nämlich ganz offensichtlich mehr Geld bekommen wenn sie Kollege KI wäre.

00:04:27: Nein, natürlich nicht.

00:04:28: Aber es gibt einen Menschen, der kriegt eh kein Geld!

00:04:31: Die macht das Ehrenamtlich hier Leute.

00:04:36: Es gibt nämlich eine schöne Studie die jetzt Anfang Oktober vorgestellt wurde und hat untersucht wie Menschen unterschiedlich gestaltete KI-Assistenten behandeln.

00:04:50: und teilten anschließend echtes Geld zwischen sich und dem jeweiligen Assistenten bzw.

00:04:54: der Assistentin auf, denn die ganzen Assistenzsysteme waren alle mit den gleichen technischen Voraussetzungen versehen, hießen aber anders – die einen hießen Johanna und die anderen hießen Johann!

00:05:06: Und obwohl beide oder alle die gleichen grundlegenden Fähigkeiten technisch vorher hatten, erhielt Johanna im Nachhinein durchschnittlich zehn Prozent weniger Gehalt als Johann Von den Beschäftigten, die dann Geld verteilen sollten.

00:05:21: Das heißt Gender Pay Gap bei KI AssistentInnen ist auch real.

00:05:27: Nein das wird so einfach.

00:05:28: tatsächlich muss man sagen es gab Fragen danach und da hieß es ja die einen hatten schon mehr Menschenähnlichkeit also die Johans.

00:05:37: Und das kann durchaus natürlich auch daran liegen dass KI Selbst wenn Assistenzsysteme gleiche Voraussetzungen technischerweise haben, unterschiedliche Antworten geben können.

00:05:46: Wir kennen das Probabilistik, wir können nicht vorhersehen wie KI tatsächlich auf gewisse Sachen antwortet und es sind durchaus immer unterschiedliche Sachen.

00:05:53: Dennoch interessant weil wir natürlich KI-Assistenz-Systeme auch beurteilen nach den Zuschreibung die wir sonst gegenüber Menschen haben.

00:06:02: Und das finde ich durchaus ein ganz interessanten psychologischen Aspekt ganz normal mit den zusammenarbeiten und die danach auch bewerten.

00:06:10: Und zwar auf Grundlage offenbar ihrer Erscheinung, Aussehensgeschlecht wie sie sich verhalten haben usw.

00:06:18: Also ja, Kollegin KI tut mir leid!

00:06:22: Jetzt sprechen wir über Content-Generierung, Automatisier-Contentgenerierung.

00:06:26: Also KI-Agenten erledigen alles.

00:06:29: marketingwise ihr kennt die Story und kennt auch meine Einstellungen dazu.

00:06:33: Es gab vor einigen Jahren bereits diese Podcastfabrik.

00:06:36: vielleicht habt ihr das im Medien mitverfolgt.

00:06:38: da gabs Inception Point AI hießen sie Und die haben von sich selbst behauptet dass die mehrere tausend Shows also Podcasts mit rund drei Tausend neuen Folgen pro Woche bauen also Bauen lassen von KI Mensch irgendwie daran beteiligt und das hat damals natürlich für einen ganz schönen Aufruhr gesorgt.

00:06:57: Jetzt ist lange Zeit ruhig geblieben um die, es gibt jetzt aber Neuigkeiten und zwar gibt es ein Interview mit deren CEO und darin berichtet sie dass es nur noch dreihundert aktive Shows gibt, die von diesen mehreren tausend Shows übriggeblieben sind und dass Sie sich tatsächlich auf diese dreihundert Shows eher fokussieren wohl auch mit bisschen Menschlichkeit drin.

00:07:19: Mittlerweile heißen die Liquid Studios und verantworten unter anderem den einen Podcast, The Epstein Files.

00:07:26: Der ist zwischenzeitlich sogar in dem Platz der Top Ten bei Apple Podcasts geschafft hat.

00:07:30: Das ist im Grunde einfach eine KI-Stimme oder mehrere KI Stimmen über die die Epstein files vorlesen und damit vertonen.

00:07:37: Das sind typische Cases, denen man eigentlich auch mit KI so weit machen kann.

00:07:41: wie sinnvoll das Ganze jetzt ist und ob das am Ende alles nachhaltig gut funktioniert und komplett ohne Menschen auskommt Wage ich mal zu bezweifeln.

00:07:50: Ich sag ja immer, wenn Podcast komplett KI automatisiert werden dann würde ich mich zurücklehnen.

00:07:56: und die Kollegin tatsächlich einfach machen lassen ist leider nicht so einfach.

00:07:59: Menschen wollen am Ende Menschen zuhören denke ich hoffe das auch ein bisschen so bleibt.

00:08:05: anders ist es bei KI Musik.

00:08:07: da gab's gerade nämlich die erste Gefängnisstrafe.

00:08:12: Ja, Streaming-Betrug vorgesehen wurde.

00:08:14: Ein Typ in den USA Michael Smith hat über Jahre hinweg KI Songs veröffentlicht und auf die entsprechenden Plattformen hochgeladen und hat dann Bots gebaut, die sich diese KI Songs angehört haben.

00:08:25: Und ihr wisst ja man wird pro Stream bezahlt und so und er soll laut eigenen Aussagen zwölf Millionen US Dollar in dieser Zeit verdient haben und wurde jetzt von einem Gericht nicht nur zu achtzehn Monaten Haft verurteilt sondern auch zur Rückzahlung von knapp acht Millionen US dollar.

00:08:40: Wenn man ihm jetzt glaubt, wer das vier Millionen US-Dollar dir verdient hat, die er behalten darf für achtzehn Monate Haft.

00:08:45: Ob sich das lohnt, müsst ihr einfach selbst entscheiden.

00:08:48: Leute ich lasse es einfach mal so stehen.

00:08:52: Zu guter Letzt und dann sind wir auch wirklich durch war viel.

00:08:55: heute Gibt's einen tollen Tagesspiegelartikel, den ich euch verlinke?

00:09:00: So entlarven Sie Blender im Job.

00:09:02: Wir hatten ja auch schon darüber gesprochen.

00:09:03: in einigen Folgen das KI die Leute, die eigentlich ohnehin sich so durchwurschteln durch die Arbeit noch weiter bestärkt weil sie natürlich irgendwie jetzt noch viel höheren Output liefern können, ohne sich eigentlich inhaltlich mit gewissen Dingen zu befassen oder diese zu verstehen.

00:09:18: und es gibt hier so vier Fragen, die der Tagesspiegel auflistet mit dem man diese Blender eben Job offenbar entlarfen kann.

00:09:26: Erstens, warum funktioniert dein Vorschlag gerade bei uns?

00:09:29: Also wenn so eine Präsentation gehalten wird danach mal fragen, warum der Vorschlag grade bei unserem Unternehmen funktioniert.

00:09:34: Zweitens wie sieht der nächste Schritt aus?

00:09:37: Ja okay drittens welche Risiken gibt es?

00:09:40: und viertens kannst du das ohne Präsensation in eigenen Worten für Leyen erklären.

00:09:45: Weißt jetzt nicht ob das gelbe vom Eis.

00:09:47: ich glaube Man kann mit Sicherheit irgendwie Leute entlarven, die da keine Ahnung vom Job haben.

00:09:52: Aber ich weiß nicht ob das Sinn und Zweck ist tatsächlich, Leute bloßzustellen?

00:09:57: Egal!

00:09:57: Ich verlinke euch den Artikel trotzdem, es ist nämlich ganz spannend.

00:09:59: diese Fragen wurden natürlich auch alle von der Tagsspiegeredaktion mit KI herstellt.

00:10:04: also ja KI hilft dabei KI Faker zu entlarmen Und damit endet dieses Snackbox Folgeleute.

00:10:12: Ich wünsche euch ein fantastisches Wochenende.

00:10:16: Genießt die Zeit, bis die neunzige endgültig zurück sind und wir sprechen uns dann am Dienstag wieder zur regulären Folge Kollegen.

00:10:23: Bis dahin!