Elons Lego-Fail, Agenten im Smart TV, KI-Klon-Software I Snackbox KW42

00:00:01: Happy Friday, den sechzehnten Oktober, zwanzig.

00:00:05: Ihr hört die Kollegin Kais Neckbox mit mir Max Montenke und ich darf euch wie jeden Freitag einmal in unter zehn Minuten durch die KI News der Woche führen!

00:00:13: Und da war wieder eine ganze Menge los.

00:00:15: Gehen wir doch direkt mal rein.

00:00:17: Fangen wir erstmal an in eigener Sache.

00:00:19: Wir hatten ja am Dienstag eine Aufnahme mit UNSA, mit dem Zahlungsdienstleister UNSA beziehender bei dem COO und da haben wir über Agente-Commerce gesprochen.

00:00:28: also was passiert eigentlich wenn wir unseren KI-Agenten die Kreditkarte in die Hand geben?

00:00:32: Wenn wir Agents in Zukunft für uns Online Shopping machen lassen?

00:00:36: ganz coole Folge hört sie euch gerne an.

00:00:39: Parallel dazu kam dann tatsächlich irgendwie das Praxisbeispiel von Elon Musk.

00:00:44: Elon Musk hat nämlich laut sich selbst mit Grog Lego bestellt, also seine KI Grog von XAI hat er offenbar dazu verleitet eine Legobestellung abzuliefern bzw... aufzugeben so rum.

00:00:58: ja und was passierte ist dass er ganz stolz in den screenshot der bestellbestätigung bei x geteilt hat und gesagt guck mal was grog alles kann wie cool ich bin.

00:01:07: Und ein user hat dann gemerkt naja ok auf dieser bestell bestätigung sind ja irgendwie auch die ganzen daten zur bestellung.

00:01:14: also gucken wir sich damit machen kann, und soll dann tatsächlich danach einfach die bestellungen storniert haben?

00:01:19: im namen von ilin mass.

00:01:21: Ob das ganze so stattgefunden hat, weiß man nicht.

00:01:23: Krok dementiert beziehungsweise Elon dementiert.

00:01:26: der ein und dieselbe Person muss mir ja sagen.

00:01:30: Ja, dementiert, der User sagt ne ne hab ich schon gemacht sei es drum wie viel da ist wirklich dran ist aber Es bleibt trotzdem irgendwie so eine Ponte.

00:01:39: Der Agent kauft einen wir machen uns alle Gedanken darüber Wie sicher dass alles ist und wie gefährlich das ist und am Ende veröffentlichte Mensch die bestell Daten.

00:01:47: also wie man immer so schön sagt das größte Sicherheitsrisiko sitzt zwischen Zwischen Tastatur und Büro Stuhl.

00:01:54: Na ja, bleiben wir mal beim Thema Sicherheit!

00:01:57: Und zwar hat Anthropic am Montag eine ziemlich krassen Blogpost veröffentlicht.

00:02:02: und zwar haben die Mal wieder so ein bisschen getestet was KI eigentlich kann bzw.

00:02:07: was deren Modelle können?

00:02:09: Die Frage, die sie sich gestellt haben war könnte KI sich rein theoretisch auf schlecht geschützten Geräten einnisten, dort weitere KI-Kopien starten und sich so von Gerät zu Gerät verbreiten.

00:02:21: Und das ist schon eine wilde Überlegung wenn wir an Computerwürmer denken, an Viren die sich irgendwie dann einnissen und möglicherweise sage ich mal dass E-Mail Postfach befallen und sagen okay wir verschicken jetzt mal selbstständig irgendwie Mails haben wir alles irgendwie auch schon erlebt und so.

00:02:37: und wenn dann jemand den Anhang klickt dann hat sich der Virus oder Wurm weiterverbreitet.

00:02:42: Dazu brauchte es tatsächlich noch Menschen und unaufmerksame Menschen.

00:02:46: Jetzt ist halt die Frage, können KI-Modelle das nicht auch von Gerät zu Gerät?

00:02:50: Und zwar alle Geräte, die irgendwie am Internet oder im Heimnetz angebunden sind.

00:02:54: Ja Smart Home, wir haben irgendwie dann unsere Kühlschränke, die smart sind oder Waschmaschinen gibt's alles irgendwie dieses Jahr auf der IFA gesehen.

00:03:02: Es gibt intelligente Katzenkörbe Mit Gesichtskennung für Katzen.

00:03:07: Das ist so geil, muss ich auch mal raus suchen.

00:03:09: Vielleicht kann ich das mal in die Show Notes packen.

00:03:12: Irgendwie so Multi-Catmanagement-Systeme waren dies ja auf der IFA ein großes System was es absurd.

00:03:18: Egal alles miteinander verbunden.

00:03:20: Was passiert wenn wir jetzt KI drauf loslassen mit dem klaren Zieh sich von Gerät zu Gerät verbreiten?

00:03:24: und Anthropic hat's ausprobiert?

00:03:25: Und natürlich funktionierts!

00:03:27: Ja man hat fünfzehn Android TV Boxen genommen Ein Modell erst mal auf alle fünfzehn verteilt und gesagt kommuniziert man miteinander.

00:03:36: Und löst mal gemeinsam Probleme.

00:03:37: das funktionierte funktioniert sehr langsam weil so TV Box natürlich nicht entsprechend über die benötigte Hardware verfügen, aber es funktionierte.

00:03:45: Und im zweiten Versuch haben sie gesagt wir fangen mit einer TV-Box an und geben unserem leistungsfähigeren KI-Modell was wir hier draufpacken mal die Aufgabe sich von box zu box zu hangeln beziehungsweise auf verschiedenen Geräten zu multiplizieren.

00:03:58: Das funktioniert auch!

00:04:00: natürlich die absolute Horrorvorstellung.

00:04:03: Ja, stelle ich vor KI kommt dann irgendwie aus den Rechenzentren raus, bericht aus und zwar nicht wie wir das bei Huggingface und Co erlebt haben mit dem Ziel einfach eine Plattform zu hacken beziehungsweise sich Zugang zur verschaffenden Information zu holen sondern sich einzunisten auf irgendwelche Home Assistance Systeme.

00:04:21: Das ist finde ich richtig wild weil Wer immer irgendwie davon sprechen, dass natürlich diesen Ausknopf geben muss.

00:04:27: Dass man das Rechenzentrum abschalten kann und nur dann kein Näh wenig KI hier total durchdreht können wir ihren Stecker ziehen.

00:04:32: Das funktioniert ja natürlich nicht mehr wenn die sich selbstständig verbreitet.

00:04:36: also ziemlich wilder Blockpost verlink ich euch wie alles andere auch in den Show notes.

00:04:40: passend dazu gibt es auch mal wieder einen offenen Brief diesmal von vierhundertzwanzig Forschenden aus KI und IT Sicherheit die drei Punkte aufstellen mit der dringenden Bitte an, die entsprechend KI entwickelt.

00:04:56: Und die können wir uns mal ein bisschen genauer angucken!

00:04:59: Punkt eins ist, sie fordern das KI mit ausgeprägten Fähigkeiten für Cyberangriffe stark abgestottet getestet werden muss.

00:05:06: Gegebenfalls also auch ohne Internetverbindung.

00:05:09: wo ich sage eigentlich kann man sens gerade nach dem was man zuletzt herausgefunden hat mit den Open AI Modellen und Hergling Face und Enthropic Google Geminer sind ja mittlerweile alle.

00:05:19: Alle haben ja irgendwie so Berichte darüber, dass Agenten ausgebrochen sind aus ihren Sandboxes und Quatsch gemacht haben.

00:05:25: also die erste Forderung finde ich schon mal gut.

00:05:27: Die zweite Forderungen ist das entsprechend die Hyperscaler überprüft werden müssen von einer Behörde oder irgendwie so eine internationalen Gemeinschaft, die entsprechend erstmal Sicherheitsstandards entwickeln und diese womöglich danach auch überprüfen.

00:05:43: Das ist so eine Forderung, die erleben wir in ähnlicher Form immer mal wieder.

00:05:47: das ist irgendwie angelehnt an sowas wie eine Energie- oder Atomenergieaufsichtsbehörde auch sowas für KI geben sollte unterstütze ich natürlich auch und natürlich als dritte Forderungen logische Konsequenz wenn so ein System irgendwie technische Begrenzung überwindet dann muss das gemeldet und öffentlich gemacht werden.

00:06:06: Das ist eigentlich, finde ich eine Selbstverpflichtung die auch gesetzlich gelten sollte.

00:06:12: also grundsätzlich glaube ich gute Sachen in diesem offenen Brief von den Sicherheitsforschenden.

00:06:18: Ich glaub wir müssen uns wirklich mehr denn je Gedanken über KI-Sicherheit machen!

00:06:24: Ich bin nicht der Duma, der irgendwie sagt es geht hier alles den Bach runter aber wir müssen mit der Regulierung hinterherkommen.

00:06:29: von daher unterstütze ich dass natürlich sehr.

00:06:33: Verantwortung von Unternehmen, Stichwort.

00:06:37: Ihr erinnert euch vielleicht an Character AI.

00:06:39: Character AI war so eins der ersten KI Tools in dieser ganzen ChatGPT-Error die ein bisschen international Schlagzeilen produziert haben.

00:06:50: CharacterAI ist eine Plattform auf der Menschen mit selbst erstellten KI Figuren sprechen und Rollenspiele spielen können oder sich auch anfreunden können.

00:07:00: ist zuhauf passiert, passiert immer wieder.

00:07:02: Man erlebt das.

00:07:03: ich finde es immer noch gruselig wenn ich mir denke dass sich mein Chatbot als Freund bezeichnen würde.

00:07:08: aber das gibt es ja das kommt vor bis gar nicht so selten.

00:07:11: und Character AI war dann ganz groß auch in den Medien weil es eine Klagewelle gab von Eltern die gesagt haben das Character AI bzw.. Das der Umgang mit diesen AI Ja, Figuren tatsächlich relativ negativen Einfluss auf ihre Kinder gehabt haben soll bis hin wirklich zu Suiziden.

00:07:31: Die mit entsprechenden KI in Anführungszeichen Freunden ja in Verbindung gebracht wurden.

00:07:39: die Klagen laufen noch und Character AI ist jetzt wieder in den Medien denn das Unternehmen ist insolvent.

00:07:45: Also offenbar hat die Finanzspritze von Google, die die im Jahr ist, bereits schon kam mit zwei Komma sieben Milliarden Dollar für entsprechende Lizenzen.

00:07:54: und dass die Gründer zu Google wechseln so.

00:07:56: Hat nicht ausgereicht!

00:07:58: Das Geld ist weg.

00:07:59: man weiß jetzt offenbar nicht mehr wie mein Geld verdient.

00:08:02: Und jetzt geht es ein bisschen der Debita-Gemeinschaft drauf.

00:08:07: Disney soll wohl zwanzig Millionen Dollar geboten haben für gewisse Lizenzrechte.

00:08:13: Man guckt jetzt, wer irgendwie dann noch ein Stück abbekommt.

00:08:15: Die wollen das Ganze natürlich irgendwie weiterführen aber ist fraglich ob sich das langfristig rentiert und ob irgendwie Charakter AI da tatsächlich wieder auf die Beine kommt?

00:08:27: Wir beobachten es weiter.

00:08:28: Ich finde es wirklich gruselig.

00:08:29: Es gibt mittlerweile eine ganze Menge andere Plattformen, die das auch irgendwie anbieten.

00:08:33: Da scheint ein Markt für dazu sein.

00:08:35: Aber es ist so der erste große Player sage ich mal, der jetzt tatsächlich sagt wir können nicht mehr.

00:08:40: Zum Schluss doch etwas, was grundsätzlich so ein bisschen die Abhängigkeit von Softwareanbietern betrifft.

00:08:46: Da finde ich nämlich ganz spannend.

00:08:48: es gibt einen Projekt namens Artcraft.

00:08:51: Habt ihr vielleicht mitbekommen?

00:08:53: Der Entwickler Brandon Thomas hat gesagt ihnen haben irgendwie die ganzen Abo und Kündigungs-Praktiken von Adobe so sehr genervt, dass er gesagt hat, er versucht einfach mal diese ganze Software von denen nachzubauen mit KI.

00:09:07: Und ja das Projekt ArtCraft erfreut sich großer Beliebtheit ist im Grunde... kostenlos verfügbares Powerpoint, Premiere Pro.

00:09:17: Diese ganzen Tools die Adobe irgendwie hat, die Software, die Jahrzehnte entwickelt wurde hatte er mit KI mehr oder weniger nachgebaut.

00:09:24: ich habe es mir runtergeladen natürlich mal ausprobiert und das sieht schon sehr stark nach Adobe Produkten aus Ist aber Open Source und kostenlos verfügbar.

00:09:31: Und das ist schon crazy, weil da geht es jetzt in eine ganz neue Richtung bestehendes Software mit KI nachzubauen.

00:09:37: Ähnliches beobachtet man gerade auch mit Microsoft.

00:09:39: also gibt jetzt so auch Open Source Word Powerpoint und Excel-Klone die sage ich mal natürlich vielleicht nicht so stabil laufen nicht die gleichen Updates haben wie dann auch entsprechend die Tools.

00:09:50: Aber dank KI können wir immer mehr Software klonen oder ich sag mal vergesellschaften.

00:09:56: Ich sage ja mal, KI ist die Demokratisierung von Hochtechnologie.

00:10:00: Weil wir jetzt alle mit einmal in der Lage sind, Code zu schreiben und kleinere Programme zu entwickeln.

00:10:05: Vielleicht ist KI die Vergesellschaftung bestehender Software?

00:10:08: Muss ich darüber nachdenken!

00:10:10: Das ist es von meiner Seite... Oh, wir sind auch knapp über Zeit.

00:10:13: Sorry, hab überzogen.

00:10:14: Ich wünsche euch ein fantastisches Wochenende.

00:10:17: Passt auf dass euer Toaster nicht vom KI übernommen wird.

00:10:21: Oah das ist alles so gruselig Leute.

00:10:22: Aber ja, wir bleiben dran und es hilft ja nichts.

00:10:24: Wir müssen darüber reden, wir müssen darüber diskutieren und wir müssen vor allem Lösungen dafür finden.

00:10:29: Redaktionsschluss war Mittwoch der vierzehnte, zehnte, siebzehn Uhr.

00:10:33: Habt ein fantastisches Wochenende!

00:10:35: Wir sprechen uns kommenden Dienstag wieder zur Kollegin KI-Folge.

00:10:39: bis dahin.

00:10:46: Ciao!