OpenAIs ausgebrochener Agent, Anthropics Rekord-Vergleich, KI-Seepferdchen I Snackbox KW32

00:00:01: Happy Friday und herzlich willkommen an diesem, den vierundzwanzigsten juli.

00:00:05: Zwei tausend sechsten zwanzig zu kollegen kis neckbox ich bin max muntenke Und ich bringe euch wie jeden freitag einmal unter zehn minuten durch die kei news der woche damit ihr gut vorbereitet seid für Die kei small talks am wochenende oder wofür auch immer.

00:00:20: wir gehen direkt mal rein.

00:00:21: es ist nämlich eine ganze menge diese woche passiert und Ich glaube die größte news war Ihr habt es so wahrscheinlich irgendwo in euren Social Media Feeds gesehen, ein KI-Agent der ausgebrochen ist.

00:00:30: Klingt nach krasser Science Fiction, ist aber tatsächlich so passiert und zwar bei OpenAI... wo sonst?

00:00:36: Ja!

00:00:37: OpenAI müssen wir kurz mal einen sortieren was da passiert ist.

00:00:41: Also OpenAI hat ein neues Flagship Model getestet.

00:00:45: Es hört auf den wunderbaren Namen GPT-Fünf Punkt sechs Zoll Und während eines internen Sicherheits-Tests ist dieses Modell offenbar eigenständig aus seiner Sandbox ausgebrochen und hat sich kurzerhand entschieden, woanders einzusteigen.

00:00:58: Und zwar beim KI bei der KI-Plattform Hugging Face und hat da im Grunde Daten zusammengeklauten ist zurückgekommen.

00:01:05: Ja das ist das es offenbar passiert.

00:01:07: Das haben beide mittlerweile bestätigt.

00:01:10: Beide arbeiten jetzt auch an besseren Sicherheitsprotokollen und so weiter.

00:01:15: Was aber am beruhigendsten ist, ist das Huggingface, dass sofort gemerkt hat.

00:01:19: Am sechzehnten Juli wurde dieser Test durchgeführt und die haben sofort ein Einbruch, ein Problem mit ihrem Sicherheitssystem gemerkt.

00:01:25: OpenAI hingegen hat es erst fünf Tage später gemeldet.

00:01:28: Die haben erst den Zusammenhang fünf Tage spät erkannt.

00:01:30: Das heißt diese Agent konnte quasi fast eine Woche schalten und walten wie er wollte.

00:01:35: Und das Sicherheitsrisiko war natürlich enorm!

00:01:38: Und das ruft natürlich KI-Sicherheitsexpertinnen gerade auf dem Plan, die zu Recht fragen... Sollten wir die Sicherheits-Tests weiterhin großen Unternehmen überlassen, die diese Modelle selbst bauen und natürlich auch ein Interesse daran haben dass sie dann möglichst schnell mit Benchmarks versehen auf den Markt kommen.

00:01:55: Oder gibt es da nicht bessere Möglichkeiten?

00:01:58: Auf der anderen Seite muss man jetzt auch zugutehalten das natürlich nicht dieses neue Modellböse absichten hatte und irgendwo einbrechen wollte sondern dass es zielorientiert und sehr, sehr effizient an einer Lösung für ein Problem gearbeitet hat.

00:02:11: Und gesagt hat naja am effizientes ist ich mach das einfach gar nicht selbst sondern ich berech irgendwo anders einen.

00:02:17: hol mir die Daten weil die liegen ja irgendwo schon parat.

00:02:20: Das is eine Frage der Guardrails.

00:02:22: was erlauben wir KI-System in Zukunft eigentlich zu machen?

00:02:25: Was für Berechtigung haben sie und was dürfen Sie auf gar keinen Fall machen?

00:02:28: Ich glaube das Thema wird uns noch ne ganze Weile beschäftigen.

00:02:31: Erinnert uns auch so ein bisschen an diese Anthropic Nummer von damals.

00:02:34: aufmerksame Snackbox-Hörerinnen, wissen wovon ich spreche mit dem Mythos Modell von Anthropic das ja auch erst zurückgehalten wurde weil es offenbar zu effizient sei.

00:02:46: Zu stark und Sicherheitsrisiken finden kann und möglicherweise ausnutzen oder eben schließen.

00:02:54: Deshalb man das Modell damals erst mal nur eine Handvoll Unternehmen zur Verfügung gestellt hat, damit die in guter Absicht ihre Sicherheitslücke beschließen

00:03:00: konnten.".

00:03:01: Wir bleiben einmal bei Anthropic mit News Nummer zwei!

00:03:04: Und zwar vielleicht erstmal für alle Urheberrechtsfans – für alle, die sich einsetzen für die kleinen Kunst in Social Media, die ja regelmäßig sagen sie werden von KI becloudt….

00:03:13: Ja, die Großen, die klauen sich die Daten zusammen, das wissen wir.

00:03:18: den größten Urheberrechtsvergleich der US-Geschichte geleistet.

00:03:21: Eins Komma fünf Milliarden Dollar, wahnsinnige Summe die an eine Gruppe von Autor in einen Buch verlagen und so weiter ausgeschüttet wird.

00:03:29: das ganze hat ein Gericht jetzt bestätigt dass es okay ist.

00:03:32: was war nämlich passiert?

00:03:33: enthropic hat Daten geklaut und des ist aufgefallen.

00:03:36: ja diese Daten wurden von Piracy Websites geklaut.

00:03:40: Also die wurden nicht lizenziert eingekauft oder wurden nicht besessen von dem Unternehmen, sondern sie wurden sich von entsprechenden Piracy-Seiten geholt und das ist illegal.

00:03:49: Das hat der Richter jetzt auch nochmal bestätigt in diesem Vergleichsurteil.

00:03:54: Das wurde natürlich aufgenommen von den Fans des Urheberrechts erst mal als großer Schlag gegen KI, zeitgleich jubelt aber auch die KI-Welt vor allem die Hyperscaler.

00:04:05: Warum?

00:04:06: Weil der Richter in diesem Urteil ebenfalls auch Fair Use als Legit dargestellt hat.

00:04:12: also fair use bezeichnet den Umstand wenn KI Modelle bücher Werke alles mögliche lizenzieren und zum Training der eigenen Modelle nutzen dann ist das Fair Use und dann ist es weiterhin okay selbst wenn daraus dann Werke entstehen die man wiederum verkaufen könnte.

00:04:31: Und das ist tatsächlich so eine Sache, weshalb dieses Urteil zwei Seiten der Medaillen hat.

00:04:36: auf der einen Seite sehr gut dass das illegale Zusammenklauen von Daten verboten wird.

00:04:40: Auf der anderen Seite ja wenn es halt entsprechende Lizenzabkommen gibt dann dürfen KI-Systeme die Daten auch verwenden.

00:04:47: und wer diese Sachen am Ende verhandelt da muss man natürlich drauf schauen, ob das die Verlage machen.

00:04:53: Ob das einzelne Autorinnen und Autoren machen.

00:04:57: Da muss man darüber sprechen.

00:04:59: Und das wird auf jeden Fall in Zukunft auch noch spannend!

00:05:02: Dritte News Das KI-Sehpferdchen, liebe Leute.

00:05:06: Es soll das KI Sehpfärdchen geben!

00:05:08: Das ist im Grunde ja wie das Seepferddchen zum Schwimmen nur halt eben für künstliche Intelligenz.

00:05:12: Zumindest empfiehlt es eine unabhängige Expertenkommission der Bundesregierung.

00:05:17: die hat sechsundfünfzig Handlungsempfehlungen zum Schutz von Kindern und Jugendlichen in der digitalen Welt vorgelegt Und eins davon ist das KI sehpfertchen.

00:05:25: Und das finde ich erstmal eine tolle Sache für so Grundschülerinnen, dass die verstehen wie KI funktioniert und worauf man da auch achten sollte.

00:05:34: Es ist alles ein bisschen natürlich die Überlegung wer soll denen das beibringen?

00:05:38: Wie schult man Lehrkräfte auch dahingehend?

00:05:41: Wie soll es dann aussehen?

00:05:42: was soll da tatsächlich abgefragt werden?

00:05:44: was ist relevant und vor allem wie lang ist sowas noch aktuell wenn wir uns angucken mit welcher Geschwindigkeit KI auch voranschreitet?

00:05:50: Insgesamt aber finde ich eigentlich ein guter Vorschlag, da sowas zu machen.

00:05:56: Übrigens Fun Fact je nach Quelle über die Hälfte der Jugendlichen sechs bis zehnjährigen in Deutschland das Sehpferdchen zum Schwimmen.

00:06:05: Das ist schon krass!

00:06:06: Also ich weiß nicht ob ihr eins hattet?

00:06:08: Aber ich hatte keins tatsächlich.

00:06:10: Ich habe keins gemacht, aber naja eine ganze Menge auf jeden Fall.

00:06:13: vielleicht verbreitet sich das KI-Sehpfärdchen ja genauso und wenn wir mit dem KI-See fährt durch sind dann können auch irgendwie vielleicht mal dass Versicherungssehpferdchen machen oder das investieren sehpärtchen Spursen Sehpärdchen.

00:06:28: Ja, nein ich ziehe es ins lächerliche.

00:06:29: Ich finde den Vorschlag grundsätzlich gut.

00:06:31: ja dass wir mehr Medienbildung dazu gehört selbstverständlich auch künstliche Intelligenz mehr Bildung im technischen Bereich irgendwie schon früh an die Schulen bringen wie das Ganze ausgearbeitet werden sollen, ob wir dann sechzehn verschiedene KI-Sehpferdchen in sechszehn Bundesländern haben.

00:06:48: Das sei mal dahingestellt.

00:06:50: Wir gucken uns mal an, wie das umgesetzt wird und dann gucken wir was für Sehpädchen noch so kommen.

00:06:54: Vielen lieben Dank fürs Zuhören!

00:06:55: Diese Woche.

00:06:56: Redaktionsschluss war Donnerstag der dreiundzwanzigzebte fünfzehn Uhr acht.

00:07:00: Wenn euch die Folge gefallen hat, dann lasst gerne ein Like da, kommentiert wenn ihr Fragen habt teilt usw.

00:07:06: Ich wünsche euch ein fantastisches Wochenende und freue mich auf Dienstag.

00:07:10: Da habe ich nämlich Dienstag, Leute.

00:07:13: Hab ich tatsächlich einen Anwalt da zum Fachanwalt für KI und geistiges Eigentum?

00:07:20: Super spannend!

00:07:20: Gerade wenn ihr irgendwie diese Anthropic News gerade verfolgt um die Urheberrechtsvergleichszahlung und so hört gerne rein der erzählt ein bisschen auch aus den Nähkästchen was er eigentlich in Deutschland gerade erlebt für was er so vor Gericht dann tatsächlich auch macht.

00:07:33: Super spannend, also kommt gerne am Dienstag wieder in die klassische Kollegin KI-Folge mit dem Interview.

00:07:40: Ansonsten jetzt aber echt schönes Wochenende.

00:07:42: wie immer alle Quellen in den Shownotes.

00:07:44: bis bald, ciao!