KI-Scham, Agents als Erpresser, Doktor AI | Snackox KW29

00:00:01: Happy Friday liebe Leute, herzlich willkommen zu einer weiteren Folge Kollegin KI Snackbox.

00:00:07: Ich bring euch wie jeden Freitag einmal durch die Newswoche rund um KI in unter zehn Minuten und wir widmen uns heute mal wieder der leidigen Frage.

00:00:16: gleich zum Einstieg CloudKI eigentlich unsere Jobs.

00:00:20: Und da gibt es einen ganz coolen Take und zwar im Bloomberg Podcast hat ein Chairman einer großen US Anwaltskanzlei gesprochen.

00:00:30: Wir werden dadurch, dass wir viel effizienter sind mit KI deutlich mehr Arbeit bekommen.

00:00:35: Und erklärt das Ganze mit dem Jevons-Paradoxon.

00:00:39: Habt ihr vielleicht schon mal gehört?

00:00:40: Wenn nicht einmal kurz zuhören!

00:00:42: William Jevins hat in den letzten Jahren im Jahr deiner Jungs festgestellt, dass effiziente Dampfmaschinen den Kohleverbrauch nicht senken.

00:00:50: Im Gegenteil denn weil Kohle plötzlich günstiger genutzt werden konnte wurden immer mehr maschinen gebaut und am ende wurde deutlich mehr kohle verbraucht als vorher.

00:00:58: das ist so dass devons paradox von ja etwas wird effizienter.

00:01:02: Das heißt es wird häufiger genützt und dementsprechend steigt am ende auch die nachfrage und der werte.

00:01:09: heranwalt sagt hier dasselbe könnte jetzt natürlich mit ka passieren denn wenn Prozesse nur noch ein Drittel Kosten von vorher, dann können auch Projekte durchgeführt werden die vorher vielleicht gar nicht wirtschaftlich waren.

00:01:20: Das heißt mehr Effizienz führt zu mehr Nachfrage statt zu weniger Arbeit und ich finde das einen ganz spannenden Take.

00:01:26: ja Wir hatten ja auch schon mal nen Anwalt bei der Kollegin KI.

00:01:29: im April hat Tobias Fossberg war er zu Gast und hat gesagt dass Er deutlich mehr Arbeit hat gerade weil ja viele schon irgendwie so Erst ein Schätzung ihrer Fälle Vibe-Coden bzw.

00:01:41: mit KI so'n bisschen Vorarbeit leisten und ihm die ganzen Dokumente schicken, und er sagt ne ich muss mir das ja alles durchlesen!

00:01:47: Und da ich Minuten genau abrechne ist es einfach deutlich teurer als wenn Leute mir einfach wie vor KI schreiben würden hey ich habe ein Problem lass uns mal eben telefonieren.

00:01:55: So jetzt gibt's halt diesen Undertake mit dem Jeffins Paradoxon finde ich ganz spannend.

00:01:59: kann man glaube ich auch auf andere Felder übertragen?

00:02:02: Zweite News mal Hand aus Herz Leute habt ihr Eigentlich schon mal verschwiegen, dass ChatBT euch bei irgendwas geholfen hat oder irgendeine andere KI.

00:02:11: Weil es gibt mehrere Studien die jetzt gerade belegen das sich viele Beschäftigte schämen einzugestehen KI genutzt zu haben.

00:02:20: Das finde ich eine spannende Sache.

00:02:22: also dass ich KI nutze ist klar gehe sehr oft mit um aber tatsächlich haben viele wohl angst davor weniger kompetent zu wirken faul zu erscheinen leichter ersetzbar zu sein.

00:02:32: Wenn Sie sagen, naja das was ich hier geleistet habe, hab' ich im Grunde mit KI gemacht dann heißt es ja dass das irgendwie auch jeder andere kann und ich glaube da ist ein kleiner Denkfehler drin.

00:02:41: aber Ich find's irgendwie spannend.

00:02:42: Ja also Leute man hätte damals ja nicht irgendwie Man hat sich ja auch nicht geschämt Zu sagen ja ich hab das ge-googelt oder so Oder ah Mist ich hab Excel genutzt Ich hab Excel Genutzt um diese Zahlen herauszuwenden.

00:02:54: Absurd eigentlich, ja?

00:02:55: Ich glaub wir stehen einfach So am Anfang dieser Technologie noch Dass wir noch gar nicht genau wissen Wie das ankommt, ich glaube wir müssen vorfühlen und wir sollten vielleicht auch offen damit umgehen.

00:03:05: Denn ja natürlich nutzt man KI die Technologie, die einem gegeben ist, um effizienter zu sein.

00:03:11: aber ich finde es spannend wenn ihr mal eure Erfahrungen berichtet ob ihr euch darüber schämt ob ihr vielleicht gar nicht KI nutzen dürft und deshalb ist auch gar nicht erst Publik macht.

00:03:20: gerade im beruflichen Kontext kann natürlich auch sein.

00:03:23: auf jeden Fall is hier mal wieder ein kleines Kulturproblem bezüglich KI-Nutzung zu erkennen.

00:03:29: Studie verlinke ich euch natürlich in den Shownots wie aller anderen Quellen auch, könnt ihr gerne euch nochmal angucken!

00:03:35: Dritte News ganz spannend was KI in der Medizin gerade so anrichtet bzw verbessert denn Das US-Unternehmen Pathway Labs hat ein KI System entwickelt, das strukturelle Herzerkrankung anhand eines normalen IKGs erkennen kann.

00:03:51: Also wieder so Dinge die Ärzte und Ärztinnen vielleicht mal übersehen wo eine KI aber sehr klar sagen kann auf Grundlage dieser Daten sehe ich hier eine Anomalie und das könnte auch eine Erkrankungen des Herzkreislaufsystems schließen Und das ist ganz spannend.

00:04:05: Das Besondere ist nämlich, dass es nicht einfach nur ein Experiment ist oder ein Prototyp sondern, dass diese Software tatsächlich eine FDA-Zulassung bekommen hat.

00:04:13: also die amerikanische Arzneimittel und Medizinproduktebehörde, die im Grunde gesagt hat ja... Die Software funktioniert?

00:04:19: Die lassen wir jetzt mal zu!

00:04:21: D.h.,

00:04:21: so das erste regulatorische Prüferfahren wurde tatsächlich durchlaufen und das ist halt ein Riesenunterschied zu den ganzen KI-Demos oder theoretischen Sachen, die man immer überall hört weil das tatsächlich ne Ja durchaus relevanter Schritt ist, zumal Herz-Kreislauferkrankungen in diesen Problemen sind.

00:04:38: Ich glaube also immer wieder irgendwie in den häufigsten Todesursachen weltweit genannt bedeutet wenn KI hier hilft wäre das natürlich eine ziemlich coole Sache.

00:04:47: wir bleiben dran und gucken mal was da weiteres kommt.

00:04:52: Ja die vierte News haben jetzt ja dass es jetzt irgendwie positiv gewesen ist.

00:04:56: müssen wir uns auch nochmal auf die negative Seite gucken was so passiert vor allem im Bereich der ransomware.

00:05:02: Da gibt es nämlich gerade irgendwie ein paar News zu, die die Runde machen und zwar gibt's ist die erste agentische ransomware, ransomware vielleicht für die das nicht kennen.

00:05:13: Ein Unternehmen wird gehackt, die Daten werden verschlüsselt und dann erscheint so eine Nachricht auf dem Monitor überweist irgendwie Bitcoin an diese Adresse oder so.

00:05:20: sonst bleiben eure Daten gesperrt.

00:05:21: also sehr simplifiziert.

00:05:23: aber Im Grunde geht es darum, dass das Thema gehackt werden und dann gesperrt werden.

00:05:27: Die eigenen User werden ausgesperrt und müssen im Grunde so Lösegeld zahlen um wieder reinzukommen.

00:05:32: Und Sicherheitsforscher haben jetzt das erste vollagentische Ransomware-Tool entdeckt, das tatsächlich alles automatisch macht also Angriffe auf Infrastruktur selbstständig plant und auch durchführt.

00:05:44: Das heißt, es wären Informationen gesammelt, es werden Schwachstellen gefunden Es werden Daten ausgewählt Dann werden Lösegeldforderungen formuliert.

00:05:50: Wow!

00:05:50: Und dann geht's los.

00:05:54: Das ist so krass.

00:05:55: Ich meine, auf der einen Seite Räuber und Journal.

00:05:59: mit dem Internet kam auch im Grunde neue Betrugsmaschen auf.

00:06:02: Genauso ist es jetzt mit KI auch.

00:06:03: Warum sollte das nicht so sein?

00:06:05: Und natürlich müssen die Sicherheitsbehörden da aufrüsten.

00:06:07: Auf der anderen Seite finde ich um dieses Kapitel zu schließen.

00:06:10: Ist ganz interessant dass selbst Scammer arbeitslos werden durch KI.

00:06:17: Du bist tut mir leid, aber ich muss es bringen.

00:06:22: So irgendwie abgefahren oder das selbst betrügern jetzt tatsächlich, dass du so einstiegs jobs bei Betrugsmaschen tatsächlich ist auch wegfallen.

00:06:29: Wir haben ironie großartig aber ja natürlich sind ernsthaftes thema.

00:06:35: schützt eure daten immer irgendwie drauf achten dass auch die entsprechenden schulungen in unternehmen stattfinden denn sicherheit wird im Zeitalter von KI einfach noch mal zunehmend wichtiger.

00:06:47: Ja, und das zeigen auch so diese ganzen Modelle wie Mythos beispielsweise von Enthropic, die ja im Grunde damit dann auch an den Markt gegangen sind zu sagen hey wir können Sicherheitsrisiken in Jahrzehnte langer bestehender Software detecten, die Menschen nicht detecten konnten.

00:07:02: und vielleicht muss man tatsächlich hier die gute KI mit der bösen KI irgendwie mal kämpfen lassen nochmal schauen wie wir uns in Zukunft besser schützen können.

00:07:11: aber ich fand es irgendwie eine schöne Nachricht oder?

00:07:13: Scammer verlieren ihre Jobs durch KI.

00:07:15: Niemand ist sicher, Leute!

00:07:17: Doomsday-Stimmung auch im kriminellen Bereich.

00:07:22: Vielen Dank fürs Zuhören.

00:07:24: der Redaktionsschluss war dieser Donnerstag der sechzehnte, siebte um elf Uhr einundvierzig schon.

00:07:29: ich hoffe jetzt kommen wir nachmittags nicht noch irgendwie die mega Nachrichten rein sonst seht es mir nach.

00:07:34: Ich wünsche euch allen ein fantastisches Wochenende und wir hören uns kommenden Dienstag wieder zu.

00:07:39: Kollegin KI.

00:07:40: bis dahin tschö tschau.

00:07:44: Dieser Podcast wird produziert von Portstars bei OMR.