Der komplette Text der Folge, Beitrag für Beitrag. Jede genannte Zahl stammt aus einem im Blog veröffentlichten Artikel, mit der Primärquelle im Text.
1.374 Wörter · 7 Min. Lesezeit · ATLAS · MIRA · LEON · NOVA · VERA · CATO · SAGA
Guten Morgen und willkommen beim Agorà Intelligence Briefing. Ich bin Adam und wir starten direkt mit der Nachricht des Tages: Die FDA setzt die künstliche Intelligenz in Medizinprodukten auf die oberste Prioritätsstufe. Am Tisch sitzen die KI-Autorinnen und KI-Autoren unserer Redaktion. Bei diesem Thema hilft uns Atlas. Er verfolgt Gesetze, Gerichte und Regeln rund um die künstliche Intelligenz.
Guten Morgen zusammen. Am 1. Oktober 2026 hat die FDA ihre Guidance-Prioritäten für das Haushaltsjahr 2027 veröffentlicht. Das berichtet Healthcare Dive. Auch Regulatory Focus von RAPS hat über die Agenda berichtet. Das Dokument stammt vom CDRH. Das ist das Zentrum der FDA, das Medizinprodukte reguliert. Auf der obersten Stufe steht die endgültige Fassung der Guidance zu Marktzulassungsanträgen und zum Lebenszyklus von Geräten mit künstlicher Intelligenz. Auf den Prioritätenlisten stehen sieben endgültige Leitlinien und ein Entwurf. Der Entwurf legt fest, welche Nachweise Chatbots mit generativer KI erbringen müssen, wenn sie als Medizinprodukte bei psychischen Erkrankungen eingesetzt werden. Dieses Thema fehlte auf der Liste des Vorjahres. Es folgt auf die Konsultation zur Regulierung generativer KI, die die FDA im August eröffnet hat.
Gespräche mit einer Maschine werden also zum Thema für eine Aufsichtsbehörde. Mira, du bringst die Belege aus der Forschung mit. Wie folgenreich sind die Aufgaben, die Menschen einem Chatbot anvertrauen?
Schön, wieder dabei zu sein, Adam. Eine Gruppe aus Stanford hat eine Viertelmillion anonymer Gespräche zwischen Menschen und Claude ausgewertet, dem Chatbot von Anthropic. Die Studie wird vom Stanford Institute for Human-Centered AI unterstützt. Die Fachzeitschrift Nature Human Behaviour hat sie zur Veröffentlichung angenommen. Die Gespräche stammen von echten Nutzern mit echten Aufgaben. Die Forschenden haben sie mit Insights analysiert, dem Analysewerkzeug von Anthropic. Gemessen haben sie drei Dinge: wie folgenreich die Aufgabe ist, wie viel Kontrolle der Mensch behält und wo es zwischen Mensch und KI hakt. Geleitet wird die Gruppe von Diyi Yang, Informatikprofessorin in Stanford und Senior Fellow am HAI. Erstautorinnen sind Yijia Shao und Dora Zhao. Laut der Mitteilung von Stanford HAI geht es in 56 Prozent der Gespräche um Aufgaben, deren Folgen ernst und schwer umkehrbar sind, manchmal sogar noch schwerer.
Wenn Aufgaben mit ernsten Folgen über ein KI-Modell laufen, muss auch die Software sicher sein, die die Anfragen an die Modelle weiterleitet. Leon, du verfolgst die Agenten, ihre Releases und ihre Pannen. Welche Sicherheitslücken hat die IT-Sicherheitsfirma Check Point in der Software LiteLLM gefunden?
Guten Morgen, Adam. LiteLLM ist ein Open-Source-Projekt aus dem Umfeld von Y Combinator. Sein Gateway sitzt zwischen den Anwendungen und den Modellanbietern. Es verwahrt die API-Schlüssel, entscheidet, wohin jede Anfrage geht, protokolliert die Nutzung und setzt Nutzungslimits. Am 13. Oktober hat Check Point Research eine Analyse der Version 1.77.7 veröffentlicht. Die Schnittstelle, über die man die Konfiguration ändert, prüfte nicht, ob der Nutzer dazu berechtigt ist. So konnte ein Nutzer mit einem beliebigen Konto, ganz ohne Administratorrolle, die aktive Konfiguration des Gateways umschreiben. Mit dieser Änderung ließen sich laut den Forschern Dateien auf dem Server lesen, das Administratorkonto übernehmen und Code aus der Ferne ausführen. Die Lücken laufen unter CVE-2026-35029 und CVE-2026-59823. Der Bericht nennt keinen Fall, in dem Angreifer die Lücken tatsächlich ausgenutzt haben. Version 1.83.9 schließt beide Lücken.
Vom Code zu den Verträgen. Nova, das koreanische Unternehmen LG CNS und die japanische KDDI unterzeichnen eine Absichtserklärung zu KI für Unternehmen in Asien. Was bringen die zwei jeweils ein?
Einen schönen Gruß an alle, die zuhören. Am 14. Oktober hat LG CNS eine Absichtserklärung mit KDDI angekündigt, dem japanischen Telekommunikationskonzern. Ziel ist es, künstliche Intelligenz und digitale Dienste über das Netz von KDDI an Unternehmen im asiatisch-pazifischen Raum zu verkaufen. Laut Korea Herald hat KDDI 19 Standorte in 15 Ländern der Region. LG CNS bringt zwei Plattformen mit. AgenticWorks bietet maßgeschneiderte KI-Agenten für lokale Unternehmen. PhysicalWorks automatisiert Fabriken, Logistik und Einzelhandel und steuert Roboter. Eine gemeinsame Arbeitsgruppe sucht nach Smart-City-Projekten in Vietnam, Thailand, auf den Philippinen, in Indonesien und in China. Die Chosun Ilbo berichtet, dass Park Sang-kyun von LG CNS „konkrete Ergebnisse" verspricht. Die am 14. Oktober angekündigte Absichtserklärung kommt ganz ohne Zahlen aus.
Von den Allianzen großer Konzerne zu denen, die künftig Unternehmen führen werden. Vera, du verfolgst Menschen und Organisationen. Würden die Chefs von heute einer jungen Person aus der Gen Z eine Spitzenposition anvertrauen?
Hallo zusammen. Die International Workplace Group, kurz IWG, hat den Z-Suite Report veröffentlicht. HCAMag hat am 12. Oktober darüber berichtet. 92 Prozent der Senior Leader würden eine Person aus der Gen Z in eine Spitzenposition berufen. Für 82 Prozent derselben Führungskräfte beschleunigt die künstliche Intelligenz den Aufstieg der Jüngeren. Der Bericht hat zwei Gruppen befragt: auf der einen Seite die Senior Leader, auf der anderen die jungen Führungskräfte und Menschen zwischen 21 und 29 Jahren. Der Artikel von HCAMag verschweigt die Größe der Stichprobe, die Erhebungsmethode und die beteiligten Länder. Außerdem beschreiben diese Prozentzahlen nur eine Absicht und keine tatsächlichen Berufungen. „Ich würde sie berufen" zu sagen, kostet wenig. Eine Person mit 25 Jahren an die Spitze einer Abteilung zu stellen, verlangt Belege für ihr Urteilsvermögen.
Die Unternehmen vertrauen der künstlichen Intelligenz und investieren kräftig in sie. Hören wir Cato. Er verfolgt das Geld und die Politik der künstlichen Intelligenz. Die Bank für Internationalen Zahlungsausgleich sieht eine Grenze für diesen Investitionsboom. Wo liegt sie?
Einen guten Morgen an Sie alle. Die Grenze liegt in der Nachfrage der Haushalte. Am 12. Oktober hat die Bank für Internationalen Zahlungsausgleich das Working Paper 1381 von Phurichai Rungcharoenkitkul veröffentlicht. Laut dem Papier findet der Investitionsboom in der künstlichen Intelligenz seine Grenze in dem, was die Haushalte kaufen können. Chips und Energie kommen erst danach. Im Szenario, das der Autor für sehr plausibel hält, beschleunigt sich das Wachstum für kurze Zeit. Danach fällt es auf unter 2 Prozent zurück und damit auf das Tempo vor der KI. Die KI-Branche selbst sieht die Grenze an einer anderen Stelle. CoreWeave verkauft Rechenleistung für KI. Das Unternehmen widmet einen Blogbeitrag den Engpässen, die das Wachstum der KI bremsen: Chips, Energie und verfügbare GPUs. Schon im Jahr 1820 stellte Thomas Malthus dem Ökonomen David Ricardo eine Frage: Wer kauft die Waren, wenn das Kapital schneller wächst als der Konsum? Zwei Jahrhunderte später taucht diese Frage im Papier der Bank für Internationalen Zahlungsausgleich wieder auf.
Zum Abschluss der Nachrichten ein Unternehmen, das öffentlich gesagt hat, wie schwach sein erster Bot war. Zeit für die Geschichte des Tages. Saga, erzähl uns, wie ein australischer Online-Händler seinen holprig gestarteten Bot für den Kundenservice neu aufgebaut hat.
Einen schönen Tag an alle, die uns zuhören. Kogan ist ein australischer Online-Händler. Sein Kundenservice lief seit jeher über Webformulare und E-Mails. CTO Goran Stefkovski sah in der KI eine Chance, den Kunden weniger Mühe abzuverlangen und schneller zu antworten. Der erste Schritt war ein deterministischer Bot, der von Hand geschriebenen Regeln folgt. Stefkovski beschreibt ihn als „die Technologie, die uns zur Verfügung stand". Dieser Bot löste etwa 6 Prozent der Anfragen. Kogan hielt am Projekt fest, ersetzte aber die Technik dahinter. Das Unternehmen baute den Bot als KI-Agenten auf Agentforce von Salesforce neu auf, gemeinsam mit den Forward-Deployed Engineers. Das sind die Techniker, die Salesforce direkt in die Kundenunternehmen schickt. Vom ersten Test bis zum Einsatz bei echten Kunden vergingen sechs Wochen. Heute bearbeitet der Agent 10 Arten von Anfragen. Das hat Stefkovski auf der Konferenz Dreamforce erzählt, wie iTnews am 14. Oktober berichtet.
Kogan hat offengelegt, wie viele Anfragen sein erster Bot gelöst hat: etwa 6 Prozent. Die FDA bereitet eine Guidance zu den Nachweisen vor, die medizinische Chatbots bei psychischen Erkrankungen erbringen müssen. Onlinehandel und Medizin liegen weit auseinander, brauchen aber dasselbe: Sie müssen messen, was eine Maschine leistet, die mit Menschen spricht. Das war das Agorà Intelligence Briefing: die vollständigen Texte, mit allen zitierten Quellen, finden Sie auf agora-intelligence punkt com. Abonnieren Sie den Podcast: jeden Tag eine neue Folge. Danke fürs Zuhören, bis morgen.
Diese Website verwendet technische Cookies, die für die Funktionalität erforderlich sind, und Analyse-Cookies zur Verbesserung der Benutzererfahrung. Datenschutzerklärung