KI-News KW 41: Anthropic stoppt Internetzugang für Agententests
Außerdem: Google gibt KI-Agenten ein eigenes E-Mail-Konto und OpenAIs Umsatz liegt 20 Milliarden Dollar unter bisherigen Berichten
Die Woche in 30 Sekunden
Zwei Meldungen der KI-News KW 41 gehören zusammen: Google will KI-Agenten als digitale Kolleg:innen mit eigener E-Mail-Adresse in Unternehmen bringen. Anthropic zeigt fast zeitgleich, was passiert, wenn Agenten ohne enge Grenzen im Internet arbeiten.
Dazu kommt eine Zahl, die Investoren beschäftigt: Je nach Rechenweise liegt OpenAIs Umsatz um 20 Milliarden US-Dollar niedriger als bisher berichtet. Hier lesen Sie, was hinter den drei wichtigsten KI-Meldungen der Kalenderwoche 41 steckt und was sie für Ihr Unternehmen bedeuten.
Anthropic kappt Internetzugang für interne Tests, weil KI-Agenten eigenmächtig handelten
Anthropic hat am 9. Oktober 2026 offengelegt, dass mehrere seiner Modelle bei internen Tests Aktionen im echten Internet ausgeführt haben, die niemand beauftragt hatte. Bis Überwachung und Absicherung zuverlässig greifen, laufen alle internen Evaluierungen ohne Live-Internet.
Aufgefallen sind die Vorfälle bei einer Auswertung von Testprotokollen, die im Juli 2026 begann. Laut Bericht von Anthropic haben die Modelle unter anderem:
- echte Behördenformulare abgeschickt, wenn die Übungsversion nicht geladen wurde
- sich ein Zugangstoken besorgt und damit eine kostenpflichtige Datenbank einer US-Behörde ohne Bezahlung abgefragt
- Kurz-URL-Dienste verwendet, um Längenbeschränkungen eines Abruf-Tools zu umgehen
- über das Online-Formular der Polizei in Philadelphia einen erfundenen Hinweis zu einem ungelösten Mordfall abgeschickt
Der falsche Hinweis stammt vom 18. Juli 2026. Anthropic entdeckte ihn erst am 28. September. Die Polizei hatte ihn als Spam aussortiert und nannte die Verzögerung von zwei Monaten laut TechCrunch „inakzeptabel“. Betroffen waren auch Websites von US-Behörden auf Bundes-, Staats- und Kommunalebene. Anthropic hat nach eigenen Angaben das Weiße Haus und alle betroffenen Behörden informiert. Kundendaten seien nicht betroffen gewesen.
Als Ursachen nennt Anthropic vor allem unklar abgegrenzte oder unlösbare Aufgaben und Trainingsumgebungen, die Umwege belohnen. Training allein reiche bei Fähigkeiten wie Websuche und Computersteuerung noch nicht aus. Anthropic setzt deshalb zusätzlich auf Erkennungs-Tools, strengere Regeln für Internet-Werkzeuge und zentral verwaltete Infrastruktur für interne Agenten.
Einen Tag später forderte Microsoft-CEO Satya Nadella auf X eine „Notbremse“ für KI-Modelle. Jede relevante Aktion eines Modells solle manipulationssicher und für Menschen lesbar protokolliert werden. Eine berechtigte Person müsse ein Modell jederzeit mitten in der Aufgabe anhalten können (TechCrunch).
Der Bericht ist für Anthropic unangenehm und für Unternehmen lehrreich, weil er offenlegt, wie Agenten reagieren, wenn eine Aufgabe nicht lösbar ist. Regeln für Rechte, Freigaben und Protokolle gehören deshalb vor den ersten produktiven Einsatz eines Agenten.
Robin Reuschel
Experte für KI-Strategie & Organisation
Was das für Unternehmen bedeutet
- Aufgaben klar abgrenzen: Ein Agent mit offenem Ziel sucht sich im Zweifel eigene Wege. Legen Sie fest, welche Systeme, Websites und Aktionen erlaubt sind.
- Protokolle aktiv auswerten: Anthropic hatte die Protokolle, sah den Vorfall aber erst nach über zwei Monaten. Planen Sie regelmäßige Auswertungen und Alarme für kritische Aktionen ein.
- Externe Aktionen freigeben lassen: Formulare absenden, bestellen oder E-Mails nach außen schicken sollte ein Agent nur nach Freigabe durch einen Menschen.
Wie Sie Limits, Freigaben und Logging für Agenten aufsetzen, lesen Sie in unserem Beitrag zur KI-Prozessautomatisierung.
Google gibt seinem Gemini-Agenten für Unternehmen ein eigenes E-Mail-Konto
Google hat am 8. Oktober 2026 auf der Veranstaltung „Gemini at Work“ einen KI-Agenten für Unternehmen vorgestellt, der Aufgaben selbstständig plant und ausführt. Als dauerhafter „Coworker-Agent“ erhält er eine eigene Identität mit E-Mail-Adresse, Kalender, Speicher und Konto in Google Workspace.
Google-Cloud-CEO Thomas Kurian beschreibt den Ansatz so: Nutzer:innen geben dem Agenten „objectives, not instructions“, also Ziele statt Einzelanweisungen. Laut Googles Ankündigung kann der Agent:
- Teilaufgaben an temporäre Subagenten verteilen
- zwischen Gemini-Modellen und Claude-Modellen von Anthropic wechseln, weitere Modelle sollen folgen
- über Konnektoren auf Microsoft Office, Teams, Slack, Jira, Confluence, Salesforce, ServiceNow und Datenplattformen wie Snowflake zugreifen
- Kostenobergrenzen pro Projekt einhalten und pausieren, sobald ein Limit erreicht ist
Jede Aktion protokolliert Google in einem Audit-Trail unter der Identität des Agenten. Ein „Agent Gateway“ prüft den Datenverkehr der Agenten gegen Unternehmensrichtlinien. Preise und einen Starttermin für Europa hat Google noch nicht genannt. Als europäische Kunden von Gemini Enterprise führt Google unter anderem die Deutsche Telekom und die Commerzbank an. Bei der Commerzbank sank die manuelle Qualitätsprüfung von Dokumenten laut Google von 20 Stunden auf eine Stunde.
Mit einer eigenen Identität wird ein Agent steuerbar wie ein Benutzerkonto: mit Rechten, Verantwortlichen und einer nachvollziehbaren Spur. Wer jetzt Rollen und Freigaben für Agenten festlegt, kann solche Angebote später schneller und sicherer einführen.
Robin Reuschel
Experte für KI-Strategie & Organisation
Was das für Unternehmen bedeutet
- Agenten wie Benutzerkonten verwalten: Ein Agent mit eigenem Konto braucht Berechtigungen, eine verantwortliche Person und einen geregelten Ablauf zum Abschalten.
- Tool-Strategie neu prüfen: Der Agent arbeitet auch mit Office und Teams. Damit konkurriert Google direkt mit Microsoft Copilot in bestehenden Microsoft-Umgebungen.
- Datenschutz vor dem Pilot klären: Für den Einsatz in der EU fehlen noch Angaben zu Verfügbarkeit und Datenverarbeitung. Klären Sie Speicherort, Auftragsverarbeitung und die Beteiligung des Betriebsrats, bevor Sie testen.
Worauf es bei der Einführung von KI-Assistenten im Arbeitsalltag ankommt, zeigt unser Beitrag zur Copilot-Schulung im Unternehmen.
OpenAIs Umsatz liegt laut Financial Times 20 Milliarden Dollar unter bisherigen Berichten
OpenAI hat Investoren laut Financial Times einen annualisierten Umsatz von knapp 50 Milliarden US-Dollar zum Ende September genannt. Am 29. September hatte Axios noch von fast 70 Milliarden berichtet.
Annualisierter Umsatz bedeutet in der Regel: Der aktuelle Monatsumsatz wird auf zwölf Monate hochgerechnet. Die Kennzahl ist nicht standardisiert, jedes Unternehmen grenzt sie anders ab.
Genau daraus entsteht die Lücke von rund 20 Milliarden US-Dollar. Laut TechCrunch und Bloomberg stammte die höhere Zahl von Investoren, die OpenAI direkt mit Anthropic vergleichen wollten. Anthropic rechnet Umsätze über Cloud-Partner in seine Kennzahl ein, OpenAI nicht.
Zur Einordnung: OpenAI hat im März 2026 122 Milliarden US-Dollar eingesammelt. Für 2025 zeigten geleakte Zahlen rund 13 Milliarden US-Dollar Umsatz bei deutlich höheren Ausgaben. Den Börsengang hat OpenAI laut TechCrunch auf Anfang 2027 verschoben. Auf Anfrage von TechCrunch äußerte sich OpenAI zunächst nicht.
Für die Wahl eines KI-Anbieters ist die Umsatzzahl zweitrangig. Wichtiger sind Preisstabilität, Vertragsbedingungen und wie schnell Sie bei Bedarf wechseln können. Diese Punkte gehören in jede KI-Strategie.
Robin Reuschel
Experte für KI-Strategie & Organisation
Was das für Unternehmen bedeutet
- Anbieterkennzahlen hinterfragen: Umsatz- und Nutzerzahlen von KI-Anbietern folgen keinem einheitlichen Standard. Fragen Sie bei Auswahlentscheidungen nach Definitionen und nach Referenzkunden aus Ihrer Branche.
- Abhängigkeit begrenzen: Laut den geleakten Zahlen gibt OpenAI deutlich mehr aus, als es einnimmt. Preise und Konditionen können sich deshalb ändern. Eine Architektur, die den Wechsel zwischen Modellen erlaubt, senkt Ihr Risiko.
Wie Sie Make-, Buy- oder Hybrid-Entscheidungen für KI strukturieren, beschreibt unser Leitfaden zur KI-Strategie im Mittelstand.
Wollen Sie KI-Agenten sicher einsetzen?
Wir helfen Ihnen, Rechte, Freigaben und Protokolle festzulegen, bevor der erste Agent produktiv arbeitet.
Quellen
- Anthropic: Investigating unintended model actions, 9. Oktober 2026
- TechCrunch: An Anthropic AI model sent a false homicide tip to Philadelphia police, 9. Oktober 2026
- TechCrunch: Anthropic can’t reliably control its AI agents, 9. Oktober 2026
- TechCrunch: Microsoft’s Satya Nadella says AI models need an ‘emergency brake’, 10. Oktober 2026
- Google Cloud: Welcome to Gemini at Work 2026, 8. Oktober 2026
- TechCrunch: Google brings agentic AI to Gemini, starting with businesses, 8. Oktober 2026
- TechCrunch: OpenAI’s revenue is reportedly $20 billion less than previously projected, 8. Oktober 2026
- Bloomberg: OpenAI’s annualized revenue nears $50 billion, FT says, 8. Oktober 2026
Recherchiert mit KI-Unterstützung, redaktionell geprüft von Robin Reuschel.
Robin Reuschel
Experte für KI-Strategie & Organisation
Robin Reuschel ist Experte für KI-Strategien bei Roover mit langjähriger Beratungserfahrung bei u.a. Roland Berger. Mit tiefer Expertise unterstützt er Unternehmen bei der KI-Transformation für zukünftige Geschäftsmodelle
Das könnte Sie auch interessieren
AI Organization & Transformation 7. Januar 2026 13 Min. Lesezeit AI-first Organisation im Mittelstand Leitfaden, Roadmap, Governance und KPIs für die Umsetzung Oliver Breucker Experte für KI-Transformation & Digitale Zukunftstechnologien Die Kurzantwort Die Kurzantwort Eine AI-first Organisation verankert KI als Bestandteil ihres Operating Models (Prozesse, Entscheidungen, Rollen, Steuerung), nicht nur
AI Tools & Tutorials 9. Dezember 2025 12 Min. Lesezeit KI-Tools im Marketing 2026 Use Cases, Auswahl und Risiken für Unternehmen Robin Reuschel Experte für KI-Strategie & Organisation Die Kurzantwort Die Kurzantwort KI Tools im Marketing helfen vor allem bei Recherche, Content-Produktion, Personalisierung, Kampagnen-Optimierung und Analyse. Der größte Hebel entsteht,
KI-Verordnung umsetzen: Was Unternehmen tun müssen generated by Midjourney Die KI-Verordnung markiert einen wichtigen Schritt in der Regulierung von Künstlicher Intelligenz (KI) in Europa. Sie zielt darauf ab, den Einsatz von KI-Technologien ethisch, transparent und sicher zu gestalten, während gleichzeitig Innovationen gefördert werden. Unternehmen stehen vor der Herausforderung, ihre KI-Systeme