KI im Unternehmen einführen
Welche Schritte sich bewährt haben und was 2026 rechtlich gilt
Die Kurzantwort
Der wichtigste erste Schritt ist ein sicherer KI-Zugang für alle Mitarbeitenden, etwa über Microsoft 365 Copilot, ChatGPT Enterprise oder Claude Enterprise. Das verhindert Schatten-KI. Vorher stimmen Sie Datenschutz und Betriebsrat ab und legen eine KI-Richtlinie fest. Danach folgen Schulungen und Pilotprojekte mit messbaren Zielen. Rechtlich gelten seit 2026 die Transparenzpflichten des AI Act und die Pflicht, KI-Kompetenz im Team zu fördern.
57 Prozent der Unternehmen in Deutschland setzen inzwischen KI ein. Das zeigt eine Bitkom-Umfrage vom 14. September 2026, vor zwei Jahren waren es 20 Prozent. Doch kein befragter Anwender schöpft das Potenzial nach eigener Einschätzung vollständig aus. Viele haben Lizenzen gekauft, ohne ihre Abläufe anzupassen. Wer KI im Unternehmen einführen will, braucht deshalb einen Plan, der über die Tool-Auswahl hinausgeht.
Dieser Beitrag zeigt, warum ein sicherer KI-Zugang für alle der erste Schritt ist, welche Anwendungsfälle sich eignen, was Betriebsrat und AI Act verlangen und wie Sie in sechs Schritten vorgehen.
5 Key Takeaways
- Zugang für alle zuerst: Ein Enterprise-Tool für alle Mitarbeitenden verhindert Schatten-KI. Laut IW nutzen 29,1 Prozent der beruflichen KI-Nutzenden Tools, die der Arbeitgeber nicht bereitgestellt hat.
- Betriebsrat früh einbinden: KI-Werkzeuge, die Eingaben und Nutzung protokollieren, sind in der Regel nach § 87 BetrVG mitbestimmungspflichtig.
- Vor dem Rollout schulen: 91 Prozent der KI-Anwender schulen ihre Beschäftigten. Art. 4 AI Act verlangt, KI-Kompetenz zu fördern.
- Pilotprojekte nach Nutzen wählen: Häufige Aufgaben mit guter Datenlage eignen sich am besten. Den Erfolg messen Sie etwa an der Bearbeitungszeit pro Vorgang.
- AI Act im Blick behalten: Seit 2. August 2026 gilt die Hinweispflicht für Chatbots. Pflichten für Hochrisiko-KI greifen ab 2. Dezember 2027.
Wo stehen deutsche Unternehmen bei der KI-Einführung?
Die Mehrheit nutzt KI bereits, die meisten aber nur punktuell. Laut Bitkom setzen 57 Prozent der Unternehmen ab 20 Beschäftigten KI ein, weitere 38 Prozent planen oder diskutieren den Einsatz. Das Potenzial schöpfen nach eigener Einschätzung nur 3 Prozent eher stark aus.
Bei Unternehmen, die KI schon nutzen, liegen die Hürden vor allem in Recht und Organisation. Sie nennen Datenschutz (66 Prozent), rechtliche Unsicherheit (56 Prozent) und schwer kalkulierbare Kosten (54 Prozent) als größte Hemmnisse. Bitkom-Präsident Ralf Wintergerst sagt dazu: „Wer nur eine Lizenz kauft, hat KI eingekauft, aber noch nichts verändert.“ Eine Einführung umfasst deshalb Anwendungsfälle, Regeln, Mitbestimmung und Qualifizierung.
Warum brauchen alle Mitarbeitenden Zugang zu sicheren KI-Tools?
Beschäftigte nutzen KI ohnehin. Ein offizieller Zugang für alle verhindert, dass Unternehmensdaten in privaten Accounts landen. Laut einer IW-Befragung vom 19. September 2026 arbeiten 29,1 Prozent der beruflichen KI-Nutzenden mit Tools, die ihr Arbeitgeber nicht bereitgestellt hat. Bei dieser Schatten-KI hat das Unternehmen keinen Vertrag mit dem Anbieter und keinen Überblick, welche Kundendaten oder internen Dokumente eingegeben werden.
Der wichtigste Schritt zu Beginn ist deshalb ein Enterprise-Tool für alle Mitarbeitenden, etwa Microsoft 365 Copilot, ChatGPT Enterprise oder Claude Enterprise. Diese Versionen nutzen Unternehmensdaten laut Anbietern standardmäßig nicht zum Training. Ihre IT verwaltet Zugänge und Rechte an einer Stelle. Verbote allein helfen wenig: Wer ein gutes offizielles Werkzeug hat, braucht kein privates. Mit einer kurzen KI-Richtlinie und einer Basisschulung können Ihre Teams KI dann sicher im Arbeitsalltag nutzen.
Welche Anwendungsfälle eignen sich für den Start?
Für den Start eignen sich Aufgaben, die häufig anfallen, viel Text oder Recherche enthalten und deren Ergebnis ein Mensch schnell prüfen kann. Beispiele sind Protokolle, Entwürfe für Angebote und E-Mails, die interne Wissenssuche oder die Auswertung von Kundenanfragen. Entscheidungen über Personen gehören nicht in den ersten Pilot. KI-Systeme für die Auswahl von Bewerber:innen gelten nach AI Act als Hochrisiko.
Bewerten Sie jede Idee anhand von fünf Kriterien:
| Kriterium | Leitfrage | Gutes Signal für den Start |
|---|---|---|
| Häufigkeit | Wie oft fällt die Aufgabe an? | Gutes SignalTäglich oder wöchentlich in mehreren Teams |
| Zeitaufwand | Wie viel Arbeitszeit bindet sie heute? | Gutes SignalEin spürbarer Teil der Wochenarbeitszeit |
| Datenlage | Liegen die nötigen Informationen digital vor? | Gutes SignalDokumente oder Systeme mit geklärten Zugriffsrechten |
| Prüfbarkeit | Kann ein Mensch das Ergebnis schnell kontrollieren? | Gutes SignalEine Fachkraft erkennt Fehler in wenigen Minuten |
| Risiko | Betrifft das Ergebnis Personen oder Verträge direkt? | Gutes SignalNein, die KI liefert Entwürfe und Menschen entscheiden |
Was muss der Betriebsrat bei der KI-Einführung mitbestimmen?
Gibt es einen Betriebsrat, müssen Sie ihn rechtzeitig über die geplanten KI-Anwendungen unterrichten. Das schreibt § 90 Abs. 1 Nr. 3 BetrVG seit 2021 ausdrücklich vor. Ein echtes Mitbestimmungsrecht entsteht nach § 87 Abs. 1 Nr. 6 BetrVG, wenn ein System objektiv geeignet ist, Verhalten oder Leistung der Beschäftigten zu überwachen. Das trifft auf viele Unternehmenslösungen zu, die Eingaben und Nutzung protokollieren. Ohne Einigung mit dem Betriebsrat oder Spruch der Einigungsstelle dürfen Sie ein solches Tool nicht einführen.
Für die Bewertung kann der Betriebsrat Sachverständige hinzuziehen. Bei KI gilt das nach § 80 Abs. 3 BetrVG als erforderlich. In der Praxis bewährt sich eine Rahmen-Betriebsvereinbarung. Sie regelt Grundsätze wie Leistungskontrolle und Datenzugriff einmalig. Neue Anwendungsfälle lassen sich dann ohne komplett neues Verfahren ergänzen.
Wie bauen Sie KI-Kompetenz in Ihren Teams auf?
Was verlangt der AI Act seit dem KI-Omnibus?
Die EU-KI-Verordnung gilt seit 2. August 2026 weitgehend vollständig, wurde kurz davor aber geändert. Der KI-Omnibus (Verordnung (EU) 2026/1744) ist seit 27. Juli 2026 in Kraft. Für Unternehmen, die KI nutzen, sind drei Punkte relevant:
- KI-Kompetenz (Art. 4): Unternehmen müssen die KI-Kompetenz ihres Personals fördern. Ein bestimmtes Niveau müssen sie nicht mehr garantieren. Schulungen und Richtlinien sollten Sie trotzdem dokumentieren.
- Transparenz (Art. 50): Seit 2. August 2026 müssen Menschen erkennen können, dass sie mit einem Chatbot sprechen. Deepfakes sind offenzulegen. Details erklärt unser Beitrag zur KI-Kennzeichnungspflicht.
- Hochrisiko-KI: Die Pflichten für Systeme nach Anhang III, etwa im Recruiting, gelten erst ab 2. Dezember 2027.
In Deutschland überwacht die Bundesnetzagentur als zuständige Marktüberwachungsbehörde die Einhaltung.
Wie führen Sie KI in sechs Schritten ein?
Planen Sie die Einführung als Programm mit festen Entscheidungspunkten. Diese Reihenfolge hat sich in unseren Projekten bewährt:
- 1Zugang für alle schaffenCopilot, ChatGPT oder Claude Enterprise für alle Mitarbeitenden
- 2Alle schulenBasisschulung zu Prompting und sicherem Umgang mit Daten
- 3Ziele klärenVerantwortliche Person und messbare Geschäftsziele benennen
- 4Anwendungsfälle wählenHäufige, prüfbare Aufgaben mit guter Datenlage priorisieren
- 5Pilot testen8 bis 12 Wochen mit Kennzahlen wie Bearbeitungszeit
- 6SkalierenErfolgreiche Anwendungsfälle ausrollen und Multiplikator:innen benennen
Wie unterstützt ROOVER Unternehmen bei der KI-Einführung?
ROOVER begleitet Unternehmen in jedem der sechs Schritte, einzeln oder als Gesamtprogramm. Wir haben mehr als 50 Unternehmen in über 65 Digitalisierungs- und KI-Projekten begleitet und über 10.000 Teilnehmende geschult. Die Übersicht zeigt, welche Leistung zu welchem Schritt passt.
| Schritt | So unterstützt ROOVER |
|---|---|
| 1. Zugang für alle schaffen | Governance-Rahmen, KI-Richtlinie und Rollen im Target Operating Model |
| 2. Alle schulen | Praxisnahe KI-Schulungen für alle Mitarbeitenden, etwa zu Copilot und ChatGPT |
| 3. Ziele klären | KI-Workshop für das Management und Entwicklung einer KI-Strategie |
| 4. Anwendungsfälle wählen | KI-Use-Case-Identifikation mit Bewertung nach Nutzen und Aufwand |
| 5. Pilot testen | Umsetzung mit Technologiepartnern über die KI-Implementierung |
| 6. Skalieren | KI-Transformation und Change-Management sowie Ausbildung interner Multiplikator:innen durch unsere KI-Trainer |
Fehlt intern eine Person, die das Thema verantwortet, übernimmt ein Chief AI Officer auf Interimsbasis die Steuerung, bis die Rolle besetzt ist. Beispiele aus Projekten im Mittelstand und in Konzernen finden Sie in unseren Kundenprojekten.
Häufige Fragen zur KI-Einführung
FAQ zu KI im Unternehmen einführen
Für einen ersten Pilot mit klar begrenztem Anwendungsfall sollten Sie rund drei Monate einplanen. Darin enthalten sind die Abstimmung mit Datenschutz und Betriebsrat sowie die Schulung der Pilotgruppe. Der Rollout im ganzen Unternehmen folgt danach in Wellen, Anwendungsfall für Anwendungsfall.
Das hängt vor allem von Ihrer IT-Umgebung ab. Microsoft 365 Copilot arbeitet direkt in Word, Outlook und Teams. ChatGPT Enterprise und Claude Enterprise sind eigenständige Assistenten, die sich auch für längere Analysen eignen. Prüfen Sie bei jeder Lösung den Auftragsverarbeitungsvertrag und ob Ihre Daten vom Training ausgeschlossen sind.
Eine Pauschale gibt es nicht. Laut Bitkom nennen KI-Anwender Infrastruktur wie Cloud und Rechenleistung (51 Prozent), Datenaufbereitung (50 Prozent) und die Integration in bestehende Systeme (41 Prozent) als große Kostenpunkte. Lizenzen (21 Prozent) und Schulungen (19 Prozent) werden seltener genannt. Planen Sie das Budget pro Anwendungsfall.
Art. 4 AI Act verpflichtet Unternehmen, die KI beruflich nutzen, die KI-Kompetenz ihres Personals zu fördern. Ein bestimmtes Niveau müssen sie seit dem KI-Omnibus nicht garantieren, ein Bußgeld ist für Art. 4 nicht vorgesehen. Dokumentierte Schulungen bleiben der sicherste Nachweis. Wie Sie dabei vorgehen, zeigt unser Beitrag KI-Kompetenz aufbauen.
Gesetzlich vorgeschrieben ist sie nicht, sie schafft aber Klarheit für alle Beschäftigten. Eine gute Richtlinie regelt, welche Tools erlaubt sind, welche Daten hineindürfen, wie Ergebnisse geprüft werden und wer Ansprechperson ist. Mit Betriebsrat lässt sie sich in eine Betriebsvereinbarung überführen.
Fragen zur KI-Einführung?
Oliver Breucker beantwortet Ihre Fragen zur KI-Einführung in Ihrem Unternehmen.
Quellen
- Bitkom: Erstmals nutzt die Mehrheit der Unternehmen KI (14. September 2026)
- Verordnung (EU) 2026/1744 (KI-Omnibus), EUR-Lex
- Verordnung (EU) 2024/1689 (KI-Verordnung), EUR-Lex
- § 87 BetrVG: Mitbestimmungsrechte
- § 90 BetrVG: Unterrichtungs- und Beratungsrechte
- § 80 BetrVG: Allgemeine Aufgaben des Betriebsrats
- Bundesnetzagentur: Pressemitteilung zur Umsetzung der KI-Verordnung (29. Juli 2026)
- IW Köln: Schatten-KI. Beschäftigte sind schneller als ihre Betriebe (19. September 2026)
Recherchiert mit KI-Unterstützung, redaktionell geprüft von Oliver Breucker.
Stand: 4. November 2026.
Dieser Beitrag gibt einen Überblick und ersetzt keine Rechtsberatung.
Über den Autor
Oliver Breucker
Experte für KI-Transformation & Digitale Zukunftstechnologien
Oliver Breucker ist Experte für KI-Transformation bei Roover und ehemaliger Strategieberater von Roland Berger. Mit Expertise vom MIT unterstützt er Unternehmen bei KI-Strategien und digitalem Erfolg.
Das könnte Sie auch interessieren
Das Metaverse:Die nächste Ära des Internets generated by Midjourney Das Metaverse ist für viele Vordenker und Visionäre die nächste Entwicklungsstufe des Internets: Innovative Technologien, neue Endgeräte und virtuelle Umgebungen als Teil eines immersiven Internets. Das Interessante dabei? Das Metaverse etabliert sich verstärkt in unterschiedlichen Bereichen und kann in drei wesentlichen
AI Organization & Transformation 7. Januar 2026 13 Min. Lesezeit AI-first Organisation im Mittelstand Leitfaden, Roadmap, Governance und KPIs für die Umsetzung Oliver Breucker Experte für KI-Transformation & Digitale Zukunftstechnologien Die Kurzantwort Die Kurzantwort Eine AI-first Organisation verankert KI als Bestandteil ihres Operating Models (Prozesse, Entscheidungen, Rollen, Steuerung), nicht nur
Die KI-News KW 45 beginnen mit einem Kurssturz: Nach den US-Kongresswahlen erlebt die Nasdaq ihren schwächsten Tag seit April 2025. In der EU fehlen weiter KI-Aufsichtsbehörden und in München ist die KI-Fabrik der Telekom ausgebucht. Alle drei Meldungen betreffen Entscheidungen, die in vielen Unternehmen gerade anstehen: Mit welchen Anbietern arbeiten