KI im Unternehmen einführen
AI Organization & Transformation 2. November 2026 7 Min. Lesezeit

KI im Unternehmen einführen

Welche Schritte sich bewährt haben und was 2026 rechtlich gilt

Oliver Breucker

Oliver Breucker

Experte für KI-Transformation & Digitale Zukunftstechnologien

Die Kurzantwort

57 Prozent der Unternehmen in Deutschland setzen inzwischen KI ein. Das zeigt eine Bitkom-Umfrage vom 14. September 2026, vor zwei Jahren waren es 20 Prozent. Doch kein befragter Anwender schöpft das Potenzial nach eigener Einschätzung vollständig aus. Viele haben Lizenzen gekauft, ohne ihre Abläufe anzupassen. Wer KI im Unternehmen einführen will, braucht deshalb einen Plan, der über die Tool-Auswahl hinausgeht.

Dieser Beitrag zeigt, warum ein sicherer KI-Zugang für alle der erste Schritt ist, welche Anwendungsfälle sich eignen, was Betriebsrat und AI Act verlangen und wie Sie in sechs Schritten vorgehen.

5 Key Takeaways

  • Zugang für alle zuerst: Ein Enterprise-Tool für alle Mitarbeitenden verhindert Schatten-KI. Laut IW nutzen 29,1 Prozent der beruflichen KI-Nutzenden Tools, die der Arbeitgeber nicht bereitgestellt hat.
  • Betriebsrat früh einbinden: KI-Werkzeuge, die Eingaben und Nutzung protokollieren, sind in der Regel nach § 87 BetrVG mitbestimmungspflichtig.
  • Vor dem Rollout schulen: 91 Prozent der KI-Anwender schulen ihre Beschäftigten. Art. 4 AI Act verlangt, KI-Kompetenz zu fördern.
  • Pilotprojekte nach Nutzen wählen: Häufige Aufgaben mit guter Datenlage eignen sich am besten. Den Erfolg messen Sie etwa an der Bearbeitungszeit pro Vorgang.
  • AI Act im Blick behalten: Seit 2. August 2026 gilt die Hinweispflicht für Chatbots. Pflichten für Hochrisiko-KI greifen ab 2. Dezember 2027.

Wo stehen deutsche Unternehmen bei der KI-Einführung?

Die Mehrheit nutzt KI bereits, die meisten aber nur punktuell. Laut Bitkom setzen 57 Prozent der Unternehmen ab 20 Beschäftigten KI ein, weitere 38 Prozent planen oder diskutieren den Einsatz. Das Potenzial schöpfen nach eigener Einschätzung nur 3 Prozent eher stark aus.

Bei Unternehmen, die KI schon nutzen, liegen die Hürden vor allem in Recht und Organisation. Sie nennen Datenschutz (66 Prozent), rechtliche Unsicherheit (56 Prozent) und schwer kalkulierbare Kosten (54 Prozent) als größte Hemmnisse. Bitkom-Präsident Ralf Wintergerst sagt dazu: „Wer nur eine Lizenz kauft, hat KI eingekauft, aber noch nichts verändert.“ Eine Einführung umfasst deshalb Anwendungsfälle, Regeln, Mitbestimmung und Qualifizierung.

Warum brauchen alle Mitarbeitenden Zugang zu sicheren KI-Tools?

Beschäftigte nutzen KI ohnehin. Ein offizieller Zugang für alle verhindert, dass Unternehmensdaten in privaten Accounts landen. Laut einer IW-Befragung vom 19. September 2026 arbeiten 29,1 Prozent der beruflichen KI-Nutzenden mit Tools, die ihr Arbeitgeber nicht bereitgestellt hat. Bei dieser Schatten-KI hat das Unternehmen keinen Vertrag mit dem Anbieter und keinen Überblick, welche Kundendaten oder internen Dokumente eingegeben werden.

Der wichtigste Schritt zu Beginn ist deshalb ein Enterprise-Tool für alle Mitarbeitenden, etwa Microsoft 365 Copilot, ChatGPT Enterprise oder Claude Enterprise. Diese Versionen nutzen Unternehmensdaten laut Anbietern standardmäßig nicht zum Training. Ihre IT verwaltet Zugänge und Rechte an einer Stelle. Verbote allein helfen wenig: Wer ein gutes offizielles Werkzeug hat, braucht kein privates. Mit einer kurzen KI-Richtlinie und einer Basisschulung können Ihre Teams KI dann sicher im Arbeitsalltag nutzen.

Welche Anwendungsfälle eignen sich für den Start?

Für den Start eignen sich Aufgaben, die häufig anfallen, viel Text oder Recherche enthalten und deren Ergebnis ein Mensch schnell prüfen kann. Beispiele sind Protokolle, Entwürfe für Angebote und E-Mails, die interne Wissenssuche oder die Auswertung von Kundenanfragen. Entscheidungen über Personen gehören nicht in den ersten Pilot. KI-Systeme für die Auswahl von Bewerber:innen gelten nach AI Act als Hochrisiko.

Bewerten Sie jede Idee anhand von fünf Kriterien:

Kriterien für die Auswahl erster KI-Anwendungsfälle
KriteriumLeitfrageGutes Signal für den Start
HäufigkeitWie oft fällt die Aufgabe an?Gutes SignalTäglich oder wöchentlich in mehreren Teams
ZeitaufwandWie viel Arbeitszeit bindet sie heute?Gutes SignalEin spürbarer Teil der Wochenarbeitszeit
DatenlageLiegen die nötigen Informationen digital vor?Gutes SignalDokumente oder Systeme mit geklärten Zugriffsrechten
PrüfbarkeitKann ein Mensch das Ergebnis schnell kontrollieren?Gutes SignalEine Fachkraft erkennt Fehler in wenigen Minuten
RisikoBetrifft das Ergebnis Personen oder Verträge direkt?Gutes SignalNein, die KI liefert Entwürfe und Menschen entscheiden

Was muss der Betriebsrat bei der KI-Einführung mitbestimmen?

Gibt es einen Betriebsrat, müssen Sie ihn rechtzeitig über die geplanten KI-Anwendungen unterrichten. Das schreibt § 90 Abs. 1 Nr. 3 BetrVG seit 2021 ausdrücklich vor. Ein echtes Mitbestimmungsrecht entsteht nach § 87 Abs. 1 Nr. 6 BetrVG, wenn ein System objektiv geeignet ist, Verhalten oder Leistung der Beschäftigten zu überwachen. Das trifft auf viele Unternehmenslösungen zu, die Eingaben und Nutzung protokollieren. Ohne Einigung mit dem Betriebsrat oder Spruch der Einigungsstelle dürfen Sie ein solches Tool nicht einführen.

Für die Bewertung kann der Betriebsrat Sachverständige hinzuziehen. Bei KI gilt das nach § 80 Abs. 3 BetrVG als erforderlich. In der Praxis bewährt sich eine Rahmen-Betriebsvereinbarung. Sie regelt Grundsätze wie Leistungskontrolle und Datenzugriff einmalig. Neue Anwendungsfälle lassen sich dann ohne komplett neues Verfahren ergänzen.

Wie bauen Sie KI-Kompetenz in Ihren Teams auf?

Was verlangt der AI Act seit dem KI-Omnibus?

Die EU-KI-Verordnung gilt seit 2. August 2026 weitgehend vollständig, wurde kurz davor aber geändert. Der KI-Omnibus (Verordnung (EU) 2026/1744) ist seit 27. Juli 2026 in Kraft. Für Unternehmen, die KI nutzen, sind drei Punkte relevant:

  • KI-Kompetenz (Art. 4): Unternehmen müssen die KI-Kompetenz ihres Personals fördern. Ein bestimmtes Niveau müssen sie nicht mehr garantieren. Schulungen und Richtlinien sollten Sie trotzdem dokumentieren.
  • Transparenz (Art. 50): Seit 2. August 2026 müssen Menschen erkennen können, dass sie mit einem Chatbot sprechen. Deepfakes sind offenzulegen. Details erklärt unser Beitrag zur KI-Kennzeichnungspflicht.
  • Hochrisiko-KI: Die Pflichten für Systeme nach Anhang III, etwa im Recruiting, gelten erst ab 2. Dezember 2027.

In Deutschland überwacht die Bundesnetzagentur als zuständige Marktüberwachungsbehörde die Einhaltung.

Wie führen Sie KI in sechs Schritten ein?

Planen Sie die Einführung als Programm mit festen Entscheidungspunkten. Diese Reihenfolge hat sich in unseren Projekten bewährt:

  1. Zugang für alle schaffenCopilot, ChatGPT oder Claude Enterprise für alle Mitarbeitenden
  2. Alle schulenBasisschulung zu Prompting und sicherem Umgang mit Daten
  3. Ziele klärenVerantwortliche Person und messbare Geschäftsziele benennen
  4. Anwendungsfälle wählenHäufige, prüfbare Aufgaben mit guter Datenlage priorisieren
  5. Pilot testen8 bis 12 Wochen mit Kennzahlen wie Bearbeitungszeit
  6. SkalierenErfolgreiche Anwendungsfälle ausrollen und Multiplikator:innen benennen

Wie unterstützt ROOVER Unternehmen bei der KI-Einführung?

ROOVER begleitet Unternehmen in jedem der sechs Schritte, einzeln oder als Gesamtprogramm. Wir haben mehr als 50 Unternehmen in über 65 Digitalisierungs- und KI-Projekten begleitet und über 10.000 Teilnehmende geschult. Die Übersicht zeigt, welche Leistung zu welchem Schritt passt.

SchrittSo unterstützt ROOVER
1. Zugang für alle schaffenGovernance-Rahmen, KI-Richtlinie und Rollen im Target Operating Model
2. Alle schulenPraxisnahe KI-Schulungen für alle Mitarbeitenden, etwa zu Copilot und ChatGPT
3. Ziele klärenKI-Workshop für das Management und Entwicklung einer KI-Strategie
4. Anwendungsfälle wählenKI-Use-Case-Identifikation mit Bewertung nach Nutzen und Aufwand
5. Pilot testenUmsetzung mit Technologiepartnern über die KI-Implementierung
6. SkalierenKI-Transformation und Change-Management sowie Ausbildung interner Multiplikator:innen durch unsere KI-Trainer

Fehlt intern eine Person, die das Thema verantwortet, übernimmt ein Chief AI Officer auf Interimsbasis die Steuerung, bis die Rolle besetzt ist. Beispiele aus Projekten im Mittelstand und in Konzernen finden Sie in unseren Kundenprojekten.

Häufige Fragen zur KI-Einführung

FAQ zu KI im Unternehmen einführen

Für einen ersten Pilot mit klar begrenztem Anwendungsfall sollten Sie rund drei Monate einplanen. Darin enthalten sind die Abstimmung mit Datenschutz und Betriebsrat sowie die Schulung der Pilotgruppe. Der Rollout im ganzen Unternehmen folgt danach in Wellen, Anwendungsfall für Anwendungsfall.

Das hängt vor allem von Ihrer IT-Umgebung ab. Microsoft 365 Copilot arbeitet direkt in Word, Outlook und Teams. ChatGPT Enterprise und Claude Enterprise sind eigenständige Assistenten, die sich auch für längere Analysen eignen. Prüfen Sie bei jeder Lösung den Auftragsverarbeitungsvertrag und ob Ihre Daten vom Training ausgeschlossen sind.

Eine Pauschale gibt es nicht. Laut Bitkom nennen KI-Anwender Infrastruktur wie Cloud und Rechenleistung (51 Prozent), Datenaufbereitung (50 Prozent) und die Integration in bestehende Systeme (41 Prozent) als große Kostenpunkte. Lizenzen (21 Prozent) und Schulungen (19 Prozent) werden seltener genannt. Planen Sie das Budget pro Anwendungsfall.

Art. 4 AI Act verpflichtet Unternehmen, die KI beruflich nutzen, die KI-Kompetenz ihres Personals zu fördern. Ein bestimmtes Niveau müssen sie seit dem KI-Omnibus nicht garantieren, ein Bußgeld ist für Art. 4 nicht vorgesehen. Dokumentierte Schulungen bleiben der sicherste Nachweis. Wie Sie dabei vorgehen, zeigt unser Beitrag KI-Kompetenz aufbauen.

Gesetzlich vorgeschrieben ist sie nicht, sie schafft aber Klarheit für alle Beschäftigten. Eine gute Richtlinie regelt, welche Tools erlaubt sind, welche Daten hineindürfen, wie Ergebnisse geprüft werden und wer Ansprechperson ist. Mit Betriebsrat lässt sie sich in eine Betriebsvereinbarung überführen.

Fragen zur KI-Einführung?

Oliver Breucker beantwortet Ihre Fragen zur KI-Einführung in Ihrem Unternehmen.

Über den Autor

Oliver Breucker

Oliver Breucker

Experte für KI-Transformation & Digitale Zukunftstechnologien

Oliver Breucker ist Experte für KI-Transformation bei Roover und ehemaliger Strategieberater von Roland Berger. Mit Expertise vom MIT unterstützt er Unternehmen bei KI-Strategien und digitalem Erfolg.

Das könnte Sie auch interessieren

Metaverse-was-ist-das-Metaverse
Was ist das Metaverse?

Das Metaverse:Die nächste Ära des Internets​ generated by Midjourney Das Metaverse ist für viele Vordenker und Visionäre die nächste Entwicklungsstufe des Internets: Innovative Technologien, neue Endgeräte und virtuelle Umgebungen als Teil eines immersiven Internets. Das Interessante dabei? Das Metaverse etabliert sich verstärkt in unterschiedlichen Bereichen und kann in drei wesentlichen

Führungskräfte und Ingenieur:innen in einem Meetingraum eines mittelständischen Industrieunternehmens, die gemeinsam AI-first Prozesse und Operating Model planen.
AI-first Organisation im Mittelstand

AI Organization & Transformation 7. Januar 2026 13 Min. Lesezeit AI-first Organisation im Mittelstand Leitfaden, Roadmap, Governance und KPIs für die Umsetzung Oliver Breucker Experte für KI-Transformation & Digitale Zukunftstechnologien Die Kurzantwort Die Kurzantwort Eine AI-first Organisation verankert KI als Bestandteil ihres Operating Models (Prozesse, Entscheidungen, Rollen, Steuerung), nicht nur

Gläsernes Rechenzentrumsmodell, um das sich eine leuchtende Kurslinie nach einem Einbruch wieder nach oben zieht
KI-News KW 45: KI‑Aktien brechen nach US‑Wahl ein

Die KI-News KW 45 beginnen mit einem Kurssturz: Nach den US-Kongresswahlen erlebt die Nasdaq ihren schwächsten Tag seit April 2025. In der EU fehlen weiter KI-Aufsichtsbehörden und in München ist die KI-Fabrik der Telekom ausgebucht. Alle drei Meldungen betreffen Entscheidungen, die in vielen Unternehmen gerade anstehen: Mit welchen Anbietern arbeiten