Upgrade.Digital

Ein Mensch im Prozess ist noch keine Aufsicht. Wer am Tag dreihundert Vorschläge freigibt, entscheidet nicht mehr, er quittiert. Wirksame Aufsicht setzt voraus, dass jemand genug weiß und genug Zeit hat. Vor allem muss er tatsächlich widersprechen, eingreifen und stoppen können.

Aus der Arbeit mit Organisationen wissen wir, wie heikel dieser Punkt ist. KI verschiebt, wessen Urteil zählt. Autorität, die auf Erfahrung beruht, gerät unter Druck, wenn ein Modell in manchen Fragen treffsicherer ist. Andere gewinnen Einfluss, weil sie die Systeme verstehen. Diese Verschiebung geschieht ohnehin. Offen ist nur, ob sie bewusst gestaltet oder stillschweigend hingenommen wird.

KI kann Urteilskraft stärken, indem sie Informationen bündelt, Alternativen prüft und Widersprüche offenlegt. Ersetzen darf sie sie nicht. Eine Organisation, die ihr Urteil an Systeme abgibt, verliert mehr als Kontrolle. Sie verliert die Fähigkeit, sich selbst zu steuern. Welche Entscheidungen bewusst beim Menschen bleiben, ist deshalb keine technische Frage. Es ist eine Führungsentscheidung.

In einer Organisation wird KI nur so verlässlich wie die Informationen, mit denen sie arbeitet. Das sind Dokumente, Daten und Protokolle, in denen Erfahrungen, Begriffe und Entscheidungen festgehalten sind. Diese Grundlagen sind oft lückenhaft, veraltet oder widersprüchlich. Und sie schreiben fort, was eine Organisation bisher für wahr gehalten hat, einschließlich ihrer blinden Flecken. Vieles davon berührt zudem die Rechte anderer: von Beschäftigten, Kunden, Bürgerinnen und Bürgern.

Die erste Frage lautet deshalb nicht, welche Technik passt. Sie lautet, was die vorhandenen Informationen tragen und was nicht. Dabei zeigt sich oft, dass das wertvollste Wissen einer Organisation nicht aufgeschrieben ist. Es steckt in Köpfen, in informellen Absprachen und in der Art, wie Dinge „eben gemacht werden“. Dieses Wissen zu heben und zu ordnen, ist oft der eigentliche Gewinn eines KI-Vorhabens. Dazu gehört die bewusste Entscheidung, bestimmte Daten nicht zu nutzen.

Rechtliche Fragen entscheiden sich nicht bei der Abnahme eines Systems, sondern bei seiner Gestaltung. Sie betreffen den Zweck einer Anwendung, die Auswahl der Daten und die Verteilung der Zuständigkeiten. Datenschutz, KI-Regulierung, Vertraulichkeit und der Schutz von Geschäftsgeheimnissen gehören deshalb von Beginn an in den Entwurf.

Nicht jede rechtliche Unsicherheit lässt sich vorab ausräumen. Die entscheidenden Fragen müssen aber früh auf dem Tisch liegen: Welche Daten dürfen genutzt werden? Welche Rechte haben Beschäftigte und andere Betroffene, und wann sind Betriebs- oder Personalrat einzubeziehen? Wer haftet? Welche Nutzung sollte unterbleiben?

Gut gestaltetes Recht schafft die Klarheit, in der eine Organisation entschlossen handeln kann.

Jede Organisation arbeitet mit Anbietern, Plattformen und Partnern. Abhängigkeiten gehören dazu. Gefährlich werden sie, wenn niemand sie bemerkt, bis ein Wechsel nicht mehr möglich ist.

Wir legen offen, wovon und von wem eine Organisation abhängig wird, welche Ausstiegswege bestehen und welches Wissen sie selbst aufbauen muss. Das gilt auch für unsere eigene Rolle. Gute Unterstützung erkennt man daran, dass sie eine Organisation fähiger macht und unnötige Bindung vermeidet, um relevantes Wissen im Unternehmen zu halten.

Ein KI-System verändert sich mit den Daten, der Technik und der Arbeit um es herum. Fehler und Nebenwirkungen zeigen sich oft erst im Betrieb, und selten dort, wo man sie erwartet hat.

Für folgenreiche Systeme ist deshalb von Anfang an zu regeln, wer Qualität, Sicherheit und Wirkung im Betrieb beobachtet, wer Alarm schlägt und wer korrigiert. Ein System muss sich jederzeit anpassen oder abschalten lassen. Wo viel auf dem Spiel steht, gehört ein unabhängiger Blick von außen dazu.

Am Ende misst sich die Veränderung an der Frage: Ist die Organisation jetzt handlungs- und leistungsfähiger als vorher?