Verantwortungsvolle KI
Verantwortungsvolle KI bezeichnet die Gestaltung, Bereitstellung und Nutzung von Systemen der künstlichen Intelligenz, die im Dienste des Menschen stehen, verlässlich, inklusiv, diskriminierungsfrei und umweltbewusst sind.
Definition
Die rasche Verbreitung generativer KI hat diese Systeme in den Arbeitsalltag von Organisationen gebracht. Verantwortungsvolle KI setzt deshalb Anforderungen entlang des gesamten Lebenszyklus eines Systems: Wahl des Anwendungsfalls, Trainingsdaten, Transparenz, menschliche Aufsicht und ökologischer Fußabdruck.
Das Institut du Numérique Responsable hat diesen Ansatz in seiner KI-Charta festgehalten. Sie ergänzt die Charta für verantwortungsvolle Digitalisierung. Die gesetzlichen Pflichten des AI Act müssen daneben für den jeweiligen Einsatz geprüft werden; die Unterzeichnung einer Charta ist kein Konformitätsnachweis.
Die vier Prinzipien der KI-Charta
1. KI im Dienste des Menschen
- Eine KI entwickeln, die die zentrale Rolle der Mitarbeitenden stärkt und ihre Fähigkeiten erweitert
- Die Anwendungen gemeinsam mit den Teams entwickeln, über den sozialen Dialog und Rückmeldungen
- Das Personal im angemessenen Umgang mit KI und deren Auswirkungen schulen
- Autonomie bei der Arbeit, Qualität der sozialen Beziehungen und Sinn der Arbeit respektieren
- Die Einhaltung internationaler Abkommen zum Schutz der Menschenrechte, der Demokratie und der Rechtsstaatlichkeit in Ausschreibungen verankern
2. Eine inklusive und ethische KI
- Gleichheit, Vielfalt und Diskriminierungsfreiheit achten
- Mechanismen einführen, die Datenqualität sichern und Verzerrungen nach Geschlecht, Herkunft oder Religion vermeiden
- Reaktionen auf Diskriminierungen organisieren, die aus verzerrten Daten entstehen
- Digitale Dienste mit KI für Menschen mit Behinderung zugänglich machen
3. Eine verlässliche KI
- Nutzerinnen und Nutzer darüber informieren, dass sie mit einem KI-System interagieren, und die Datenquellen offenlegen
- Die Funktionsweise der Algorithmen klar und verständlich erklären
- Menschliche Aufsicht bei risikoreichen Tätigkeiten sicherstellen
- Die Robustheit der Systeme gegen Cyberangriffe stärken
4. Eine umweltbewusste und nachhaltige KI
- Den tatsächlichen Nutzen des Anwendungsfalls vor jeder Einführung prüfen
- Ressourcenschonende, sparsame KI-Modelle bevorzugen
- Den ökologischen Fußabdruck über den gesamten Lebenszyklus bewerten und minimieren
- Umweltbewusste Praktiken bei Training und Bereitstellung anwenden, mit dokumentierten Systemgrenzen und Messmethoden
Einen Anwendungsfall verantwortlich betreiben
Vor der Auswahl eines KI-Modells sollte das Team die Aufgabe und eine Vergleichslösung festlegen. Für eine interne Dokumentensuche kommen beispielsweise auch eine Suchmaschine oder eine strukturierte Wissenssammlung infrage. Ein RAG-System kann Quellen einbeziehen, garantiert aber weder zutreffende Antworten noch korrekte Zugriffsrechte.
Für die Erprobung braucht es typische und schwierige Fälle, klare Qualitätskriterien und einen Weg zur menschlichen Prüfung. Die Bewertung sollte Fehler nach ihrer möglichen Wirkung unterscheiden. Eine plausible Formulierung darf fehlende Belege nicht verdecken. Fachbereich, Datenschutz und Cybersicherheit sollten Zuständigkeiten und Grenzen der Nutzung gemeinsam festhalten.
Umweltwirkung der KI messen
Der Energiebedarf pro Anfrage hängt unter anderem von Modell, Hardware, Eingabe- und Ausgabelänge sowie Auslastung ab. Für Vergleiche sollten Teams dieselbe Aufgabe bei vergleichbarer Qualität und Antwortzeit untersuchen. Ein kleineres Modell ist eine Option, wenn es die Anforderungen erfüllt; seine Größe allein belegt noch keinen geringeren Gesamtfußabdruck.
Zum Lebenszyklus gehören Datenaufbereitung, Training, Betrieb und die anteilige Herstellung der Infrastruktur. Neben dem CO₂-Fußabdruck sind Wasser und Ressourcen zu berücksichtigen. Die UBA-Studie Künstliche Intelligenz im Umweltbereich untersucht Chancen und Risiken; ihr Stand von 2019 eignet sich nicht als Quelle aktueller Verbrauchswerte generativer Modelle.
Ein Umweltzweck garantiert keinen positiven Nettoeffekt. Zusätzliche Nutzung und Rebound-Effekte gehören in die Bewertung. Die Digitale Suffizienz hilft, den Bedarf vor weiterer Automatisierung zu prüfen.
Regeln und freiwillige Zusagen unterscheiden
Verhaltenskodizes und Praxisleitfäden für KI betreffen unterschiedliche Rollen und Verpflichtungen. Eine Organisation sollte benennen, welchen Kodex sie anwendet und welche Nachweise sie führt. Digitale Barrierefreiheit, Rückmeldemöglichkeiten und geschulte Beschäftigte machen die Grundsätze im Betrieb überprüfbar.
Unterzeichnung
Die KI-Charta kann von jeder öffentlichen oder privaten Organisation unterzeichnet werden, allein oder zusammen mit der Charta für verantwortungsvolle Digitalisierung.
