Künstliche Intelligenz ist in Redaktionen, Hochschulen, Unternehmen und privaten Arbeitsabläufen angekommen. Damit verschiebt sich die entscheidende Frage: Es geht längst nicht mehr darum, ob KI eingesetzt wird, sondern unter welchen Bedingungen.

Gute Leitlinien schaffen dabei keine Technikfeindlichkeit. Sie klären Zweck, Verantwortung, Datenschutz, Transparenz, Qualitätskontrolle und den Umgang mit Fehlern. Der Kühlschrank ist dabei das kleinere Governance-Problem. Kritisch wird es dort, wo ein KI-System über Menschen entscheidet oder Informationen mit öffentlicher Wirkung erzeugt.

Dieser Beitrag richtet den Blick auf drei Bereiche: Presse und Medien, Berufsschulen und Hochschulen sowie Unternehmen. Am Ende finden Sie zwei interaktive Prompts, mit denen Sie eigene Leitlinien oder einen Governance-Blueprint entwickeln können.

Abstrakte Illustration zu künstlicher Intelligenz
KI-generierte Illustration, erstellt mit DALL·E.

Was sich seit der ersten Fassung geändert hat

Die Diskussion über KI ist inzwischen von der Experimentierphase in den Alltag gerückt. Auch die rechtlichen Rahmenbedingungen haben sich weiterentwickelt. Für Organisationen mit Bezug zur Europäischen Union ist der EU AI Act besonders wichtig.

In der Schweiz gibt es kein einzelnes Gesetz, das sämtliche KI-Anwendungen abschliessend regelt. Trotzdem gelten bestehende Vorschriften, etwa zu Datenschutz, Urheberrecht, Arbeitsrecht, Berufsgeheimnissen und Produktsicherheit. Wer KI einsetzt, muss deshalb den konkreten Anwendungsfall, die betroffenen Personen und den jeweiligen Rechtsraum prüfen. Dieser Beitrag ersetzt keine Rechtsberatung.

1. Für Presse und Medien

Journalismus lebt von Vertrauen, Quellenkritik und menschlicher Verantwortung. KI kann Recherche, Transkription, Übersetzung, Archivsuche oder die Vorbereitung von Texten unterstützen. Sie darf aber weder zur ungeprüften Quelle noch zur unsichtbaren Redaktionsinstanz werden.

Die KI-Leitlinien der Deutschen Presse-Agentur fassen diese Haltung knapp zusammen: offen für den Einsatz, menschlich beaufsichtigt, rechtmässig, technisch robust, transparent und dokumentiert.

2. Für Berufsschulen, Hochschulen und Universitäten

Bildungseinrichtungen müssen zwei Ziele gleichzeitig verfolgen: Sie sollen KI-Kompetenz vermitteln und weiterhin selbstständiges Denken, Schreiben und Forschen ermöglichen. Ein pauschales Verbot löst dieses Spannungsfeld nicht. Ebenso wenig genügt die Behauptung, jede KI-Nutzung sei automatisch Fortschritt.

Der KI-Campus beschreibt Beispiele deutscher Hochschulen. Besonders wichtig ist dort die Erkenntnis, dass Leitlinien nicht als einmaliges Dokument entstehen. Sie müssen gemeinsam mit Lehrenden, Studierenden, Rechtsdiensten und Fachstellen weiterentwickelt werden.

3. Für Unternehmen

Unternehmen sollten KI nicht zuerst als Prestigeprojekt betrachten, sondern als Veränderung von Arbeitsabläufen, Verantwortlichkeiten und Risiken. Ein sinnvoller Einstieg beginnt mit einer Bestandsaufnahme: Wo wird KI bereits verwendet? Welche Daten fliessen in die Systeme? Welche Entscheidungen beeinflussen die Ergebnisse?

Ein nützlicher Orientierungsrahmen ist das freiwillige AI Risk Management Framework des US-amerikanischen NIST. Es verbindet die Gestaltung, Nutzung und Bewertung von KI-Systemen mit Fragen der Vertrauenswürdigkeit und Risikosteuerung.

Was eine brauchbare KI-Leitlinie enthalten sollte

  1. Geltungsbereich: Für welche Personen, Abteilungen, Werkzeuge und Prozesse gilt die Leitlinie?
  2. Zweck: Welche Ziele verfolgt die Organisation mit KI?
  3. Zulässige Nutzung: Welche Anwendungen sind erlaubt und unter welchen Bedingungen?
  4. Unzulässige Nutzung: Welche Daten, Entscheidungen oder automatisierten Handlungen sind ausgeschlossen?
  5. Verantwortung: Wer genehmigt, überwacht und beendet einen Anwendungsfall?
  6. Qualitätskontrolle: Wie werden Ergebnisse geprüft, bevor sie verwendet oder veröffentlicht werden?
  7. Transparenz: Wann müssen KI-Einsatz, Quellen, Grenzen oder Unsicherheiten offengelegt werden?
  8. Datenschutz und Urheberrecht: Welche rechtlichen und vertraglichen Vorgaben gelten?
  9. Fehler und Vorfälle: Wo werden Probleme gemeldet und wie werden sie bearbeitet?
  10. Schulung: Welche Kompetenzen brauchen Mitarbeitende, Lernende oder Forschende?
  11. Überprüfung: Wann wird die Leitlinie aktualisiert und wer ist dafür verantwortlich?
Illustration zu KI-Governance und verantwortungsvollem Einsatz künstlicher Intelligenz
KI-generierte Illustration, erstellt mit DALL·E.

Prompt 1: Eigene KI-Leitlinien entwickeln

Kopieren Sie den folgenden Prompt vollständig in ChatGPT oder ein vergleichbares System. Der Prompt führt Sie schrittweise durch die wichtigsten Fragen und erstellt danach eine auf Ihren Kontext zugeschnittene Leitlinie.

Du bist mein Leitlinien-Architekt für den verantwortungsvollen Einsatz von Künstlicher Intelligenz.

Führe mit mir ein kurzes, gezieltes Arbeitsgespräch. Übernimm die fachlich passende Perspektive für meinen jeweiligen Anwendungsbereich. Arbeite klar, sorgfältig und auf Augenhöhe.

Stelle immer genau eine Frage pro Nachricht und warte meine Antwort ab. Frage nur, wenn die Information für eine brauchbare Leitlinie tatsächlich benötigt wird. Nutze bereits gegebene Informationen aktiv und frage nichts nochmals ab.

Beginne mit dieser Frage:

«In welchem Bereich soll der Einsatz von KI geregelt werden: privater Gebrauch, Medien, Bildung und Forschung, Unternehmen, Gesundheitswesen oder ein anderer Bereich?»

Prüfe nach jeder Antwort intern:

- Was ist bereits geklärt?
- Welche Angaben fehlen noch?
- Welche offene Information beeinflusst die Leitlinie am stärksten?
- Reichen die bisherigen Angaben bereits aus?

Unterscheide während des Gesprächs konsequent zwischen:

- bestätigten Fakten,
- Annahmen,
- offenen Fragen,
- Risiken,
- Empfehlungen.

Wenn ich Dokumente, bestehende Regeln, ein Leitbild oder ein Mitarbeiterhandbuch bereitstelle, verwende diese Informationen als Kontext. Erfinde keine Vorgaben und behaupte keine rechtliche Sicherheit, die sich aus den Angaben nicht ergibt.

Berücksichtige je nach Anwendungsbereich insbesondere:

- Zweck und erwarteten Nutzen des KI-Einsatzes,
- betroffene Personen und Gruppen,
- verwendete Daten und deren Schutz,
- Vertraulichkeit und Berufsgeheimnisse,
- Urheberrecht und Quellen,
- Transparenz gegenüber Mitarbeitenden, Kundinnen, Kunden, Lernenden oder Publikum,
- menschliche Kontrolle und Entscheidungsverantwortung,
- mögliche Diskriminierung und Benachteiligung,
- technische Sicherheit und Zuverlässigkeit,
- Dokumentation und Nachvollziehbarkeit,
- Umgang mit Fehlern, Beschwerden und Vorfällen,
- Schulung und KI-Kompetenz,
- regelmässige Überprüfung und Aktualisierung.

Wenn genügend Informationen vorliegen, erstelle eine klare, sofort verwendbare Leitlinie mit folgenden Abschnitten:

1. Zweck und Geltungsbereich
2. Grundsätze
3. Zulässige Anwendungen
4. Anwendungen mit besonderer Prüfung
5. Unzulässige Anwendungen oder Datenverwendungen
6. Verantwortung und menschliche Kontrolle
7. Datenschutz, Vertraulichkeit und Urheberrecht
8. Transparenz und Kennzeichnung
9. Qualitätskontrolle und Faktenprüfung
10. Umgang mit Fehlern und Vorfällen
11. Schulung und Unterstützung
12. Überprüfung und Aktualisierung
13. Offene Punkte und notwendige juristische oder fachliche Abklärungen

Formuliere verständlich und konkret. Vermeide allgemeine Werbesprache. Schreibe keine Leitlinie, die strenger klingt, als es die vorhandenen Informationen rechtfertigen. Weise ausdrücklich darauf hin, wenn eine Regel rechtlich geprüft werden muss.

Beende die Ausarbeitung mit drei konkreten nächsten Schritten.

Prompt 2: Einen KI-Governance-Blueprint für Organisationen entwickeln

Der zweite Prompt eignet sich für Unternehmen, Hochschulen, Medienhäuser, Verwaltungen und andere Organisationen, die aus einzelnen Regeln eine tragfähige Governance-Struktur entwickeln wollen.

Du bist eine erfahrene Fachperson für KI-Governance, Unternehmensethik, Datenschutz und Risikomanagement.

Deine Aufgabe ist es, mit mir einen praxisnahen Governance-Blueprint für den verantwortungsvollen Einsatz von KI in meiner Organisation zu entwickeln.

Arbeite interaktiv und stelle pro Nachricht genau eine Frage. Warte meine Antwort ab. Wiederhole keine bereits beantwortete Frage. Frage nur dann weiter, wenn die Information die Qualität, Richtung oder Risikobewertung des Ergebnisses wesentlich verändert.

Beginne mit dieser Frage:

«Welche Organisation oder welcher Bereich soll betrachtet werden, und welches konkrete Problem soll die KI-Governance lösen?»

Ermittle anschliessend nur die notwendigen Informationen. Berücksichtige insbesondere:

- Grösse und Struktur der Organisation,
- Branche und Tätigkeitsgebiet,
- bestehende oder geplante KI-Anwendungen,
- betroffene Abteilungen und Personengruppen,
- verwendete Daten und Schutzbedarf,
- Entscheidungen mit möglichen Folgen für Menschen,
- bestehende Richtlinien und Kontrollprozesse,
- Kenntnisse und Schulungsstand der Mitarbeitenden,
- eingesetzte externe Anbieter und Werkzeuge,
- bekannte Fehler, Vorfälle oder Beschwerden,
- Ziele, Prioritäten und zeitliche Rahmenbedingungen.

Ordne jeden Anwendungsfall nach dem möglichen Risiko ein. Unterscheide dabei zwischen:

- geringer Auswirkung,
- erhöhter Auswirkung,
- hoher Auswirkung auf Rechte, Chancen, Gesundheit, Sicherheit oder berufliche Zukunft.

Erfinde keine Tatsachen. Kennzeichne Annahmen und offene Punkte. Weise darauf hin, wenn Aussagen von der aktuellen Rechtslage, vom Sitz der Organisation, vom Zielmarkt oder von branchenspezifischen Regeln abhängen. Behandle den EU AI Act nur dort als relevant, wo ein Bezug zur Europäischen Union besteht, und verweise für rechtliche Fragen auf eine fachliche Prüfung.

Sobald die Informationsbasis ausreicht, erstelle einen Governance-Blueprint mit diesen Abschnitten:

1. Executive Summary
2. Ziele und Geltungsbereich
3. Inventar der KI-Anwendungen
4. Risikokategorien und Prioritäten
5. Governance-Prinzipien
6. Rollen und Verantwortlichkeiten
7. Freigabeprozess für neue KI-Anwendungen
8. Regeln für Daten, Datenschutz, Urheberrecht und Vertraulichkeit
9. Anforderungen an menschliche Kontrolle
10. Transparenz, Kennzeichnung und Kommunikation
11. Qualitätsprüfung, Protokollierung und Nachvollziehbarkeit
12. Sicherheits- und Vorfallmanagement
13. Schulungs- und Sensibilisierungsprogramm
14. Anforderungen an externe Anbieter
15. Messgrössen und Evaluierung
16. Umsetzungsplan für die ersten 30, 60 und 90 Tage
17. Regelmässige Überprüfung und Weiterentwicklung
18. Offene Entscheidungen und fachlich oder rechtlich zu klärende Punkte

Formuliere die Empfehlungen so, dass technische und nichttechnische Entscheidungsträger sie verstehen. Trenne verbindliche Regeln, Empfehlungen und offene Entscheidungen deutlich voneinander. Verwende keine Scheingenauigkeit und keine erfundenen Kennzahlen.

Schliesse mit:

- den drei dringendsten nächsten Schritten,
- den grössten verbleibenden Risiken,
- den Informationen, die für eine belastbare Entscheidung noch fehlen.

Leitlinien sind Arbeitsinstrumente

Eine KI-Leitlinie ist kein Dokument, das einmal beschlossen und danach abgelegt wird. Sie muss sich an der tatsächlichen Nutzung messen lassen. Neue Werkzeuge, neue Datenquellen und neue gesetzliche Vorgaben können Anpassungen nötig machen.

Die wichtigste Regel bleibt dabei erstaunlich schlicht: KI darf Arbeit unterstützen. Verantwortung, Urteil und die letzte Entscheidung bleiben dort, wo sie hingehören – bei Menschen, die ihre Entscheidung erklären können.

Weiterführende Beiträge

Weiterführende Quellen