BSI veröffentlicht Whitepaper zur Transparenz von KI-Systemen

Bei den meisten Systemen handelt es sich um eine sogenannte Blackbox. Nach außen sind lediglich die Eingaben in das System und die Ausgaben des Systems sichtbar. Wie das System zur Ausgabe gelangt bleibt meist unklar und ist häufig nicht nachvollziehbar. Zudem ist der Wahrheitsgehalt der Ausgaben oft nicht nachprüfbar. Die zunehmende Komplexität der Systeme sowie fehlende oder mangelhafte Informationen darüber macht sowohl eine Einschätzung per Augenschein als auch die Beurteilung der Ausgaben hinsichtlich deren Vertrauenswürdigkeit nur schwer möglich.

Durch Transparenz sollen die Interessenträger (z.B. Verbraucher oder Entwickler) von KI-Systemen dazu befähigt sein, eigenständig zu entscheiden, ob ein System für ihre Bedarfe und Ziele geeignet ist. Dabei spielen unter anderem das Vermeiden von Urheberrechtsverletzungen, der Schutz der persönlichen Daten oder die IT-Sicherheit eine wesentliche Rolle. Daher definiert das BSI in dem Whitepaper den Begriff der Transparenz im Kontext von KI-Systemen für unterschiedliche Interessenträger. Um mit dem technischen Fortschritt schritthalten zu können, ist die im Whitepaper vorgestellte Definition von Transparenz so technologieneutral und zukunftstauglich wie möglich gehalten. Hiermit soll ebenso gewährleistet werden, dass die Definition nicht fortlaufend erneuert und angepasst werden muss. Zudem schließt die vorliegende Definition Informationen über das Ökosystem (wie z. B. den Anbieter oder den Entwicklungsprozess) mit ein und betrachtet so Transparenz über das eigentliche KI-System hinaus.

Im Whitepaper werden die einzelnen Elemente der Definition erläutert sowie der Bezug zu den Transparenzanforderungen der Verordnung über Künstliche Intelligenz (kurz: KI-Verordnung) des Europäischen Parlaments und des Rates hergestellt. Abschließend werden die Chancen und Risiken transparenter KI-Systeme beleuchtet. Dabei werden sowohl positive (z. B. das Fördern einer sicheren Nutzung) wie auch negative (z. B. die mögliche Offenlegung von Angriffsvektoren) Aspekte erörtert.

Das Whitepaper Transparenz von KI-Systemen (PDF) zum Download.