Vertrauenswürdige KI

Ethische Fragen bleiben bei der Entwicklung von KI-Anwendungen aktuell häufig unberücksichtigt, die Vertrauenswürdigkeit einer KI-Anwendung ist insofern nutzerseitig nicht zwingend anzunehmen.

Weiters ist aufgrund der Komplexität des Themas Künstliche Intelligenz der Prozess der Begriffsdefinition von vertrauenswürdiger KI noch nicht abgeschlossen. Klare Definitionen schaffen aber Rechtssicherheit und erleichtern den Umgang mit KI-Systemen. Zusätzlich ist nicht nur die KI-Technologie selbst, sondern auch der Anwendungskontext ist für die Klassifikation/ethische Einstufung von KI von großer Bedeutung, denn ein und dieselbe KI-Technologie kann je nach Verwendung unter Umständen für unterschiedliche Zwecke eingesetzt werden.

Regulierungen hierzu könnten somit verbindliche Kriterien für KI-Systeme festlegen, die das Vertrauen in die Technologie erhöhen, aber unter Umständen aber auch ungesteuerte, potentiell gefährliche Technologieoutputs hemmen. Geeignete Zertifizierungsverfahren könnten i.d.S. das Vertrauen in KI erhöhen, dabei ist natürlich noch die eigene Dynamik selbstlernender Algorithmen zu berücksichtigen.

Summa summarum sind also Politik, Wirtschaft und Zivilgesellschaft gefordert, Rahmenbedingungen und KI-Anwendungen zu schaffen, die das Vertrauen der NutzerInnen markant erhöhen.

Eine gute allgemeine Diskussionsgrundlage hierfür ist z.B. das deutsche „Innovationsnetz KI für das Gemeinwohl“ oder auch entsprechende Materialien der KMU-Forschung bzw. des österreichischen BMBWF.

Unsere allgemeine und themenspezifische Ethikkompetenz bringen wir gerne in einschlägige Projektkontexte ein. Dabei gewährleistet unsere Expertise sowohl in Ingenieurpsychologie/Arbeitsanalyse als auch Arbeitsethik/Unternehmensethik hochwertige Projektinputs.