Künstliche Intelligenz braucht Ethik und Werte

KI-generierte Inhalte sind heute fast nicht mehr von echten Inhalten zu unterscheiden. Das eröffnet Möglichkeiten, Fakten und Wahrnehmungen zu manipulieren. Wenn IT-Geschäftsmodelle entwickelt werden, die KI nutzen – oder sogar von KI entwickelt werden – sind neue IT-Design-Methoden notwendig. Diese müssen sicherstellen, dass KI und ihre Anwendungen mit dem gewünschten Wertesystem übereinstimmen. 

An dieser Stelle kommt Value-based Engineering (VbE) ins Spiel. „VbE kommt eigentlich aus dem Ingenieurswesen. Der Ansatz zielt darauf ab, Innovationen unter Beachtung ethischer Vorgaben zu ermöglichen“, erklärt Sabine Singer, die mit ihrem Unternehmen Sophisticated Simplicity unter anderem an der Entwicklung des datahub.tirol mitwirkt. 

Eine besondere Herausforderung in der Konzeption des datahub.tirol bestand darin, ein Geschäftsmodell zu entwickeln, das höchsten Ansprüchen an Ethik und Werteorientierung gerecht wird. Value-based Engineering bot die richtige Methodik, um diesem Anspruch gerecht zu werden. Die Werte und Erwartungen der Stakeholder wurden in konkrete Systemanforderungen übersetzt, mögliche ethische Risiken im Vorhinein identifiziert. All dies führt dazu, dass der datahub.tirol nun auf rechtlich und ethisch hervorragendem Niveau operiert. 

Value-based Engineering bringt menschliche Werte ins IT-Design 

Value-based Engineering ist eine strategische Denkweise, die menschliche Werte im IT-Design-Prozess berücksichtigt. Ziel ist es, ethische Aspekte systematisch in die Entwicklung von KI-Systemen einzubeziehen. Dabei wird durch eine ethische Wertanalyse geklärt, welche Erwartungen an die Funktionen des KI-Systems bestehen und wie gesellschaftliche Werte durch dessen Nutzung negativ beeinflusst werden könnten. 

So schlägt Value-based Engineering eine Brücke zwischen ethischen Richtlinien, gesetzlichen Vorgaben oder unternehmerischen Zielen und den praktischen Anforderungen an das System. Es hilft, Risiken frühzeitig zu erkennen, zu bewältigen und deren mögliche Auswirkungen zu minimieren. 

Value-based Engineering unterscheidet sich dadurch grundsätzlich von herkömmlichen Datengeschäftsmodellen. Diese fokussieren häufig technische und wirtschaftliche Aspekte. VbE sorgt dafür, dass zusätzlich moralische und soziale Anforderungen erfüllt werden. „Dies schafft erstens einen Mehrwert für Kund:innen. Und es steigert das Vertrauen, das diese in ein Unternehmen und seine Produkte haben, weil sich diese als verantwortungsbewusst positionieren“, erklärt Sabine Singer. 

Der Mensch steht im Mittelpunkt 

Unternehmen und Organisationen, die für die Entwicklung ihrer IT- und KI-Applikationen Value-based Engineering verwenden, übernehmen Verantwortung für ihr technisches und organisatorisches Ökosystem. Sie entwickeln ihre Systeme und Produkte in enger Zusammenarbeit mit Stakeholder-Vertreter:innen. Und sie schätzen ab, welche Auswirkungen ihre Produkte und Dienstleistungen auf die Gesellschaft haben werden. 

Value-based Engineering respektiert insbesondere rechtliche Vorgaben und versucht keinesfalls, diese zu umgehen. Wenn es stichhaltige Gründe dafür gibt, bestimmte Systeme aufgrund moralischer Überlegungen nicht zu entwickeln, wird dies berücksichtigt, selbst wenn dies entgangene Gewinne zur Folge hat. 

Organisationen, die mittels VbE operieren, machen ihre ethischen Werte publik. Und sie denken stets mit, welche Risiken die von ihnen entwickelten Systeme mit sich bringen könnten. So gelingt es ihnen, diese frühzeitig zu adressieren. 

Value-based Engineering fördert den Digitalen Humanismus 

Die Digitalisierung eröffnet enorme Möglichkeiten, wirft aber auch ernsthafte Probleme auf. Dazu gehören die Monopolisierung des Webs, die Verbreitung extremistischer Verhaltensweisen durch soziale Medien, das Entstehen von Filterblasen und Echokammern, der Verlust der Privatsphäre und die zunehmende digitale Überwachung. 

Das „Wiener Manifest für Digitalen Humanismus“ aus dem Jahr 2019 stellt folgende Forderung auf: Technologien müssen nach menschlichen Werten und Bedürfnissen geformt werden. Es darf nicht zugelassen werden, dass Technologien Menschen formen. Damit dies erreicht wird, muss jede digitale Innovation den Mensch in den Mittelpunkt stellen – nur mögliche Nachteile der Digitalisierung einzudämmen, ist zu wenig. 

Die Kernforderungen des Wiener Manifests für digitalen Humanismus lassen sich wie folgt zusammenfassen: 

1. Förderung von Demokratie und Inklusion: Digitale Technologien sollen Ungleichheiten überwinden und eine inklusive Gesellschaft fördern. 

2. Schutz von Privatsphäre und Redefreiheit: Online-Plattformen müssen so gestaltet werden, dass Meinungsfreiheit und Privatsphäre geschützt sind. 

3. Faire und transparente Regulierung: Gesetze und Vorschriften sollen Fairness, Verantwortlichkeit und Transparenz in der Nutzung von Software und Algorithmen sicherstellen. 

4. Intervention gegen Technologiemonopole: Regulierungsbehörden müssen eingreifen, um Marktmonopole zu verhindern und Innovation zu fördern. 

5. Menschliche Entscheidungsverantwortung: Entscheidungen, die Menschenrechte betreffen, müssen von Menschen getroffen werden, nicht von automatisierten Systemen. 

6. Interdisziplinäre Zusammenarbeit: Technologische und wissenschaftliche Disziplinen müssen gemeinsam arbeiten, um komplexe Herausforderungen zu bewältigen. 

7. Verantwortung der Universitäten: Universitäten sollen kritisches Denken fördern und sich ihrer besonderen Verantwortung bewusst sein. 

8. Dialog mit der Gesellschaft: Forscher:innen sollen in offenen Dialog mit der Gesellschaft treten und ihre Arbeit reflektieren. 

9. Globale Verantwortung der IT-Praktiker:innen: Weltweit müssen IT-Praktiker:innen die Auswirkungen ihrer Technologien erkennen und verantwortungsvoll handeln. 

10. Neue Bildungsinhalte: Bildungsprogramme sollen Wissen aus Geistes-, Sozial- und Ingenieurwissenschaften kombinieren, um zukünftige Fachkräfte umfassend auszubilden. 

11. Frühzeitige Bildung: Die Ausbildung in Informatik und das Bewusstsein für deren gesellschaftliche Auswirkungen sollen so früh wie möglich beginnen. agentur Tirol; Lucas Pfeiffer, Land Tirol.