Wie können wir ein stärkeres Bewusstsein für ethische Fragestellungen schaffen?
In unserer heutigen digitalen Welt sind ethische Fragestellungen von größter Bedeutung. Die Technologie entwickelt sich schnell und mit ihr entstehen neue Möglichkeiten, die viele ethische Bedenken aufwerfen können. Es ist daher unerlässlich, ein starkes Bewusstsein für diese Fragen zu schaffen, um sicherzustellen, dass Medien und Technologien verantwortungsbewusst und ethisch genutzt werden. Das Querschnittsthema Q4 hat sich im Rahmen des Forschungsverbunds ForDigitHealth mit Möglichkeiten beschäftigt, dieses Bewusstsein zu stärken.
Das Problem: Der Perspektivwechsel der Nutzer*innen
Ethische Fragestellungen sind mit vielen Forschungsbereichen, wie der Psychologie, der Informatik oder der Medizin verknüpft. In den wenigsten Fällen werden Aspekte der Ethik jedoch problematisiert oder reflektiert, da theoretische Überlegungen zugunsten wirtschaftlicher Faktoren zurückgestellt werden. Berücksichtigt wird häufig nur, was wirtschaftlich sinnvoll und umsetzbar ist. Dies gilt besonders für die Entwicklung von technischen Anwendungen, welche untrennbar mit ethischen Fragestellungen verbunden sind. Gerade in diesem stetig fortschreitendem Bereich besteht die Herausforderung Entwickler*innen und Appdesigner*innen für ein kritisches Bewusstsein zu sensibilisieren, das sie befähigt potenziell problematische Entscheidungen zu erkennen. Das gilt insbesondere für intelligente Systeme, also Künstliche Intelligenz und selbstlernende Systeme. Daher sollte bei der Entwicklung solcher Systeme für eine verstärkt nutzerzentrierte Entwicklung, aus der Perspektive der Endbenutzer*innen, plädiert und forciert werden, welche Vorrang vor ökonomischen Erwägungen besitzt.
„Dark Scenarios“: Bewusstsein durch die Simulation böser Absichten
Eine Möglichkeit, ein solches Bewusstsein zu schaffen, ist die Verwendung kreativer Ansätze, wie „Dark Scenarios“, um ethische Überlegungen in die Praxis zu integrieren. Bei „Dark Scenarios“ simulieren Entwickler*in oder Wissenschaftler*in „böse Absichten“, um zu überlegen, wie man technologische Designs missbrauchen könnte, um diesen vorzubeugen. Dieses Gedankenexperiment fördert die kreative Kommunikation und Zusammenarbeit für mögliche problematische Fragestellungen. Die Problemstellung erfolgt entweder auf der technischen Ebene oder der Benutzerebene. Danach wird ein Konzept, ein Prototyp, ausgewählt, beispielsweise ein Datensatz zur Leistung von Student*innen mit Beispiel-Datenzeilen und der Aufgabe das System auf seine Schwachstellen hin zu analysieren. Nach Analyse des Datensatzes könnte eine Nachhilfesoftware beispielsweise zu dem Schluss gelangen, nur Studierende mit guten Noten zu fördern und Studierende mit schlechten Noten zu vernachlässigen, weil bei diesen die Chance auf einen erfolgreichen Studienabschluss geringer sind und der Nutzen nicht im Verhältnis zum Aufwand stünde. Die Software würde in diesem Fall den Studienerfolg beeinflussen und langfristig zu einer Selektion unter Studierenden führen.
Eine andere Möglichkeit in Disziplinen außerhalb der Informatik, Wissenschaftler*innen für ethische Fragestellungen zu sensibilisieren besteht darin, ethische Problemstellungen bereits stärker im Studium zu verankern und zu thematisieren. Hier können Workshops und Impulsvorträge nützlich sein, um bereits eine frühe Bewusstseinsbildung vorzubeugen, indem ähnlich wie die den „Dark Scenarios“ über missbräuchliche Szenarien der eigenen Forschung gesprochen wird. Auch sollten Angebote zur Fort – und Weiterbildung in Bezug auf ethische Fragestellungen bestehen, um eine Weiterqualifizierung des bereits bestehenden wissenschaftlichen Personals anzustreben.
Insgesamt zeigen solche Gedankenexperimente, dass die Verwendung kreativer Ansätze zur Vermittlung von Ethik ein effektiver Weg ist, um Diskussionen zu fördern und praktisches Lernen zu initiieren. Ein stärkeres Bewusstsein für ethische Fragestellungen ist unerlässlich, um sicherzustellen, dass wir als Gesellschaft die Chancen und Herausforderungen der technologischen Entwicklung verantwortungsbewusst und wertvoll nutzen.
Das Wichtigste auf einen Blick
- Ethische Fragestellungen erhalten im Entwicklungsprozess technischer Anwendungen bislang nur wenig Aufmerksamkeit und werden oftmals zugunsten wirtschaftlicher Überlegungen zurückgestellt.
- Ein ethisches Bewusstsein kann durch einen Perspektivwechsel, der den/die Endbenutzer*in in den Mittelpunkt des Entwicklungsprozesses stellt, gestärkt werden.
- Ein nützliches Tool, um ethische Fragestellungen in die Praxis zu integrieren, ist es, „Dark Scenarios“, also die Simulation „böser Absichten“ anhand eines Fallbeispiels, zu praktizieren.
Autorin: Jasmin Rother
Publikationen