Digitale Medizin – Was ist ethisch verantwortbar?

In diesem Video geht es um das Thema Biases in Künstlicher Intelligenz

Weiterführende Hinweise und Literatur

• Das Thema „Biases“ im Zusammenhang mit KI hat mittlerweile viel Beachtung erfahren. Einige Initiativen haben auch versucht, die Herausforderung einmal erfahrbar zu machen bzw. zu visualisieren. Hier zwei Beispiele:

  • Jenseits des Kontextes der Gesundheit verdeutlicht dieses Computerspiel das Thema Diskriminierung beim Einsatz von KI in Personalabteilungen: https://www.survivalofthebestfit.com/
  • Die PAIR Webseite von Google bietet einiges zu diesem Thema zu entdecken. z.B. „Hidden Bias”: https://pair.withgoogle.com/explorables/hidden-bias/ sowie „Datasets Have Worldviews“: https://pair.withgoogle.com/explorables/dataset-worldviews/

• Wer sich mit vertiefend in das Thema Biases und KI einlesen möchte, dem seien folgende Artikel empfohlen:

  • Suresh, H., & Guttag, J. V. (2021). A Framework for Understanding Sources of Harm throughout the Machine Learning Life Cycle. Equity and Access in Algorithms, Mechanisms, and Optimization, 1–9. https://arxiv.org/abs/1901.10002
  • Ntoutsi, E., Fafalios, P., Gadiraju, U., Iosifidis, V., Nejdl, W., Vidal, M.-E., Ruggieri, S., Turini, F., Papadopoulos, S., Krasanakis, E., Kompatsiaris, I., Kinder-Kurlanda, K., Wagner, C., Karimi, F., Fernandez, M., Alani, H., Berendt, B., Kruegel, T., Heinze, C., … Staab, S. (2020). Bias in data-driven artificial intelligence systems—An introductory survey. WIREs Data Mining and Knowledge Discovery, 10(3), e1356. https://doi.org/10.1002/widm.1356
    
  • Hellström, T., Dignum, V., & Bensch, S. (2020). Bias in Machine Learning--What is it Good for?. arXiv preprint arXiv:2004.00686. https://doi.org/10.48550/arXiv.2004.00686
    
  • Mehrabi, N., Morstatter, F., Saxena, N., Lerman, K., & Galstyan, A. (2022). A Survey on Bias and Fairness in Machine Learning. ACM Computing Surveys, 54(6), 1–35. https://doi.org/10.1145/3457607
    
  • Leslie, D., Mazumder, A., Peppin, A., Wolters, M. K., & Hagerty, A. (2021). Does “AI” stand for augmenting inequality in the era of covid-19 healthcare? BMJ, 372, n304. https://doi.org/10.1136/bmj.n304