This video belongs to the openHPI course Digitale Medizin – Was ist ethisch verantwortbar?. Do you want to see more?
An error occurred while loading the video player, or it takes a long time to initialize. You can try clearing your browser cache. Please try again later and contact the helpdesk if the problem persists.
To enable the transcript, please select a language in the video player settings menu.
About this video
In diesem Video geht es um das Thema Biases in Künstlicher Intelligenz
Weiterführende Hinweise und Literatur
Das Thema „Biases“ im Zusammenhang mit KI hat mittlerweile viel Beachtung erfahren. Einige Initiativen haben auch versucht, die Herausforderung einmal erfahrbar zu machen bzw. zu visualisieren. Hier zwei Beispiele:
- Jenseits des Kontextes der Gesundheit verdeutlicht dieses Computerspiel das Thema Diskriminierung beim Einsatz von KI in Personalabteilungen: https://www.survivalofthebestfit.com/
- Die PAIR Webseite von Google bietet einiges zu diesem Thema zu entdecken. z.B. „Hidden Bias”: https://pair.withgoogle.com/explorables/hidden-bias/ sowie „Datasets Have Worldviews“: https://pair.withgoogle.com/explorables/dataset-worldviews/
Wer sich mit vertiefend in das Thema Biases und KI einlesen möchte, dem seien folgende Artikel empfohlen:
- Suresh, H., & Guttag, J. V. (2021). A Framework for Understanding Sources of Harm throughout the Machine Learning Life Cycle. Equity and Access in Algorithms, Mechanisms, and Optimization, 1–9. https://arxiv.org/abs/1901.10002
- Ntoutsi, E., Fafalios, P., Gadiraju, U., Iosifidis, V., Nejdl, W., Vidal, M.-E., Ruggieri, S., Turini, F., Papadopoulos, S., Krasanakis, E., Kompatsiaris, I., Kinder-Kurlanda, K., Wagner, C., Karimi, F., Fernandez, M., Alani, H., Berendt, B., Kruegel, T., Heinze, C., … Staab, S. (2020). Bias in data-driven artificial intelligence systems—An introductory survey. WIREs Data Mining and Knowledge Discovery, 10(3), e1356. https://doi.org/10.1002/widm.1356
- Hellström, T., Dignum, V., & Bensch, S. (2020). Bias in Machine Learning--What is it Good for?. arXiv preprint arXiv:2004.00686. https://doi.org/10.48550/arXiv.2004.00686
- Mehrabi, N., Morstatter, F., Saxena, N., Lerman, K., & Galstyan, A. (2022). A Survey on Bias and Fairness in Machine Learning. ACM Computing Surveys, 54(6), 1–35. https://doi.org/10.1145/3457607
- Leslie, D., Mazumder, A., Peppin, A., Wolters, M. K., & Hagerty, A. (2021). Does “AI” stand for augmenting inequality in the era of covid-19 healthcare? BMJ, 372, n304. https://doi.org/10.1136/bmj.n304