Schrödinger's Ethical Dataset

Schrödinger’s Ethical Dataset is an interactive, cat-themed web game created by Sahra Azadzoy and Leo Bayly Barton that positions you within the complex and contradictory task of achieving fairness in AI. You take on the role of a technical worker overseeing the creation of a cat dataset. Quickly you will find yourself stumbling through ethical dilemmas realizing how challenging it is to create a fair dataset.

Fairness in AI may seem simple at first: data + diversity = representation? But when it comes to implementation, you will quickly realize you might be chasing an illusion. How will you reconcile the strict categorizations needed by machine learning systems with the nuances of real life? Schrödinger’s Ethical Dataset doesn’t just raise awareness of biases in AI, it places you in the hot seat, confronting you with the real decisions made by the people behind datasets.

The game is informed by research from leading experts on bias in machine learning, such as Kate Crawford and Dora Zhao. Their research on dataset fairness helped us integrate real-world constraints and decision-making phases into the gameplay. Using viral cat memes as an analogy for real data the game takes you through the essential phases leading to dataset publication. Playfully shedding light on inconsistencies and biases that arise in data collection and labeling. Utilizing intuitive swiped-based interaction, a-la Tinder, the complexities of dataset creation become accessible and engaging.

Schrödinger’s Ethical Dataset challenges the illusion of fairness in AI, making an often abstract issue tangible through interactive play. By stepping into the role of a dataset worker, players gain first-hand experience of the impossible balancing act behind fair data. The project reaches beyond AI experts, inviting a wider audience into discussions about ethics, responsibility, and the hidden power structures behind algorithmic systems. Contributing to a growing dialogue about transparency and accountability in AI.

Deutsch

Schrödinger’s Ethical Dataset

Kannst du einen fairen Datensatz erstellen? Erlebe in diesem Webgame, wie komplex Fairness und Bias in KI-Modellen sein können!

„Schrödinger’s Ethical Dataset“ ist ein interaktives Webgame rund um Katzen, entwickelt von Sahra Azadzoy und Leo Bayly Barton. Das Spiel führt dich in die komplexe und widersprüchliche Aufgabe ein, Fairness in der KI zu erreichen. Du schlüpfst in die Rolle einer technischen Fachkraft und bist für die Erstellung eines Katzen-Datensatzes verantwortlich. Schon bald wirst du mit ethischen Dilemmata konfrontiert und merkst, wie schwierig es ist, einen fairen Datensatz zu erstellen.

Fairness in der KI mag zunächst einfach erscheinen: Daten + Vielfalt = Repräsentation? Doch bei der praktischen Umsetzung wird schnell klar, dass du möglicherweise einer Illusion hinterherjagst. Wie lassen sich die strikten Kategorien, die für maschinelle Lernsysteme erforderlich sind, mit den Nuancen des echten Lebens vereinbaren? Schrödinger's Ethical Dataset macht nicht nur auf Bias in der KI aufmerksam, sondern lässt dich selbst erleben, welche Entscheidungen hinter der Erstellung von Datensätzen stehen.

Das Spiel basiert auf der Forschung führender Expert*innen zu Bias im maschinellen Lernen, darunter Kate Crawford und Dora Zhao. Ihre Forschung zur Fairness von Datensätzen hat uns dabei geholfen, reale Herausforderungen und Entscheidungsprozesse in das Gameplay zu integrieren. Virale Katzen-Memes dienen dabei als Analogie zu echten Daten. Das Spiel führt dich durch die wichtigsten Phasen der Datensatzerstellung bis hin zur Veröffentlichung und macht dabei spielerisch auf Widersprüche und Bias aufmerksam, die bei der Datenerhebung und -kennzeichnung entstehen können. Durch eine intuitive, an Tinder angelehnte Swipe-Interaktion wird die komplexe Erstellung von Datensätzen zugänglich und unterhaltsam. 

Schrödinger's Ethical Dataset hinterfragt die Illusion von Fairness in der KI und macht ein oft abstraktes Thema durch interaktives Spiel greifbar. Indem du in die Rolle einer Person schlüpfst, die an der Erstellung eines Datensatzes arbeitet, erfährst du aus erster Hand den scheinbar unmöglichen Balanceakt hinter fairen Daten. Das Projekt richtet sich nicht nur an KI-Expert*innen, sondern lädt ein breiteres Publikum dazu ein, sich mit Fragen von Ethik und Verantwortung sowie den verborgenen Machtstrukturen hinter algorithmischen Systemen auseinanderzusetzen. Damit trägt es zu einem wachsenden Diskurs über Transparenz und Verantwortlichkeit in der KI bei.