• Promovieren in der Forschungsgruppe

Power to the people(?) – (Wie) können Nutzende von ComAI-Anwendungen an Governance-Prozessen teilhaben?

Promotions-Projekt von Kim Lisa Ermler

“ChatGPT is my best friend. No joke. (…) I ask it for advice, vent to it, brainstorm ideas, even make big life decisions with it. Sometimes it honestly feels like it knows me better than people around me.”

In den letzten drei Jahren haben Chatbots wie ChatGPT massiv an Popularität gewonnen. Aus der Forschung zur Interaktion zwischen Mensch und Maschine wissen wir, dass Menschen dazu neigen, digitale Entitäten wie soziale Wesen zu behandeln – obwohl ihnen bewusst ist, dass das nicht der Fall ist. Wie der obenstehende Kommentar eines Reddit-Nutzers verdeutlicht, bauen Nutzer*innen etwa Freundschaften zu Chatbots auf, die sich genauso wichtig anfühlen wie – wenn nicht sogar wichtiger – als jene, die sie zu anderen Menschen pflegen. Was wir noch nicht wissen, ist, wie die Anbieter dieser Chatbots diese Beziehungen steuern und wie diese Steuerung von Nutzer*innen wahrgenommen wird.

Entsprechend beschäftigt sich die Dissertation mit der Frage, wie Anbieter von kommunikativer künstlicher Intelligenz (ComAI) die Beziehung zwischen Nutzer*innen und Chatbots regulieren. Ausgehend von der Beobachtung, dass Nutzer*innen Chatbots zunehmend als Begleiter*innen, Freund*innen oder Mentor*innen betrachten, untersucht die Arbeit, wie vier große ComAI-Anbieter – OpenAI, Anthropic, Google und Meta – diese Beziehungen durch sog. Content Moderation regulieren und wie diese Regulierung von Nutzer*innen wahrgenommen wird. In Studie 1 wird eine Längsschnittanalyse von Unternehmensrichtlinien, darunter Nutzungsbedingungen, Community-Richtlinien und Datenschutzrichtlinien, durchgeführt, um zentrale Content-Moderation-Themen zu identifizieren und ihre Entwicklung nachzuvollziehen. Studie 2 untersucht explizit, wie Anbieter die Beziehungen zwischen Nutzer*innen und Chatbots in diesen Richtlinien konzeptualisieren. In Studie 3 wird anhand von Datenspenden untersucht, inwieweit sich die Richtlinien mit dem tatsächlichen Verhalten der Chatbots in Gesprächen zwischen Nutzer*innen und Chatbots decken. Studie 4 wendet schließlich das Konzept der ‚Folk Theories‘ an, um zu verstehen, wie Nutzer*innen die Regulierung ihrer Beziehungen zu Chatbots wahrnehmen. Das übergeordnete Ziel der Arbeit besteht darin, herauszufinden, wie ComAI-Anbieter die Beziehungen zwischen Mensch und Chatbot regulieren und wie diese Steuerung die Nutzer*innenerfahrung prägt. Die Arbeit verbindet so Platform Governance Forschung mit Forschung zur Mensch-Maschine-Interaktion.

Kontakt

• Kim Lisa Ermler