• Projekte

P4 | Governance: Das „Private Ordering“ kommunikativer KI durch Unternehmenskommunikation und Unternehmensregeln

• Prof. Dr. Christian Katzenbach /
• Kim Lisa Ermler /
• Luisa Runge

Wie funktioniert Content-Moderation bei Kommunikativer KI (ComAI)? Welche Probleme und Kontroversen müssen Technologieunternehmen dabei adressieren? Dieses Projekt untersucht Content-Moderation und Private Ordering —Regulierung durch Regeln privater Unternehmen anstelle staatlicher Regulierung — als zentrale Dimension dessen, wie neue Medien wie Communicative AI (ComAI) in der Praxis definiert und geprägt werden.

Die Entstehung neuer Technologien ist nicht nur ein technischer, sondern auch ein normativer Prozess: Unternehmen treffen folgenreiche Entscheidungen darüber, was ihre Produkte tun sollen und was nicht. Diese Entscheidungen können Teil breiterer öffentlicher Kontroversen werden. Wie sollten Systeme wie ChatGPT mit politischen Inhalten und potenzieller Desinformation umgehen? Wo verläuft die angemessene Grenze zwischen kreativer Inspiration und Urheberrechtsverletzung? Solche Fragen haben erhebliche Auswirkungen darauf, wie sich diese Medien letztlich etablieren und wie wir als Gesellschaft sie nutzen.

Vor diesem Hintergrund stellen wir in diesem Projekt zwei miteinander verbundene Fragen: Erstens, welche Regeln und Normen liegen dem Betrieb von ComAI-Systemen zugrunde? Zweitens, gelingt es öffentlichen Kontroversen und regulatorischen Maßnahmen, unternehmerische Entscheidungen wirksam herauszufordern oder neu zu gestalten?

Wir untersuchen diese Fragen anhand von vier Fällen — Alphabets Gemini, OpenAIs ChatGPT, Amazons Alexa und Mistral AIs Le Chat — die ausgewählt wurden, um Variation hinsichtlich Unternehmensgröße, geografischer Herkunft (USA vs. EU) und Anwendungstyp abzubilden.

Dabei kommen drei empirische Ansätze zum Einsatz: (1) die Analyse zentraler Kontroversen in der Medienberichterstattung, (2) die systematische Untersuchung von Nutzungsrichtlinien und Plattform-Guidelines sowie (3) die Analyse der Positionierung von Unternehmen innerhalb von Kontroversen durch ihre Unternehmenskommunikation.

Als Teil dieses Projekts erweitern wir zudem das Platform Governance Archive um eine eigene Sammlung, die die Richtlinien von ComAI- und GenAI-Produkten im Zeitverlauf dokumentiert und archiviert. Dies schafft eine wertvolle offene Ressource für die Forschungsgemeinschaft, die sich mit Platform Governance und der Entstehung von KI-Produkten befasst.

PUBLIKATIONEN:

• Bareis, J., & Katzenbach, C. (2021). Talking AI into Being: The Narratives and Imaginaries of National AI Strategies and Their Performative Politics. Science, Technology, & Human Values, 47(5), 855–881. doi:10.1177/01622439211030007
• Dergacheva, D. & Katzenbach, C. (2023a). Mandate to overblock? Understanding the impact of European Union’s Article 17 on copyright content moderation on YouTube. Policy & Internet. doi:10.1002/poi3.379
• Dergacheva, D. & Katzenbach, C. (2023b). „We learn through mistakes“: perspectives of social media creators on copyright moderation in the European Union. Social Media + Society. doi: 10.1177/20563051231220329
• Gorwa, R., Binns, R., & Katzenbach, C. (2020). Algorithmic content moderation: Technical and political challenges in the automation of platform governance: Big Data & Society, 7(1), 1–15. doi:10.1177/2053951719897945
• Hepp, A., Loosen, W., Dreyer, S., Jarke, J., Kannengießer, S., Katzenbach, C., Malaka, R., Pfadenhauer, M. P., Puschmann, C., & Schulz, W. (2023). ChatGPT, LaMDA, and the Hype Around Communicative AI: The Automation of Communication as a Field of Research in Media and Communication Studies. Human-Machine Communication, 6, 41–63. doi: 10.30658/hmc.6.4.
• Hofmann, J., Katzenbach, C., & Gollatz, K. (2017). Between coordination and regulation: Finding the governance in Internet governance. New Media & Society, 19(9), 1406–1423. doi:10.1177/1461444816639975
• Katzenbach, C. (2017). Die Regeln digitaler Kommunikation. Governance zwischen Norm, Diskurs und Technik. Springer VS. doi:10.1007/978-3-658-19337-9
• Katzenbach, C. (2018). There Is Always More Than Law! From Low IP Regimes To A Governance Perspective In Copyright Research. Journal of Technology Law and Policy, 22(2): 99-122. https://nbn-resolving.org/urn:nbn:de:0168-ssoar-55704-7
• Katzenbach, C. (2021a). “AI will fix this” – The Technical, Discursive, and Political Turn to AI in Governing Communication. Big Data & Society, 8(2), doi:10.1177/20539517211046182
• Katzenbach, C., Kopps, A., Magalhães, J. C., Redeker, D., Sühr, T., & Wunderlich, L. (2023). The Platform Governance Archive v1 – A longitudinal dataset to study the governance of communication and interactions by platforms and the historical evolution of platform policies [Data Paper]. doi:10.26092/ELIB/2331
• Katzenbach, C., & Ulbricht, L. (2019). Algorithmic governance. Internet Policy Review, 8(4). doi:10.14763/2019.4.1424
• Mager, A., & Katzenbach, C. (2021). Future imaginaries in the making and governing of digital technology: Multiple, contested, commodified. New Media & Society, 23(2), 223–236. doi:10.1177/1461444820929321
• Richter, V., Katzenbach, C., & Schäfer, M. S. (2023). Imaginaries of artificial intelligence. In S. Lindgren (Eds.), Handbook of Critical Studies of Artificial Intelligence (pp. 209–223). Edward Elgar Publishing. doi:10.4337/9781803928562.00024

VORTRÄGE:

Ermler, K., Katzenbach, C. (2026): Platform Goverance Archive: Forschungsdaten zu Regeln in Social Media und Generative AI. DGPuK Jahrestagung, Institut für Journalistik der Technischen Universität Dortmund.

Katzenbach, C., Ermler, K., Runge, L. (2025). To Ghibli or not to Ghibli? How Tech Companies Set Normative Standards on the Use of Generative Artificial Intelligence for Creative Practices. GenAI & Creative Practices: Past, Present, and Future, University of Amsterdam, Amsterdam.

Katzenbach, C., Ermler, K., Runge, L. (2025). Content Moderation, next Level? Emergence of Platform Governance from Social Media to Generative AI. PlatGovNet 2025, Online.