Im BMBF geförderten Verbundprojekt gingen die Beteiligten der Frage nach, wie sich Online-Diskussionen durch den Einsatz von Künstlicher Intelligenz (KI) verbessern lassen. Außerdem wurde unter anderem erforscht, welche Faktoren die Akzeptanz einer KI im Kontext der Moderation von Online-Diskussionen beeinflussen. Dazu wurde ein Prototyp für eine KI-gestützte Moderationssoftware entwickelt.

Das Projekt wurde in Kooperation mit Liquid Democracy e.V. und dem Institut für Partizipatives Gestalten (IPG) durchgeführt. Beteiligte Wissenschaftler*innen der Heinrich-Heine-Universität waren Prof. Dr. Marc Ziegele, Dr. Katharina Gerl, Anke Stoll und Lena Wilms.

Digitale Plattformen sind im letzten Jahrzehnt wichtige Instrumente zur gemeinsamen Entwicklung von Ideen und Orte des politischen Meinungsaustausches geworden. Allerdings bedarf es erheblicher personeller Ressourcen, um die vielen Beiträge zu moderieren und auszuwerten. Ziel des Vorhabens war deshalb die Entwicklung eines Prototypen eines KI-gestützten Assistenz-Systems, das Moderierende und Organisierende von Online-Diskussionen bei der Sicherstellung der Diskussionsqualität unterstützt.

Der Prototyp wurde praxisnah konzipiert.  Dazu wurden User-Testings und unterschiedliche Befragungsmethoden sowie Design Thinking-Formate kombiniert. So wurden die Anforderungen der Zielgruppe partizipativ in den Entwicklungsprozess integriert. Veröffentlich wurde der Prototyp unter Open-Source-Lizenz auf Basis der Software adhocracy+ .

Folgende Schwerpunkte wurden bei der Entwicklung und Erprobung gesetzt:

• Die Reduzierung des Moderations-Aufwands, indem eine automatisierte und umfassende Analyse der Qualität von Diskussions-Beiträgen stattfindet.
• Die proaktive Unterstützung von Moderierenden bei der Beantwortung von problematischen und wenig argumentativen Beiträgen.
• Eine bessere Verwertbarkeit der Ergebnisse, indem durch Mechanismen der Gamifizierung die Zusammenfassung von Beiträgen durch Teilnehmende unterstützt wird.

Das Verständnis eines guten Diskurses wird aus der neueren Deliberationstheorie, der sogenannten inklusiven oder Typ 2 Deliberation abgeleitet (Bächtiger et al., 2010)¹. Die Forschung findet dabei starke Anhaltspunkte dafür, dass die Typ 2 Qualitätskriterien sowohl von (demokratischen) Anbietenden von Online-Diskursen sowie Diskutierenden selbst geteilt wird.

Typ 2 Deliberation zeichnet sich dabei durch zwei Merkmale aus:

1. Die Abwesenheit von Inzivilität. Diskutierende sollen also einen gewaltfreien Diskursraum vorfinden, in welchem Herabwürdigungen, Vulgarität sowie jede Form von Diskriminierung keinen Platz haben. Allen Teilnehmenden soll es so ermöglicht werden, die eigenen Sichtweisen und Erfahrungen in einem geschützten Rahmen zu äußern. Dies soll sowohl im Rahmen des Projekts mit Mitteln der automatisierten Detektion von Inzivilität als auch durch die Begleitung und Strukturierung der Diskussion durch Moderierende sichergestellt werden.
    
2. Zwar ist die um Abwesenheit von Inzivilität eine notwendige Bedingung für einen hochwertigen Diskurs, aber keine hinreichende. Diese äußert sich vielmehr im Vorhandensein der folgenden Indikatoren:
   
   
   • Rationalität: Es sollen Kommentare gefördert werden, die ihre Position mit Argumenten belegen, anderen Diskutierenden relevante Zusatzinformationen zur Verfügung stellen und die Debatte mit konstruktiven und sachlichen Lösungsvorschlägen bereichern.
   • ​​Reziprozität: Verständigungsorientierte Kommunikation kann nur dann entstehen, wenn die Sichtweisen aller Diskutierenden nicht nur gleichmäßig geäußert, sondern auch gehört werden (Kies, 2010)². Deswegen sind rationale Bezugnahmen, also dem inhaltlichen Aufgreifen eines Standpunktes Anderer (Graham & Witschge, 2003)³, ein essentieller Bestandteil guter Debatten. Im besten Falle äußert sich Reziprozität in kommunikativer Empathie.
   • Respekt: Respekt zeigt sich in unserem Verständnis nicht durch die bloße Abwesenheit von Inzivilität. Stattdessen sollen explizite Respektsbekundungen, Danksagungen sowie das Einhalten eines höflichen Umgangstones zu einem guten Diskursklima beitragen.
   • Austausch von persönlichen Erfahrungen: Auch die Äußerung persönlicher Erfahrungen und Emotionen hat im Rahmen guter Typ 2 Online-Diskussionen ihren legitimen Platz. Solche Inhalte haben dabei diskursförderliche Wirkung, da sie die Nachvollziehbarkeit von Standpunkten unterstützen und zu Empathie anregen.   

Im Rahmen von KOSMO wurde deshalb nicht nur ein Algorithmus zur Detektion von toxischen bzw. inzivilen Kommentaren entwickelt, sondern auch die Auswahl hochwertiger Kommentare durch einen Algorithmus unterstützt. Der Zweck des Algorithmus ist es dabei, besonders hochwertige Kommentare zeitnah aus der Masse aller Kommentare zu identifizieren. Moderierende können dann diesen positiven Diskursverlauf gezielt mit Hervorhebungen, Danksagungen, Zusatzinformationen sowie stimulierenden Anschlussfragen befördern. Zudem hilft ein Algorithmus zur Erkennung von Tatsachenbehauptungen den Moderierenden dabei, die Faktizität geteilter Zusatzinformationen sicherzustellen. 

Die KI ist dabei als unterstützendes Element konzipiert: Sie nimmt der Moderation Arbeit ab wo sie kann und markiert dafür die eingehenden Beiträge nach erlernten Kriterien. Dafür wird sie anhand von umfangreichen Trainingsdaten aus verschiedenen Online-Diskussionen trainiert. Diese wurden direkt durch Praxispartner*innen des Projekts bereitgestellt und per Hand für das Training der KI annotiert. KOSMO trifft dabei niemals eine selbstständig Moderationsentscheidungen, sondern unterbreitet Vorschläge für eine effiziente und wertschätzende Moderation.

Homepage KOSMO

Literaturnachweis:

¹Bächtiger, A., Pedrini, S., Ryser, M. (2010). Prozessanalyse politischer Entscheidungen: Deliberative Standards, Diskurstypen und Sequenzialisierung. In: Behnke, J., Bräuninger, T., Shikano, S. (eds) Jahrbuch für Handlungs- und Entscheidungstheorie. VS Verlag für Sozialwissenschaften. https://doi.org/10.1007/978-3-531-92428-1_7
²Kies, R. (2010). Promises and limits of web-deliberation. Springer.
³Graham, T., & Witschge, T. (2003). In search of online deliberation: Towards a new method for examining the quality of online discussions. Communications 28, 173-204.

• Weitere spannende Forschungsprojekte der Philosophischen Fakultät finden Sie hier.

• Die Wissenschaftskommunikation der Philiosophischen Fakultät