Politsnack | Adenauer Campus

Expertenbeitrag

Wer glaubt die Desinformation? Die anderen!

Dr. Jochen Roose Dominik Hirndorf

Dr. Jochen Roose ist promovierter Soziologe und ehemaliger Juniorprofessor an der Freien Universität Berlin. Der Experte für Methoden der empirischen Sozialforschung, Partizipation und europäische Integration ist seit 2018 in der Wahl- und Sozialforschung der Konrad-Adenauer-Stiftung tätig.

Dominik Hirndorf ist seit Juni 2020 Referent für Wahl- und Sozialforschung in der Hauptabteilung Analyse und Beratung der Konrad-Adenauer-Stiftung e.V., Berlin. Sein persönlicher Themenschwerpunkt liegt in der international vergleichenden Demokratieforschung sowie in den Bereichen Partizipation und politische Bildung.

]]>

Dr. Jochen Roose ist promovierter Soziologe und ehemaliger Juniorprofessor an der Freien Universität Berlin. Der Experte für Methoden der empirischen Sozialforschung, Partizipation und europäische Integration ist seit 2018 in der Wahl- und Sozialforschung der Konrad-Adenauer-Stiftung tätig.

Dominik Hirndorf ist seit Juni 2020 Referent für Wahl- und Sozialforschung in der Hauptabteilung Analyse und Beratung der Konrad-Adenauer-Stiftung e.V., Berlin. Sein persönlicher Themenschwerpunkt liegt in der international vergleichenden Demokratieforschung sowie in den Bereichen Partizipation und politische Bildung.

]]>

Die Verbreitung von Desinformation und Fake News macht den Menschen in Deutschland zunehmend Angst. Und das aus unterschiedlichen Gründen.

Desinformation – eine Gefahr

Neu ist das Phänomen nicht. Meinungen und politische Urteile beruhen neben Bewertungen auf Informationen, auf Wissen über Tatsachen und Zusammenhänge. Dies kann ein Ansatzpunkt sein, die öffentliche Meinung zu beeinflussen. Aufklärung über relevante Fakten kann Meinungen besser informieren. Doch es funktioniert auch andersherum: Strategische Falschinformationen können die öffentliche Meinung manipulieren.

Propaganda ist ein altes Mittel der Politik. Gefälschte Belege, dreiste Behauptungen: Vielfach wurden sie in der Weltgeschichte benutzt und immer wieder auch mal entlarvt. Gerade in Diktaturen mit kontrollierten Medien ergeben sich für die Machthaber viele Möglichkeiten der Manipulation.

Nicht nur gegenüber der eigenen Bevölkerung lässt sich Propaganda einsetzen. In den letzten Jahren wurde Desinformation zu einer verbreiteten Strategie bei der Destabilisierung anderer Länder. Dabei werden bewusst Falschinformationen verbreitet, um insbesondere in Demokratien Entscheidungen zu beeinflussen oder politische Systeme zu destabilisieren. Digitale Medien bieten dafür neue Potenziale. Die strategisch eingesetzte Desinformation erlebt eine regelrechte Blütezeit.

Angst vor Desinformation

Für Demokratien ist Desinformation besonders heikel. Demokratien leben von dem offenen Austausch, freier Meinungsäußerung und informierter Meinungsbildung. Die Meinungsfreiheit deckt gerade auch die Freiheit, Unsinn zu behaupten. Umso schwerer ist es, strategischer Desinformation entgegenzutreten.

Die Problematik von Desinformation, oft als Fake News in einem weiteren Sinne bezeichnet, ist den Menschen in Deutschland durchaus bewusst. Eine repräsentative Umfrage der Konrad-Adenauer-Stiftung zeigt: rund zwei Drittel der Wahlberechtigten in Deutschland haben große oder sehr große Angst vor Desinformation. 25 Prozent sagen, sie haben sehr große Angst vor der „Verbreitung von falschen Informationen über die Medien oder das Internet, sogenannte Fake News“. Weitere 39 Prozent haben große Angst. Keine Angst macht das mit 11 Prozent nur einer Minderheit.

Im Vergleich mit anderen gesellschaftlichen Bedrohungen steht die Angst vor Desinformation mit in der ersten Reihe. Der weltweite Klimawandel und Spannungen zwischen Europa und Russland haben den Deutschen zum Jahreswechsel 2022/23 ähnlich viel Angst gemacht, aber eine Wirtschaftskrise oder die Zuwanderung nach Deutschland rangieren bei den Ängsten weiter hinten.

Der Verdacht liegt nahe: Der Überfall auf die Ukraine im Februar 2022 und die Erwartung von einer damit zusammenhängenden russischen Desinformationskampagne haben die Angst nach oben getrieben. Doch so ist es nicht. Befragte, die in einer Umfrage um den Jahreswechsel 2021/2022 in den Wochen nach dem Angriff Russlands am 24. Februar 2022 befragt wurden, äußerten keine größere Angst vor der Verbreitung von Falschinformationen als die Gruppe der Befragten, die vor diesem Datum befragt wurden. Vielmehr lässt sich eine allmähliche Zunahme dieser Angst in den letzten drei Jahren beobachten. 2021 hatten 56 Prozent große oder sehr große Angst vor Desinformation. Zum Jahreswechsel 2022/23 ist dieser Anteil auf 64 Prozent gestiegen.

Der Gegenpol – öffentlich-rechtliche Medien

Gegen falsche Informationen helfen richtige Informationen. So einfach und doch so schwierig. Die Bevölkerung für ihre demokratische Meinungsbildung angemessen und unabhängig zu informieren, ist Aufgabe der freien Presse, aber besonders die Aufgabe des öffentlich-rechtlichen Rundfunks. Weniger von Werbeeinnahmen abhängig und kontrolliert von Gremien, in denen die gesellschaftlich relevanten Gruppen vertreten sind – dieses Konzept soll den Informationsauftrag möglichst demokratisch und vielfältig absichern.

Das Konzept des öffentlich-rechtlichen Rundfunks ist ein Erfolg. 60 Prozent haben sehr großes oder großes Vertrauen in die öffentlich-rechtlichen Medien. 70 Prozent halten politische Nachrichten in den öffentlich-rechtlichen Medien wie ARD und ZDF alles in allem für glaubwürdig. Ein Viertel allerdings widerspricht dieser Ansicht. Vor allem jene, die mit der in Deutschland bestehenden Demokratie sehr oder eher unzufrieden sind, misstrauen auch den öffentlich-rechtlichen Medien.

Wer hat Angst vor Desinformation?

Angst vor Desinformation findet sich aber bei allen. Menschen mit großem Vertrauen in die öffentlich-rechtlichen Medien haben zu einem sehr ähnlichen Anteil Angst vor Desinformation wie Menschen mit wenig Vertrauen in die Öffentlich-Rechtlichen. Wie kann das sein?

Die Bewertung einer Aussage über die Medien kann dieses Rätsel aufklären. Zur Einschätzung der Nähe zum Populismus sollten Befragte der folgenden Aussage zustimmen oder diese ablehnen: „Die Medien bringen nur das, was die Herrschenden vorgeben.“ Die These einer Elitenverschwörung von Politik und Medien gegen das Volk lehnen unter den Demokratiezufriedenen mit Vertrauen in öffentlich-rechtliche Medien 64 Prozent ab und nur 9 Prozent stimmen der Aussage zu. Bei den Demokratieunzufriedenen ohne Vertrauen in öffentlich-rechtliche Medien ist es umgekehrt: 59 Prozent stimmen der Mediensteuerung durch die Herrschenden zu und nur 15 Prozent lehnen dies ab.

Angst vor Desinformation gibt es in beiden Gruppen, denen mit Vertrauen und denen ohne Vertrauen in die öffentlich-rechtlichen Medien. Nur die Quelle der Desinformation wird unterschiedlich verortet. Die einen sehen in den öffentlich-rechtlichen Medien ein Bollwerk gegen Desinformation. Die anderen sehen die öffentlich-rechtlichen Medien selbst als Quelle der Desinformation. Angst macht beides.

Damit ergibt sich auch, wer an Desinformation glaubt. Es sind immer die anderen.

]]>

Die Verbreitung von Desinformation und Fake News macht den Menschen in Deutschland zunehmend Angst. Und das aus unterschiedlichen Gründen.

Desinformation – eine Gefahr

Neu ist das Phänomen nicht. Meinungen und politische Urteile beruhen neben Bewertungen auf Informationen, auf Wissen über Tatsachen und Zusammenhänge. Dies kann ein Ansatzpunkt sein, die öffentliche Meinung zu beeinflussen. Aufklärung über relevante Fakten kann Meinungen besser informieren. Doch es funktioniert auch andersherum: Strategische Falschinformationen können die öffentliche Meinung manipulieren.

Propaganda ist ein altes Mittel der Politik. Gefälschte Belege, dreiste Behauptungen: Vielfach wurden sie in der Weltgeschichte benutzt und immer wieder auch mal entlarvt. Gerade in Diktaturen mit kontrollierten Medien ergeben sich für die Machthaber viele Möglichkeiten der Manipulation.

Nicht nur gegenüber der eigenen Bevölkerung lässt sich Propaganda einsetzen. In den letzten Jahren wurde Desinformation zu einer verbreiteten Strategie bei der Destabilisierung anderer Länder. Dabei werden bewusst Falschinformationen verbreitet, um insbesondere in Demokratien Entscheidungen zu beeinflussen oder politische Systeme zu destabilisieren. Digitale Medien bieten dafür neue Potenziale. Die strategisch eingesetzte Desinformation erlebt eine regelrechte Blütezeit.

Angst vor Desinformation

Für Demokratien ist Desinformation besonders heikel. Demokratien leben von dem offenen Austausch, freier Meinungsäußerung und informierter Meinungsbildung. Die Meinungsfreiheit deckt gerade auch die Freiheit, Unsinn zu behaupten. Umso schwerer ist es, strategischer Desinformation entgegenzutreten.

Die Problematik von Desinformation, oft als Fake News in einem weiteren Sinne bezeichnet, ist den Menschen in Deutschland durchaus bewusst. Eine repräsentative Umfrage der Konrad-Adenauer-Stiftung zeigt: rund zwei Drittel der Wahlberechtigten in Deutschland haben große oder sehr große Angst vor Desinformation. 25 Prozent sagen, sie haben sehr große Angst vor der „Verbreitung von falschen Informationen über die Medien oder das Internet, sogenannte Fake News“. Weitere 39 Prozent haben große Angst. Keine Angst macht das mit 11 Prozent nur einer Minderheit.

Im Vergleich mit anderen gesellschaftlichen Bedrohungen steht die Angst vor Desinformation mit in der ersten Reihe. Der weltweite Klimawandel und Spannungen zwischen Europa und Russland haben den Deutschen zum Jahreswechsel 2022/23 ähnlich viel Angst gemacht, aber eine Wirtschaftskrise oder die Zuwanderung nach Deutschland rangieren bei den Ängsten weiter hinten.

Der Verdacht liegt nahe: Der Überfall auf die Ukraine im Februar 2022 und die Erwartung von einer damit zusammenhängenden russischen Desinformationskampagne haben die Angst nach oben getrieben. Doch so ist es nicht. Befragte, die in einer Umfrage um den Jahreswechsel 2021/2022 in den Wochen nach dem Angriff Russlands am 24. Februar 2022 befragt wurden, äußerten keine größere Angst vor der Verbreitung von Falschinformationen als die Gruppe der Befragten, die vor diesem Datum befragt wurden. Vielmehr lässt sich eine allmähliche Zunahme dieser Angst in den letzten drei Jahren beobachten. 2021 hatten 56 Prozent große oder sehr große Angst vor Desinformation. Zum Jahreswechsel 2022/23 ist dieser Anteil auf 64 Prozent gestiegen.

Der Gegenpol – öffentlich-rechtliche Medien

Gegen falsche Informationen helfen richtige Informationen. So einfach und doch so schwierig. Die Bevölkerung für ihre demokratische Meinungsbildung angemessen und unabhängig zu informieren, ist Aufgabe der freien Presse, aber besonders die Aufgabe des öffentlich-rechtlichen Rundfunks. Weniger von Werbeeinnahmen abhängig und kontrolliert von Gremien, in denen die gesellschaftlich relevanten Gruppen vertreten sind – dieses Konzept soll den Informationsauftrag möglichst demokratisch und vielfältig absichern.

Das Konzept des öffentlich-rechtlichen Rundfunks ist ein Erfolg. 60 Prozent haben sehr großes oder großes Vertrauen in die öffentlich-rechtlichen Medien. 70 Prozent halten politische Nachrichten in den öffentlich-rechtlichen Medien wie ARD und ZDF alles in allem für glaubwürdig. Ein Viertel allerdings widerspricht dieser Ansicht. Vor allem jene, die mit der in Deutschland bestehenden Demokratie sehr oder eher unzufrieden sind, misstrauen auch den öffentlich-rechtlichen Medien.

Wer hat Angst vor Desinformation?

Angst vor Desinformation findet sich aber bei allen. Menschen mit großem Vertrauen in die öffentlich-rechtlichen Medien haben zu einem sehr ähnlichen Anteil Angst vor Desinformation wie Menschen mit wenig Vertrauen in die Öffentlich-Rechtlichen. Wie kann das sein?

Die Bewertung einer Aussage über die Medien kann dieses Rätsel aufklären. Zur Einschätzung der Nähe zum Populismus sollten Befragte der folgenden Aussage zustimmen oder diese ablehnen: „Die Medien bringen nur das, was die Herrschenden vorgeben.“ Die These einer Elitenverschwörung von Politik und Medien gegen das Volk lehnen unter den Demokratiezufriedenen mit Vertrauen in öffentlich-rechtliche Medien 64 Prozent ab und nur 9 Prozent stimmen der Aussage zu. Bei den Demokratieunzufriedenen ohne Vertrauen in öffentlich-rechtliche Medien ist es umgekehrt: 59 Prozent stimmen der Mediensteuerung durch die Herrschenden zu und nur 15 Prozent lehnen dies ab.

Angst vor Desinformation gibt es in beiden Gruppen, denen mit Vertrauen und denen ohne Vertrauen in die öffentlich-rechtlichen Medien. Nur die Quelle der Desinformation wird unterschiedlich verortet. Die einen sehen in den öffentlich-rechtlichen Medien ein Bollwerk gegen Desinformation. Die anderen sehen die öffentlich-rechtlichen Medien selbst als Quelle der Desinformation. Angst macht beides.

Damit ergibt sich auch, wer an Desinformation glaubt. Es sind immer die anderen.

]]>

Interview

Gar nicht cringe: TikTok in der politischen Kommunikation

Finn Werner

Expertenbeitrag

Mehr Empathie beim Community Management!

Carolin Unger

Carolin Unger ist Sozialwissenschaftlerin und als Referentin in der Hauptabteilung Politische Bildung für die DigitalAkademie tätig. In dieser Funktion sowie in vorherigen Stationen befasst sie sich mit dem Zusammenhang von digitaler Kommunikation und demokratischen Prozessen.

]]>

Carolin Unger ist Sozialwissenschaftlerin und als Referentin in der Hauptabteilung Politische Bildung für die DigitalAkademie tätig. In dieser Funktion sowie in vorherigen Stationen befasst sie sich mit dem Zusammenhang von digitaler Kommunikation und demokratischen Prozessen.

]]>

Wer sich mit professionellem Social Media Management befasst, weiß schon lange: Community Management, also Konzeption, Aufbau, Betreuung und Optimierung der eigenen Followerschaft, ist essenziell für einen guten Account. Bei den sozialen Netzwerken bleiben Hasskommentare und Hetze leider oft nicht aus. Mit Gegenrede auf solche Kommentare zu reagieren kann sinnvoll sein, wenn die eigene Position deutlich gemacht werden muss. Aber wie ist zu reagieren, wenn die Social Media Beiträge hasserfüllt kommentiert werden? Löschen? Interagieren? Ignorieren?

Wann lohnt es sich, Hasskommentare zu beantworten?

Insbesondere, wenn Postings mit Falschnachrichten oder Verleumdungen kommentiert werden, sollte eine Gegendarstellung in Form von Gegenrede formuliert werden. Menschenfeindliche Äußerungen und Beleidigungen sind entweder zu löschen oder durch empathiebasierte Widerrede außer Kraft zu setzen. Eine wissenschaftliche Studie der ETH und der Universität Zürich konnte nachweisen, dass mit diesem Vorgehen die Hasskommentare unter Beiträgen deutlich reduziert werden können.

Was bedeutet empathiebasierte Widerrede und wie funktioniert sie?

Die Wissenschaftlerinnen und Wissenschaftler führten ein Feldexperiment durch und fanden heraus, dass empathiebasierte Widerrede in der Tat dazu beitragen kann, rassistische Äußerungen zu reduzieren. Die Studie betont die Bedeutung von Empathie und Mitgefühl im Umgang mit Hassrede und schlägt vor, dass solche Strategien als Teil von Kampagnen gegen Hassrede in sozialen Medien eingesetzt werden sollten.

Dominik Hangartner, Professor für Politikanalyse an der ETH Zürich, und sein Forschungsteam haben experimentell getestet, welche Strategien dazu führen können, dass Verfasserinnen und Verfasser von Hassrede in Zukunft auf Hassbotschaften verzichten. Dazu wurden Reaktionen auf Hassnachrichten von 1350 Twitter-Profilen untersucht.

Die Ergebnisse zeigen, dass Antworten auf Hasskommentare, die Empathie für die betroffene, diskriminierte Personengruppe aufbringt, die Verfasser zu einer Verhaltensänderung bewegen können. Eine beispielhafte Antwort könnte wie folgt klingen: „Ihr Post ist für Jüdinnen und Juden sehr schmerzhaft...“.

Welche Möglichkeiten der Gegenrede gibt es außerdem?

Die Forscherinnen und Forscher testeten neben der empathiebasierten Gegenrede auch, wie humorvolle Antworten oder Warnungen vor Konsequenzen auf Verfasser wirken. Sie konnten belegen, dass von allen drei Strategien nur Erstere konstante Effekte zur Reduzierung von fremdenfeindlicher Hassrede liefert.

Wie können die Ergebnisse konkret in Hinblick auf das eigene Community Management angewendet werden?

Verzichten Sie auf humorvolle, provozierende Gegenfragen. Unter Umständen motiviert diese Reaktion den Schreibenden nur weiter, Hass und Hetze unter Ihren Postings zu verbreiten.
Hinweise auf Konsequenzen führen laut den Forscherinnen und Forschern ebenfalls nicht zur gewünschten Reaktion. Natürlich kann ergänzend eine Netiquette erstellt und darauf hingewiesen werden.
Sollten die Kommentare rechtswidrige Inhalte enthalten, können diese durchaus zur Anzeige gebracht werden.

Direkte Ansprache der kommentierenden Person unter Verwendung des Namens und Verweis auf das Ausmaß, das die Äußerung hat. Hilfreich kann es sein, die vom Verfasser verhöhnte Gruppe bewusst zu nennen. Die Konrad-Adenauer-Stiftung arbeitet in verschiedenen Abteilungen daran, Menschen im Umgang mit Hass und Hetze zu helfen. So bietet die politische Kommunikation verschiedene Seminare zum Thema an. Mehr Informationen zum Seminarangebot sind hier zu finden.

Prof. Dr. Stefan Goertz erklärt in dieser Herleitung außerdem, wie Hate Speech zu extremistischer Gewalt führen kann.

Auch die DigitalAkademie der Konrad-Adenauer-Stiftung befasst sich mit Hass im Netz und hat dafür eine ganz bestimmte Zielgruppe auf dem Radar: Schülerinnen und Schüler. Cybermobbing, Hatespeech, Extremismus und Cybergrooming sind Phänomene, mit denen die junge Zielgruppe tagtäglich konfrontiert ist. Bei der DigitalAkademie werden die Schülerinnen und Schüler zu diesen Phänomenen geschult und bekommen Werkzeuge und Methoden an die Hand, mit denen sie dagegen vorgehen können.

]]>

Wer sich mit professionellem Social Media Management befasst, weiß schon lange: Community Management, also Konzeption, Aufbau, Betreuung und Optimierung der eigenen Followerschaft, ist essenziell für einen guten Account. Bei den sozialen Netzwerken bleiben Hasskommentare und Hetze leider oft nicht aus. Mit Gegenrede auf solche Kommentare zu reagieren kann sinnvoll sein, wenn die eigene Position deutlich gemacht werden muss. Aber wie ist zu reagieren, wenn die Social Media Beiträge hasserfüllt kommentiert werden? Löschen? Interagieren? Ignorieren?

Wann lohnt es sich, Hasskommentare zu beantworten?

Insbesondere, wenn Postings mit Falschnachrichten oder Verleumdungen kommentiert werden, sollte eine Gegendarstellung in Form von Gegenrede formuliert werden. Menschenfeindliche Äußerungen und Beleidigungen sind entweder zu löschen oder durch empathiebasierte Widerrede außer Kraft zu setzen. Eine wissenschaftliche Studie der ETH und der Universität Zürich konnte nachweisen, dass mit diesem Vorgehen die Hasskommentare unter Beiträgen deutlich reduziert werden können.

Was bedeutet empathiebasierte Widerrede und wie funktioniert sie?

Die Wissenschaftlerinnen und Wissenschaftler führten ein Feldexperiment durch und fanden heraus, dass empathiebasierte Widerrede in der Tat dazu beitragen kann, rassistische Äußerungen zu reduzieren. Die Studie betont die Bedeutung von Empathie und Mitgefühl im Umgang mit Hassrede und schlägt vor, dass solche Strategien als Teil von Kampagnen gegen Hassrede in sozialen Medien eingesetzt werden sollten.

Dominik Hangartner, Professor für Politikanalyse an der ETH Zürich, und sein Forschungsteam haben experimentell getestet, welche Strategien dazu führen können, dass Verfasserinnen und Verfasser von Hassrede in Zukunft auf Hassbotschaften verzichten. Dazu wurden Reaktionen auf Hassnachrichten von 1350 Twitter-Profilen untersucht.

Die Ergebnisse zeigen, dass Antworten auf Hasskommentare, die Empathie für die betroffene, diskriminierte Personengruppe aufbringt, die Verfasser zu einer Verhaltensänderung bewegen können. Eine beispielhafte Antwort könnte wie folgt klingen: „Ihr Post ist für Jüdinnen und Juden sehr schmerzhaft...“.

Welche Möglichkeiten der Gegenrede gibt es außerdem?

Die Forscherinnen und Forscher testeten neben der empathiebasierten Gegenrede auch, wie humorvolle Antworten oder Warnungen vor Konsequenzen auf Verfasser wirken. Sie konnten belegen, dass von allen drei Strategien nur Erstere konstante Effekte zur Reduzierung von fremdenfeindlicher Hassrede liefert.

Wie können die Ergebnisse konkret in Hinblick auf das eigene Community Management angewendet werden?

Verzichten Sie auf humorvolle, provozierende Gegenfragen. Unter Umständen motiviert diese Reaktion den Schreibenden nur weiter, Hass und Hetze unter Ihren Postings zu verbreiten.
Hinweise auf Konsequenzen führen laut den Forscherinnen und Forschern ebenfalls nicht zur gewünschten Reaktion. Natürlich kann ergänzend eine Netiquette erstellt und darauf hingewiesen werden.
Sollten die Kommentare rechtswidrige Inhalte enthalten, können diese durchaus zur Anzeige gebracht werden.

Direkte Ansprache der kommentierenden Person unter Verwendung des Namens und Verweis auf das Ausmaß, das die Äußerung hat. Hilfreich kann es sein, die vom Verfasser verhöhnte Gruppe bewusst zu nennen. Die Konrad-Adenauer-Stiftung arbeitet in verschiedenen Abteilungen daran, Menschen im Umgang mit Hass und Hetze zu helfen. So bietet die politische Kommunikation verschiedene Seminare zum Thema an. Mehr Informationen zum Seminarangebot sind hier zu finden.

Prof. Dr. Stefan Goertz erklärt in dieser Herleitung außerdem, wie Hate Speech zu extremistischer Gewalt führen kann.

Auch die DigitalAkademie der Konrad-Adenauer-Stiftung befasst sich mit Hass im Netz und hat dafür eine ganz bestimmte Zielgruppe auf dem Radar: Schülerinnen und Schüler. Cybermobbing, Hatespeech, Extremismus und Cybergrooming sind Phänomene, mit denen die junge Zielgruppe tagtäglich konfrontiert ist. Bei der DigitalAkademie werden die Schülerinnen und Schüler zu diesen Phänomenen geschult und bekommen Werkzeuge und Methoden an die Hand, mit denen sie dagegen vorgehen können.

]]>

Expertenbeitrag

Prebunking – Kann man gegen Fake News „impfen“?

Daniel Feldhaus

Daniel Feldhaus ist seit Oktober 2022 Referent für Politische Kommunikation in der Hauptabteilung Politische Bildung der Konrad-Adenauer-Stiftung e.V. Zuvor war er seit März 2016 in verschiedenen Leitungs- und Referentenfunktionen in der Politischen Bildung der Konrad-Adenauer-Stiftung tätig.

]]>

Daniel Feldhaus ist seit Oktober 2022 Referent für Politische Kommunikation in der Hauptabteilung Politische Bildung der Konrad-Adenauer-Stiftung e.V. Zuvor war er seit März 2016 in verschiedenen Leitungs- und Referentenfunktionen in der Politischen Bildung der Konrad-Adenauer-Stiftung tätig.

]]>

Desinformation und Manipulation sind gängige Phänomene der Online-Kommunikation. Wie lassen sich Fake News verlässlich erkennen und Unsicherheit vermeiden? Gegen die Flut an Falschinformationen kämpft bislang eine Armee. Oftmals ist der Schaden dann aber bereits angerichtet und das Vorgehen sehr mühsam. Mit Prebunking soll der Spieß nun umgedreht werden.

Fake News und das Problem des Widerstands

Wer in sozialen Netzwerken unterwegs ist, wird zwangsläufig mit Fake News konfrontiert. Im Unterschied zur unabsichtlichen Falschinformation sind Nutzerinnen und Nutzer hier Falschmeldungen ausgesetzt, die bewusst das Ziel der Manipulation verfolgen. In aller Regel bleibt nichts anderes übrig, als diesen Fake News Richtigstellungen oder korrekte Informationen entgegenzusetzen – hierbei handelt es sich um das sogenannte „Debunking“ von Desinformationen. Nicht immer gelingt es dabei, mit der Richtigstellung die Empfänger der Fake News zu erreichen: In letzter Instanz ist es diesen überlassen, ob sie den Fake News oder der Richtigstellung mehr Glauben schenken. Im schlechtesten Fall führt diese Diskrepanz zum Vertrauensverlust in Institutionen oder Medien.

Der Kampf ist anstrengend, denn Fake News werden oft von Horden von Trollen gestreut. Die Fakten-Checker und Klarstellerinnen können nur reagieren. Meistens sind die Recherchen aufwändig, brauchen Zeit und müssen fundiert sein, um nicht erneut angreifbar zu sein. Gezielte Fehlinformationen hingegen sind sehr schnell erstellt und verbreiten sich rasend. Eine Lösung des Problems könnte das Umdrehen von Reaktion in Aktion sein – Google will nun voranschreiten und kündigt eine Prebunking-Kampagne in Deutschland für Mitte 2023 an.

Mit Prebunking den Spieß umdrehen

Prebunking ist ein relativ neuer Trend um Fake News zu begegnen. Die Ankündigung von Google hat dem Thema nun weitere Aufmerksamkeit beschert. Im Kern geht es beim Prebunking darum, den Fake News vorzugreifen und die Rezipienten von Informationen für Manipulationsversuche zu sensibilisieren. Analog zur Impfung soll eine Resistenz aufgebaut werden. Die Infektion liegt noch nicht vor, die Falschmeldung ist noch nicht gestreut und dennoch ist der Körper vorbereitet und sich der Bedrohung bewusst.

Dieser Überlegung liegt eine Theorie aus der Sozialpsychologie zugrunde, die Inokulationstheorie (engl. Inoculation = Impfung). Diese wurde 1964 von William J. McGuire formuliert und geht davon aus, dass es gesellschaftlich akzeptierte Ansichten gibt, die von der Mehrheit der Gesellschaft einfach übernommen werden. McGuire untersuchte, unter welchen Umständen diese Ansichten beibehalten, in Frage gestellt oder komplett verworfen werden und was man dagegen tun kann. Er beobachtete, dass Menschen solche Ansichten nicht gut verteidigen können, da sie automatisch und mühelos übernommen wurden. Man könnte unterstützende Argumente zur Verteidigung liefern, viel effektiver scheint aber die Bereitstellung von Gegenargumenten zu sein.

Die Impfung gegen Fake News

Wie funktioniert dieses Impfen gegen Fake News nun? Im August 2022 haben Forscherinnen und Forscher der Universität Cambridge eine Studie veröffentlicht, in der sie genau dies untersucht haben. Sie haben fünf Kurzvideos entwickelt, die Menschen auf fünf unterschiedliche Manipulationstechniken vorbereiten sollten: emotional-manipulative Sprache, Widersprüchlichkeit, falsche Dichotomie, jemanden zum Sündenbock machen und der persönliche Angriff. Die falsche Dichotomie könnte erklärungsbedürftig sein: Bei ihr geht es darum, dass man vor die Wahl zwischen zwei Alternativen gestellt und so getan wird, als gäbe es keine weiteren Alternativen – die es allerdings gibt.

Der Inokulationstheorie folgend arbeiten die Videos anfangs selbst mit den Mitteln, gegen die sie aufklären wollen und enttarnen sie anschließend. Es wird erklärt, wie die Manipulation funktioniert und wie man damit umgehen muss. Laut Studie sind die Videos bewusst neutral gehalten, um eine möglichst große Anzahl an Menschen zu erreichen. In sieben Untersuchungen wurden Menschen diese Videos auf Youtube gezeigt und ihnen anschließend Fragen zu den thematisierten Manipulationstechniken gestellt. Die Forscherinnen und Forscher kommen zum Ergebnis, dass Menschen nach dem Ansehen der Videos ein besseres Verständnis für Manipulation haben und schneller erkennen, wenn eine Meldung sie manipulieren soll.

Hier kannst Du Dir die Videos ansehen:

Emotionale Sprache:
https://www.youtube.com/watch?v=ER64qa_qnWg&ab_channel=InfoInterventions

Persönliche Angriffe:
https://www.youtube.com/watch?v=f6_I_KQBGXg&ab_channel=InfoInterventions

Widersprüchlichkeit:
https://www.youtube.com/watch?v=lxaq_2uTgNo&ab_channel=InfoInterventions

Sündenbock:
https://www.youtube.com/watch?v=BdlBHh0FOtw&ab_channel=InfoInterventions

Falsche Dichotomie:
https://www.youtube.com/watch?v=gDfQHWQwJ8Q&ab_channel=InfoInterventions

Was hat Google vor?

Die Google-Tochter Jigsaw erarbeitet derzeit eine Prebunking-Kampagne, die auf die o.g. Erkenntnisse aufbaut. Ziel ist es, ukrainische Flüchtlinge vor Fake News, Manipulation und Stimmungsmache zu schützen. Die Kampagne soll erläutern, wie Fake News über ukrainische Flüchtlinge üblicherweise funktionieren und wie man sie erkennen kann. In den vergangenen Monaten wurde eine solche Kampagne bereits mit großem Erfolg in Polen, Tschechien und der Slowakei durchgeführt. Dort sahen rund ein Drittel der Bevölkerung die Videos und erste Untersuchungen haben gezeigt, dass der Anteil der Zuschauer, die Desinformation erkennen können, nach Ansehen der Videos um acht Prozent gestiegen ist.

Also klappt das alles? Vielleicht ist die „Impfung“ ein hoch gegriffenes Ziel. Es darf aber schon erwartet werden, dass die Empfänger der Botschaften gegenüber Fake News zukünftig sensibilisiert sind. Zumindest legen die bisherigen Untersuchungen nahe, dass Prebunking helfen kann.
Ist Prebunking besser als Debunking? Nun, Fake News werden nicht zu verhindern sein und auch die beste Prävention schützt nicht vollends. Wir werden weiterhin das Richtigstellen von Falschinformationen benötigen. Wenn aber von vornherein weniger Menschen überhaupt auf Fake News hereinfallen, ist damit allen geholfen.

]]>

Desinformation und Manipulation sind gängige Phänomene der Online-Kommunikation. Wie lassen sich Fake News verlässlich erkennen und Unsicherheit vermeiden? Gegen die Flut an Falschinformationen kämpft bislang eine Armee. Oftmals ist der Schaden dann aber bereits angerichtet und das Vorgehen sehr mühsam. Mit Prebunking soll der Spieß nun umgedreht werden.

Fake News und das Problem des Widerstands

Wer in sozialen Netzwerken unterwegs ist, wird zwangsläufig mit Fake News konfrontiert. Im Unterschied zur unabsichtlichen Falschinformation sind Nutzerinnen und Nutzer hier Falschmeldungen ausgesetzt, die bewusst das Ziel der Manipulation verfolgen. In aller Regel bleibt nichts anderes übrig, als diesen Fake News Richtigstellungen oder korrekte Informationen entgegenzusetzen – hierbei handelt es sich um das sogenannte „Debunking“ von Desinformationen. Nicht immer gelingt es dabei, mit der Richtigstellung die Empfänger der Fake News zu erreichen: In letzter Instanz ist es diesen überlassen, ob sie den Fake News oder der Richtigstellung mehr Glauben schenken. Im schlechtesten Fall führt diese Diskrepanz zum Vertrauensverlust in Institutionen oder Medien.

Der Kampf ist anstrengend, denn Fake News werden oft von Horden von Trollen gestreut. Die Fakten-Checker und Klarstellerinnen können nur reagieren. Meistens sind die Recherchen aufwändig, brauchen Zeit und müssen fundiert sein, um nicht erneut angreifbar zu sein. Gezielte Fehlinformationen hingegen sind sehr schnell erstellt und verbreiten sich rasend. Eine Lösung des Problems könnte das Umdrehen von Reaktion in Aktion sein – Google will nun voranschreiten und kündigt eine Prebunking-Kampagne in Deutschland für Mitte 2023 an.

Mit Prebunking den Spieß umdrehen

Prebunking ist ein relativ neuer Trend um Fake News zu begegnen. Die Ankündigung von Google hat dem Thema nun weitere Aufmerksamkeit beschert. Im Kern geht es beim Prebunking darum, den Fake News vorzugreifen und die Rezipienten von Informationen für Manipulationsversuche zu sensibilisieren. Analog zur Impfung soll eine Resistenz aufgebaut werden. Die Infektion liegt noch nicht vor, die Falschmeldung ist noch nicht gestreut und dennoch ist der Körper vorbereitet und sich der Bedrohung bewusst.

Dieser Überlegung liegt eine Theorie aus der Sozialpsychologie zugrunde, die Inokulationstheorie (engl. Inoculation = Impfung). Diese wurde 1964 von William J. McGuire formuliert und geht davon aus, dass es gesellschaftlich akzeptierte Ansichten gibt, die von der Mehrheit der Gesellschaft einfach übernommen werden. McGuire untersuchte, unter welchen Umständen diese Ansichten beibehalten, in Frage gestellt oder komplett verworfen werden und was man dagegen tun kann. Er beobachtete, dass Menschen solche Ansichten nicht gut verteidigen können, da sie automatisch und mühelos übernommen wurden. Man könnte unterstützende Argumente zur Verteidigung liefern, viel effektiver scheint aber die Bereitstellung von Gegenargumenten zu sein.

Die Impfung gegen Fake News

Wie funktioniert dieses Impfen gegen Fake News nun? Im August 2022 haben Forscherinnen und Forscher der Universität Cambridge eine Studie veröffentlicht, in der sie genau dies untersucht haben. Sie haben fünf Kurzvideos entwickelt, die Menschen auf fünf unterschiedliche Manipulationstechniken vorbereiten sollten: emotional-manipulative Sprache, Widersprüchlichkeit, falsche Dichotomie, jemanden zum Sündenbock machen und der persönliche Angriff. Die falsche Dichotomie könnte erklärungsbedürftig sein: Bei ihr geht es darum, dass man vor die Wahl zwischen zwei Alternativen gestellt und so getan wird, als gäbe es keine weiteren Alternativen – die es allerdings gibt.

Der Inokulationstheorie folgend arbeiten die Videos anfangs selbst mit den Mitteln, gegen die sie aufklären wollen und enttarnen sie anschließend. Es wird erklärt, wie die Manipulation funktioniert und wie man damit umgehen muss. Laut Studie sind die Videos bewusst neutral gehalten, um eine möglichst große Anzahl an Menschen zu erreichen. In sieben Untersuchungen wurden Menschen diese Videos auf Youtube gezeigt und ihnen anschließend Fragen zu den thematisierten Manipulationstechniken gestellt. Die Forscherinnen und Forscher kommen zum Ergebnis, dass Menschen nach dem Ansehen der Videos ein besseres Verständnis für Manipulation haben und schneller erkennen, wenn eine Meldung sie manipulieren soll.

Hier kannst Du Dir die Videos ansehen:

Emotionale Sprache:
https://www.youtube.com/watch?v=ER64qa_qnWg&ab_channel=InfoInterventions

Persönliche Angriffe:
https://www.youtube.com/watch?v=f6_I_KQBGXg&ab_channel=InfoInterventions

Widersprüchlichkeit:
https://www.youtube.com/watch?v=lxaq_2uTgNo&ab_channel=InfoInterventions

Sündenbock:
https://www.youtube.com/watch?v=BdlBHh0FOtw&ab_channel=InfoInterventions

Falsche Dichotomie:
https://www.youtube.com/watch?v=gDfQHWQwJ8Q&ab_channel=InfoInterventions

Was hat Google vor?

Die Google-Tochter Jigsaw erarbeitet derzeit eine Prebunking-Kampagne, die auf die o.g. Erkenntnisse aufbaut. Ziel ist es, ukrainische Flüchtlinge vor Fake News, Manipulation und Stimmungsmache zu schützen. Die Kampagne soll erläutern, wie Fake News über ukrainische Flüchtlinge üblicherweise funktionieren und wie man sie erkennen kann. In den vergangenen Monaten wurde eine solche Kampagne bereits mit großem Erfolg in Polen, Tschechien und der Slowakei durchgeführt. Dort sahen rund ein Drittel der Bevölkerung die Videos und erste Untersuchungen haben gezeigt, dass der Anteil der Zuschauer, die Desinformation erkennen können, nach Ansehen der Videos um acht Prozent gestiegen ist.

Also klappt das alles? Vielleicht ist die „Impfung“ ein hoch gegriffenes Ziel. Es darf aber schon erwartet werden, dass die Empfänger der Botschaften gegenüber Fake News zukünftig sensibilisiert sind. Zumindest legen die bisherigen Untersuchungen nahe, dass Prebunking helfen kann.
Ist Prebunking besser als Debunking? Nun, Fake News werden nicht zu verhindern sein und auch die beste Prävention schützt nicht vollends. Wir werden weiterhin das Richtigstellen von Falschinformationen benötigen. Wenn aber von vornherein weniger Menschen überhaupt auf Fake News hereinfallen, ist damit allen geholfen.

]]>

Interview

Was macht einen erfolgreichen Kommunalwahlkampf aus?

Benedikt Seemann

Expertenbeitrag

Schöne neue KI-Welt? Risiken im Umgang mit ChatGPT und Co.

Sebastian Weise

Sebastian Weise verantwortet in der Hauptabteilung Analyse und Beratung der Konrad-Adenauer-Stiftung die Stelle Digitale Demokratie. In dieser Funktion ist er Experte und Ansprechpartner sowohl für den Bereich Digitalisierung von Staat und Verwaltung als auch Digitalisierung politischer Parteien.

]]>

Sebastian Weise verantwortet in der Hauptabteilung Analyse und Beratung der Konrad-Adenauer-Stiftung die Stelle Digitale Demokratie. In dieser Funktion ist er Experte und Ansprechpartner sowohl für den Bereich Digitalisierung von Staat und Verwaltung als auch Digitalisierung politischer Parteien.

]]>

ChatGPT kann ein wertvolles Werkzeug sein. Die Nutzung der generativen Sprach-KI birgt aber auch einige Stolpersteine und Risiken. Genau diese stehen im zweiten Teil des Politsnacks zu ChatGPT im Vordergrund.

Sind von KI-generierte Werke eigentlich urheberrechtlich geschützt?

Diese Frage wird nicht nur unter Experten seit geraumer Zeit intensiv diskutiert. Sie stellt sich auch bei der Nutzung von ChatGPT – insbesondere dann, wenn Texte gar nicht oder nur sehr wenig verändert übernommen und veröffentlicht werden. Trotz der andauernden Fachdiskussion kann man festhalten, dass KI-generierte Texte zunächst eigentlich nicht dem Urheberschutz unterliegen. Ihnen fehlt – etwas vereinfacht zusammengefasst – die menschliche Schöpfung. Völlig unproblematisch ist ChatGPT aber dennoch nicht, da die damit verbundene KI mit einer enormen Vielzahl an Dokumenten und Daten trainiert worden ist, über die nur sehr wenig bekannt ist. Es ist möglich, dass in den ursprünglichen Trainingsdaten urheberrechtlich geschützte Werke enthalten waren. Sollte auf deren Basis ein Text erstellt werden, welcher noch immer eine starke Ähnlichkeit zu einem urheberrechtlich geschützten Werk aus den Trainingsdaten aufweist, wäre auch der durch die KI neu generierte Text urheberrechtlich geschützt. Dieses Problem wird dadurch verschärft, dass ChatGPT von selbst keine Quellen angibt und wenn man die Ausgabe solcher anweist, Quellenangaben oft inkorrekt sind. Für Nutzer bedeutet das, dass Vorsicht vor allem dann geboten ist, wenn Texte eins-zu-eins oder nur marginal verändert veröffentlicht werden. Hier müssen Mechanismen genutzt werden, welche das Risiko möglicher Urheberrechtsverletzungen minimieren.

Stolperstein Nummer 2: Datenschutz und ChatGPT?

Ein weiteres Problem ergibt sich beim Datenschutz. Auch hier kann man aktuell nicht sicher sein, dass in den Trainingsdaten keine besonders schützenswerten Daten enthalten waren und entsprechend verarbeitet wurden. Verstärkt wird dieses Problem dadurch, dass selbst wenn personenbezogene Daten rechtmäßig verfügbar waren, ihre erneute Nutzung und Verarbeitung – wie etwa beim Training von KI-Systemen wie ChatGPT – dennoch einen datenschutzrechtlichen Verstoß darstellen kann. Darüber hinaus ist auch bis heute unklar, wie die Trainingsdaten gesammelt worden sind. Dies ist insofern heikel, da allein schon das massenhafte, automatisierte Einsammeln von öffentlich verfügbaren Daten, rechtlich problematisch ist (auch aber nicht nur aus datenschutzrechtlichen Gründen). Eine weitere offene Frage stellt der Umgang mit Nutzerdaten dar. Aktuell ist zwar klar, dass OpenAI Nutzerdaten und –verhalten speichert und verarbeitet, u.a. um ChatGPT weiterzuentwickeln. Unklar ist hierbei aber, nach welchen Regeln Datensätze genau erfasst und gespeichert werden oder wie Datensätze gelöscht bzw. widerrufene Nutzungsrechte berücksichtigt werden. Weiterhin werden die Daten auf US-amerikanischen Servern gespeichert, wodurch die Frage des überhaupt anzuwendenden und durchsetzbaren Rechts aufgeworfen wird. Für den Nutzer bedeutet dies, dass man wissen sollte, dass die generierten Texte nicht automatisch datenschutzrechtlich konform sind und auch beim Umgang mit Nutzerdaten offene Fragen bestehen.

Zwei weitere Hinweise für eine selbstbestimmte Nutzung von ChatGPT

Authentizität und Transparenz kommen in der politischen Kommunikation eine bedeutende Rolle zu. Gepaart mit der für Deutschland typischen Skepsis gegenüber technologischen Innovationen scheint es daher nur geboten zu sein, den Rückgriff auf ChatGPT bei der Erstellung von veröffentlichten Texten kenntlich zu machen. Hierdurch schafft man nicht nur Transparenz. Man unterstreicht auch die Offenheit für technologische Neuerungen und macht den Mehrwert von KI für Dritte sichtbar. Im Lichte der Vielzahl offener rechtlicher Fragen sollte man weder personenbezogene, sensible und sicherheitsrelevante Daten eingeben. Letzteres hebt übrigens auch OpenAI in seinen FAQ selbst hervor.

Das Risiko der Manipulation öffentlicher Debatten

Bereits kurz nach dem Erscheinen von ChatGPT hat eine Studie nachgewiesen, dass die Anwendung Fake-News und manipulative Erzählungen ohne Einordnung reproduziert, wenn man gezielt nach solchen Inhalten fragt. Entsprechend dessen kann man davon ausgehen, dass bereits in den Trainingsdaten Fake-News und manipulative Erzählungen enthalten waren, welche auch durch menschliche Interventionen nicht herausgefiltert worden sind. Dieser Umstand kombiniert mit der eloquenten Sprache und fehlenden Quellenangaben kann es für Nutzer schwierig machen, bei den von ChatGPT generierten Antworten zwischen Desinformation und Wahrheit zu unterscheiden. Anders als manch reißerische Überschrift suggeriert, macht dies die Anwendung von OpenAI nicht zu einem superspreader für Falschinformationen. Wohl aber ist für jeden Nutzer eine kritische Überprüfung der Antworten unerlässlich.

Zusätzlich zu diesem Aspekt warnen manche Experten davor, dass generative KI-Modelle in Zukunft für die Erstellung überzeugenderer Fake-News und entsprechender Kampagnen genutzt werden könnten. Neben noch wirkmächtigeren Desinformationen besteht auch das Risiko, dass Desinformationen im digitalen Raum zunehmen, weil generative KI-Sprach-Modelle die Zugangshürden zu Instrumenten der böswilligen Manipulation der öffentlichen Meinung absenken. Ein weiteres, hypothetisches Risikoszenario stellt ein „böswilliger Lobbyismus auf KI“ dar. Wäre es doch denkbar: 1) über automatisiert erstellte und echt wirkende Bürgeranfragen die Wahrnehmung von Interessenlagen bei politischen Entscheidungsträgern zu verzerren, 2) dass unzählige, automatisierte Anfragen Institutionen und Stäbe von Mandatsträgern lähmen, 3) mittels KI-generierten Stellungnahmen Konsultationsprozesse von Regierungen „zu verstopfen“.

Antwortmaschinen statt Suchmaschinen – Die schöne neue Welt mit ChatGPT

Für viele Experten gilt es als ausgemacht, dass ChatGPT und ähnliche KI-Modelle die Struktur des digitalen Raums verändern werden. Konkret wird erwartet, dass generative Sprachmodelle in Zukunft im Bereich der Suchmaschinen Anwendung finden. Dies soll dazu führen, dass statt langer Listen von Links direkt Antworten in natürlich anmutender Sprache über Suchmaschinen ausgegeben werden. Aus Suchmaschinen werden also Antwortmaschinen, welche direkt an menschliche Gesprächsgewohnheiten andocken. Im Ergebnis kann das dazu führen, dass Menschen die Informationen der digitalen Welt in Zukunft direkt abrufen, statt sie – wie heute – aus verschiedenen Internetseiten zusammen zu suchen. Diese neuen Antwortmaschinen könnten so zu Machtzentren im öffentlichen Diskursraum aufsteigen.

Damit würde sich nicht allein die Frage nach der angemessenen Rolle privatwirtschaftlicher Akteure im Bereich der Meinungsbildung erneut aufdrängen. Es stellt sich ebenso die Frage, was dies für die politische Kommunikation bedeutet. Eine Frage, die eben nicht so einfach zu beantworten ist, so lange weder die Geschäftsmodelle zur Monetarisierung solcher KI-Modelle offenliegen noch die damit verbundenen, regulatorischen Herausforderungen und Anpassungen. Zwar ist es denkbar, dass sich die alten Probleme des free service for your data-Paradigmas im neuen Gewand stellen. Es sind aber auch adaptierte oder neue Geschäftsmodelle denkbar, wie etwa jenes Abomodell, welches das angekündigte ChatGPT-Pro darstellen würde.

]]>

ChatGPT kann ein wertvolles Werkzeug sein. Die Nutzung der generativen Sprach-KI birgt aber auch einige Stolpersteine und Risiken. Genau diese stehen im zweiten Teil des Politsnacks zu ChatGPT im Vordergrund.

Sind von KI-generierte Werke eigentlich urheberrechtlich geschützt?

Diese Frage wird nicht nur unter Experten seit geraumer Zeit intensiv diskutiert. Sie stellt sich auch bei der Nutzung von ChatGPT – insbesondere dann, wenn Texte gar nicht oder nur sehr wenig verändert übernommen und veröffentlicht werden. Trotz der andauernden Fachdiskussion kann man festhalten, dass KI-generierte Texte zunächst eigentlich nicht dem Urheberschutz unterliegen. Ihnen fehlt – etwas vereinfacht zusammengefasst – die menschliche Schöpfung. Völlig unproblematisch ist ChatGPT aber dennoch nicht, da die damit verbundene KI mit einer enormen Vielzahl an Dokumenten und Daten trainiert worden ist, über die nur sehr wenig bekannt ist. Es ist möglich, dass in den ursprünglichen Trainingsdaten urheberrechtlich geschützte Werke enthalten waren. Sollte auf deren Basis ein Text erstellt werden, welcher noch immer eine starke Ähnlichkeit zu einem urheberrechtlich geschützten Werk aus den Trainingsdaten aufweist, wäre auch der durch die KI neu generierte Text urheberrechtlich geschützt. Dieses Problem wird dadurch verschärft, dass ChatGPT von selbst keine Quellen angibt und wenn man die Ausgabe solcher anweist, Quellenangaben oft inkorrekt sind. Für Nutzer bedeutet das, dass Vorsicht vor allem dann geboten ist, wenn Texte eins-zu-eins oder nur marginal verändert veröffentlicht werden. Hier müssen Mechanismen genutzt werden, welche das Risiko möglicher Urheberrechtsverletzungen minimieren.

Stolperstein Nummer 2: Datenschutz und ChatGPT?

Ein weiteres Problem ergibt sich beim Datenschutz. Auch hier kann man aktuell nicht sicher sein, dass in den Trainingsdaten keine besonders schützenswerten Daten enthalten waren und entsprechend verarbeitet wurden. Verstärkt wird dieses Problem dadurch, dass selbst wenn personenbezogene Daten rechtmäßig verfügbar waren, ihre erneute Nutzung und Verarbeitung – wie etwa beim Training von KI-Systemen wie ChatGPT – dennoch einen datenschutzrechtlichen Verstoß darstellen kann. Darüber hinaus ist auch bis heute unklar, wie die Trainingsdaten gesammelt worden sind. Dies ist insofern heikel, da allein schon das massenhafte, automatisierte Einsammeln von öffentlich verfügbaren Daten, rechtlich problematisch ist (auch aber nicht nur aus datenschutzrechtlichen Gründen). Eine weitere offene Frage stellt der Umgang mit Nutzerdaten dar. Aktuell ist zwar klar, dass OpenAI Nutzerdaten und –verhalten speichert und verarbeitet, u.a. um ChatGPT weiterzuentwickeln. Unklar ist hierbei aber, nach welchen Regeln Datensätze genau erfasst und gespeichert werden oder wie Datensätze gelöscht bzw. widerrufene Nutzungsrechte berücksichtigt werden. Weiterhin werden die Daten auf US-amerikanischen Servern gespeichert, wodurch die Frage des überhaupt anzuwendenden und durchsetzbaren Rechts aufgeworfen wird. Für den Nutzer bedeutet dies, dass man wissen sollte, dass die generierten Texte nicht automatisch datenschutzrechtlich konform sind und auch beim Umgang mit Nutzerdaten offene Fragen bestehen.

Zwei weitere Hinweise für eine selbstbestimmte Nutzung von ChatGPT

Authentizität und Transparenz kommen in der politischen Kommunikation eine bedeutende Rolle zu. Gepaart mit der für Deutschland typischen Skepsis gegenüber technologischen Innovationen scheint es daher nur geboten zu sein, den Rückgriff auf ChatGPT bei der Erstellung von veröffentlichten Texten kenntlich zu machen. Hierdurch schafft man nicht nur Transparenz. Man unterstreicht auch die Offenheit für technologische Neuerungen und macht den Mehrwert von KI für Dritte sichtbar. Im Lichte der Vielzahl offener rechtlicher Fragen sollte man weder personenbezogene, sensible und sicherheitsrelevante Daten eingeben. Letzteres hebt übrigens auch OpenAI in seinen FAQ selbst hervor.

Das Risiko der Manipulation öffentlicher Debatten

Bereits kurz nach dem Erscheinen von ChatGPT hat eine Studie nachgewiesen, dass die Anwendung Fake-News und manipulative Erzählungen ohne Einordnung reproduziert, wenn man gezielt nach solchen Inhalten fragt. Entsprechend dessen kann man davon ausgehen, dass bereits in den Trainingsdaten Fake-News und manipulative Erzählungen enthalten waren, welche auch durch menschliche Interventionen nicht herausgefiltert worden sind. Dieser Umstand kombiniert mit der eloquenten Sprache und fehlenden Quellenangaben kann es für Nutzer schwierig machen, bei den von ChatGPT generierten Antworten zwischen Desinformation und Wahrheit zu unterscheiden. Anders als manch reißerische Überschrift suggeriert, macht dies die Anwendung von OpenAI nicht zu einem superspreader für Falschinformationen. Wohl aber ist für jeden Nutzer eine kritische Überprüfung der Antworten unerlässlich.

Zusätzlich zu diesem Aspekt warnen manche Experten davor, dass generative KI-Modelle in Zukunft für die Erstellung überzeugenderer Fake-News und entsprechender Kampagnen genutzt werden könnten. Neben noch wirkmächtigeren Desinformationen besteht auch das Risiko, dass Desinformationen im digitalen Raum zunehmen, weil generative KI-Sprach-Modelle die Zugangshürden zu Instrumenten der böswilligen Manipulation der öffentlichen Meinung absenken. Ein weiteres, hypothetisches Risikoszenario stellt ein „böswilliger Lobbyismus auf KI“ dar. Wäre es doch denkbar: 1) über automatisiert erstellte und echt wirkende Bürgeranfragen die Wahrnehmung von Interessenlagen bei politischen Entscheidungsträgern zu verzerren, 2) dass unzählige, automatisierte Anfragen Institutionen und Stäbe von Mandatsträgern lähmen, 3) mittels KI-generierten Stellungnahmen Konsultationsprozesse von Regierungen „zu verstopfen“.

Antwortmaschinen statt Suchmaschinen – Die schöne neue Welt mit ChatGPT

Für viele Experten gilt es als ausgemacht, dass ChatGPT und ähnliche KI-Modelle die Struktur des digitalen Raums verändern werden. Konkret wird erwartet, dass generative Sprachmodelle in Zukunft im Bereich der Suchmaschinen Anwendung finden. Dies soll dazu führen, dass statt langer Listen von Links direkt Antworten in natürlich anmutender Sprache über Suchmaschinen ausgegeben werden. Aus Suchmaschinen werden also Antwortmaschinen, welche direkt an menschliche Gesprächsgewohnheiten andocken. Im Ergebnis kann das dazu führen, dass Menschen die Informationen der digitalen Welt in Zukunft direkt abrufen, statt sie – wie heute – aus verschiedenen Internetseiten zusammen zu suchen. Diese neuen Antwortmaschinen könnten so zu Machtzentren im öffentlichen Diskursraum aufsteigen.

Damit würde sich nicht allein die Frage nach der angemessenen Rolle privatwirtschaftlicher Akteure im Bereich der Meinungsbildung erneut aufdrängen. Es stellt sich ebenso die Frage, was dies für die politische Kommunikation bedeutet. Eine Frage, die eben nicht so einfach zu beantworten ist, so lange weder die Geschäftsmodelle zur Monetarisierung solcher KI-Modelle offenliegen noch die damit verbundenen, regulatorischen Herausforderungen und Anpassungen. Zwar ist es denkbar, dass sich die alten Probleme des free service for your data-Paradigmas im neuen Gewand stellen. Es sind aber auch adaptierte oder neue Geschäftsmodelle denkbar, wie etwa jenes Abomodell, welches das angekündigte ChatGPT-Pro darstellen würde.

]]>

Expertenbeitrag

Revolutioniert ChatGPT die politische Kommunikation?

Sebastian Weise

Sebastian Weise verantwortet in der Hauptabteilung Analyse und Beratung der Konrad-Adenauer-Stiftung die Stelle Digitale Demokratie. In dieser Funktion ist er Experte und Ansprechpartner sowohl für den Bereich Digitalisierung von Staat und Verwaltung als auch Digitalisierung politischer Parteien.

]]>

Sebastian Weise verantwortet in der Hauptabteilung Analyse und Beratung der Konrad-Adenauer-Stiftung die Stelle Digitale Demokratie. In dieser Funktion ist er Experte und Ansprechpartner sowohl für den Bereich Digitalisierung von Staat und Verwaltung als auch Digitalisierung politischer Parteien.

]]>

Aktuell ist ChatGPT in aller Munde. Was hat es damit auf sich und welche Möglichkeiten bietet die künstliche Intelligenz für die politische Kommunikation?

Was ist ChatGPT eigentlich?

ChatGPT ist ein textbasierter Chatbot des US-amerikanischen Unternehmens OpenAI, der menschliche Sprache imitiert. Diese Fähigkeit beruht auf einem „großen KI-Sprachmodell“, auch KI-Foundation-Modell genannt, welches durch eine enorme Menge an online-verfügbaren Textdateien und menschliche Interventionen trainiert worden ist.

Auch wenn es so scheint, sollten wir uns bewusst machen, dass ChatGPT nicht den Sinn von Fragen und Anweisungen versteht. Vielmehr sind es Mathematik und Statistik, die ChatGPTs Antworten ermöglichen. Der zentrale Mechanismus dahinter ist, dass ChatGPT immer jene Worte ausgibt, die mit der höchsten Wahrscheinlichkeit auf die vorangegangenen Worte folgen. ChatGPT generiert also vor allem statistisch fundierte Muster menschlicher Sprache. Neben OpenAI nutzen zwar auch andere Unternehmen heute schon ganz ähnliche KI-Technologien. ChatGPT ist allerdings die erste Anwendung, welche den heutigen Stand an KI-Modellen zur natürlichen Sprachverarbeitung einer weltweiten Öffentlichkeit frei und einfach zugänglich gemacht hat.

Wie kann ich ChatGPT für die politische Kommunikation nutzen?

Mit ChatGPT kann man in verschiedenen Sprachen Texte generieren, vervollständigen, übersetzen, überarbeiten und klassifizieren. Auch Fragen werden beantwortet – in beeindruckend natürlich anmutender Sprache. Für die politische Kommunikation kann es genutzt werden, um Informationen zu recherchieren und zusammenzufassen; Dokumente zu übersetzen; Entwürfe für Texte und Textbausteine zu erstellen; bestehende Texte zu redigieren und Fragen zur Politik zu beantworten. Denkbar ist ebenso, mittels ChatGPT Meinungsumfragen durchzuführen und auswerten zu lassen sowie politische Diskurse zu analysieren.

Welche konkreten Anwendungen aus dem Bereich der politischen Kommunikation lassen sich hieraus ableiten?

Mit diesen Funktionalitäten sind vielfältige Einsatzmöglichkeiten denkbar:

Redenschreiber könnten das Tool zur Recherche und für die Erstellung von Rohentwürfen für Textbausteine nutzen. Das schafft wiederum Freiraum für rhetorischen Feinschliff.

Für den Stab von Mandatsträgern ist ein Einsatz bei der Beantwortung von Bürgeranfragen denkbar. Die Details müssten dann „nur“ überprüft und angepasst werden. Dies könnte Mitarbeiterstäbe entlasten und zu schnelleren Antworten auf Bürgeranfragen führen.

Eine weitere Idee könnte sein, ChatGPT und ähnliche Modelle als Chatbot in bestehende Internetauftritte oder Apps von politischen Akteuren zu integrieren. Informationen wären dann rund um die Uhr abrufbar, inpidualisiert sowie in mehreren Sprachen zugänglich. Somit könnten Chatbots auch Kommunikationsabteilungen entlasten und ein evidenzbasiertes Lagebild der Interessen ihrer Nutzer ermöglichen.

Warum ist es nur ein unterstützendes Werkzeug und kein Ersatz für menschliche Autoren?

Auch wenn es vorstellbar ist, Teile der politischen Kommunikation zu automatisieren, werden ChatGPT und vergleichbare Anwendungen den Menschen als Autor politischer Kommunikation nicht ersetzen:

Trotz aller Leistungsfähigkeit besitzen Systeme wie ChatGPT kein umfassendes Weltbild.

Folglich sind heutige KI-Modelle auch nicht in der Lage, verschiedene Informationen zu verknüpfen, zu bewerten und an entsprechende politische Kontexte anzupassen. Gerade politische Kommunikation lebt aber davon, mit der Vieldeutigkeit von Begriffen zu arbeiten, Informationen vor dem Hintergrund politischer Überzeugungen zu Argumentationen zu verdichten und im Kontext umstrittener Begrifflichkeiten sowie Interessengegensätzen formuliert zu werden. Das ChatGPT hierzu nur äußerst eingeschränkt in der Lage ist, hebt nicht nur das Programm selbst hervor. Auch ein Experiment des Auslandsbüros der Konrad-Adenauer-Stiftung in Rumänien veranschaulicht dies.

Die Antworten und Ausgaben von KI-Systemen sind stark von den Trainingsdaten und den Interventionen von KI-Trainern abhängig.

Man muss sich immer bewusst sein, dass sobald die Trainingsdaten und Interventionen Fehlinformationen, Verzerrungen oder implizite Werturteile enthalten, diese durch die KI-Systeme reproduziert werden. Dieses Problem wird umso größer, wenn man, wie etwa bei ChatGPT, sehr wenig über die Trainingsdaten oder auch die Richtlinien für die Interventionen der KI-Trainer weiß.

KI-Modelle sind nur da besonders leistungsfähig, wo sehr viele Daten zur Verfügung stehen.

Gerade bei politischen Debatten, in denen sich Positionen sowie Konfliktlinien schnell verschieben und Begrifflichkeiten Umdeutungen erfahren können, muss sich erst zeigen, wie leistungsfähig solche KI-Systeme in der Praxis sind. ChatGPT etwa ist wohl nur mit Daten bis Ende 2021 trainiert.

Angesichts dieser Einschränkungen kann man gar konstatieren, dass Menschen in einer Welt der politischen Kommunikation mit ChatGTP noch wichtiger werden. Fähigkeiten, wie ganzheitliches Denken, Sensibilität für Vieldeutigkeit und Kontexte sowie kritisches Hinterfragen, gewinnen an Bedeutung. Dass hierdurch der Anspruch an Menschen in diesem Feld steigt und einfachere Routinearbeiten entfallen können, gehört aber ebenso zur Wahrheit.