PREVENT: Neues BMBF-Projekt zur Prävention von Desinformationen gestartet

Falschinformationen haben schwerwiegende Auswirkungen auf die zivile Sicherheit

In unsicheren Situationen wie Krisen verbreiten sich Falschinformationen rasant, so auch in der Covid-19-Pandemie. Falschinformationen reichen von fehlinterpretierten Statistiken und Studien, über manipulierte Zitate und Nachrichtenartikel, bis hin zu falschen Behauptungen durch Expert:innen.

Falschinformationen können schwerwiegende Auswirkungen auf die zivile Sicherheit haben. So können Falschinformationen bestehende Unsicherheiten in Krisensituationen weiter verstärken und gesundheitliche Auswirkungen haben. Dies ist zum Beispiel der Fall, wenn Menschen einer Falschnachricht glauben, in der die Einnahme von Desinfektionsmittel als wirksame Maßnahme gegen Corona beschrieben wird. Falschinformationen können ebenfalls eine Spaltung der Gesellschaft zur Folge haben und dazu führen, dass die Bevölkerung das Vertrauen in sicherheitsrelevante Akteure verliert.

Akteure hinter digitalen Desinformationskampagnen gehen strategisch vor

Ein Problem stellen dabei besonders digitale Desinformationskampagnen dar, bei denen Falschinformationen bewusst verbreitet werden, um der Gesellschaft zu schaden. Desinformationskampagnen lassen sich mit Marketing-Kampagnen vergleichen. Im Marketing werden beispielsweise konkrete Ziele für eine Kampagne festgelegt und Werbung wird auf bestimmte Zielgruppen zugeschnitten, um eine möglichst große Reichweite zu erzielen. Zusätzlich werden meistens Tools eingesetzt, um den Erfolg der Kampagne zu messen.

Genauso gehen Akteure hinter digitalen Desinformationskampagnen strategisch vor und setzen beispielsweise soziale Bots ein, um Falschinformationen automatisiert zu verbreiten. Bei sozialen Bots handelt es sich um Computerprogramme, die zum Beispiel Beiträge mit einem bestimmten Hashtag automatisiert verbreiten können. Für Nutzer:innen ist auf den ersten Blick oft nicht ersichtlich, dass es sich bei dem Account nicht um einen echten Menschen handelt.

Behörden und Organisationen mit Sicherheitsaufgaben können wirksam gegen Desinformationskampagnen vorgehen

Bei sicherheitsrelevanten Organisationen wie der Polizei, Feuerwehr und Hilfsorganisationen handelt es sich um vertrauenswürdige Akteure auf sozialen Medien. Ein einzelner Tweet von offiziellen Stellen kann bereits ausreichen, um Falschinformationen wirksam zu korrigieren. Durch die koordinierte Zusammenarbeit von offiziellen Akteuren kann der Effekt verstärkt werden. Jedoch stellt der Umgang mit Falschinformationen auf sozialen Medien einen hohen Aufwand für Behörden und Organisationen mit Sicherheitsaufgaben dar. Eine Lösung könnte hier der gutartige Einsatz von Social Bots sein, um beispielsweise verifizierte Informationen automatisiert zu verbreiten.

Der behördliche Einsatz von Social Bots muss ethisch und rechtlich bewertet werden

Es gilt jedoch, den behördlichen Einsatz von Social Bots ethisch und rechtlich zu bewerten. Denn: Social Bots können den künstlichen Eindruck erwecken, dass deutlich mehr Menschen einem Beitrag zustimmen, als dies tatsächlich der Fall ist. Das ist sowohl bei Desinformationen als auch bei verifizierten Informationen ein Eingriff in den Meinungsbildungsprozess. Deshalb stellt sich hier die Frage, inwiefern der behördliche Einsatz von Social Bots zur Prävention von Desinformationen ethisch verantwortlich und rechtlich erlaubt ist. Es wird beispielsweise diskutiert, ob ein eigenes Social-Media-Gesetz für staatliche Stellen notwendig ist.

PREVENT entwickelt einen Trainingsansatz zur Prävention von digitalen Desinformationskampagnen

Im BMBF-geförderten Projekt PREVENT, entwickelt das Team einen Trainingsansatz zur Prävention von digitalen Desinformationskampagnen, um Behörden und Organisationen mit Sicherheitsaufgaben zu unterstützen. Das PREVENT-Team besteht aus Verbundpartnern der Universität Duisburg-Essen (Prof. Dr. Stefan Stieglitz), Universität Paderborn (Prof. Dr. Milad Mirbabaie), Universität Tübingen (PD Dr. Jessica Heesen, Dr. Wulf Loh), Universität zu Köln (Prof. Dr. Dr. Frauke Rostalski) und Virtimo AG (Christoph Fuchß). Gemeinsam entwickeln die Partner einen Trainingsansatz bestehend aus drei Komponenten:

  1. Trainingstool für Behörden und Organisationen mit Sicherheitsaufgaben: Das Tool simuliert die Entstehung von digitalen Desinformationskampagnen und die Wirksamkeit von Präventionsmaßnahmen.
  2. Präventionsmaßnahmen: Hier werden auch Maßnahmen entwickelt, die koordiniert mit anderen Behörden oder automatisiert mit Hilfe von Social Bots umgesetzt werden können.
  3. Ethisch-rechtliche Bewertung: Es wird ein ethisch-rechtlicher Rahmen geschaffen, sodass Behörden die Präventionsmaßnahmen ethisch verantwortungsvoll und legal einsetzen können.

Leave a Reply

Your email address will not be published.