Experten versuchen, die Grenze zwischen Sicherheitsbedenken und Zensur zu verstehen, schreibt DS.
Es gibt zahlreiche Tools, die dabei helfen können, Personen und Institutionen zu identifizieren, die Social-Media-Sabotage betreiben. Doch über deren Einsatz herrscht kein Konsens, schreibt Christopher Mims vom Wall Street Journal.
Wer hätte das gedacht? Facebook hat in den letzten Wochen Fake-Accounts aufgedeckt, die Spuren russischer Einflussnehmer aufwiesen. Der US-Präsident warf Twitter vor, die Sichtbarkeit der Tweets konservativer Politiker bewusst einzuschränken. Apple, Facebook, YouTube und Pinterest haben Accounts und Inhalte des Verschwörungstheoretikers Alex Jones und seines Medienimperiums Infowars gelöscht. Dies löste eine Debatte darüber aus, ob die von den Tech-Giganten verhängten Sperren ein Kampf gegen Fake News oder eine Einschränkung der freien Meinungsäußerung sind.
In jedem Fall geht es bei diesen Debatten um Entscheidungen, die zwar von Menschen getroffen, aber irgendwann durch Algorithmen ausgelöst oder aufgezwungen werden. Diese Algorithmen basieren auf den Werten der Unternehmen und der Bedeutung, die sie den liberalen Werten der amerikanischen Gesellschaft beimessen. Angesichts des enormen Umfangs ihrer Dienstleistungen werden die IT-Giganten früher oder später gezwungen sein, ihre Werte in die Sprache des harten Codes zu übersetzen.
Künstliche Intelligenz ist bereits unter uns
Heute gibt es zahlreiche Tools zur Identifizierung von Desinformation, Bots, Fake-Accounts, Werbekampagnen, Informationsblasen sowie kognitiven, sozialen und algorithmischen Verzerrungen und Vorurteilen, die unser Sehen und Hören verzerren. Es besteht jedoch kein Konsens darüber, wie diese Tools eingesetzt werden sollen.
Industriegiganten sprechen bereits über Pläne, einige dieser Tools einzusetzen. Facebook nutzt künstliche Intelligenz, um problematische Inhalte zu bewerten – von Hassreden bis hin zu Selbstmordwarnungen. Twitter nutzt KI, um potenzielle Sadisten zu identifizieren, und YouTube blockiert den Zugriff von Terroristen auf seine Website.
Trotz dieser Bemühungen sind Wissenschaftler und Politiker überzeugt, dass die Führung der IT-Giganten proaktivere und vielleicht sogar konzertierte Maßnahmen ergreifen muss. Das optimistischste Szenario geht davon aus, dass die Tech-Giganten diese Tools öffentlich und transparent einsetzen werden.
Anrufbots
Dass Informationsblasen, Hassreden und Desinformation seitens der Regierungen selbst mit einem gemeinsamen Instrumentarium kontrolliert werden müssen, hat weniger mit der Flexibilität künstlicher Intelligenz zu tun. Vielmehr geht es um die Vernetzung dieser Probleme.
Was haben beispielsweise Terrorkonten und Desinformationskampagnen gemeinsam? „Beide können mit denselben Methoden erkannt werden“, sagt Hamidreza Alvari, Absolvent der University of Arizona, der eine Methode zur Identifizierung bösartiger Social-Media-Konten entwickelt hat.
Während die meisten Methoden zur Erkennung bösartiger Inhalte auf Post-Filterung beruhen, die Terroristen und Desinformationskampagnen leicht umgehen können, sucht Alwaris Algorithmus nach Accounts, die Inhalte schneller und weiter verbreiten als andere Nutzer. Da Geschwindigkeit und Reichweite sowohl für Terroristenrekrutierer als auch für Propagandisten von entscheidender Bedeutung sind, könnte Alwaris Methode zur Speerspitze der algorithmischen Filterung in sozialen Medien werden. Die endgültige Entscheidung über die Löschung eines Accounts treffen jedoch nach wie vor Menschen.
Alle Neuigkeiten aus einer Quelle
Algorithmen können auch dazu eingesetzt werden, Informationsblasen in sozialen Medien zu erkennen und zu unterbinden. Nutzer interagieren meist mit Menschen, die ihre Ansichten teilen, und sehen daher meist nur Beiträge ihrer Freunde. Dies wirft die Frage auf, wie Nutzer auf vielfältigere Inhalte zugreifen können.
Um das Ausmaß und die Stärke dieser Blase zu beurteilen, untersuchte Filippo Mencher, Professor an der School of Information Technology der Indiana University, wie oft soziale Medien ihren Nutzern Informationen aus mehreren Quellen präsentieren. Dabei stellte sich heraus, dass Facebooks „Homogenitätsbias“ sogar noch stärker ist als der von Suchmaschinen. Suchmaschinen verweisen Nutzer gelegentlich auf Quellen außerhalb ihrer „Filterblase“. Twitter schnitt in dieser Hinsicht schlechter ab als Facebook, und YouTube landete auf dem letzten Platz der Liste.
IT-Giganten optimieren bereits ihre Algorithmen, um die Nutzerinteraktion zu verbessern. Gleichzeitig könnten die Untersuchung des Trends zur Homogenisierung von Informationsquellen und die Ergreifung von Maßnahmen zur Erhöhung der Quellenanzahl Teil dieses Prozesses sein.
Es ist auch möglich, künstliche Intelligenz mithilfe des sogenannten Deep Learning anhand von Beispielen bekannten feindseligen Verhaltens zu „trainieren“. So kann sie Signale erkennen, die Menschen nicht wahrnehmen können. Forscher von Universitäten in Hongkong, Katar und Südkorea haben bereits Erfolge beim Einsatz dieser Technologie zur Erkennung von Klatsch und Tratsch auf der chinesischen Social-Media-Plattform Sina Weibo gemeldet.
Wo verläuft die Grenze zwischen Sicherheit und Zensur?
Die Methoden zum Entfernen schädlicher Inhalte sind nicht perfekt. So schlugen Twitters Algorithmen beispielsweise nicht automatisch die Namen konservativer Politiker vor, wenn Nutzer nach ihnen suchten. Als Präsident Donald Trump Twitter vorwarf, Konservative heimlich zu sperren, machte das Unternehmen seinen Algorithmus für die „Verhaltensbewertung“ dafür verantwortlich und versprach, ihn zu verbessern.
Doch wo verläuft die Grenze zwischen der Sorge um Informationsqualität und Zensur? Dies ist eines der zentralen Probleme, mit denen alle Tech-Giganten heute konfrontiert sind. Facebook-Chef Mark Zuckerberg erklärte kürzlich, er wolle selbst so ungeheuerliche Aussagen wie die Leugnung des Holocaust nicht zensieren, da Facebook kein Monopol auf die Wahrheit habe.
Dennoch löschen Facebook und andere Unternehmen der Content-Distributionsbranche täglich Kommentare oder schränken den Zugriff darauf ein. Und ihr Vorgehen wirkt oft chaotisch. Die Entscheidung von Apple-Chef Tim Cook, Infowars zu verbieten, führte zu ähnlichen Aktionen anderer Tech-Giganten. Alex Jones und seine Infowars verbreiten aktiv Verschwörungstheorien: Sie bezeichnen den Amoklauf an der Sandy-Hook-Schule 2012 als Schwindel, beschuldigen prominente Demokraten, einen globalen Pädophilenring zu betreiben, und so weiter.
Wie man mit Manipulatoren umgeht
„Eine Lösung könnte darin bestehen, eine unabhängige, aber von der Industrie gesponserte Organisation zu gründen, die es Unternehmen ermöglicht, Informationen über Konten zu sammeln, die von ausländischen Regierungen finanziert werden, sowie über Konten, die schädliche Inhalte verbreiten, und ihnen Werkzeuge zur Verfügung stellt, um diese zu bekämpfen“, sagt Jonathan Morgan, CEO von New Knowledge, einem Unternehmen, das sich auf den Schutz von Unternehmen vor Desinformation und Manipulation in sozialen Medien spezialisiert hat.
Eine ähnliche Organisation, das Global Internet Forum to Combat Terrorism, koordiniert Aktionen gegen Terroristen im Internet. Seine amerikanischen Mitglieder, darunter die US-Heimatschutzministerin Kirstjen Nielsen und Vorstandsvertreter der Technologieriesen aus dem Silicon Valley, zögern im Gegensatz zu ihren europäischen Kollegen, den Einsatz der Organisation auf die Bekämpfung von Desinformationskampagnen auszuweiten.
Ein weiteres Modell könnten gemeinnützige Informationsaustausch- und Analysezentren (beispielsweise in der Finanzdienstleistungsbranche oder der Stromverteilung) sein, die Informationen über Cyberbedrohungen austauschen. Dieser Austausch ermöglicht ein robustes Abwehrsystem: Das Opfer eines Angriffs kann andere schnell warnen.
Morgan ist der Ansicht, dass die Stelle, die das Online-Verhalten reguliert, staatlich unterstützt werden sollte, ähnlich wie die Federal Election Commission die Wahlen überwacht und die Federal Communications Commission Medienfragen reguliert.
Allerdings wird die Politik zunehmend zum Hindernis. Nachdem Infowars aus dem Mainstream-Internet verbannt wurde, beschuldigten Fans der Seite die Tech-Giganten einer Verschwörung, um konservative Stimmen zum Schweigen zu bringen.
Nie zuvor in der Geschichte wurde die Realität so stark von Systemen beeinflusst, die von einer so kleinen Gruppe von Menschen geschaffen wurden. Die Logik der Algorithmen, die das Internet steuern, wird von wenigen Unternehmen bestimmt. Wenn wir ohne die von ihnen geschaffene künstliche Intelligenz nicht länger leben können und ihre Entscheidungen mit allem verknüpft sind, was uns wichtig ist – von der Meinungsfreiheit bis zum Wahlgeheimnis –, dann sollten wir von den Technologiekonzernen mehr Transparenz fordern. Denn wie können wir erklären, wie Zensurentscheidungen getroffen werden können, ohne dass Millionen von Menschen direkt davon betroffen sind?
Abonnieren Sie unsere Kanäle in Telegramm, Facebook, Twitter, VC — Nur neue Gesichter aus der Sektion KRYPTA!