Facebook setzt künstliche Intelligenz gegen terroristische Inhalte ein

Eine Neuheit in den jüngsten Extremismuswellen hat Technologieunternehmen unter Druck gesetzt. mehr und mehr soziale Netzwerke werden verwendet als Propagandainstrumente radikaler Gruppen.

Durch das professionellere und technologischere Marketing, das von ISIS (Islamischer Staat) eingeführt wurde, wurden mehrere Unternehmen unter Druck gesetzt. Regierungen und Sicherheitsbeamte haben sich dafür eingesetzt, dass Unternehmen wie Facebook eine proaktivere Rolle übernehmen.

Ende Juni Marks Firma Zuckerberg enthüllte einige der Maßnahmen, die sie ergreift. Bei Techniken der künstlichen Intelligenz und ein Personal, das sich speziell der Entfernung von Inhalten widmet Terroristen sind die Wette des Unternehmens.

Der Druck auf Facebook wurde hauptsächlich von Großbritannien und Frankreich angeführt. Die beiden Länder starteten im Juni eine Kampagne, um Technologieunternehmen unter Druck zu setzen, aktiver bei der Beseitigung terroristischer Propaganda zu sein. Insbesondere wird die Schaffung eines neuen Haftungsgesetzes geprüft, das sogar Bußgelder beinhalten kann. Strafen würden verhängt, wenn terroristische Inhalte nicht aus dem Netzwerk entfernt werden oder mangelhaft sind.

Facebook nutzt künstliche Intelligenz und stellt mehr Leute ein

Das größte soziale Netzwerk der Welt arbeitet an zwei Fronten. Die erste davon ist die künstliche Intelligenz. Der zweite Ansatz besteht darin, das Personal für die Inhaltsüberwachung aufzustocken.

Das hat Facebook verraten 3 neue Mitarbeiter werden eingestellt, nur um sich um die Entfernung von extremistischem Material zu kümmern. Die Maßnahme kam nach der Kritik, kein eigenes Personal für die Aufgabe zu haben. Dem Unternehmen wurde vorgeworfen, sich bei der Identifizierung gefährlicher Inhalte auf Dritte verlassen zu haben.

Im Gegenzug die KI-Techniken werden bereits verwendet, um Inhalte zu identifizieren und zu entfernen im Zusammenhang mit Terrorismus. Facebook verwendet künstliche Intelligenz basierend auf zwei Schlüsselfunktionen:

• Bildabgleich: Wenn ein Bild hochgeladen wird, wird die KI-Algorithmen bewerten, ob es mit einem zuvor bekannten Terroristen oder Symbol übereinstimmt. Ergibt die Analyse einen „Match“, wird das Bild daran gehindert, auf der Plattform zur Verfügung gestellt zu werden;
• Maschinelles lernen: Maschinelles Lernen ist gewöhnungsbedürftig Identifizieren und erfahren Sie, welche Arten von Nachrichten den Terrorismus fördern. Der Algorithmus wird im Laufe der Zeit effizienter, da er neue Sprachmuster integriert und lernt;

Eine der großen Herausforderungen von Algorithmen ist das Erreichen zwischen terroristischer Propaganda selbst und anderen antiterroristischen Inhalten unterscheiden. Beispielsweise kann ein Bild oder Symbol einer radikalen Gruppe sowohl in Materialien zur Präventionserziehung als auch in Anzeigen und Rekrutierungskampagnen verwendet werden.

Eine weitere Front, an der KI in der Strategie von Technologieunternehmen von grundlegender Bedeutung war. vor kurzem die Instagram hat angekündigt, dass es auch KI verwenden wird, um anstößige Beiträge zu blockieren. Obwohl die Algorithmen immer noch perfektioniert werden, hofft Facebook, dass sie sich weiterentwickeln und mit der zunehmenden Nutzung des Netzwerks durch extremistische Gruppen Schritt halten und so die Verbreitung neuer Inhalte und die Nutzung des Netzwerks zugunsten radikaler Gruppen verhindern können.