Tl;dr: Content Moderation wird speziell in den sozialen Medien durchgeführt, ist aber auch für Marken und Organisationen notwendig, um die Einhaltung der Markenrichtlinien zu gewährleisten. Anbieter von derartigen Diensten werden individuellen Anforderungen teilweise nicht gerecht, da z.B. Hersteller von Badekleidung vollkommen berechtigt suggestive Inhalte verwenden. Mit Picturepark definieren Sie die für Sie relevanten Begriffe und vergleichen diese mit den gefundenen Begriffen vom KI-Tagging. Die Inhalte werden markiert und der Zugriff wird automatisch beschränkt.

Da Content immer einfacher zu produziert wird, wird auch immer mehr veröffentlicht, und das mit immer höherer Geschwindigkeit. Wegen dieser explosionsartigen Zunahme von neuem Content online ist die Frage der Content Moderation zu einem wichtigen Thema geworden.

Content, der unsicher, negativ oder anstößig ist, lässt sich leider auch sehr einfach erstellen. Ein Blick auf die Infografik 2020 von Domo zeigt die Mengen von Content in der heutigen Zeit und veranschaulicht, "was in einer Minute im Internet passiert". In der Zeit, in der Sie dies gelesen haben, wurden bereits mehr als 150.000 Fotos auf Facebook hochgeladen.

Bei einer Organisation besteht das Problem von Content, der als negativ oder beleidigend angesehen werden könnte, nicht unbedingt darin, dass Sie sich daran stören. Als Unternehmen müssen Sie immer darauf achten, wie Sie von anderen wahrgenommen werden. Sie wollen Ihre Kunden nicht verärgern oder verunsichern, was schlimmstenfalls zu Kettenreaktionen auf den sozialen Medien führen und den Ruf Ihrer Marke schwer schädigen könnte.

Warum brauchen wir Content Moderation?

Jeglicher Content sollte gemäss der Richtlinien für Brand Compliance intensiv geprüft werden, sowie auf Anstössigkeit und Negativität. Leider ist das ein enormer Arbeitsaufwand, speziell wenn Sie täglich oder wöchentlich auf verschiedenen Kanälen posten. Haben Sie die Zeit und die Ressourcen, um allen Content immer im Detail manuell zu überprüfen?

Ein Paradebeispiel ist ein Medium, das Ihr Unternehmen mit Ihren Kunden verbindet: Social Media, wo alle Arten von Content in Sekundenschnelle veröffentlicht werden können. Social-Media-Manager konsumieren meist die freigegebenen Inhalte, ohne jedes Detail eines Bildes oder insbesondere jedes Detail eines Videos zu prüfen, einfach weil sie keine Zeit dafür haben.

Wie also moderiert man Content effektiv?

Es gibt verschiedene Dienste dafür, von denen einige rein über API zugänglich sind. Sie können Amazons Moderation API oder Azure Moderation API und andere verwenden. Wenn Sie diese Tools verwenden, erhalten Sie simple wahr oder falsch Anzeigen, also Sie sehen, ob der Inhalt anstössig ist oder nicht, basierend auf festgelegten Parametern. Schließlich ist das, was als negativer Inhalt klassifiziert wird, subjektiv. Sie können diese Parameter selbst anpassen, aber was Ihre Kunden als beleidigend empfinden, kann völlig anders aussehen.

Es gibt gängige Kategorisierungen wie explizite Nacktheit, suggestive Inhalte (Tragen von Badebekleidung), Gewalt oder visuell beunruhigende Inhalte. Unser Kunde Arena, Hersteller von Badekleidung, würde hier viele Warnungen und wenig Kontext erhalten. Ein anderer Kunde arbeitet mit Bildern von chirurgischen Eingriffen. Diese Bilder würden ebenfalls eine Menge Warnungen anzeigen, um auf Blutvergießen oder Gewalt hinzuweisen.

Statt einfacher Ampelfarben, bietet Picturepark eine bessere Art der Content Moderation. Picturepark liefert keine "dieser Inhalt ist unpassend"-Warnungen, sondern arbeitet mit einer von Ihnen verwalteten, intelligenten Liste von Themen und Begriffen, die für Ihre Organisation als unpassend erachtet werden.

Wie moderiert man Inhalte in Picturepark?

Mit Picturepark haben Sie die volle Kontrolle über die Liste der unpassenden, anstössigen oder suggestiven Begriffe. Das KI-Tagging schlägt Keywords für Ihren Content vor. Picturepark vergleicht diese Begriffe mit Ihrer Liste markierter Begriffe und zeigt die für diesen Content gefundenen unpassenden Begriffe an. Die Automatisierung in Picturepark entfernt den Zugriff für bestimmte Benutzer, sobald diese Begriffe gefunden wurden.

Auf diese Weise ergänzen KI und Automation den Menschen im Prozess der Erstellung von Content und Sie erhalten die besten Ergebnisse, insbesondere bei einigen nuancierten Fällen von Brand Compliance.

Werfen wir einen Blick auf die erforderliche Konfiguration in Picturepark:

• Wir erstellen und verwalten auf einfache Weise eine smarte Liste mit sensiblen Begriffen für Ihren Content.
• Wir konfigurieren KI-Tagging so, dass sensible Inhalte automatisch gescannt und gekennzeichnet werden.
• Wir entscheiden, wer Inhalte, die als sensibel gekennzeichnet sind, sehen kann und wer nicht.

Schritt 1: Smarte Liste sensibler Begriffe

Picturepark verfügt über ein leistungsfähiges kontrolliertes Vokabular, das von Picturepark, Picturepark-Kunden und Taxonomie-Experten entwickelt wurde. Dieses Vokabular enthält mehr als 30'000 Begriffe, die in Konzepte gegliedert und mit Kontextinformationen angereichert sind. Zu diesem Vokabular haben Sie sofort Zugriff, Sie müssen einfach die intelligente Liste “Schlüsselwörter” öffnen.

Basierend auf diesen Schlüsselwörtern können Sie sich Ihre eigene smarte Liste mit sensiblen Begriffen zusammenstellen, die für Sie unpassend und beleidigend sind und eventuell dem Ruf Ihrer Marke schaden können. Alles, was Sie tun müssen, ist, die gewünschten Begriffe und Kategorien hinzuzufügen, die für Ihre Marke sinnvoll sind. Sie können jederzeit zu einem späteren Zeitpunkt aktualisiert werden; dies ist wichtig, da sich Ihre Marke, Ihre Kunden und das, was die Gesellschaft für akzeptabel hält, zweifellos im Laufe der Zeit ändern werden.

Die Verwendung dieser Methode der Content Moderation ist sinnvoll, da sie anerkennt, dass verschiedene Firmen unterschiedliche Vorstellungen darüber haben, welche Art von Inhalten sensibel sind und daher als potenziell unangemessen gekennzeichnet werden sollten. Um ein Beispiel zu nennen: Ein Produzent grüner Energie kann eine Kategorie für Umweltverschmutzung hinzufügen, um Bilder zu vermeiden, die Abfall, Müll oder Smog enthalten.

Um ein Beispiel aus jüngerer Zeit zu nennen, das sich auf die Coronavirus-Pandemie bezieht, kann eine Firma wollen, dass auf allen Gruppenbildern nur Personen zu sehen sind, die ein ausreichendes Maß an sozialer Distanzierung praktizieren und Masken tragen.

Mit Picturepark ist es auch möglich, Anleitungen und Begründungen pro Begriff hinzuzufügen, um den Benutzern klar zu machen, warum Inhalte mit solchen Begriffen potenziell nicht geeignet sind. Auf diese Weise können Sie Ihre Benutzer schulen und ausbilden und die Brand Compliance stärken.

Schritt 2: KI-Tagging konfigurieren

Die Konfiguration des KI-Tagging erfordert eine Picturepark Business Rule, die es erlaubt, bestimmte Aktionen automatisch auszuführen, wenn ein Umstand erfüllt ist. Eine Business Rule kann so konfiguriert werden, dass neu erstellter Content mit dem Clarifai Picturepark Connector automatisch gescannt und getaggt wird. Dies ermöglicht automatisiertes Content Tagging.

Durch die Verwendung der von Clarifai zur Verfügung gestellten Tags und deren Abgleich mit Ihrem kontrollierten Vokabular erhalten Sie echte Content-Intelligenz, die speziell auf Ihr Unternehmen und Ihre Marke ausgerichtet ist, anstatt minderwertige generische Schlüsselwörter zu liefern.

Schritt 3: Sensible Inhalte scannen und kennzeichnen

Eine weitere Business Rule in Picturepark kann eingerichtet werden, um die Treffer des KI-Tagging mit Ihren markierten Begriffen für sensible Inhalte zu vergleichen. Picturepark wird die Übereinstimmungen automatisch in ein spezielles Textfeld einfügen.

Sie können Ihren Benutzern helfen, zu verstehen, warum der gefundene Begriff unpassend ist, indem Sie Kontextinformationen und Anweisungen pro Begriff einfügen.

Auf diese Weise können Ihre Benutzer die markierten Begriffe direkt erkennen, wenn sie den Inhalt durchsehen. Zusätzlich können sie auch auf die Begriffe klicken, um Ihre Anweisungen und Erklärungen zu einem gekennzeichneten Begriff zu sehen. Je mehr Sie hinzufügen, desto mehr Kontext werden Ihre Benutzer sehen.

Schritt 4: Wer kann und darf Inhalte sehen?

Nachdem Sie die sensiblen Begriffe gesammelt haben, ist es nun möglich, eine weitere Business Rule zu verwenden, um die Berechtigungen zu ändern. So kann markierter Inhalt automatisch für für die von Ihnen angegebenen Benutzer gesperrt werden.

Schritt 5: Jetzt Live und in Aktion ausprobieren

Halten Sie Ihre smarte Liste mit sensiblen Begriffen bereit und lassen Sie der mächtigen Picturepark Business Rule Engine die Arbeit.

Überzeugen Sie sich selbst und testen Sie die Content-Moderation live in der Picturepark-Demo.

1. Öffnen Sie https://picturepark.com/now
2. Fordern Sie Ihre persönliche Demo an
3. Aktualisieren Sie die smarte Liste der sensiblen Begriffe direkt in Ihrer Demo
4. Laden Sie Ihren Inhalt hoch
5. Lehnen Sie sich zurück und überlassen Sie Picturepark die Moderation Ihrer Inhalte zu Ihren Bedingungen