Wer Ihre Anzeigen vor der Freischaltung prüft: Was jede Option wirklich kostet, wenn es schiefläuft
Die Frage, die sich nicht wegkaufen lässt
Irgendwann nach dem Start stößt jeder Betreiber eines Kleinanzeigenportals auf dieselbe Wand: Anzeigen kommen schneller herein, als eine einzelne Person sie vor der Freischaltung prüfen kann, und die Plattform braucht eine echte Antwort darauf, wer was prüft und wie schnell. Der erste Reflex ist, nach einem Preis zu suchen, nach einem Anbieter, nach einem Plan, der das Problem verschwinden lässt. Dieser Reflex stößt fast sofort an eine eigene Wand, denn die Preise, die externe Moderationsanbieter veröffentlichen, taugen kaum als Grundlage für ein echtes Budget. Die auf Anbieter-Websites genannten Sätze schwanken um ein Vielfaches von einem Blogbeitrag zum nächsten, selten wird gesagt, was eine Prüfentscheidung tatsächlich umfasst, und die wenigen Zahlen, die in der Branche immer wieder zitiert werden, gehen meist auf dieselbe Handvoll selbstveröffentlichter Quellen zurück, die sich gegenseitig wiederholen, statt auf einen unabhängigen Vergleichswert. Wer sein Budget auf solchen Zahlen aufbaut, budgetiert auf Basis einer Vermutung.
Das heißt nicht, dass sich die Entscheidung nicht treffen lässt, sondern nur, dass sie anders getroffen werden muss: nicht durch die Suche nach dem richtigen Preis, sondern durch das Verständnis, welche Architektur zum tatsächlichen Volumen und Risiko der Plattform passt, und was jede Variante kostet, auch dort, wo es nie auf einer Rechnung auftaucht. Die drei Optionen, interne Prüfung durch eigenes Personal, ausgelagerte Prüfung durch externes Personal und KI-gestützte Filterung, versagen nicht an denselben Stellen, und zu wissen, wo jede von ihnen bricht, ist mehr wert als jeder Preis pro Anzeige, den ein Verkaufsgespräch anbietet.
Für ein Verzeichnis ist das besonders wichtig, weil der Inhalt nicht neutral ist. Ein Foto, eine Überschrift oder ein angegebener Verfügbarkeitszeitraum kann eine völlig legitime Anzeige sein oder eine, die entfernt und in manchen Fällen gemeldet statt nur gelöscht werden muss. Wird die Prüfung zu langsam gehandhabt, bleiben schlechte Anzeigen live; wird sie zu aggressiv gehandhabt, zerstört das Vertrauen legitimer Anbieter in die Plattform. Beide Fehlerarten kosten Geld, und keine von beiden zeigt sich in der Vorführung eines Anbieters.
Warum die drei Modelle unterschiedlich versagen
Reine KI-Filterung, bei der ein automatischer Klassifikator jede Anzeige bewertet und auf Basis dieser Bewertung automatisch freigibt oder ablehnt, ist bei hohem Volumen die günstigste Option und die schnellste, um eine unbedenkliche Anzeige freizuschalten. Ihre Schwachstelle ist der Kontext. Ein Klassifikator, der auf offensichtliche Verstöße trainiert ist, erkennt offensichtliche Verstöße zuverlässig, ist aber vergleichsweise schwach bei allem, was von Kontext abhängt, den er nie gesehen hat: ein Satz, der aus dem Zusammenhang gerissen wie ein Verstoß wirkt, in der tatsächlichen Anzeige aber unproblematisch ist, oder umgekehrt eine Anzeige, die jeden Schlüsselwortfilter passiert und dabei die eigentliche Richtlinie der Plattform auf eine Weise verletzt, die kein Filter erfassen sollte. Ein Betreiber, der ausschließlich auf KI-Prüfung setzt, erfährt von beiden Fehlerarten erst, wenn ein Anbieter sich öffentlich über eine ungerechtfertigte Ablehnung beschwert, oder wenn etwas, das nie hätte freigeschaltet werden dürfen, bereits online war.
Reine menschliche Prüfung, ob intern oder extern, ist pro Entscheidung die genaueste Option und zugleich diejenige, die sich am schlechtesten skalieren lässt. Ein menschlicher Prüfer erkennt Kontext, den ein Klassifikator übersieht, aber ein menschlicher Prüfer kann auch nur eine begrenzte Zahl von Entscheidungen pro Stunde kompetent treffen, bevor die Qualität sinkt, und diese Zahl ändert sich nicht, egal wie dringend die Warteschlange wächst. Ein Traffic-Anstieg, eine Marketingaktion, die besser läuft als erwartet, eine saisonale Welle, verwandelt eine Prüfwarteschlange, die bisher Schritt gehalten hat, innerhalb weniger Tage in einen Rückstau, und ein Rückstau bei der Anzeigenprüfung ist kein neutrales Warten: Entweder gehen Anzeigen ungeprüft live, um die Warteschlange zu leeren, oder legitime Anbieter warten so lange, dass sie ihre Anzeige, und ihr Geld, woanders hinbringen.
Das Hybridmodell, ein automatisierter erster Durchgang, der die eindeutigen Fälle klärt und alles, bei dem sich das System unsicher ist, an einen Menschen weiterleitet, ist das, was praktisch jede Plattform in echtem Maßstab tatsächlich einsetzt, aus einem einfachen Grund: Es ist die einzige Struktur, in der die Geschwindigkeit der Maschine und das Urteilsvermögen des Menschen jeweils die Schwachstelle des anderen ausgleichen, statt beide derselben Schwäche auszusetzen. Die eigentlich entscheidende Design-Frage ist dabei nicht, ob ein Hybridmodell eingesetzt wird, das sollten fast alle, sondern wo die Vertrauensschwelle liegt. Setzt man sie zu niedrig, gibt die KI fast alles an einen Menschen weiter, was genau den Rückstau reproduziert, den das Hybridmodell eigentlich lösen sollte. Setzt man sie zu hoch, gibt die KI still und leise Anzeigen frei oder lehnt sie ab, die ein Mensch anders beurteilt hätte, und niemand bemerkt es, bis eine dieser Anzeigen zum Problem wird.
Die Kosten, die auf keiner Rechnung stehen
Wer auch immer die menschliche Prüfung übernimmt, eigenes Personal oder ein externes Team, sieht das schlimmste Material, das eine Plattform erreicht, noch vor allen anderen: die Anzeigen, die gemeldet, angefochten oder eskaliert werden, gerade weil etwas an ihnen so beunruhigend ist, dass es einen zweiten Blick braucht. Diese Belastung als routinemäßige Dateneingabe zu behandeln, als etwas, in das jeder austauschbare Prüfer ohne Folgen eingesetzt werden kann, ist nicht nur ein unfreundlicher Umgang mit einem Team. Es ist eine dokumentierte Haftungsquelle, und die Dokumentation existiert, weil eine sehr viel größere Plattform die Alternative bereits ausprobiert und dabei verloren hat.
Im Mai 2020 stimmte Meta einem Vergleich in Höhe von 52 Millionen Dollar in der Sammelklage Scola v. Facebook zu, die von einer ehemaligen Content-Moderatorin angestrengt wurde, bei der sich durch die dauerhafte Konfrontation mit grafischem Material im Rahmen ihrer Arbeit eine posttraumatische Belastungsstörung entwickelt hatte. Der Vergleich betraf Moderatoren, die zwischen September 2015 und August 2020 für einen Facebook-Dienstleister in Kalifornien, Arizona, Texas oder Florida tätig waren: eine garantierte Zahlung an jeden anspruchsberechtigten Moderator, dazu eine zusätzliche Entschädigung von bis zu 50.000 Dollar für Personen mit diagnostizierter PTBS oder einer verwandten Erkrankung, sowie die dauerhafte Verpflichtung, den Moderatoren psychologische Beratung zur Verfügung zu stellen. Der Fall drehte sich nicht darum, dass Facebooks Moderationsrichtlinie falsch gewesen wäre. Er drehte sich darum, dass die Arbeitsbedingungen, unter denen diese Richtlinie umgesetzt wurde, jahrelang als das Problem von jemand anderem behandelt wurden, bevor sich jemand dafür verantworten musste.
Ein kleines Verzeichnis betreibt keine Prüfabteilung im Maßstab von Facebook, und nichts davon bedeutet, dass Auslagerung oder Neueinstellung für diese Rolle an sich ein Fehler wäre. Es bedeutet, dass die betrieblichen Gewohnheiten, die diese Belastung überhaupt erst erzeugt haben, keine Rotation weg vom schlimmsten Material, keine zeitliche Obergrenze für eine Sitzung mit grafischer Prüfung, keine in die Arbeit eingebaute, sondern nur nachträglich angebotene Unterstützung, einem Zweipersonen-Moderationsteam genauso zur Verfügung stehen wie einem Team mit fünfzehntausend Personen. Die Korrektur kostet weit weniger als das Versagen: die Zuständigkeit für eskaliertes Material rotieren lassen, statt sie dauerhaft bei der Person zu belassen, die dafür zufällig am schnellsten ist, eine echte Obergrenze festlegen, wie lange eine einzelne Prüfsitzung dauern darf, bevor eine Pause vorgeschrieben ist, und sicherstellen, dass jeder, der diese Arbeit macht, schon vor dem ersten Tag weiß, welche Art von Material ihn erwartet und wohin er sich wenden kann, wenn es ihn belastet.
Was ein Anbietervertrag regeln muss, und was ein Angebot nicht verrät
Da die veröffentlichten Preise pro Anzeige und die Monatssätze nicht verlässlich genug sind, um darauf ein Budget aufzubauen, ist die einzige Zahl, der man trauen sollte, die, die ein Betreiber selbst misst: ein Pilotprojekt mit den eigenen Anzeigen der Plattform bei realem Volumen, gemessen am eigenen Bearbeitungsziel, nicht an der Vorführung eines Anbieters oder einem Referenzkunden aus einer fremden Branche. Ein Pilotprojekt, das sich nicht an echten Anzeigen messen lässt, weil ein Anbieter lieber zuerst einen Preis nennt und die Leistung erst später zeigt, ist kein Pilotprojekt, das sich zu starten lohnt.
Was der Vertrag festlegen muss, unabhängig vom Preis, sind genau die operativen Details, die Anbieter standardmäßig vage lassen: welche Sprachen von Muttersprachlern oder fließend sprechenden Prüfern abgedeckt werden statt von maschineller Übersetzung, woran das tatsächliche Reaktionszeitversprechen gemessen wird, nicht „in der Regel am selben Tag“, sondern eine konkrete Stundenzahl, was mit den Ausweisdokumenten und Fotos geschieht, die ein Prüfer im Rahmen der Arbeit zu sehen bekommt, wer darauf Zugriff hat und wie lange sie aufbewahrt werden, sowie wie der Einspruchsweg aussieht, wenn ein Anbieter eine Ablehnung anficht. Ein Anbieter, der diese vier Punkte vor Vertragsunterzeichnung nicht schriftlich beantworten kann, ist kein Anbieter, den ein Betreiber tatsächlich geprüft hat, egal was die Verkaufsunterlagen zur Preisgestaltung versprechen.
Die andere Klausel, auf die es sich zu bestehen lohnt, ist ein Ausstieg: eine Vertragslaufzeit, die kurz genug ist, oder eine Kündigungsklausel, die locker genug ist, damit ein Anbieterwechsel nach einem schlechten ersten Quartal nicht bedeutet, ein ganzes Jahr bezahlter Unterleistung aussitzen zu müssen. Anbieter, die sich dagegen sträuben, signalisieren damit etwas über ihr eigenes Vertrauen in die Zahlen auf der Verkaufspräsentation.
Den Prüfprozess aufbauen, bevor man einen einkauft
Die Reihenfolge, die tatsächlich funktioniert, beginnt vor jedem Gespräch mit einem Anbieter. Zuerst die Entscheidungsrichtlinie schreiben: ein kurzes Dokument, kein juristisches Gutachten, das klar festlegt, was automatisch durchgeht, was automatisch abgelehnt wird und was an einen Menschen geht, direkt verknüpft mit den eigenen Nutzungsbedingungen der Plattform, statt jedes Mal dem individuellen Ermessen eines Prüfers überlassen zu bleiben. Ohne dieses Dokument erfindet jeder Prüfer, ob intern oder extern, die Richtlinie Anzeige für Anzeige neu, und zwei Prüfer werden bei derselben Anzeige zu unterschiedlichen Ergebnissen kommen, was sich in dem Moment als uneinheitliche Durchsetzung zeigt, in dem ein Anbieter sich mit einem anderen austauscht.
Jede Entscheidung von Tag eins an protokollieren, notfalls in einer einfachen Tabelle: was geprüft wurde, wie entschieden wurde und wann. Das ist keine zusätzliche Arbeit um ihrer selbst willen; es ist genau das Protokoll, das die Notice-and-Action-Regel der EU von einem Betreiber ohnehin verlangt, sobald eine Anzeige als rechtswidriger Inhalt gemeldet wird, und wer sich diese Gewohnheit schon aneignet, bevor sie zur Pflicht wird, hat sie bereits eingeübt, wenn sie es wird.
Intern anfangen, auch wenn später ausgelagert werden soll. Ein Monat, in dem der Inhaber oder ein einzelner eingestellter Prüfer jede Entscheidung von Hand trifft, liefert die einzigen Volumen- und Komplexitätszahlen, auf denen sich ein Budget sinnvoll aufbauen lässt, weil sie aus den tatsächlichen Anzeigen der Plattform stammen und nicht aus der Schätzung eines Anbieters für einen typischen Kunden. Dieser Monat bringt auch die Grenzfälle ans Licht, den Anzeigentyp, der wirklich schwer zu beurteilen ist, den Satz, der immer wieder einen zweiten Blick braucht, die eine schriftliche Richtlinie berücksichtigen muss, bevor ein größeres Team oder ein externer Anbieter gebeten wird, sie einheitlich anzuwenden.
Erst wenn diese Ausgangsbasis existiert, führt ein Gespräch mit einem Anbieter zu einer brauchbaren Antwort, denn erst dann gibt es eine echte Zahl, an der sich die Leistung eines Pilotprojekts messen lässt, eine echte Liste von Grenzfällen, mit denen ein Anbieter getestet werden kann, und eine echte Grundlage, um zu beurteilen, ob ein genanntes Angebot widerspiegelt, was die Aufgabe tatsächlich erfordert, oder nur das, was der Anbieter dem Markt zutraut zu akzeptieren. Wer sich vor dieser Vorarbeit nach einer Moderationslösung umsieht, kauft blind ein, egal wie überzeugend die Zahl im Angebot wirkt.
