Chi controlla gli annunci prima che vadano online: quanto costa davvero ogni opzione quando si rompe

La domanda che nessun preventivo può risolvere

A un certo punto dopo il lancio, ogni operatore di un sito di annunci si scontra con lo stesso muro: gli annunci arrivano più in fretta di quanto una persona sola riesca a controllarli uno per uno prima della pubblicazione, e il sito ha bisogno di una risposta concreta su chi rivede cosa, e con quale rapidità. L'istinto è cercare un prezzo, un fornitore, un piano che faccia sparire il problema. Quell'istinto si scontra quasi subito con un altro muro, perché i prezzi pubblicati dai fornitori di moderazione esterna sono quasi inutili per costruire un budget reale. Le tariffe indicate sui siti di marketing dei fornitori variano di un ordine di grandezza da un post all'altro, raramente specificano cosa comprenda davvero una decisione di revisione, e i pochi numeri che circolano nel settore risalgono quasi sempre alla stessa manciata di fonti autopubblicate che si ripetono a vicenda, non a un benchmark indipendente. Un operatore che costruisce il budget su quei numeri, in realtà, sta scommettendo su una supposizione.

Questo non significa che la decisione sia impossibile da prendere, solo che va affrontata in un altro modo: non cercando il prezzo giusto, ma capendo quale architettura si adatta al volume e al rischio reali del sito, e quanto costa ciascuna in modi che non compaiono mai su una fattura. Le tre opzioni, revisione umana interna, revisione umana esterna e filtraggio basato sull'intelligenza artificiale, non falliscono negli stessi punti, e sapere dove si rompe ciascuna vale più di qualsiasi tariffa a singolo annuncio offerta in una telefonata commerciale.

Per una directory questo conta in modo particolare, perché il contenuto non è neutro. Una foto, un titolo o una fascia oraria di disponibilità dichiarata possono essere un annuncio perfettamente legittimo oppure un annuncio da rimuovere e, in alcuni casi, da segnalare invece che limitarsi a cancellare. Sbagliare la revisione per eccesso di lentezza lascia online annunci problematici; sbagliarla per eccesso di aggressività distrugge la fiducia degli inserzionisti legittimi nel sito. Entrambi gli errori costano denaro, e nessuno dei due compare nella demo di un fornitore.

Perché le tre architetture falliscono in modi diversi

Il filtraggio basato esclusivamente sull'intelligenza artificiale, un classificatore automatico che assegna un punteggio a ogni annuncio e lo approva o lo respinge in base a quel punteggio, è l'opzione più economica da gestire su grandi volumi e la più rapida nell'approvare un annuncio pulito. Il suo punto debole è il contesto. Un classificatore addestrato a individuare le violazioni evidenti è bravo a individuare le violazioni evidenti, e relativamente debole su tutto ciò che dipende da un contesto che non gli è mai stato mostrato: una frase che fuori contesto sembra una violazione ma nell'annuncio reale è del tutto lecita, oppure il caso opposto, un annuncio che supera ogni filtro per parole chiave pur violando la policy effettiva del sito in un modo che nessun filtro era stato costruito per riconoscere. Un operatore che si affida solo all'IA scopre entrambi gli errori solo dopo che un inserzionista si è lamentato pubblicamente di un rifiuto ingiusto, oppure dopo che qualcosa che non sarebbe mai dovuto andare online lo è già andato.

La revisione interamente umana, sia interna sia esterna, è l'opzione più accurata per singola decisione ed è quella che scala peggio. Un revisore umano coglie il contesto che sfugge a un classificatore, ma un revisore umano ha anche un numero fisso di decisioni che può prendere con competenza in un'ora prima che la qualità cali, e quel numero non cambia per quanto urgentemente cresca la coda. Un picco di traffico, una campagna di marketing che funziona meglio del previsto, un'impennata stagionale, trasforma in pochi giorni una coda di revisione che stava tenendo il passo in un arretrato, e un arretrato nella revisione degli annunci non è un'attesa neutra: significa o annunci pubblicati senza controllo per smaltire la coda, oppure inserzionisti legittimi che aspettano abbastanza a lungo da portare il proprio annuncio, e i propri soldi, altrove.

Il modello ibrido, un primo passaggio automatico che smaltisce i casi inequivocabili e affida a un essere umano tutto ciò su cui non ha sufficiente sicurezza, è ciò che quasi ogni piattaforma che opera su scala reale effettivamente usa, per un motivo semplice: è l'unica struttura in cui la velocità della macchina e il giudizio della persona coprono a vicenda i rispettivi punti deboli, invece di essere entrambi esposti allo stesso punto debole. La decisione progettuale che conta davvero qui non è se adottare un modello ibrido, quasi tutti dovrebbero farlo, ma dove posizionare la soglia di sicurezza. Se è troppo bassa, l'IA rimanda quasi tutto a un revisore umano, riproducendo il problema dell'arretrato che il modello ibrido avrebbe dovuto risolvere. Se è troppo alta, l'IA approva o respinge automaticamente e silenziosamente annunci che un essere umano avrebbe giudicato diversamente, e nessuno se ne accorge finché uno di quegli annunci non diventa un problema.

Il costo che non compare mai su una fattura

Chiunque si occupi della revisione umana, personale interno o team esterno, è la prima persona a vedere il materiale peggiore che il sito riceve: gli annunci segnalati, contestati o portati all'attenzione di un livello superiore proprio perché c'è qualcosa di sufficientemente disturbante da richiedere un secondo controllo. Trattare questa esposizione come un compito di inserimento dati di routine, un ruolo in cui qualsiasi revisore intercambiabile può essere inserito senza conseguenze, non è solo un modo poco umano di gestire un team. È una fonte di responsabilità legale documentata, e la documentazione esiste perché una piattaforma molto più grande ha già messo alla prova l'alternativa e ha perso.

Nel maggio 2020, Meta ha accettato un accordo transattivo da 52 milioni di dollari nella causa Scola contro Facebook, promossa da un'ex moderatrice di contenuti che aveva sviluppato un disturbo da stress post-traumatico a causa dell'esposizione prolungata a materiale scioccante durante il lavoro. L'accordo copriva i moderatori che avevano lavorato per un appaltatore di Facebook in California, Arizona, Texas o Florida tra settembre 2015 e agosto 2020: un pagamento garantito a ogni moderatore idoneo, con un risarcimento aggiuntivo fino a 50.000 dollari per chi aveva ricevuto una diagnosi di disturbo da stress post-traumatico o una condizione correlata, più un impegno continuativo a rendere disponibile un supporto psicologico ai moderatori che svolgono questo lavoro. Il caso non verteva sul fatto che la policy di moderazione di Facebook fosse sbagliata. Verteva sul fatto che le condizioni di lavoro in cui quella policy veniva applicata erano state trattate per anni come un problema di qualcun altro, prima che qualcuno dovesse renderne conto.

Una piccola directory non gestisce un'operazione di revisione su scala Facebook, e niente di tutto questo significa che esternalizzare o assumere qualcuno per questo ruolo sia di per sé un errore. Significa che le abitudini operative che hanno creato quell'esposizione, nessuna rotazione fuori dai contenuti peggiori, nessun limite alla durata di una sessione di revisione di materiale scioccante, nessun supporto integrato nel lavoro fin dall'inizio invece che offerto come ripensamento, sono disponibili tanto per un team di moderazione di due persone quanto per uno di quindicimila. Il rimedio costa molto meno del fallimento: far ruotare chi si occupa dei contenuti segnalati come critici invece di lasciarli permanentemente a chi risulta più veloce a gestirli, fissare un limite reale alla durata di una sessione di revisione prima che sia obbligatoria una pausa, e assicurarsi che chiunque svolga questo lavoro sappia, prima del primo giorno, che tipo di materiale vedrà e a chi rivolgersi se ne risulta colpito.

Cosa deve dire un contratto con un fornitore, e cosa un preventivo non può dirti

Dato che le tariffe pubblicate, a singolo annuncio o mensili, non sono abbastanza affidabili per costruirci un budget, l'unico numero di cui fidarsi è quello che un operatore misura direttamente: un test pilota, condotto sugli annunci reali del sito e a volumi reali, cronometrato rispetto all'obiettivo di tempi di risposta del sito stesso, non rispetto al video dimostrativo di un fornitore o a un cliente di riferimento in un settore diverso. Un pilota che non può essere cronometrato su annunci reali, perché un fornitore preferisce prima quotare una tariffa e dimostrare le prestazioni solo in un secondo momento, non è un pilota che valga la pena condurre.

Ciò che il contratto deve specificare, indipendentemente dal prezzo, è il dettaglio operativo che i fornitori lasciano vago per default: quali lingue sono coperte da revisori madrelingua o comunque fluenti anziché dalla traduzione automatica, rispetto a cosa è effettivamente misurato l'impegno sui tempi di risposta (non "di solito in giornata", ma un numero preciso di ore), cosa succede ai documenti d'identità e alle foto che un revisore vede nel corso del lavoro, chi vi ha accesso e per quanto tempo vengono conservati, e come funziona il percorso di ricorso quando un inserzionista contesta un rifiuto. Un fornitore che non sa rispondere per iscritto a tutti e quattro questi punti prima della firma del contratto non è un fornitore che l'operatore ha davvero valutato, qualunque cosa dica la presentazione commerciale sui prezzi.

L'altra clausola su cui vale la pena insistere è una via d'uscita: una durata contrattuale abbastanza breve, o una clausola di recesso abbastanza flessibile, perché cambiare fornitore dopo un primo trimestre deludente non significhi restare vincolati per un anno intero a pagare per un servizio scadente. I fornitori che si oppongono a questa clausola stanno segnalando qualcosa sulla loro stessa fiducia nei numeri presentati in fase di vendita.

Costruire il processo di revisione prima di cercare un fornitore

La sequenza che funziona davvero comincia prima di qualsiasi conversazione con un fornitore. Per prima cosa va scritta la policy decisionale: un documento breve, non un parere legale, che stabilisca chiaramente cosa viene approvato automaticamente, cosa viene respinto automaticamente e cosa passa a un revisore umano, ancorato direttamente ai termini di servizio del sito invece che lasciato al giudizio individuale del revisore volta per volta. Senza quel documento, ogni revisore, interno o esterno, inventa la policy annuncio dopo annuncio, e due revisori finiranno per giudicare lo stesso annuncio in modo diverso, con il risultato di un'applicazione incoerente che emerge non appena un inserzionista confronta le proprie esperienze con quelle di un altro.

Registra ogni decisione fin dal primo giorno, anche solo con un foglio di calcolo: cosa è stato revisionato, cosa è stato deciso e quando. Non è lavoro extra inventato per il gusto di farlo: è lo stesso registro che la norma europea su segnalazione e azione impone già a un operatore di tenere per ogni annuncio segnalato come contenuto illecito, e costruire questa abitudine prima che diventi un obbligo di conformità significa averla già operativa nel momento in cui lo diventa.

Comincia con la revisione interna, anche se il piano è esternalizzare in futuro. Un mese in cui il titolare o un singolo revisore assunto gestisce ogni decisione a mano produce gli unici numeri di volume e complessità su cui vale la pena costruire un budget, perché derivano dagli annunci reali del sito e non dalla stima di un fornitore su un cliente tipico. Quel mese fa anche emergere i casi limite, il tipo di annuncio genuinamente difficile da giudicare, la frase che richiede sempre un secondo controllo, di cui una policy scritta deve tenere conto prima che un team più grande o un fornitore esterno debba applicarla in modo coerente.

Solo dopo aver stabilito questa base di partenza una conversazione con un fornitore produce una risposta utile, perché a quel punto esiste un numero reale rispetto a cui valutare le prestazioni di un pilota, un elenco reale di casi limite con cui mettere alla prova un fornitore, e una base reale per giudicare se una tariffa proposta rispecchia ciò che il lavoro richiede davvero o solo ciò che il fornitore ritiene il mercato sia disposto ad accettare. Cercare un servizio di moderazione prima di aver fatto questo lavoro preparatorio significa scegliere alla cieca, per quanto sicuro possa sembrare il numero sul preventivo.