Un’anomalia grave, tanto sul piano tecnologico quanto su quello etico. È quanto emerge dal monitoraggio di Associazione Meter, che da anni si occupa della tutela dei minori sul web. Digitando termini legati alla pedofilia nella barra di ricerca di Vinted, piattaforma internazionale dedicata alla compravendita di abbigliamento usato, l’algoritmo ha restituito risultati che nulla dovrebbero avere a che fare con quella parola: vestiti indossati da bambine della fascia 6–8 anni.
L’indagine: immagini inappropriate tra i risultati
La segnalazione è arrivata dopo che il team di Meter ha individuato annunci in cui i capi d’abbigliamento erano mostrati direttamente addosso a bambine piccole. Una scelta già discutibile in circostanze normali e che, se associata a ricerche legate a reati contro i minori, diventa un campanello d’allarme.
Vinted ha rimosso quei contenuti dopo la segnalazione, ma il problema non si è risolto del tutto. L’ultimo controllo dell’associazione evidenzia che, su 427 risultati complessivi, il 32% continua a riguardare articoli destinati alla fascia d’età 6–8 anni, mentre il resto consiste in libri e pubblicazioni sul tema della pedofilia.
Perché l’algoritmo associa un termine criminale a immagini di minori?
È questa la domanda che solleva maggiore preoccupazione. Le ricerche mostrano un’associazione impropria e potenzialmente pericolosa tra una parola che indica un reato e immagini di minori. Un collegamento che, spiega Meter, non dovrebbe verificarsi in alcun contesto.
“Le immagini dei minori non possono diventare motivo di fraintendimento” — sottolinea Fortunato Di Noto, fondatore di Associazione Meter — “siamo certi che Vinted adotterà i controlli necessari, ma questa criticità dell’algoritmo rimane allarmante”.
Il tema più ampio: il ruolo degli algoritmi nella tutela dei minori
La vicenda apre un discorso più complesso che riguarda il funzionamento delle piattaforme digitali e il modo in cui i sistemi di raccomandazione e ricerca gestiscono contenuti sensibili. Le associazioni che si occupano di sicurezza online chiedono da tempo controlli più rigorosi, filtri meglio tarati e un monitoraggio umano che affianchi l’intelligenza artificiale quando si tratta di proteggere i minori.
In questo caso, l’accostamento tra un termine legato a un reato e immagini di bambine non solo è inopportuno, ma rivela un limite strutturale del sistema di classificazione dei contenuti.
Le prossime mosse
Dopo la segnalazione, l’associazione attende nuovi interventi da parte della piattaforma. Meter, da sempre in prima linea nella lotta contro lo sfruttamento minorile online, continua a monitorare il fenomeno per verificare l’effettiva correzione dell’algoritmo e invita Vinted a un confronto costante, finalizzato a garantire un ambiente digitale più sicuro.











