Oggi sono molti i messaggi, i video e le foto pubblicate sui social che purtroppo condividono atti di bullismo gratuiti e indesiderati. In questo modo sta diventando sempre più difficile proteggere gli utenti, soprattutto gli adolescenti.
Con una scansione ottica delle foto pubblicate, coadiuvata da un programma che sfrutta la tecnologia dell’apprendimento automatico, la piattaforma social più usata dai teenager e giovanissimi, Instagram, corre ai ripari per individuare eventuali immagini, pubblicate dagli utenti, i cui contenuti possano avere a che fare con atti di bullismo.
Grazie al nuovo metodo di machine learning adottato dal social, il lettore ottico, una volta individuate le immagini di sospetto bullismo, le “dirotta” a un gruppo di esperti, il “Community operations”, che ha il compito di analizzare le foto e le loro didascalie. Qualora la natura delle foto dovesse risultare offensiva per il pubblico, si passa alla rimozione automatica delle stesse. Oggi il sistema di sicurezza riguarda esclusivamente le fotografie, ma sembra che in tempi relativamente stretti Instagram possa arrivare a gestire anche i filtri sui video.
I parametri sui quali si basa l’eventuale rimozione di un’immagine fanno riferimento ad attacchi all’aspetto o al modo di essere di una persona, o alla minaccia del benessere e della saluta dell’uomo. Non si tratta solo di messaggi oltraggiosi o denigratori, perché il cyberbullismo è un vasto contenitore che può racchiudere i più svariati fenomeni. Come ad esempio il sexting, che avviene quando si postano immagini con riferimenti sessuali espliciti, o ancora il bodyshaming, ossia quella pratica psicologica che induce una persona a provare vergogna per il proprio corpo, per sé stesso in generale.