Facebook – Rosetta AI scansiona il testo da oltre un miliardo di immagini al giorno.
La moderazione non è una cosa facile per le piattaforme di social media. Con milioni di utenti che pubblicano attivamente messaggi di immagini, video e di testo ogni ora, la revisione manuale dei contenuti del sito diventa complicata.
Ecco perché piattaforme come YouTube, Facebook e Twitter si sono rivolte ad algoritmi e intelligenza artificiale per aiutare a controllare le loro piattaforme.
Facebook potrebbe aver trovato un modo per rendere i suoi strumenti di moderazione più accurati.
In un post pubblicato, tre dipendenti dell’azienda spiegano un nuovo strumento che Facebook ha già iniziato a testare: Rosetta.
Rosetta è un sistema di apprendimento automatico su larga scala.
Progettato per estrarre testo da immagini e video pubblici di Facebook e Instagram, in una ampia varietà di lingue e determinare il contesto del testo e dell’immagine insieme.
In altre parole, Facebook sta sviluppando un’IA in grado di comprendere i meme.
Ad esempio, Rosetta può leggere il testo fotografato nei menu e nei segnali stradali, nonché le parole che appaiono sui vestiti e sulle etichette dei prodotti.
Quindi, anche se Rosetta non è dedicata ai meme, la loro prevalenza su Facebook e Instagram li renderà senza dubbio un caso d’uso importante, specialmente nel rilevamento di materiale offensivo da parte di Facebook.
“Comprendere il testo che appare sulle immagini è importante per migliorare le esperienze, come una ricerca di foto più rilevante o l’incorporazione del testo in screen reader che rendono Facebook più accessibile per i non vedenti” .
Facebook
Aggiungendo che il testo di lettura nelle immagini è importante nell’individuare “contenuti inappropriati o dannosi e mantenere la nostra comunità al sicuro”.
2 – riconoscimento delle parole utilizzando un modello con perdita CTC.
I due modelli sono addestrati indipendentemente.
Attraverso Rosetta, Facebook è in grado di migliorare la ricerca di immagini e i sistemi che determinano i tipi di immagini che possono apparire nel tuo feed di notizie.
Aiuta, inoltre, l’azienda a rilevare e rimuovere automaticamente discorsi di incitamento all’odio che probabilmente non era stato in grado di identificare in precedenza.
” Comprendere il testo che appare sulle immagini è importante per migliorare le esperienze. Come una ricerca di foto più rilevante o l’integrazione del testo in screen reader che rendono Facebook più accessibile per i non vedenti.
Facebook
Comprendere il testo nelle immagini insieme al contesto in cui appare aiuta anche i nostri sistemi a identificare proattivamente contenuti inappropriati o dannosi e a mantenere la nostra community al sicuro. ”
Facebook
I modelli di riconoscimento del testo si concentrano prevalentemente su set di dati alfabetici in inglese o latino.
Per supportare una piattaforma globale, Facebook sta continuando ad investire nell’estensione del modello di riconoscimento del testo per il vasto numero di lingue utilizzate sul social.
Con un modello unificato per un gran numero di lingue, si corre il rischio di essere mediocri per ogni lingua, il che rende il problema impegnativo. Inoltre, è difficile ottenere dati con annotazioni umane per molte delle lingue.
Sebbene SynthText sia stato utile come metodo per eseguire il bootstrap del training, non è ancora un sostituto per set di dati con annotazioni umane. Facebook sta esplorando modi per colmare il divario tra il suo motore sintetico e la distribuzione del testo reale sulle immagini.
