La comunicazione tra le lingue è una sfida che l’intelligenza artificiale può aiutare a superare, è quanto ha inteso fare Meta AI, che ha annunciato da qualche mese di aver sviluppato una nuova suite di modelli di intelligenza artificiale, chiamata Seamless Communication, che ha l’obiettivo di rendere possibile una comunicazione più naturale e autentica tra le varie lingue, avvicinandosi al sogno di un traduttore vocale universale.
Cos’è Seamless di Meta AI
Il modello principale, chiamato Seamless, integra le funzionalità di altri tre modelli – SeamlessExpressive, SeamlessStreaming e SeamlessM4T v2 – in un unico sistema.
Costruire un traduttore universale di lingue è una sfida perché i sistemi speech-to-speech e speech-to-text esistenti coprono solo una piccola parte delle lingue del mondo. SeamlessM4T rappresenta una svolta significativa in quanto affronta le sfide della copertura linguistica limitata e della dipendenza da sistemi separati, che dividono il compito della traduzione speech-to-speech in più fasi e sottosistemi.
In primo luogo, è stato costruito un nuovo spazio di incorporazione del testo massicciamente multilingue e modale per 200 lingue, denominato SONAR (Sentence-level mOdality- and laNguage-Agnostic Representations), che supera sostanzialmente gli approcci esistenti, come LASER3 o LaBSE nella ricerca di similarità multilingue. Viene usato un approccio insegnante-allievo per estendere questo spazio di incorporamento alla modalità del parlato; l’estrazione viene eseguita su dati provenienti da archivi di dati web (decine di miliardi di frasi) e di parlato (4 milioni di ore). In totale, sono state allineate automaticamente più di 443.000 ore di parlato con i testi. Questo corpus è denominato SeamlessAlign, il più grande corpus parallelo aperto di parlato/parlato e parlato/testo in termini di volume totale e di copertura linguistica.
Seamless un traduttore universale in tempo reale
Seamless è un traduttore che sfrutta l’AI, combinando tre modelli di rete neurale avanzati per consentire la traduzione in tempo reale tra oltre 100 lingue parlate e scritte, mantenendo lo stile vocale, l’emozione e la prosodia della voce di chi parla. L’espressione e la complessità del parlato tra le lingue. Meta afferma che la suite AI è in grado di “riprodurre accuratamente le emozioni dell’oratore”.
SeamlessExpressive
SeamlessExpressive è un modello che mira a preservare l’espressione, l’emozione e l’intonazione della voce dell’oratore durante la traduzione vocale. Questo modello si concentra sull’acquisizione delle sfumature dell’espressione umana, che sono spesso trascurate dagli strumenti di traduzione esistenti. Preservando lo stile vocale e le sfumature emotive della voce dell’oratore, SeamlessExpressive consente una comunicazione interlinguistica più naturale e autentica. Le lingue che attualmente conservano questi elementi nella traduzione vocale lo fanno nella traduzione tra inglese, spagnolo, tedesco, francese, italiano e cinese. Come spiegato nel documento, “le traduzioni dovrebbero catturare le sfumature dell’espressione umana. Sebbene gli strumenti di traduzione esistenti siano in grado di catturare il contenuto di una conversazione, in genere si affidano a sistemi di sintesi vocale robotici e monotoni”.
SeamlessStreaming
SeamlessStreaming è uno dei modelli chiave del kit Seamless Communication. Consente traduzioni vocali e testuali quasi in tempo reale, con solo circa due secondi di latenza. A differenza dei sistemi di traduzione convenzionali che aspettano che l’oratore finisca la frase prima di tradurre, SeamlessStreaming traduce mentre l’oratore sta ancora parlando. Questa funzione consente conversazioni più fluide e naturali tra persone di lingue diverse. Supporta la traduzione orale (speech-to-speech translation), la traduzione di dettatura (speech-to-text translation, S2TT) e il riconoscimento vocale automatico (Automatic speech recognition).
I ricercatori affermano che si tratta del “primo modello multilingue di massa” a fornire una velocità di traduzione così elevata in quasi 100 lingue parlate e scritte.
SeamlessM4T v2
SeamlessM4T v2 funge da modello multilingue e multitasking di base, che alimenta gli altri due modelli del kit Seamless Communication. Si tratta di una versione aggiornata del modello originale SeamlessM4T, che offre una maggiore coerenza tra l’output di testo e quello vocale. Secondo il documento, la nuova architettura offre “una migliore coerenza tra testo e parlato”.
Le diverse applicazioni della suite Seamless
I tre modelli di Seamless Communication possono essere utilizzati per diverse applicazioni, tra cui
- la conversazione multilingue con gli occhiali intelligenti,
- il doppiaggio automatico di video e podcast,
- l’assistenza linguistica per gli immigrati e altri soggetti che hanno difficoltà di comunicazione. Cosa è in grado di fare SeamlessM4T v2
SeamlessM4T, riconoscendo il vocale per quasi 100 lingue, consente:
- la traduzione da parlato a testo per quasi 100 lingue di ingresso e di uscita;
- la traduzione vocale, con supporto di quasi 100 lingue di input e 36 lingue di output (incluso l’inglese);
- la traduzione da testo a testo per quasi 100 lingue;
- la traduzione da testo a voce, con supporto di quasi 100 lingue di ingresso e 35 (compreso l’inglese) lingue di uscita.
Una tecnologia sicura e responsabile
Meta è consapevole dei rischi che la tecnologia potrebbe comportare, come l’uso improprio per truffe di phishing vocale, falsificazioni profonde e altre applicazioni dannose. Per questo, ha implementato diverse misure per promuovere la sicurezza e l’uso responsabile dei modelli, come il watermarking dell’audio e nuove tecniche distinguere le voci sintetiche da quelle umane.
La filigrana incorpora attivamente un segnale che non viene notato dall’orecchio umano ma viene rilevato da un modello di rilevatore nell’audio, per cui l’origine dell’audio può essere rintracciata e si può stabilire una provenienza audio verificabile. Inoltre, promuovere l’uso corretto degli strumenti di conservazione della voce aiuta a prevenire potenziali abusi.
I modelli di Seamless Communication sono stati pubblicati su Hugging Face e Github; rendendoli disponibili Meta ha dichiarato di volere ispirare ricercatori e sviluppatori per migliorare ulteriormente queste tecnologie. Obiettivo ancora più rilevante è quello creare un ponte tra lingue e culture diverse, migliorando la comprensione globale.
Al momento non c’è una data indicata da Meta per il rilascio dei Seamless al grande pubblico, si tratta infatti di una fase in cui il modello è stato reso disponibile per la ricerca e per il suo eventuale miglioramento.
Se ne possono comunque già ipotizzare i molteplici usi potenziali, in campo didattico, accademico, scientifico, velocizzando la comunicazione e fornendo un ulteriore modo di ridurre le barriere comunicative globali.
Riferimenti
https://ai.meta.com/blog/seamless-m4t/ [ 6/03/2024]
https://ai.meta.com/research/seamless-communication/ [ 7/03/2024]
https://www.google.com/search?client=firefox-b-e&q=seamlessm4t#ip=1 [7/03/2024]
https://www.zdnet.com/article/meta-unveils-seamless-speech-to-speech-translator/[ 7/03/2024]
https://www.punto-informatico.it/seamless-meta-ai-traduttore-intelligenza-artificiale/ [7/03/2024]
