Nelle scorse settimane è stato al centro del dibattito, in particolare negli Stati Uniti, il caso del rapper virtuale FN Meka messo sotto contratto dall’etichetta musicale Capitol e poi “licenziato” dopo una settimana perché protagonista di alcune infelici espressioni che rappresentavano i peggiori stereotipi razziali che identificano in modo negativo la comunità musicale afroamericana.
La questione ha avuto una forte eco perché l’artista non era un umano in carne e ossa ma un soggetto virtuale in parte generato tramite l’intelligenza artificiale – anche se c’è chi dice che dietro questo avatar ci fosse comunque un team creativo del tutto umano. Anzi: un rapper di Houston, Kylethe Hooligan, aveva affermato di essere lui la voce dietro il personaggio e di essere stato ingaggiato dai producer per questa operazione creativa basata sull’intelligenza artificiale, per lo più senza essere stato poi remunerato.
Nel frattempo, con 10 milioni di follower, Meka era diventato l’influencer virtuale più popolare su TikTok attraverso le sue canzoni, tra cui “Speed Demon” e “Internet”.
I risvolti etici del rapporto AI-metaverso
Al di là degli aspetti di contorno, e dei rapporti contrattuali, il tema centrale del caso FN Meka riguarda le nuove opportunità e i rischi connessi alla nuova realtà del metaverso e come affrontare queste nuove frontiere, in particolare sul piano etico.
Esistono risvolti legati alla responsabilità degli sviluppatori e dei creativi dietro le quinte del modello virtuale? Come si definiscono queste nuove categorie e quali meccanismi traslati dai modelli reali, con tutte le loro caratteristiche positive e negative possono essere integrate in questi avatar? Tema non banale soprattutto nel mondo dell’hip-hop e del rap. I personaggi inventati basati su figure reali equivalgono a un prestito sconveniente, persino a un furto di identità, o possono essere semplicemente un omaggio, oppure una “cover” artistica che ha sempre distinto la musica pop?
Come scrive il NYT in un editoriale sul caso “anche quando l’intelligenza artificiale aiuta a scrivere musica, gli umani dietro di essa dovrebbero essere responsabili dei testi creati dalla macchina? E per quanto riguarda la razza, come funzionano le regole dell’appropriazione culturale quando la persona che fa l’appropriazione non è un essere umano con un retroterra culturale unico, ma un’identità fittizia sostenuta da un collettivo anonimo e multirazziale?”.
Per ovviare a questi incidenti qualcuno ha proposto di introdurre dei test preventivi per l’intelligenza artificiale, ovvero stabilire delle regole per il test etico definite dalle stesse norme e consuetudini che governano l’ambito cognitivo sul quale agisce l’artefatto di IA.
Privacy: ecco perché è cruciale per un’AI etica e responsabile
I quattro principi a cui l’IA deve conformarsi
In particolare, va sottolineato, lo sviluppo dei sistemi di IA deve conformarsi a quattro principi etici considerati irrinunciabili: prevenzione da rischi, rispetto per l’autonomia umana, equità e spiegazione.
Intervistato dal NYT Ziv Epstein, un dottore in ricerca del M.I.T. Media Lab che studia l’intersezione tra uomo e tecnologia, spiega: “Molte delle nostre intuizioni e codici morali come esseri umani potrebbero essersi evoluti per un contesto in cui abbiamo attori umani discreti”.
È evidente che questo significa definire un framework non solo etico ma anche legale, perché comunque dietro l’AI si cela un creatore umano o un’entità che ha commissionato la produzione artistica.
Ad esempio, nel caso di FN Meka la presenza persone di colore nel laboratorio creativo in cui il personaggio è stato concepito, progettato e promosso avrebbe dovuto contribuire a prevenire gli stereotipi negativi che invece, secondo le critiche, avrebbe favorito. E infatti questo non è bastato, perché alcune organizzazioni dei diritti civili hanno invece affermato che FN Meka ha “insultato” la cultura nera e ha sviscerato i suoni, l’aspetto e le esperienze di vita dei veri artisti neri.
L’etichetta musicale, nel cancellare l’artista dalla propria roaster si è scusata per la sua “insensibilità”.
“Capitol Records ha interrotto i rapporti con il progetto FN Meka con effetto immediato. Esprimiamo le nostre più profonde scuse alla comunità nera per la nostra insensibilità nel firmare questo progetto senza farci abbastanza domande sull’equità e sul processo creativo dietro di esso”, si legge nella dichiarazione. “Ringraziamo coloro che ci hanno contattato con un feedback costruttivo negli ultimi due giorni: il vostro contributo è stato inestimabile poiché siamo giunti alla decisione di porre fine alla nostra partnership con il progetto”.
Chi stabilisce i limiti dell’espressività artistica e come?
E qui si pone un altro tema fondamentale, peraltro già oggetto di dibattito in altri scenari: sono gli umani a dover stabilire, istruendo le macchine, i limiti dell’espressività artistica per far sì che certi errori non vengano commessi? Ma questo non si scontra con una caratteristica della musica pop, e in generale del mondo dell’arte che tutela ampiamente la libertà di espressione e la creatività?
Ad esempio, un rapper reale, afroamericano, non avrebbe mai quei limiti che invece si vorrebbero imporre all’intelligenza artificiale e al metaverso a fronte del caso FN Meka.
Se i testi dei brani nel mondo reale sono liberi da vincoli, come possiamo noi introdurre delle limitazioni nell’espressione che emergerà dalla creatività basata sull’intelligenza artificiale? Se consideriamo oggi l’AI come ancora un mero supporto alla creatività umana, ovvero dove dietro all’avatar si cela un gruppo o un artista umano, possiamo ancora cercare di individuare un compromesso ma quando l’intelligenza artificiale sarà completamente svincolata dalla creatività umana come ci muoveremo, chi deciderà come “istruire” la macchina?
Conclusioni
L’evoluzione spinta nel settore musicale sicuramente farà ulteriori passi in avanti ed è fondamentale fornire delle risposte e individuare delle soluzioni alle questioni che emergono in questa fase primordiale del metaverso perché fra qualche tempo queste situazioni saranno all’ordine del giorno, gli artisti virtuali aumenteranno e la produzione discografica collegata a strumenti di intelligenza artificiale prolifererà.
Questo anche perché le nuove generazioni, condizionate dalle logiche della gamification e dalla realtà virtuale, porranno sempre meno attenzione alla distinzione tra artista umano e avatar.
La realtà legata alla produzione di contenuti basati sull’intelligenza artificiale non riguarda pertanto solo questioni come la proprietà intellettuale o lo sviluppo tecnologico ma penetra molto di più all’interno della società, modificando in maniera sostanziale molti parametri consolidati.
