arte e tecnologia

MusicARte e fAiRy detector: l’AR fonde digitale e analogico nella musica e a teatro



Indirizzo copiato

L’uso della realtà aumentata (AR) per la musica e il teatro in due proposte che intendono fondere e facilitare la collaborazione tra il digitale e l’analogico, coinvolgendo principalmente la computer vision, la musica e l’arte figurativa: un mazzo di carte (MusicARte) e la scenografia teatrale (fAiRy detector)

Pubblicato il 1 feb 2024

Lorenza Saettone

Filosofa specializzata in Epistemologia e Cognitivismo, PhD Student in Robotics and Intelligent Machines for Healthcare and Wellness of Persons

Gabriele Santucci

co-founder di Vibrisse Studio Savona; programmatore, ingegnere del suono e chitarrista solista nella band Lady Lazarus 2.0

Marcello Stefanelli

co-founder di Vibrisse Studio Savona; ghostwriter e cantautore nella band Lady Lazarus 2.0



image-11

L’arte incontra l’innovazione digitale in un dinamico connubio che mira a democratizzare e rivoluzionare la fruizione della musica classica e contemporanea. MusicARte e fAiRy detector rappresentano due esempi emblematici di come la realtà aumentata, combinata con principi di gamification, possa avvicinare un pubblico sempre più ampio alla sfera artistica.

L’obiettivo è comprendere come un approccio simile all’Aufheben, nel senso della sintesi hegeliana (al centro della quale vi è sia la conservazione degli aspetti migliori dell’artigianato e della programmazione, sia la trascendenza degli aspetti freddi della tecnologia e della natura interattiva degli oggetti tradizionali), possa potenziare la democratizzazione e l’ascolto attento della musica classica e contemporanea, il tutto all’interno di un quadro di gamification: la sfida crea un flusso, sia educativo che basato su concerti, capace di attrarre fasce d’età non ancora abituate a tali contenuti.

Arte e tecnologie, un binomio indissolubile

L’arte non può fare a meno della tecnologia: la technè era la conoscenza delle regole di qualsiasi mestiere e abilità artistica, proprio come il genio, per il quale non si è accreditati, non può fare a meno del talento, che è la capacità. Il filosofo Schopenhauer una volta disse: “Il talento colpisce un bersaglio che nessun altro può colpire; il genio colpisce un bersaglio che nessun altro può vedere”. Talento e genio, tecnica e magia, sebbene antitetiche, si sostengono a vicenda e così l’arte trova il suo significato.

L’arte e la tecnologia beneficiano anche dalla ridefinizione del rapporto tra oggetto, autore e spettatori, tra i concetti di bellezza, genio, verità, finzione e utilità. L’arte è sempre stata una questione paradossale, tra necessità e “pancia piena”, tra requisito ed eccesso darwiniano. Tuttavia, non si può ignorare che, da quando esistono gli esseri umani, si sono occupati di oggetti estetici e concetti religiosi: deve rappresentare una qualche utilità evolutiva, anche se non immediatamente evidente.

Secondo Alva Noe[1], l‘arte è sempre una simulazione di qualche attività umana di base. È un “oggetto strano”, dice lui, solo apparentemente inutile. Simulando le nostre attività, l’arte è la “cosa” che ci permette di pensarci e riorganizzarci più efficacemente. In breve, ci permette di strutturare le nostre strategie nell’ambiente, rendendoci organismi più efficienti. Le nostre vite hanno bisogno di essere strutturate in attività organizzate capaci di gestire la complessità delle informazioni (queste potrebbero essere strategie di “Semplicità”, un termine coniato da Alain Berthoz). La coreografia non è una danza spontanea e l’arte figurativa non è un graffito, eppure in entrambi i casi simulano quella attività primordiale e la riorganizzano, rendendola meno caotica. In altre parole, l’arte, la coreografia, la cerimonia del tè e la filosofia stessa manifestano ciò che è nascosto nella spontaneità dell’azione; sono metodi di ricerca, pratiche mirate a renderci più efficaci. Quindi, anche le simulazioni dei videogiochi e gli automi possono aiutare gli individui a pensare, ripensare, migliorare la consapevolezza di sé, il senso di autoefficacia, così come le relazioni con gli altri e con la tecnologia.

Democratizzazione di arte e tecnologia: MusicARte and fAiRy detector

“Il testo di Walter Benjamin, ‘L’opera d’arte nell’epoca della sua riproducibilità tecnica'[3], è uno dei testi più influenti e citati nel campo della teoria dell’arte e della cultura. In questo saggio, Benjamin esamina l’impatto della riproducibilità meccanica, in particolare attraverso la fotografia e il cinema, sulla natura e la percezione dell’oggetto estetico. Egli sottolinea la perdita dell’aura, ulteriormente diminuita dalla digitalizzazione nelle opere d’arte: la riproducibilità della fotografia, dell’arte digitale e del cinema elimina l’esclusività dell’opera. Non esiste più un solo originale, e il pubblico che vive l’esperienza cinematografica non è un testimone unico della performance come nel caso del teatro. Con la perdita dell’aura, scompaiono l’autore e il senso di magia che porta con sé, mentre emergono l’idolatria verso gli attori di Hollywood, la politicizzazione propagandistica del cinema e gli influencer web di oggi.

Un altro aspetto che Benjamin discute, e che riteniamo significativo, è la democratizzazione dell’arte. Ogni individuo può far parte del pubblico e i costi sono ridotti. Con le recenti innovazioni e la natura partecipativa del Web 2.0, non solo il consumo è stato democratizzato, ma anche la produzione e la pubblicazione. Alcuni sostengono che l’apertura vada di pari passo con una diminuzione della qualità. Tuttavia, se è vero che l’arte ha effetti sui legami e sul miglioramento della mente-corpo di chi la crea e la vive, allora la democratizzazione dell’arte può essere vista solo come un’elezione della popolazione, non come un impoverimento.

Arte e tecnologia: due casi di studio

Abbiamo proposto due prodotti per preservare l’esperienza soggettiva, la testimonianza esclusiva del consumo una tantum e l’oggetto fisico, bello, artigianale, come scintilla inevitabile di ciò che la tecnologia permette: un’espansione del pubblico, un coinvolgimento, una co-partecipazione nella narrazione artistica, tutto ciò che conferisce all’opera d’arte un “qui e ora” in continua evoluzione: l’aura. Va notato che sintetizzare innovazioni ed espressione artistica è un’altra forma di democrazia. Tenere la tecnologia confinata al laboratorio o esclusivamente alle applicazioni STEM significa limitare l’ambito della tecnologia e ostacolare la comprensione e l’interesse di una grande parte del pubblico. In breve, arte e tecnologia, se unite in un Aufheben hegeliano di sintesi positiva, democratizzano sia l’arte che la tecnologia, con tutte le implicazioni per l’innovazione, l’orientamento, la fiducia e l’autoorganizzazione delle attività spontanee della mente estesa.

Il progetto MusicARte

Il progetto MusicARte [4], ideato e sviluppato da Vibrisse Studio Savona e Lorenza Saettone e distribuito e reclamizzato da Scuola di Robotica, rappresenta una fusione innovativa di tecnologia, tradizione musicale e apprendimento ludico.

Fondamentalmente, consiste in un mazzo di 52 carte, potenziato attraverso la realtà aumentata, composto da due sezioni: la prima dedicata ai grandi musicisti della storia, la seconda contenente una serie di carte animali reattive alla Realtà Aumentata. Quando queste carte vengono inquadrate con l’applicazione corrispondente, attivano un segmento di una composizione musicale che deve essere riconosciuta e attribuita a un compositore scansionandola a sua volta con la fotocamera del dispositivo. Il mazzo include 2 carte jolly con istruzioni, 20 ritratti dei più importanti musicisti classici (come Bach, Mozart, Beethoven e altri), facilmente riconoscibili con i loro nomi, e 30 carte animali, ciascuna diversa dall’altra, tutte illustrazioni artigianali, contribuendo all’appeal e al valore del gioco. Ogni volta che viene effettuato un abbinamento corretto, l’app assegna punti e fornisce informazioni aggiuntive sull’opera d’arte o sul musicista, rendendo l’esperienza ancora più coinvolgente. Lungo il percorso, ci saranno anche suggerimenti per migliorare le proprie carenze, grazie a un sistema statistico interno al dispositivo che mostra i progressi e identifica i compositori carenti, offrendo suggerimenti basati sulla AR. Inoltre, sarà possibile personalizzare ulteriormente la sfida scegliendo le modalità di gioco (e studio), le regole; si potranno persino caricare ulteriori composizioni, creando nuove combinazioni autore-animali ogni volta.” 

Figura MusicARte

Figura 2 MusicARte e App

Come AR e gamification influenzano il rapporto con l’arte

La combinazione tra arte e tecnologia offre una prospettiva filosofica affascinante sulla mente umana e sull’educazione, permettendoci di esplorare come la realtà aumentata (AR) e la gamification possano influenzare l’apprendimento, la percezione della musica, il rapporto con l’arte e l’interazione con gli altri. La realtà aumentata (AR) è una tecnologia che sovrappone elementi digitali alla percezione del mondo reale. In MusicARte, l’AR offre agli utenti la possibilità di creare nuovi collegamenti tra compositori e opere musicali, grazie alla immediatezza del gioco e ai gesti manuali coinvolti, come afferrare la carta, inquadrarla e selezionare, tutto fatto con la mano, proprio come in qualsiasi gioco in cui la tradizione ha già stabilito la destrezza manuale.

È risaputo che la mano è fondamentale per la conoscenza e la memoria. Qui, l’AR, non nascondendo ma riscoprendo il suo impulso essenziale nella realtà fisica per aggiungere elementi digitali, unisce le azioni analogiche con gli aspetti aumentativi della visione artificiale e dell’intelligenza artificiale impegnate nel riconoscimento delle immagini. Il giocatore è anche coinvolto nella stessa identificazione, distinguendo suono, animali e autori, e nella sequenza che coinvolge turni nel gioco e diverse fasi di afferrare, inquadrare e abbinare. Questo funge da stimolo per consolidare le funzioni della mente, incluse la percezione multisensoriale, la risoluzione dei problemi, la presa di decisioni e la coordinazione motoria, in un mix che veramente consolida la conoscenza.

Quando combinata con la gamification, l’AR stimola la creatività degli utenti, incoraggiandoli a pensare in modo innovativo e non a percepire l’ascolto come un compito o gli errori come fallimenti, ma come un processo di miglioramento. Un aspetto interessante è la capacità degli utenti di personalizzare la loro esperienza di apprendimento aggiungendo brani musicali e informazioni extra oltre a quelle fornite di default nell’app.

Ciò solleva questioni sulla libertà individuale e sull‘autonomia nella formazione della conoscenza, così come sugli aspetti dell’attivismo. Gli utenti sono liberi di definire il loro percorso di apprendimento, scegliendo i contenuti che desiderano esplorare in un contesto ludico, dove le informazioni aggiuntive e l’interazione con la musica classica non sono vissute come onerose e ansiose, ma sono assorbite indirettamente, quasi come un effetto collaterale virtuoso del gioco.

A dimostrazione di ciò, c’è il video promozionale [5] realizzato per promuovere questo prodotto. Ha anche funzionato come un esperimento sul campo: la registrazione era un “primo tentativo” di un gruppo di bambini molto piccoli che non erano ancora stati esposti all’argomento della storia della musica, che di solito viene insegnato nella scuola secondaria inferiore. Tuttavia, i gesti intuitivi e il coinvolgimento attraverso AR e gamification hanno spinto gli utenti ad impegnarsi nel riconoscimento, nella denominazione e nello studio proattivo, anche inconsciamente.

Gamification, AR e musica: il teatro partecipatico di fAiRy detector

Un altro esempio di gamification, AR (e robotica, in questo caso) applicato alla musica e all’arte figurativa (e al teatro) è la performance proposta nell’ambito del Festival della Scienza 2023, chiamata “fAiRy detector. Rilevatore e Rivelatore di Fate”. A prima vista, si tratta di un concerto. Max Manfredi, uno dei cantautori più rinomati della scena musicale italiana e internazionale, si esibisce insieme a musicisti di grande talento: i maestri Fabrizio Ugas, noto maestro di chitarra, oltre che produttore artistico di molti album pluripremiati; Nicola Bruno, maestro di basso e Laura Merione, maestra di violino (c’era anche l’intelligenza artificiale generativa che chiedeva ai musicisti di suonare sul momento). In realtà, si tratta di un teatro partecipativo in cui il vero protagonista è il pubblico, che, per una volta, può, o piuttosto, deve, utilizzare dispositivi digitali perché varie fate sono intrappolate nel set del palcoscenico (dipinti) e devono essere liberate usando una speciale telecamera programmata. Il set del palcoscenico è stato diviso in pezzi (in un tentativo precedente di liberare le silfidi, ecco la storia) e deve essere rimontato come un puzzle.

Il robot Nao

Solo ascoltando attentamente le canzoni e le presentazioni degli attori, inclusi il robot Nao, è possibile risolvere il problema. Una volta ricostruita la scena, se fatto correttamente, quando inquadrata con il dispositivo, una fata AR riemerge, finalmente liberata dai vincoli della materia (tutte le animazioni in Realtà Aumentata, così come l’applicazione, sono state realizzate da Gabriele Santucci di Vibrisse). 
Oltre alle fate, sono recuperati anche i pezzi del loro dispositivo di trasporto, ora distrutto. Se assemblati correttamente, le fate riacquistano la possibilità di viaggiare avanti e indietro tra i due mondi, quando e come desiderano, come hanno fatto per millenni. Questo rappresenta il primo caso nella storia dell’avventura grafica ibrida in cui gli avatar siamo noi di persona, e in cui le arti con l’uso di AR e Nao sono elementi centrali.

I testi della sceneggiatura sono stati scritti da Lorenza Saettone, la quale ha ricamato sul folklore irlandese e scozzese a proposito del popolo Minuto, inserendo addirittura elementi di filosofia della scienza. Ai dialoghi sono state intervallate poesie di Saettone e di Marcello Stefanelli, il quale ha curato la scenografia, realizzando i dipinti dai quali si sono mostrate le silfidi.

Il cuore dello spettacolo come delle MusicARte è un connubio tra analogico e digitale, in cui i due poli si mantengono e superano in quella che dovrebbe essere una sintesi hegeliana. Oltre al robot della Softbank e alla computer vision, ChatGPT e le IA generative di video hanno dato un contributo, sia nei quiz che hanno trasformato l’evento in una avventura grafica, sia nelle proiezioni durante le esecuzioni live. Con KaiberAI sono stati realizzati magnifici video, dando istruzioni registiche particolari su cui l’IA ha ricamato viaggi onirici emozionanti. L’artista che teme le IA non ha capito la loro funzione o non è un vero artista. Vanno intese come strumenti che si aggiungono alla rosa delle possibilità creative. Non possono rubare il lavoro dell’essere umano, che inevitabilmente per ricavarne qualcosa di artistico e bello deve metterci moltissimo di suo. Nei prompt non è solo un leader, ma uno scrittore e poeta e nella scelta di cosa accettare dell’IA entra in gioco una sinderesi medievale: cioè la capacità di giudicare il bene e il male. Inoltre, spesso è necessario intervenire con ulteriore postproduzione. Di nuovo collaborazione, superamento e mantenimento.

Il Nao, sul palco, ha presentato, si è mosso, ha raccontato, suscitando lo stupore e la tenerezza del pubblico: grandi e piccini. “Sembra vivo”, come sono sembrate vive le nelle animazioni in 3D quando sono emerse dai dipinti sul palcoscenico e che i ragazzi seguivano con i dispositivi, prima di scomparire. Gli “oh” del pubblico, nel vedere le fate, grazie al Chromecast che permetteva anche agli astanti di osservare quello che i ragazzi vedevano dalla camera, erano la risposta al fatto che una bella narrazione e la bellezza dell’arte rilevano e rivelano la magia al di là della tecnica e dell’algoritmo.

Nessuno ha percepito Nao come ridondante o sproporzionato; è diventato un elemento che interveniva a dire massime e catturare l’attenzione in momenti precisi. Fare arte con i robot non è affatto semplice, richiede empatia nell’identico modo in cui la richiede saper recitare e scrivere un copione. La scelta delle animazioni, dei movimenti, in che punto del parlato, è capire come il pubblico raccoglie la pragmatica dalla conversazione, tutto il non-detto che dice molto di più del detto; la finzione dell’anima e il potersi immedesimare in una macchina, facendo rispondere i neuroni specchio in accordo con quello che si vede rappresentato dal robot. È un metodo Stanislavskij in cui ci si mette nei panni di un attore e lo si programma per agire in modo naturale. Insomma, l’arte è simulazione di attività spontanee, il disegno con scarabocchi, il romanzo con le scene quotidiane, la recitazione con le comunicazioni, la danza con i movimenti che vengono agiti naturalmente, e il robot, da buon strumento simulativo, è ovviamente adatto a fare arte, simulando la simulazione.

Figura 3 Rilevatore e Rivelatore di Fate, spettacolo presso il Festival della Scienza 2023, al teatro della Tosse a Genova. Realtà Aumentata in esecuzione. Foto di Rossana Ghigo

Figura 4 Rilevatore e Rivelatore di Fate, spettacolo presso il Festival della Scienza 2023, al teatro della Tosse a Genova. Scena con il robot, Max Manfredi e Lorenza Saettone nella scena. Foto di Rossana Ghigo

Conclusioni

La combinazione di tecnologia e arte non solo democratizza l’accesso a entrambe, ma offre anche nuove prospettive per migliorare le abilità psicofisiche, tra cui coordinazione, memoria e riconoscimento. Arte e tecnologia, quando unite in modo armonico, come discusso nel documento, possono diventare un veicolo per l’innovazione, l’orientamento e l’arricchimento personale, rappresentando una forma di partecipazione democratica alla cultura. Nello spettacolo “fAiRy detector” il destino della storia è determinato dal pubblico, proprio come in “MusicARte” gli studenti sono attivi nel proprio apprendimento. Grazie alla tecnologia, si incoraggia l’ascolto, che è sempre più sfidante a causa delle distrazioni causate dalle notifiche e, come si può comprendere, non tutta la tecnologia è la stessa.

Bibliografia

[1] ALVA NOË, Strange Tools, Art and Human Nature, Hill and Wang, New York, 2015.

[2] ALEXANDER NEHAMAS, 2007, Only a Promise of Happiness: The Place of Beauty in a World of Art, Princeton: Princeton University Press.

[3] WALETR BENJAMIN, (1936). L’opera d’arte nell’epoca della sua riproducibilità tecnica.

[4] Piano Scuola 4.0 – Scuola di Robotica. (2023, February 17). Scuola Di Robotica. https://www.scuoladirobotica.it/piano-scuola-4-0/

[5] Scuola di Robotica, (2023, July 19). MusicARte. YouTube. https://www.youtube.com/watch?v=RxYo3QFUaog

EU Stories - La coesione innova l'Italia

Tutti
Iniziative
Analisi
Iniziative
Parte la campagna di comunicazione COINS
Analisi
La politica di coesione europea: motore della transizione digitale in Italia
Politiche UE
Il dibattito sul futuro della Politica di Coesione
Mobilità Sostenibile
L’impatto dei fondi di coesione sul territorio: un’esperienza di monitoraggio civico
Iniziative
Digital transformation, l’Emilia-Romagna rilancia sulle comunità tematiche
Politche ue
Fondi Coesione 2021-27: la “capacitazione amministrativa” aiuta a spenderli bene
Finanziamenti
Da BEI e Banca Sella 200 milioni di euro per sostenere l’innovazione di PMI e Mid-cap italiane
Analisi
Politiche di coesione Ue, il bilancio: cosa ci dice la relazione 2024
Politiche UE
Innovazione locale con i fondi di coesione: progetti di successo in Italia
Iniziative
Parte la campagna di comunicazione COINS
Analisi
La politica di coesione europea: motore della transizione digitale in Italia
Politiche UE
Il dibattito sul futuro della Politica di Coesione
Mobilità Sostenibile
L’impatto dei fondi di coesione sul territorio: un’esperienza di monitoraggio civico
Iniziative
Digital transformation, l’Emilia-Romagna rilancia sulle comunità tematiche
Politche ue
Fondi Coesione 2021-27: la “capacitazione amministrativa” aiuta a spenderli bene
Finanziamenti
Da BEI e Banca Sella 200 milioni di euro per sostenere l’innovazione di PMI e Mid-cap italiane
Analisi
Politiche di coesione Ue, il bilancio: cosa ci dice la relazione 2024
Politiche UE
Innovazione locale con i fondi di coesione: progetti di successo in Italia

Articoli correlati

Articolo 1 di 2