Instagram, come capire se un profilo è vero o creato dall’IA: arriva una nuova etichetta

Segui un profilo, guardi le sue fotografie, commenti i video e magari inizi anche a scambiare qualche messaggio. Ma la persona dall’altra parte potrebbe non esistere realmente.

Con l’evoluzione dell’Intelligenza Artificiale generativa, distinguere un essere umano da un personaggio completamente digitale sta diventando sempre più difficile. Volti, fotografie, video e persino voci possono ormai essere prodotti artificialmente con un livello di realismo impensabile fino a pochi anni fa.

Proprio per rendere più chiara questa distinzione, Instagram punta a identificare i profili riconducibili a creator generati attraverso l’Intelligenza Artificiale.

La scritta “Creator AI” sui profili Instagram

La novità ruota attorno a un’etichetta specifica: “Creator AI”.

La dicitura dovrebbe consentire a chi visita un account di capire che il personaggio rappresentato non deve essere considerato alla stessa stregua di un creator umano.

Un’indicazione che diventa particolarmente importante quando il livello di realismo delle immagini rende praticamente impossibile stabilire a colpo d’occhio se il volto visualizzato appartenga davvero a una persona.

La questione, infatti, non riguarda più soltanto una fotografia ritoccata.

Con gli strumenti attuali è possibile costruire un’intera identità virtuale, attribuirle un nome, un aspetto, una personalità e produrre continuamente nuovi contenuti.

Influencer che non esistono realmente

I creator virtuali non rappresentano una novità assoluta nel mondo dei social.

Ciò che sta cambiando è la facilità con cui possono essere creati e la qualità raggiunta dai sistemi di Intelligenza Artificiale.

Un profilo può apparire perfettamente credibile: fotografie in luoghi differenti, abiti diversi, attività quotidiane e contenuti capaci di ricostruire quella che sembra la vita reale di una persona.

Per un utente che incontra casualmente quell’account può quindi essere difficile capire immediatamente se sta seguendo una persona oppure un personaggio artificiale.

Da qui la necessità di aumentare la trasparenza.

Chi usa l’IA dovrà dichiararlo?

Gli account interessati potranno utilizzare l’etichetta prevista per rendere riconoscibile la natura del creator.

Ma la piattaforma potrebbe intervenire anche nei confronti dei profili che non rispettano correttamente le indicazioni previste.

Una delle possibili conseguenze riguarda infatti la riduzione della visibilità dei contenuti.

In sostanza, un account riconducibile a un creator AI che non viene correttamente identificato potrebbe essere penalizzato nei sistemi attraverso i quali Instagram suggerisce e distribuisce i contenuti agli utenti.

E se Instagram sbaglia?

Esiste naturalmente anche il problema opposto.

Un profilo reale potrebbe essere classificato erroneamente oppure il proprietario dell’account potrebbe non essere d’accordo con l’indicazione applicata.

In questi casi sarebbe possibile intervenire attraverso la sezione “Stato dell’account”, utilizzando gli strumenti messi a disposizione per contestare la decisione.

Un passaggio necessario proprio perché stabilire dove finisca il normale utilizzo degli strumenti di IA e dove inizi un’identità interamente artificiale potrebbe non essere sempre semplice.

Non è la stessa cosa di una foto creata con l’IA

C’è inoltre una distinzione importante.

Un creator reale può utilizzare l’Intelligenza Artificiale per modificare una fotografia o produrre un determinato contenuto senza che per questo la sua identità diventi artificiale.

L’etichettatura dei contenuti generati o modificati con IA e quella relativa ai creator virtuali rispondono quindi a esigenze differenti.

Nel primo caso bisogna sapere che cosa stiamo guardando. Nel secondo diventa importante capire chi stiamo guardando.

I social entrano nell’era delle identità artificiali

La diffusione dei creator AI apre inevitabilmente nuove questioni.

Non si tratta di vietare personaggi virtuali, che possono essere utilizzati anche nell’intrattenimento, nella pubblicità e nella comunicazione. Il punto centrale è consentire agli utenti di sapere chiaramente con chi — o con cosa — stanno interagendo.

La trasparenza diventa ancora più importante quando dal semplice “mi piace” si passa alle conversazioni e alle relazioni che possono svilupparsi attraverso i social.

Perché scoprire dopo settimane di interazioni che la persona con cui pensavamo di parlare non è mai esistita è qualcosa di molto diverso dal sapere fin dall’inizio di avere davanti un personaggio virtuale.

Ed è proprio questa la sfida che Instagram e le altre piattaforme dovranno affrontare sempre più spesso: non soltanto indicare quando un contenuto è stato creato dall’Intelligenza Artificiale, ma anche quando ad essere artificiale è il suo stesso autore.