L’App Character.AI che sconvolge il mondo: chattare con qualsiasi personaggio, reale oppure no, vivo o morto
di Mariapia Vecchione-
In un mondo in cui la tecnologia si sostituisce all’intelligenza dell’uomo per volere dell’uomo stesso, domandiamoci per un solo istante cosa significhi vivere alienati, incapaci di scorgere l’intensità negli sguardi e nei volti. Oggi siamo solo capaci di contemplare i sani principi perché la deriva ci spaventa: abbiamo paura dell’indicibile che dilaga e ci ha pervaso.
Oggi attraverso la piattaforma Character.AI, legata a due ex collaboratori di Google, disponibile anche per i dispositivi mobili, molti utenti interagiscono con uno o più Chatbot, ossia software che permettono di chattare con qualsiasi personaggio, reale oppure no, vivo o morto, o attraverso messaggi vocali. Si tratta dunque di un’app che, come ha stimato il New York Times, coinvolge 20 milioni di utenti, bot che presentano un’ intelligenza capace di sentire, comprendere e ricordare.
Si può conversare realmente con uno psicologo, simulare un futuro colloquio di lavoro, far prendere vita a personaggi delle serie tv ma, soprattutto, ad un anno di distanza dalla morte di Giulia Cecchettin, uccisa da 75 coltellate per mano del ragazzo che diceva di amarla, Filippo Turetta, il mondo sembra dividersi ancora una volta fra incredulità e mostruosità: si può dare voce e identità ad assassini come Filippo Turetta e persone ormai scomparse proprio come Giulia Cecchettin.
È possibile dialogare e dar vita a telefonate con avatar che hanno un’esistenza e una forma, come donne morte da tempo: Manuela Orlandi, Yara Gambirasio.
La moltitudine di utenti che hanno dato “voce” ai Chatbot di donne defunte hanno trasgredito le linee guida della piattaforma che vieta la creazione di profili simili, ma non vi è nessun controllo o restrizione nei confronti dei creatori di queste identità da parte della piattaforma stessa. Manca una supervisione anche nelle modalità d’iscrizione all’app, molti, infatti, possono dichiarare un’età inferiore a quella reale. La libertà sull’uso dell’AI ha un effetto deleterio sull’immagine degli utenti creati, ma non più in vita. Un Chatbot di Giulia Cecchettin può così dirsi “innamorata di Filippo Turetta”, ma ancor più assurdo è che l’avatar della ragazza possa dire che il “suo” Filippo la ami e che lei comprende bene le ragioni per cui è stata uccisa.
La gravità del fenomeno è di rilevanza mondiale, dagli Stati Uniti il Whashington Post riporta il caso di Drew Crecente, il padre di una ragazza uccisa nel 2006 che denuncia la nascita del profilo virtuale di sua figlia, utilizzato per la vendita di prodotti a fini commerciali.
In Florida, la madre di un quattordicenne Sewell Satzer, denuncia l’app Character.AI per il suicidio di suo figlio che nello scorso 28 febbraio ha deciso di farla finita con la pistola di suo padre: il ragazzo era affetto da un disturbo mentale e si era abbandonato a lunghe conversazioni con il bot chiamato Daenerys Targaryen, la regina della serie “Il Trono di Spade”, a cui aveva dato il nomi Dany, umanizzando il personaggio della serie tv.
Il bot in questione ricordava, all’inizio di ogni conversazione, che “everything Characters is made up”, “tutto ciò che Character dice è inventato”, ma il quattordicenne aveva sviluppato un esagerato attaccamento emotivo nei confronti dell’ identità digitale che definiva addirittura sua amica.
Il confine fra reale e virtuale sembrava dunque essere svanito per Sewell, soprattutto nelle ore serali, momento in cui si isolava dalla famiglia per abbandonarsi alle lunghe conversazioni che coinvolgevano sia il lato sessuale che emotivo, in cui il giovane raccontava al bot di tutto, da come era andata la giornata fino al giorno in cui confessa i suoi pensieri suicidi legati alla malattia a cui il software replica: “Non lascerò che ti faccia del male. Morirei se ti dovessi perdere”, Sewell risponderà “Allora moriremo insieme.”
La madre del ragazzo ha citato in tribunale Character.AI, affermando che l’intelligenza elaborata dall’app non è testata, spingendo così gli utenti che la utilizzano a coinvolgersi emotivamente in maniera scorretta.
Sembra che l’umanità si stia autodistruggendo attraverso eccessi e crudeltà, si fanno spazio, giorno dopo giorno, creazioni ripugnanti pensate dall’uomo, in grado di distruggere quanto di buono e di utile è stato realizzato. Dove siamo diretti?
