Cosa è Character AI?

Character AI è un servizio di chatbot in grado di generare risposte di testo simili a quelle umane in base alla personalizzazione dell'utente.

Lanciato nel 2022, gli utenti possono creare personaggi con personalità e risposte personalizzabili. Possono pubblicare questi personaggi nella community affinché altri possano chattare con loro oppure possono chattare con il personaggio stesso.

Il servizio utilizza l'intelligenza artificiale per creare risposte credibili. È popolare tra i bambini e i giovani per la possibilità di personalizzare i personaggi. Possono basarli su persone o personaggi esistenti nella cultura popolare o creare qualcosa di nuovo.

Requisiti di età minima

Secondo Character AI'S Termini di Servizio, gli utenti devono avere almeno 13 anni per utilizzare il servizio. I cittadini o residenti nell'UE devono avere almeno 16 anni.

Se un minore tenta di registrarsi, riceve una notifica che indica un problema con la registrazione. Viene quindi automaticamente reindirizzato alla pagina di accesso, ma non può riprovare. Tuttavia, gli utenti possono creare un account inserendo un'età compresa tra 13 e 17 anni senza alcuna verifica dell'età.

Gli utenti di età inferiore ai 18 anni non hanno accesso alle chat a tempo indeterminato con i personaggi controllati dall'IA. Possono accedere solo a video e scene, ma non possono avviare conversazioni con l'IA. Per accedere alle conversazioni con l'IA, gli utenti devono verificare la propria età scattandosi un selfie e, qualora l'età non possa essere determinata tramite il selfie, potrebbe essere richiesto loro di fornire un documento d'identità valido.

Però, Google Play elenca il Character AI app che richiede la "Guida dei genitori". L'App Store da Apple indica che l'app è adatta ai maggiori di 17 anni.

Una volta registrati, gli utenti possono navigare tra una gamma di chatbot per scopi diversi. Ciò include esercitarsi in una lingua, fare brainstorming di nuove idee e giocare. I chatbot presenti nella pagina Discover sono relativamente neutrali quando ci si iscrive per la prima volta. Tuttavia, c'è l'opzione di cercare parole specifiche, che non sembrano in alcun modo filtrate.

Gli utenti possono anche creare un personaggio o una voce.

Crea un personaggio

Gli utenti possono personalizzare l'immagine del profilo del loro personaggio, il nome, lo slogan, la descrizione, così come il loro saluto e la loro voce. Possono scegliere di mantenere il personaggio privato o condividerlo pubblicamente.

Puoi quindi "definire" il personaggio. Qui è dove spieghi come vuoi che parli o agisca, dando al personaggio del chatbot una "personalità".

Puoi anche personalizzare i personaggi in modo che rispondano in modi specifici. Quindi, se dici che il personaggio è depresso, le sue risposte rifletteranno ciò. Allo stesso modo, se dici che è ottimista, rifletterà ciò.

Le conversazioni sono realistiche, quindi è facile immergersi nella visione del mondo del personaggio.

Creare una voce

Per creare una voce, gli utenti devono caricare una clip audio chiara di 10-15 secondi della voce senza rumore di sottofondo. Puoi usare clip più brevi, ma la voce potrebbe sembrare più robotica in questo modo. Per terminare il caricamento, devi dare alla voce un nome e uno slogan.

Se assegni a un personaggio la voce che hai caricato, puoi riprodurre le risposte del chatbot con quella voce. Fa un lavoro abbastanza accurato nell'imitare la voce caricata.

Controversie

Nello stesso mese, un'indagine ha scoperto chatbot che imitavano Brianna Ghey and Molly Russel sul canale Character AI piattaforma. Una volta avvisata, la piattaforma ha eliminato i chatbot. L'incidente ha messo in discussione il processo di creazione dei chatbot con personaggi, soprattutto quando questi rispecchiano persone reali.

Prima di questi incidenti, altri avevano segnalato cattivi consigli e pregiudizi contro razza e genere.

Tuttavia, altri utenti hanno attribuito il merito Character AI app che supportano la loro salute mentale.

Considerazioni sulla sicurezza

Come con qualsiasi strumento di intelligenza artificiale, Character AI impara dalle persone che interagiscono con esso. Purtroppo, questo può portare a contenuti inappropriati e dannosi.

I Termini di servizio e le Linee guida della community dell'app sono simili ad altri e mettono in guardia contro tali contenuti. Inoltre, gli utenti possono segnalare chatbot o personaggi per una serie di motivi. Le Linee guida della community incoraggiano gli utenti a condividere esempi specifici di violazioni delle regole, ove possibile.

Sebbene l'app abbia un proprio team di moderazione, non può moderare i messaggi diretti tra i membri della community. Questo perché tali messaggi avvengono fuori dalla piattaforma, ad esempio su Discord or RedditTuttavia, incoraggiano gli utenti a segnalare eventuali violazioni delle regole nell'app, se ne notano.

Sicurezza per i minori di 18 anni

Character AI Il sistema include una serie di funzioni di sicurezza per i minori di 18 anni. Questi non possono avere conversazioni aperte con i chatbot basati sull'intelligenza artificiale, ma possono interagire solo con scene e video predefiniti. Ciò riduce la probabilità che ricevano risposte inappropriate dai chatbot.

Inoltre, Character AI ha rimosso i personaggi segnalati come in violazione delle regole. Gli utenti non possono più accedere alle cronologie delle chat che coinvolgono questi personaggi.

Tuttavia, sul sito sono ancora presenti alcuni personaggi e scene inappropriati, come ad esempio raffigurante Jeffrey Epstein e Ghislaine MaxwellSebbene i minori di 18 anni non possano interagire direttamente con questi chatbot, possono comunque visualizzare i messaggi iniziali, che possono contenere contenuti inquietanti.

Character AI afferma di prendere sul serio la sicurezza dei suoi utentiInoltre, sta lavorando per dotare tutti gli utenti di funzionalità di sicurezza aggiuntive.