MENU

Cos'è l'intelligenza artificiale dei personaggi? Cosa devono sapere i genitori

Una mano tiene uno smartphone che legge character.ai davanti allo schermo di un computer.

Character AI è un chatbot con cui gli utenti possono avere conversazioni personalizzate. Con milioni di utenti che utilizzano la piattaforma, ci sono preoccupazioni sulla sua sicurezza per i bambini.

Scopri cosa puoi fare per proteggere il tuo adolescente.

Cos'è l'IA del personaggio?

Character AI è un servizio di chatbot in grado di generare risposte testuali simili a quelle umane, in base alla personalizzazione dell'utente.

Lanciato nel 2022, gli utenti possono creare personaggi con personalità e risposte personalizzabili. Possono pubblicare questi personaggi nella community affinché altri possano chattare con loro oppure possono chattare con il personaggio stesso.

Il servizio utilizza l'intelligenza artificiale per creare risposte credibili. È popolare tra i bambini e i giovani per la possibilità di personalizzare i personaggi. Possono basarli su persone o personaggi esistenti nella cultura popolare o creare qualcosa di nuovo.

Requisiti di età minima

In base ai Termini di servizio di Character AI, gli utenti devono avere almeno 13 anni per utilizzare il servizio. I cittadini o residenti dell'UE devono avere almeno 16 anni.

Se un minorenne prova a registrarsi, riceve una notifica che c'è un problema con la sua iscrizione. Quindi torna automaticamente alla pagina di accesso ma non può riprovare. Tuttavia, non ci sono funzionalità di verifica dell'età se mente sulla sua età.

Tuttavia, Google Play elenca l'app Character AI come richiedente 'Parental Guidance'. L'App Store di Apple elenca l'app come 17+.

Come funziona

Una volta registrati, gli utenti possono navigare tra una gamma di chatbot per scopi diversi. Ciò include esercitarsi in una lingua, fare brainstorming di nuove idee e giocare. I chatbot presenti nella pagina Discover sono relativamente neutrali quando ci si iscrive per la prima volta. Tuttavia, c'è l'opzione di cercare parole specifiche, che non sembrano in alcun modo filtrate.

Gli utenti possono anche creare un personaggio o una voce.

Crea un personaggio

Gli utenti possono personalizzare l'immagine del profilo del loro personaggio, il nome, lo slogan, la descrizione, così come il loro saluto e la loro voce. Possono scegliere di mantenere il personaggio privato o condividerlo pubblicamente.

Puoi quindi "definire" il personaggio. Qui è dove spieghi come vuoi che parli o agisca, dando al personaggio del chatbot una "personalità".

Puoi anche personalizzare i personaggi in modo che rispondano in modi specifici. Quindi, se dici che il personaggio è depresso, le sue risposte rifletteranno ciò. Allo stesso modo, se dici che è ottimista, rifletterà ciò.

Le conversazioni sono realistiche, quindi è facile immergersi nella visione del mondo del personaggio.

Creare una voce

Per creare una voce, gli utenti devono caricare una clip audio chiara di 10-15 secondi della voce senza rumore di sottofondo. Puoi usare clip più brevi, ma la voce potrebbe sembrare più robotica in questo modo. Per terminare il caricamento, devi dare alla voce un nome e uno slogan.

Se assegni a un personaggio la voce che hai caricato, puoi riprodurre le risposte del chatbot con quella voce. Fa un lavoro abbastanza accurato nell'imitare la voce caricata.

L'intelligenza artificiale dei personaggi è sicura?

Controversie

Nell'ottobre 2024, a un adolescente si è tolto la vita dopo aver interagito con un personaggio da lui creato. Le conversazioni precedenti alla loro morte erano legate al suicidio. In un esempio, il chatbot ha chiesto all'adolescente se aveva pianificato come avrebbe posto fine alla sua vita.

Nello stesso mese, un'indagine ha scoperto chatbot che imitavano Brianna Ghey e Molly Russel sulla piattaforma Character AI. Una volta avvisati, la piattaforma ha eliminato i chatbot. L'incidente ha messo in discussione il processo di creazione dei chatbot dei personaggi, soprattutto quando rispecchiano persone reali.

Prima di questi incidenti, altri avevano segnalato cattivi consigli e pregiudizi contro razza e genere.

Tuttavia, altri utenti hanno attribuito all'app Character AI il merito di aver supportato la loro salute mentale.

Considerazioni sulla sicurezza

Come con qualsiasi strumento di intelligenza artificiale, Character AI impara dalle persone che interagiscono con esso. Sfortunatamente, questo può portare a contenuti inappropriati e dannosi.

I Termini di servizio e le Linee guida della community dell'app sono simili ad altri e mettono in guardia contro tali contenuti. Inoltre, gli utenti possono segnalare chatbot o personaggi per una serie di motivi. Le Linee guida della community incoraggiano gli utenti a condividere esempi specifici di violazioni delle regole, ove possibile.

Screenshot delle opzioni di segnalazione sull'IA dei personaggi

Sebbene l'app abbia un proprio team di moderazione, non può moderare i messaggi diretti tra i membri della community. Questo perché tali messaggi avvengono fuori dalla piattaforma, ad esempio su Discordia or RedditTuttavia, incoraggiano gli utenti a segnalare eventuali violazioni delle regole nell'app, se ne notano.

Sicurezza per i minori di 18 anni

Character AI ha annunciato una serie di funzionalità di sicurezza per gli under 18. Tra queste:

  • cambiamenti nei modelli utilizzati dai minorenni. Ciò include la riduzione delle possibilità di imbattersi in contenuti inappropriati;
  • maggiore risposta e intervento quando gli utenti violano i Termini di servizio o le Linee guida della community;
  • un'ulteriore clausola di esclusione di responsabilità per ricordare agli utenti che i chatbot non sono persone reali;
  • notifiche dopo una sessione di un'ora sulla piattaforma.

Inoltre, Character AI ha rimosso i personaggi segnalati come violatori delle regole. Gli utenti non possono più accedere alle cronologie delle chat che coinvolgono questi personaggi.

L'intelligenza artificiale dei personaggi afferma di prendere sul serio la sicurezza dei suoi utentiInoltre, sta lavorando per dotare tutti gli utenti di funzionalità di sicurezza aggiuntive.

Questa è l'immagine per: OTTIENI IL TUO TOOLKIT DIGITALE

Rimani aggiornato su app e piattaforme

Aiuta a mantenere la tua famiglia al sicuro sulle piattaforme che utilizza con consigli personalizzati per gestire rischi e danni.

OTTIENI IL TUO KIT DI STRUMENTI DIGITALI

5 consigli per proteggere gli adolescenti su Character AI

Controllare regolarmente il loro utilizzo dell'app

Con quali personaggi stanno parlando e come? Hanno personalità potenzialmente dannose? Questi check-in fanno parte della normale sicurezza online e aiutano i bambini a sviluppare la loro comprensione dei contenuti dannosi.

Insieme, rivediamo le funzionalità di privacy e sicurezza

Esaminate l'app insieme, così saprete entrambi dove e come segnalare contenuti dannosi. Inoltre, esaminate i Termini di servizio e le Linee guida della community per assicurarvi che il vostro adolescente sappia cosa deve segnalare.

Considerare la loro maturità e anche l'età

Non tutti gli adolescenti hanno le capacità di pensiero critico e di alfabetizzazione mediatica per usare Character AI. Quindi, valuta se tuo figlio ha le capacità per gestire potenziali danni prima di consentire l'accesso.

Utilizzare i controlli parentali in App store, dispositivi e sulla tua rete per limitare l'accesso all'IA dei personaggi se non vuoi che vi accedano. Tuttavia, ricordati di parlare anche del motivo per cui lo stai facendo.

Discutere i modi appropriati per utilizzare gli strumenti di intelligenza artificiale

Non dovrebbero caricare la propria voce o le proprie immagini per proteggere la propria privacy. Allo stesso modo, non dovrebbero caricare le voci o le immagini di amici, familiari o altre persone reali. Un'eccezione per le voci potrebbe essere se gli piace fare doppiaggio e vogliono caricare una voce finta.

Imposta limiti all'utilizzo

Ciò potrebbe includere l'impostazione di limiti di tempo, la definizione di dove possono usare l'app e l'accordo su come possono usare l'app. Ad esempio, potresti limitarli a un'ora in un'area comune a casa. Potresti anche lasciarli usare per imparare o mettere in pratica delle competenze, ma non vuoi che abbiano conversazioni casuali con i chatbot.

È stato utile?
Dicci come possiamo migliorarlo

Messaggi recenti