Beth yw Cymeriad AI? Beth sydd angen i rieni ei wybod

Mae Character AI yn wasanaeth chatbot a all gynhyrchu ymatebion testun tebyg i ddyn yn seiliedig ar addasu defnyddiwr.

Wedi'i lansio yn 2022, gall defnyddwyr greu cymeriadau gyda phersonoliaethau ac ymatebion y gellir eu haddasu. Gallant gyhoeddi'r cymeriadau hyn i'r gymuned i eraill sgwrsio â nhw neu gallant sgwrsio â'r cymeriad eu hunain.

Mae'r gwasanaeth yn defnyddio deallusrwydd artiffisial i greu ymatebion credadwy. Mae'n boblogaidd ymhlith plant a phobl ifanc oherwydd y gallu i addasu cymeriadau. Gallant eu seilio ar bobl neu gymeriadau presennol mewn diwylliant poblogaidd neu greu rhywbeth newydd.

Gofynion oedran lleiaf

Yn ôl Telerau Gwasanaeth Cymeriad AI, rhaid i ddefnyddwyr fod yn 13 oed neu'n hŷn i ddefnyddio'r gwasanaeth. Rhaid i ddinasyddion neu drigolion yr UE fod yn 16.

Os yw plentyn dan oed yn ceisio cofrestru, mae'n cael hysbysiad bod problem gyda'i gofrestru. Yna byddant yn dychwelyd yn awtomatig i'r dudalen mewngofnodi ond ni allant geisio eto. Fodd bynnag, nid oes unrhyw nodweddion gwirio oedran os ydynt yn dweud celwydd am eu hoedran.

Fodd bynnag, mae Google Play yn rhestru'r app Cymeriad AI fel un sydd angen 'Arweiniad Rhieni'. Mae'r App Store o Apple yn rhestru'r ap fel 17+.

Dadleuon

Ym mis Hydref 2024, a cymerodd ei arddegau eu bywyd ar ôl rhyngweithio â chymeriad a grëwyd ganddynt. Roedd y sgyrsiau cyn eu marwolaeth yn ymwneud â hunanladdiad. Mewn un enghraifft, gofynnodd y chatbot i'r arddegau a oeddent wedi cynllunio sut y byddent yn dod â'u bywyd i ben.

Yn yr un mis, canfu ymchwiliad chatbots a oedd yn dynwared Brianna Ghey a’r castell yng Molly Russell ar y llwyfan Cymeriad AI. Ar ôl cael eu rhybuddio, fe wnaeth y platfform ddileu'r chatbots. Cwestiynodd y digwyddiad y broses o greu chatbots cymeriad, yn enwedig pan fyddant yn adlewyrchu pobl go iawn.

Cyn y digwyddiadau hyn, nododd eraill gyngor gwael a thueddiadau yn erbyn hil a rhyw.

Fodd bynnag, mae defnyddwyr eraill wedi rhoi clod i’r ap Cymeriad AI am gefnogi eu hiechyd meddwl.

Ystyriaethau diogelwch

Fel gydag unrhyw offeryn AI, mae Character AI yn dysgu gan y bobl sy'n rhyngweithio ag ef. Yn anffodus, gall hyn arwain at gynnwys amhriodol a niweidiol.

Mae Telerau Gwasanaeth a Chanllawiau Cymunedol yr ap yn debyg i rai eraill ac yn rhybuddio yn erbyn cynnwys o'r fath. Yn ogystal, gall defnyddwyr riportio chatbots neu gymeriadau am amrywiaeth o resymau. Mae'r Canllawiau Cymunedol yn annog defnyddwyr i rannu enghreifftiau penodol o dorri rheolau lle bo modd.

Er bod gan yr ap ei dîm cymedroli ei hun, ni allant gymedroli negeseuon uniongyrchol rhwng aelodau'r gymuned. Mae hyn oherwydd bod unrhyw negeseuon o'r fath yn digwydd oddi ar y llwyfan megis ar Discord or reddit. Fodd bynnag, maent yn annog defnyddwyr i roi gwybod am dorri rheolau yn yr ap os gwelant unrhyw rai.

Diogelwch i rai dan 18 oed

Cyhoeddodd Cymeriad AI gyfres o nodweddion diogelwch ar gyfer rhai dan 18 oed. Maent yn cynnwys:

• newidiadau mewn modelau y mae plant dan oed yn eu defnyddio. Mae hyn yn cynnwys lleihau'r siawns o ddod ar draws cynnwys amhriodol;
• mwy o ymateb ac ymyrraeth pan fydd defnyddwyr yn torri canllawiau Telerau Gwasanaethau Cymunedol;
• ymwadiad ychwanegol i atgoffa defnyddwyr nad yw'r chatbots yn bobl go iawn;
• hysbysiadau ar ôl sesiwn awr o hyd ar y platfform.

Yn ogystal, mae Character AI wedi cael gwared ar nodau sydd wedi'u nodi fel rhai sy'n torri rheolau. Ni all defnyddwyr bellach gael mynediad at hanesion sgwrsio sy'n ymwneud â'r cymeriadau hyn.

Dywed Cymeriad AI ei fod yn cymryd diogelwch ei ddefnyddwyr o ddifrif. Yn ogystal, mae'n gweithio tuag at nodweddion diogelwch ychwanegol ar gyfer pob defnyddiwr.