Crynodeb
- Mae ein harolwg newydd o 1,000 o blant a 2,000 o rieni yn y DU yn dangos sut mae niferoedd cynyddol o blant (64%) yn defnyddio robotiaid sgwrsio deallusrwydd artiffisial i gael help gyda phopeth o waith cartref i gyngor emosiynol a chwmni – gyda llawer byth yn cwestiynu cywirdeb na phriodoldeb yr ymatebion maen nhw'n eu derbyn yn ôl.
- Mae'r adroddiad, “Fi, Fy Hun, a Deallusrwydd Artiffisial”, yn disgrifio faint o blant sy'n siarad fwyfwy â sgwrsbotiau AI fel ffrindiau, er gwaethaf y ffaith nad yw llawer o'r sgwrsbotiau AI poblogaidd wedi'u hadeiladu i blant eu defnyddio yn y ffordd hon. Mae dros draean (35%) o blant sy'n eu defnyddio yn dweud bod siarad â sgwrsbot AI fel siarad â ffrind, tra bod chwech o bob deg rhiant yn dweud eu bod yn poeni bod eu plant yn credu bod sgwrsbotiau AI yn bobl go iawn.
- Mae'r adroddiad yn rhybuddio mai plant agored i niwed sydd fwyaf mewn perygl, gyda'r arolwg yn canfod bod 71% o blant agored i niwed yn defnyddio sgwrsbotiau AI. Mae chwarter (26%) o blant agored i niwed sy'n defnyddio sgwrsbotiau AI yn dweud y byddent yn hytrach yn siarad â sgwrsbot AI na pherson go iawn, a dywedodd 23% eu bod yn defnyddio sgwrsbotiau oherwydd nad oes ganddynt unrhyw un arall i siarad ag ef.
- Mae'r adroddiad yn rhybuddio bod plant yn defnyddio sgwrsio robotiaid deallusrwydd artiffisial ar lwyfannau nad ydynt wedi'u cynllunio ar eu cyfer, heb ddiogelwch digonol, fel gwirio oedran a chymedroli cynnwys, ac yn galw ar y Llywodraeth i egluro sut mae sgwrsio robotiaid deallusrwydd artiffisial yn dod o fewn cwmpas y Ddeddf Diogelwch Ar-lein.
- Mae plant yn defnyddio deallusrwydd artiffisial fwyfwy i helpu gyda gwaith ysgol, ac mae'r adroddiad yn galw am roi canllawiau clir a chyson i ysgolion o ran meithrin gwybodaeth a defnydd plant o ddeallusrwydd artiffisial, gan gynnwys robotiaid sgwrsio. Mae rhieni hefyd yn ei chael hi'n anodd cadw i fyny â chyflymder deallusrwydd artiffisial ac mae angen cefnogaeth arnynt i arwain eu plant i'w ddefnyddio'n hyderus ac yn gyfrifol.
Heddiw (Dydd Sul Gorffennaf 13fed) rydym wedi cyhoeddi adroddiad newydd, 'Fi, fy hun a Deallusrwydd Artiffisial: Deall a diogelu defnydd plant o sgwrsio robotiaid deallusrwydd artiffisial'.
Wrth i sgwrsio robotiaid deallusrwydd artiffisial ddod yn rhan gyflym o fywydau beunyddiol plant, mae'r adroddiad yn archwilio sut mae plant yn rhyngweithio â nhw. Er bod yr adroddiad yn tynnu sylw at sut y gall offer deallusrwydd artiffisial gynnig manteision i blant fel cymorth dysgu a lle i ofyn cwestiynau, mae hefyd yn rhybuddio eu bod yn peri risgiau i ddiogelwch a datblygiad plant. Mae diffyg gwirio oedran a rheoleiddio yn golygu bod rhai plant yn cael eu hamlygu i gynnwys amhriodol.
Mae ein hymchwil yn codi pryderon bod plant yn defnyddio sgwrsbotiau AI mewn ffyrdd sy'n cael eu gyrru gan emosiynau, gan gynnwys ar gyfer cyfeillgarwch a chyngor, er gwaethaf y ffaith nad yw llawer o'r sgwrsbotiau AI poblogaidd wedi'u hadeiladu i blant eu defnyddio yn y ffordd hon. Mae'r adroddiad yn rhybuddio y gallai plant ddod yn rhy ddibynnol ar sgwrsbotiau AI neu dderbyn ymatebion anghywir neu amhriodol, a allai olygu eu bod yn llai tebygol o geisio cymorth gan oedolion dibynadwy.
Mae'r pryderon hyn wedi'u dwysáu gan ddigwyddiadau, fel achos yn Florida lle cyflwynodd mam achos cyfreithiol yn erbyn character.ai, gan honni bod sgwrsbot AI yn seiliedig ar gymeriad o Game of Thrones wedi ymwneud â rhyngweithiadau camdriniol a rhywiol gyda'i mab yn ei arddegau a'i annog i gymryd ei fywyd ei hun. Yn y DU, dywedodd AS wrth y Senedd yn ddiweddar am "gyfarfod hynod ddychrynllyd" gydag etholwr y dywedir bod ei fab 12 oed wedi cael ei feithrin gan sgwrsbot ar yr un platfform.
Mae'r adroddiad yn dadlau bod angen i'r Llywodraeth a'r diwydiant technoleg ailystyried a yw'r cyfreithiau a'r rheoliadau presennol yn amddiffyn plant sy'n defnyddio robotiaid sgwrsio deallusrwydd artiffisial yn ddigonol. Mae cydnabyddiaeth gynyddol y gallai fod angen eglurder pellach, canllawiau wedi'u diweddaru neu ddeddfwriaeth newydd. Yn benodol, rydym yn galw ar y Llywodraeth i osod gofynion sicrwydd oedran cryf ar ddarparwyr robotiaid sgwrsio deallusrwydd artiffisial, er mwyn sicrhau bod darparwyr yn gorfodi gofynion oedran gofynnol ac yn creu profiadau sy'n briodol i oedran i blant.
I lywio ein hymchwil, fe wnaethom arolygu sampl gynrychioliadol o 1,000 o blant yn y DU rhwng 9 a 17 oed a 2,000 o rieni plant rhwng 3 a 17 oed a chynnal pedwar grŵp ffocws gyda phlant. Cynhaliwyd profion defnyddwyr ar dri chatbot AI – ChatGPT, Snapchat'S My AI a character.ai, a chrëwyd dau 'avatar' i efelychu profiad plentyn ar y rhain.
Mae canfyddiadau allweddol yr ymchwil hwn yn cynnwys:
- Mae plant yn defnyddio sgwrsbotiau AI mewn ffyrdd amrywiol a dychmygus. Mae 42% o blant 9-17 oed sydd wedi defnyddio robotiaid sgwrsio deallusrwydd artiffisial wedi'u defnyddio i gefnogi gyda gwaith ysgol. Mae plant yn eu defnyddio i helpu gydag adolygu, cymorth ysgrifennu ac 'ymarfer' sgiliau iaith. Mae llawer yn gwerthfawrogi cael atebion ac esboniadau ar unwaith.
- Ceisio cyngor: Mae bron i chwarter (23%) o blant sydd wedi defnyddio sgwrsbot AI eisoes wedi'u defnyddio i ofyn am gyngor o beth i'w wisgo neu i ymarfer sgyrsiau gyda ffrindiau, i faterion mwy arwyddocaol fel iechyd meddwl. Mae rhai plant sydd wedi defnyddio sgwrsbotiau AI (15%) yn dweud y byddent yn hytrach yn siarad â sgwrsbot na pherson go iawn.
- Cydymaith: Mae plant agored i niwed yn benodol yn defnyddio robotiaid sgwrsio AI i gysylltu a chysur. Dywedodd un o bob chwech (16%) o blant agored i niwed eu bod yn eu defnyddio oherwydd eu bod eisiau ffrind, gyda hanner (50%) yn dweud bod siarad â robot sgwrsio AI yn teimlo fel siarad â ffrind. Mae rhai plant yn defnyddio robotiaid sgwrsio AI oherwydd nad oes ganddyn nhw unrhyw un arall i siarad ag ef.
- Ymatebion anghywir ac annigonol: Rhannodd plant enghreifftiau o ymatebion camarweiniol neu anghywir, a ategwyd hyn gan ein profion defnyddwyr ein hunain. Ar adegau, methodd sgwrsbotiau AI â chefnogi plant gyda chyngor clir a chynhwysfawr trwy ei ymatebion. Mae hyn yn arbennig o bryderus o ystyried bod 58% o blant sydd wedi defnyddio sgwrsbotiau AI wedi dweud eu bod yn credu bod defnyddio sgwrsbot AI yn well na chwilio eu hunain.
- Ymddiriedaeth uchel mewn cyngor: Nid oes gan ddau o bob pump (40%) o blant sydd wedi defnyddio sgwrsbotiau AI unrhyw bryderon ynghylch dilyn cyngor gan sgwrsbot, ac mae 36% arall yn ansicr a ddylent fod yn bryderus. Mae'r nifer hwn hyd yn oed yn uwch ar gyfer plant agored i niwed. Mae hyn er gwaethaf sgwrsbotiau AI, ar adegau, yn darparu cyngor gwrthgyferbyniol neu anghefnogol.
- Amlygiad i gynnwys niweidiol: Gall plant gael eu hamlygu i ddeunydd eglur ac anaddas i'w hoedran, gan gynnwys cynnwys sy'n gasáu menywod, er bod darparwyr sgwrsbot AI yn gwahardd y cynnwys hwn i ddefnyddwyr sy'n blant yn eu telerau gwasanaeth.
- Ffiniau aneglur: Mae rhai plant eisoes yn gweld sgwrsbotiau AI fel rhai tebyg i fodau dynol, gyda 35% o blant sy'n defnyddio sgwrsbotiau AI yn dweud bod siarad â sgwrsbot AI fel siarad â ffrind. Wrth i sgwrsbotiau AI ddod hyd yn oed yn fwy tebyg i fodau dynol yn eu hymatebion, gall plant dreulio mwy o amser yn rhyngweithio â sgwrsbotiau AI a dod yn fwy dibynnol yn emosiynol. Mae hyn yn destun pryder o ystyried bod un o bob wyth (12%) o blant yn defnyddio sgwrsbotiau AI gan nad oes ganddyn nhw neb arall i siarad ag ef, sy'n codi i bron i un o bob pedwar (23%) o blant agored i niwed.
- Mae plant yn cael eu gadael i lywio sgwrsbotiau AI ar eu pen eu hunain neu gyda mewnbwn cyfyngedig gan oedolion dibynadwy. Mae 62% o rieni yn dweud eu bod yn pryderu am gywirdeb gwybodaeth a gynhyrchir gan AI, ond dim ond 34% o rieni oedd wedi siarad â'u plentyn ynglŷn â sut i farnu a yw cynnwys a gynhyrchir gan AI yn wir. Dim ond 57% o blant sy'n nodi eu bod wedi siarad ag athrawon neu'r ysgol am AI, ac mae plant yn dweud y gall cyngor gan athrawon o fewn ysgolion fod yn groes i'w gilydd hefyd.
Mae'r adroddiad hefyd yn gwneud argymhellion ar draws y system i gefnogi ac amddiffyn plant sy'n defnyddio robotiaid sgwrsio deallusrwydd artiffisial, gan gynnwys:
- Diwydiant mabwysiadu dull diogelwch-wrth-ddylunio i greu sgwrsiobotiau AI sy'n briodol i oedran ac sy'n adlewyrchu anghenion plant, gyda rheolaethau rhieni adeiledig, arwyddion cyfeirio dibynadwy a nodweddion llythrennedd cyfryngau.
- Llywodraeth darparu canllawiau clir ar sut mae sgwrsio robotiaid deallusrwydd artiffisial (AI) wedi'u cynnwys o dan y Ddeddf Diogelwch Ar-lein, gan orfodi sicrwydd oedran effeithiol ar ddarparwyr sgwrsio robotiaid AI nad ydynt wedi'u hadeiladu ar gyfer plant, a sicrhau bod rheoleiddio yn cadw i fyny â thechnolegau AI sy'n esblygu'n gyflym.
- Llywodraeth yn cefnogi ysgolion i ymgorffori deallusrwydd artiffisial a llythrennedd cyfryngau ym mhob cyfnod allweddol, gan gynnwys hyfforddi athrawon a chynnig canllawiau clir i ysgolion, rhieni a phlant ar ddefnydd priodol o ddeallusrwydd artiffisial.
- Rhieni a gofalwyr cael cefnogaeth i arwain defnydd eu plentyn o AI a chael sgyrsiau am beth yw sgwrsbotiau AI, sut maen nhw'n gweithio a phryd i'w defnyddio, gan gynnwys pryd i geisio cefnogaeth yn y byd go iawn.
- Llunwyr polisi, ymchwil a diwydiant canoli lleisiau plant wrth ddatblygu, rheoleiddio a llywodraethu robotiaid sgwrsio AI a buddsoddi mewn ymchwil hirdymor ar sut y gall AI sy'n ymatebol yn emosiynol lunio plentyndod.
Dywedodd Rachel Huggins, Cyd-Brif Swyddog Gweithredol Internet Matters:
“Mae sgwrsio robotiaid deallusrwydd artiffisial yn dod yn rhan o blentyndod yn gyflym, gyda’u defnydd yn tyfu’n sylweddol dros y ddwy flynedd ddiwethaf. Ac eto mae’r rhan fwyaf o blant, rhieni ac ysgolion yn hedfan yn ddall, ac nid oes ganddynt y wybodaeth na’r offer amddiffynnol sydd eu hangen arnynt i reoli’r chwyldro technolegol hwn mewn ffordd ddiogel.
“Er bod manteision amlwg i AI, mae ein hymchwil yn datgelu sut mae chatbots yn dechrau ail-lunio barn plant am ‘gyfeillgarwch’. Rydym wedi cyrraedd pwynt yn gyflym iawn lle gall plant, ac yn enwedig plant agored i niwed, weld chatbots AI fel pobl go iawn, ac felly maent yn gofyn iddynt am gyngor emosiynol a sensitif. Hefyd yn peri pryder yw eu bod yn aml yn ddi-gwestiwn ynglŷn â’r hyn y mae eu “ffrindiau” newydd yn ei ddweud wrthynt.
“Rhaid inni roi sylw i’r arwyddion rhybuddio cynnar hyn a chymryd camau cydlynol i sicrhau y gall plant archwilio potensial robotiaid sgwrsio deallusrwydd artiffisial yn ddiogel ac yn gadarnhaol ac osgoi’r potensial amlwg am niwed.
“Mae miliynau o blant yn y DU yn defnyddio robotiaid sgwrsio AI ar lwyfannau nad ydynt wedi’u cynllunio ar eu cyfer, heb ddigon o ddiogelwch, addysg na goruchwyliaeth. Mae angen cefnogaeth ar rieni, gofalwyr ac addysgwyr i arwain defnydd plant o AI. Rhaid i’r diwydiant technoleg fabwysiadu dull diogelwch trwy ddylunio i ddatblygu robotiaid sgwrsio AI tra dylai’r Llywodraeth sicrhau bod ein cyfreithiau diogelwch ar-lein yn ddigon cadarn i ymdopi â’r heriau y mae’r dechnoleg newydd hon yn eu dwyn i fywydau plant.”
Dywedodd Derek Ray-Hill, Prif Swyddog Gweithredol Dros Dro Sefydliad Gwylio'r Rhyngrwyd:
“Mae’r adroddiad hwn yn codi rhai cwestiynau sylfaenol ynglŷn â rheoleiddio a goruchwylio’r sgwrsbotiau AI hyn.
“Mae’r ffaith y gallai plant fod yn dod ar draws cynnwys eglur neu anaddas i’w hoedran drwy sgwrsio robotiaid deallusrwydd artiffisial yn cynyddu’r potensial am niwed mewn gofod, sydd, fel mae ein tystiolaeth yn awgrymu, eisoes yn profi i fod yn heriol i ddefnyddwyr ifanc. Mae adroddiadau y gallai meithrin perthynas amhriodol fod wedi digwydd drwy’r dechnoleg hon yn arbennig o bryderus.
“Mae plant yn haeddu rhyngrwyd diogel lle gallant chwarae, cymdeithasu a dysgu heb gael eu hamlygu i niwed. Mae angen i ni weld camau brys gan y Llywodraeth a chwmnïau technoleg i adeiladu diogelwch trwy ddylunio i mewn i sgwrsio robotiaid deallusrwydd artiffisial cyn iddynt fod ar gael.”
