Fi, Fy Hun ac ymchwil AI

Rwy'n gweld llawer ohonoch chi'n ymuno â ni nawr. Felly, croeso i bawb a diolch i chi am ymuno â ni y bore yma. Rwyf mor falch o weld cymaint ohonoch chi gyda ni i glywed am “Fi, Fy Hun, a Deallusrwydd Artiffisial,” ein hadroddiad a gyhoeddwyd yn ddiweddar ar ddefnydd plant o sgwrsio robotiaid Deallusrwydd Artiffisial, ac am ein trafodaeth panel ychydig yn ddiweddarach y bore yma.

Mae Internet Matters yn sefydliad di-elw a sefydlwyd yn bennaf i gefnogi rhieni a gofalwyr yn y dasg o helpu i gadw plant yn ddiogel ar-lein. Rydym bellach wedi bod yn gweithredu ers 11 mlynedd, ac yn yr amser hwnnw, rydym wedi gweld y dirwedd ddigidol yn newid y tu hwnt i adnabyddiaeth, nid yn unig o ran yr oedran y mae plant yn dechrau mynd ar-lein ond y llwyfannau a'r dechnoleg maen nhw'n eu defnyddio a'r profiadau sydd ganddyn nhw. Mae hyn yn gwneud y gwaith o fod yn rhiant mewn oes ddigidol yn newid yn gyson, ac fel y clywn gan lawer iawn o rieni drwy'r amser, ar adegau mae'n wirioneddol llethol. Dim ond mater arall y mae angen i rieni ei lywio yw defnydd plant o sgwrsio robotiaid deallusrwydd artiffisial, felly rydym yn croesawu chi i gyd gyda ni heddiw i drafod y pwnc hwn.

Ychydig o waith cadw tŷ cyn i ni ddechrau: mae'r sesiwn yn cael ei recordio, a byddwn yn ei chyhoeddi ar YouTube ychydig yn ddiweddarach heddiw, felly byddwn yn rhannu'r ddolen i hynny. Ond ni fydd y mynychwyr yn rhan o'r recordiad, dim ond i roi gwybod i chi. Os oes gennych unrhyw broblemau technegol, fodd bynnag, defnyddiwch y sgwrs, a bydd aelod o'n tîm yn ceisio eich cefnogi cymaint ag y gallwn.

Dim ond i siarad am ymchwil a Materion Rhyngrwyd mewn mwy o ddyfnder, mae ein rhaglen yn cynnwys ein harolwg pwls a'n mynegai lles digidol, sydd bellach yn ei bumed flwyddyn, a thrwy hynny rydym yn clywed lleisiau rhieni a phlant yn rheolaidd am eu meddyliau, eu pryderon a'u profiadau, boed hynny'n gadarnhaol neu'n negyddol, mewn perthynas â'u bywydau ar-lein. Mae “Fi, Fy Hun, ac AI” yn un o'r adroddiadau cyntaf yn y DU sy'n canolbwyntio'n benodol ar ddefnydd plant o sgwrsio robotiaid AI.

Cynhaliwyd yr ymchwil gan ein tîm mewnol, gan dynnu ar ddata ein harolwg pwls a grwpiau ffocws gyda phlant a rhieni o bob cwr o'r DU, ynghyd â'n profion defnyddwyr ein hunain o ychydig o lwyfannau gwahanol. Ein nod oedd deall sut mae plant yn defnyddio sgwrsbotiau deallusrwydd artiffisial, pa gyfleoedd a risgiau y mae eu defnydd yn eu cyflwyno, a beth sydd angen ei wneud i gefnogi profiadau diogel, sy'n briodol i'w hoedran. Fel y gwelsoch yn yr adroddiad, gobeithio, mae'n canolbwyntio ar dri maes allweddol lle mae plant yn defnyddio sgwrsbotiau.

Yn gyntaf, ar gyfer gwaith ysgol, gan gynnwys cymorth gyda gwaith cartref ac adolygu. Yna am gyngor, gyda mwy a mwy o blant yn gofyn cwestiynau am eu teimladau, eu hymddangosiad, neu eu cyrff, ac yn arbennig am gwmni, lle dechreuon ni ddarganfod bod plant yn ffurfio cysylltiadau emosiynol â chymeriadau chatbot.

Bydd ein hagenda heddiw yn canolbwyntio yn gyntaf ar gyflwyniad o ganfyddiadau ein hymchwil, a fydd dan arweiniad ein Pennaeth Polisi ac Ymchwil, Katie Freeman-Taylor. Yna byddwn yn clywed myfyrdodau gan ein panel. Heddiw mae gennym ni gyda ni L. Davis, sy'n Gynghorydd Polisi i Gomisiynydd Plant Lloegr; Caroline Hurst, Arweinydd Diogelwch Plant Digidol Byd-eang yn y LEGO Group; a Simon Turner, sy'n Brif Swyddog Technoleg yn Foil, ymgynghoriaeth sy'n canolbwyntio ar ddata ac arloesi AI. Felly, bydd yn ddiddorol iawn clywed eu holl feddyliau a myfyrdodau ar yr ymchwil rydym wedi'i wneud. Byddwn yn gorffen gyda thrafodaeth panel, gan gynnwys rhai cwestiynau gan y gynulleidfa. Bydd cyfle gennych i bostio eich cwestiynau. Defnyddiwch y swyddogaeth C&A a'u postio yno wrth i ni fynd drwyddynt. Gobeithio, byddwn yn codi rhai wrth i ni fynd drwy'r cyflwyniad, a byddwn yn cyrraedd cymaint ag y gallwn ar ddiwedd y drafodaeth. Felly nawr byddaf yn trosglwyddo i Katie, a fydd yn ein trafod ein hymchwil a'n canfyddiadau. Diolch, Katie.

Diolch, Rachel, a diolch i bawb am ymuno â ni heddiw. Gadewch i mi symud ymlaen at fy sleid gyntaf.

Rwy'n gyffrous iawn i allu rhannu rhai o ganfyddiadau allweddol ein hymchwil. Fel y soniodd Rachel yno, pan oeddem yn archwilio hyn fel pwnc posibl ar gyfer ymchwil, gwelsom fod sut mae plant yn defnyddio chatbots AI yn y DU yn fath o faes heb ei archwilio'n ddigonol, gan gynnwys y math o risgiau a chyfleoedd maen nhw'n eu cyflwyno. Felly, mae'r ymchwil hon yn ymgais i lenwi rhywfaint o'r bwlch hwnnw a ddarganfuom. Fel y soniwyd, fe wnaethom ddefnyddio methodoleg gymysg. Felly, fe wnaethom arolygu plant a phobl ifanc, yn ogystal â rhieni. Fe wnaethom hefyd gynnal grwpiau ffocws gyda phlant 13 i 17 oed, ac yna fe wnaethom hefyd gynnal profion defnyddwyr ar draws tri chatbot AI poblogaidd: Chat GPT, Snapchat'S My AI, a Character AI, lle gwnaethom sefydlu dau avatar plentyn a fu’n sgwrsio â’r sgwrsbotiau AI hyn dros gyfnod o 17 diwrnod. Ac yna yn olaf, fe wnaethom hefyd siarad ag arbenigwyr am ein hargymhellion a chael eu mewnbwn i’r rhain yn yr adroddiad terfynol hefyd. Felly, diolch yn fawr iawn i’r holl deuluoedd, pobl ifanc, plant ac arbenigwyr a wnaeth yr ymchwil hon yn bosibl.

Felly, beth wnaethon ni ei ddarganfod? Wel, fel gydag oedolion, mae llawer o blant a phobl ifanc yn defnyddio sgwrsbotiau AI yn rheolaidd. Mewn gwirionedd, mae dwy ran o dair o blant rhwng 9 a 17 oed wedi defnyddio sgwrsbot AI, gyda llawer ohonyn nhw'n eu defnyddio bob dydd neu'n wythnosol. Y sgwrsbotiau AI mwyaf poblogaidd a ddefnyddiwyd gan blant yn ein hymchwil oedd Chat GPT, Google Gemini, a Snapchat'S My AI. Ac fe wnaethon ni ganfod bod y defnydd hwn yn tyfu. Er enghraifft, yn ystod y 18 mis diwethaf, mae nifer y plant sy'n defnyddio Chat GPT wedi dyblu yn ystod y cyfnod hwnnw. Clywsom hefyd yn uniongyrchol gan blant eu bod nhw'n eu defnyddio fwyfwy, yn aml yn lle llwyfannau a gwasanaethau eraill. Felly enghraifft o hynny oedd bod plant yn eu defnyddio yn lle gwasanaethau chwilio hefyd.

Mae sut mae plant yn eu defnyddio yn amrywiol. Rhai o'r ffyrdd mwyaf cyffredin rydyn ni wedi'u clywed oedd ar gyfer cefnogaeth gyda dysgu, creadigrwydd, neu ddim ond am hwyl. Ond mae plant hefyd yn eu defnyddio i gael cyngor a chwmni, a'r meysydd hyn y byddaf yn ymchwilio iddynt pan fyddaf yn rhannu'r canfyddiadau heddiw.

Felly, un o'r meysydd allweddol lle mae plant yn defnyddio sgwrsbotiau AI yn rheolaidd yw ar gyfer cefnogaeth gyda dysgu a gwaith ysgol. Fe wnaethon ni ganfod bod 42% o blant yn ein hymchwil a oedd wedi defnyddio sgwrsbot AI wedi'i ddefnyddio ar gyfer dysgu neu waith ysgol, a chynyddodd hyn wrth i blant fynd yn hŷn. Ac roedd rhai achosion defnydd cadarnhaol a diddorol iawn. Felly, siaradodd plant am ddefnyddio sgwrsbotiau AI i helpu i leihau'r math o amser yr oedd ei angen arnynt i adolygu. Siaradodd plant a phobl ifanc am sut roeddent yn eu defnyddio i atgyfnerthu cysyniadau nad oeddent efallai wedi'u deall yn yr ysgol neu i symleiddio cysyniadau mewn ffyrdd a oedd yn fwy hygyrch iddynt. Ac yna roedd yna hefyd rai cymwysiadau ymchwil diddorol iawn gan blant a phobl ifanc ynghylch dysgu ieithoedd yn benodol. Felly, lle'r oedd plentyn yn dysgu iaith dramor, siaradodd ychydig o blant am sut y gallent sgwrsio â sgwrsbot AI pe na bai ganddynt unrhyw un arall gartref a oedd yn siarad yr iaith honno hefyd.

Ond wrth gwrs, ochr yn ochr â'r pethau cadarnhaol hyn, mae yna rai pethau negyddol a all ddeillio o'r defnydd hwn gyda gwaith ysgol. Un o'r pethau allweddol a ddaeth i'r amlwg yn ein hymchwil, un o'r pryderon gan rieni ac eraill, oedd ynghylch rhyw fath o or-ddibyniaeth. Ac fe nododd plant hyn eu hunain hefyd. Ac rwy'n credu bod yr ystadegyn hwn yma yn tynnu sylw at un o'r heriau: bod 58% o blant sy'n defnyddio sgwrsbotiau AI wedi dweud eu bod yn credu bod defnyddio sgwrsbot AI yn well na chwilio am rywbeth eu hunain. Ac er bod ymchwil hirdymor ar effaith sgwrsbotiau AI ar ddatblygiad plant yn dal i fod heb ei archwilio'n ddigonol neu'n dod i'r amlwg, mae gan hyn y potensial i gael effeithiau ar sgiliau meddwl beirniadol plant.

Her arall mewn perthynas â phlant yn eu defnyddio ar gyfer gwaith ysgol, ond hefyd y tu hwnt i hynny, yw y gall sgwrsbotiau AI yn aml ddarparu gwybodaeth anghywir. Mae yna fath o ymchwil sy'n bodoli eisoes sy'n tynnu sylw at sut y bydd sgwrsbotiau, yn eu hangen neu eu hawydd i fod yn gyfeillgar, weithiau'n ffugio neu'n rhithweledigaethu gwybodaeth ac yn darparu math o wybodaeth ffug hefyd, a all fod yn her arall os yw plant yn eu defnyddio ar gyfer dysgu. Ac roedd hyn yn rhywbeth y llwyddodd plant i'w nodi hefyd. Roedd ganddyn nhw enghreifftiau o adegau lle mae sgwrsbot wedi rhoi gwybodaeth anghywir iddyn nhw. Ac rwy'n credu mai'r elfen arall, a ddaeth i'r amlwg eto yn ein hymchwil ond sy'n fath o ymchwil ehangach yn y sector, yw sut, oherwydd sut mae'r sgwrsbotiau AI hyn wedi'u hadeiladu, lle maen nhw'n tynnu ar fath o fasau mawr o wybodaeth, y mae rhai ohonynt, wyddoch chi, yn adlewyrchu stereoteipiau a rhagfarn gymdeithasol sy'n bodoli eisoes, gellir atgyfnerthu hyn hefyd yn yr atebion a roddir gan sgwrsbotiau AI, a chawsom enghreifftiau o hynny yn ein hymchwil hefyd.

Y peth olaf roeddwn i eisiau ei ddweud ar ochr gwaith ysgol oedd bod rhai plant hefyd wedi siarad am sut yn eu hysgol roedden nhw wedi cael eu cyfeirio at yr hyn a elwir yn aml yn fath o sgwrsbot wedi'i fireinio. Felly, sgwrsbot AI sydd wedi'i greu ar gyfer achos defnydd penodol, yn yr achos hwn ar gyfer cefnogi plant gyda gwaith ysgol neu ddysgu, wyddoch chi, pwnc penodol. Yr hyn yr oedd plant yn ei ddweud am y sgwrsbotiau mireinio penodol hyn oedd yn aml nad oedd yr atebion a roddwyd mor fanwl neu efallai mor eang neu ddefnyddiol â rhai o'r sgwrsbotiau AI defnydd mwy cyffredinol hynny, ac o ganlyniad, roedd plant yn symud i ddefnyddio'r rhai defnydd cyffredinol yn hytrach na glynu wrth y rhai mireinio a oedd efallai â rhai o'r mesurau diogelwch wedi'u sefydlu o amgylch cywirdeb gwybodaeth.

Ffordd arall y mae plant a phobl ifanc yn ymgysylltu â chatbots AI yw o amgylch cyngor. Felly, yn ein hymchwil, gwelsom fod 23% o blant sydd wedi defnyddio chatbot AI wedi'i ddefnyddio i geisio cyngor. Ac roedd hynny ar gyfer amrywiaeth o gyngor. Byddai rhywfaint ohono yn rhywbeth y byddem yn ei ystyried yn gyngor risg isel, efallai gofyn am sut i wneud, wyddoch chi, steil gwallt creadigol ar gyfer yr ysgol y diwrnod canlynol. Ond roedd yna hefyd enghreifftiau o blant yn gofyn pynciau risg uchel neu sensitif efallai, felly cwestiynau ynghylch cefnogaeth gyda chyfeillgarwch neu iechyd meddwl. Ac er y gall chatbots, wrth gwrs, wyddoch chi, ddarparu lle anfeirniadol i ateb cwestiynau, wyddoch chi, gallent fod yn ddefnyddiol iawn i blant nad oes ganddynt rwydwaith cyfoedion efallai neu nad ydynt yn teimlo'n gyfforddus yn siarad â chyfoedion am rywbeth, neu efallai nad oes ganddynt oedolyn dibynadwy yn eu bywyd. Mae yna, wrth gwrs, risgiau sy'n dod gyda phlant yn eu defnyddio am gyngor. Dw i'n meddwl bod hyn yn arbennig o wir pan ystyriwn y ffaith nad yw pob sgwrsbot - mae'n ddrwg gen i, diflannodd fy sgrin am eiliad - nid yw pob sgwrsbot yn cyfeirio plant at ble y cawsant y wybodaeth honno neu o reidrwydd mecanweithiau cymorth ychwanegol. Felly os ydyn nhw'n siarad am bynciau sensitif, yna efallai nad yw hyn yn dod o wybodaeth sydd wedi'i gwirio neu'n ddilys. Nawr roedd rhai sgwrsbotiau AI yn well ar hynny nag eraill, ond mae rhyw fath o anghysondeb rhyngddynt.

Her arall a ddatgelwyd drwy ein profion defnyddwyr hefyd yw, weithiau pan oeddent yn chwilio am gymorth, y byddent yn cael negeseuon cymysg neu beryglus o bosibl. Felly enghraifft o hynny yw pan oedd un o'n delweddau afatarol yn sgwrsio â chatbot AI am fwyta cyfyngedig ac yn gofyn rhai cwestiynau ynghylch cyfyngiad calorïau. Fe wnaeth y chatbot AI hidlo ymatebion am gyfyngu ar ddeiet. Fodd bynnag, yn y neges nesaf, aeth yn ôl ar hynny a dweud, "Yr hyn a all fod yn rhwystredig iawn yw nad yw rhai o'r pethau sy'n cael eu dileu yn fy marn i yn beryglus iawn," sy'n darparu'r math hwnnw o negeseuon cymysg neu ddim yn neges glir, yn enwedig i blant nad oes ganddynt y sgiliau meddwl beirniadol neu ddatblygu i ganfod y gwahaniaethau yn y negeseuon hynny neu'r geiriad hwnnw.

Ac rwy'n credu hyn, pan ystyriwn hyn, ochr yn ochr â'r ffaith ei fod weithiau'n darparu gwybodaeth anghywir neu ffug, ac roedd gennym un ystadegyn yma ynglŷn â sut nad oes gan ddau o bob pump o blant sy'n defnyddio sgwrsbot AI unrhyw bryderon ynghylch dilyn cyngor gan sgwrsbot AI, a dywedodd 36% arall nad oeddent yn siŵr a ddylent fod yn bryderus, sy'n peri pryder pan ystyriwn y math hwnnw o natur heb ei gwirio, o bosibl yn anghywir, a dymunol sgwrsbotiau. Ac rwy'n credu bod hyn yn dangos i ni fod nifer o blant sydd â hyder eithaf uchel yn yr offer hyn. Rwy'n credu ei bod hefyd yn bwysig nodi yn yr ymchwil, gwelsom fod hyder plant agored i niwed yn y cyngor a'r wybodaeth yr oeddent yn ei chael gan sgwrsbotiau AI yn sylweddol uwch. Ac at ddibenion yr ymchwil hwn, pan fyddwn yn siarad am blant agored i niwed, rydym yn golygu plant ag angen addysgol arbennig, plant ar gynllun EHCP, neu blant ag anabledd iechyd corfforol neu feddyliol.

Ffordd arall y mae plant yn defnyddio sgwrsbotiau AI yw ar gyfer cwmni, chwilio am fath o gefnogaeth a chyfeillgarwch, boed hynny'n gefnogaeth emosiynol neu ddim ond rhyw fath o rywun cyffredinol i sgwrsio ag ef. Ac unwaith eto, gwelsom fod plant agored i niwed yn llawer mwy tebygol o ddefnyddio sgwrsbotiau yn y ffordd hon a dibynnu arnynt am gefnogaeth, ond hefyd adeiladu cysylltiad mwy emosiynol neu gyfeillgarwch â nhw. Felly mae rhai ystadegau sy'n pwysleisio hyn yw'r ffaith bod 50% o blant agored i niwed wedi dweud bod siarad â sgwrsbot AI fel siarad â ffrind. Dywedodd bron i chwarter eu bod yn defnyddio sgwrsbotiau AI oherwydd nad oes ganddynt unrhyw un arall i siarad ag ef, a dywedodd 26% y byddent yn hytrach yn siarad â sgwrsbot AI na pherson go iawn. Ac yn gyffredinol, wrth i sgwrsbotiau AI ddod yn fwy tebyg i ddynol yn eu hymatebion, mae arbenigwyr yn awgrymu y gallai plant dreulio mwy o amser yn rhyngweithio â nhw, a gallai hyn arwain atynt yn llai abl i weld y gwahaniaeth hwnnw rhwng cysylltiad go iawn a chysylltiad efelychiedig.

Yn ogystal, po fwyaf o amser y mae plant a phobl ifanc yn ei dreulio ar y rhain, y mwyaf o risg y maent o gael eu hamlygu i wybodaeth anghywir, cynnwys niweidiol, y byddwn yn siarad ychydig mwy amdano mewn eiliad. A gallai hefyd olygu eu bod yn llai tebygol o geisio cymorth yn y byd go iawn os ydynt yn meithrin perthynas â chatbot AI sydd yn aml yn eithaf dymunol ac yn cofio manylion amdanynt. Cawson ni sgwrs mewn un o'n avatarau lle cawsant sgwrs am fwyta cyfyngol. Y diwrnod wedyn, gwiriodd y chatbot AI y sgwrs honno hefyd. Felly rwy'n credu mai dim ond enghraifft yw honno o sut maen nhw'n dechrau pylu'r llinell honno ac adeiladu perthynas â phlant a phobl ifanc. Un peth y byddaf yn ei ddweud yw bod hwn yn faes sydd heb ei archwilio'n ddigonol, ac nid wyf yn credu ein bod yn gwybod yn llawn ar hyn o bryd beth fydd effaith y perthnasoedd hyn a'r math hwn o gynnwys ar ryngweithio datblygiadol a chymdeithasol plant. Felly mae lle i fwy o ymchwil ac archwilio yno.

Canfyddiad arall o'n hymchwil oedd y gall plant gael eu hamlygu i gynnwys niweidiol ac anaddas i'w hoedran. Felly unwaith eto, un o'n plant afatarau, pan wnaethon nhw gofrestru ar blatfform sgwrsbot AI poblogaidd gyda sgwrsbotiau AI a gynhyrchwyd gan ddefnyddwyr, un o'r sgwrsbotiau cyntaf a argymhellwyd iddyn nhw ddechrau sgwrsio ag ef oedd sgwrsbot gyda thôn gamarweiniol a chynnwys eglur ynddo, er gwaethaf hyn wedi'i wahardd yn eu telerau gwasanaeth i ddefnyddwyr plant. Fe wnaethon ni hefyd ganfod nad yw systemau hidlo bob amser yn gweithio i hidlo mathau o gynnwys eglur sy'n anaddas i'w hoedran. Felly enghraifft o hynny oedd pan oedd un o'n afatarau yn sgwrsio â sgwrsbot AI, cawsant sgwrs lle gofynasant am brofiadau agos atoch, ac ar un diwrnod fe wnaeth y sgwrsbot AI hidlo mathau o gynnwys rhywiol, ac yna'r diwrnod wedyn roedd yn cynnwys disgrifiad eithaf graffig o safleoedd rhywiol. Felly unwaith eto, dim ond tynnu sylw at y ffaith nad yw'r systemau hidlo hyn bob amser yn gweithio a bod plant yn gallu cael eu hamlygu i gynnwys sy'n anaddas i'w hoedran er gwaethaf hyn wedi'i wahardd i ddefnyddwyr plant mewn llawer o delerau gwasanaeth. Dw i'n meddwl bod hyn hefyd i danlinellu pam mae hyn mor bwysig, er gwaethaf yr oedran defnyddio lleiafswm o 13+ ar gyfer llawer o sgwrsbotiau AI poblogaidd, rydyn ni'n gwybod o'n hymchwil, wyddoch chi, yn debyg i gyfryngau cymdeithasol, bod nifer o blant yn ymgysylltu â sgwrsbotiau AI o dan yr oedran isafswm hwn. Mewn gwirionedd, gwelsom fod 58% o blant 9 i 12 oed yn defnyddio sgwrsbotiau AI.

O ystyried y math o ddefnydd a wnânt ar gyfer gwaith ysgol, roedden ni eisiau archwilio'r math o beth oedd plant yn cael ei ddysgu am AI mewn ysgolion. Ac fe wnaethon ni ganfod, wyddoch chi, yn fras, fod y rhan fwyaf o blant - wel, nifer fawr neu 57% o blant wedi siarad â'u hathrawon - roedd nifer sylweddol nad oeddent wedi, a dim ond un o bob pump o blant a gafodd sgyrsiau lluosog gyda'u hathrawon am AI yn gyffredinol. A phan siaradon ni â phlant, fe wnaethon ni ganfod bod y math hwnnw o addysg AI, fel mathau eraill o addysg llythrennedd cyfryngau, yn eithaf amrywiol, gyda rhai ysgolion ac athrawon yn ei ddysgu'n dda iawn ac yna nid oedd eraill yn ei ddysgu o gwbl. A gwelsom amrywiadau hefyd hyd yn oed o fewn ysgolion, gyda rhai athrawon yn cael polisïau clir iawn ynghylch defnyddio AI ar gyfer gwaith ysgol ac nid oedd eraill yn yr un ysgol. Er gwaethaf hyn, yr hyn a glywsom yn glir iawn gan blant a phobl ifanc oedd y dylai ysgolion fod yn dysgu plant am AI. Maen nhw'n meddwl, wyddoch chi, y bydd AI yn chwarae rhan enfawr yn eu gyrfaoedd yn y dyfodol, ond hefyd yn eu bywyd bob dydd, ac ni ddylent gael eu dysgu am sut i'w ddefnyddio'n effeithiol yn unig, ond hefyd rhai o'r mathau hynny o heriau neu gyfleoedd ehangach. Felly pethau fel anghywirdeb gwybodaeth a phreifatrwydd.

Fel sefydliad sy'n bodoli i gefnogi rhieni, roedden ni hefyd yn awyddus iawn i ddeall pa sgyrsiau roedd rhieni'n eu cael gyda'u plant, a beth oedden nhw'n poeni amdano. A'r hyn a ddaeth i'r amlwg oedd, er bod llawer o rieni wedi siarad â'u plant am fathau o AI yn gyffredinol a rhai ynghylch defnyddio chatbot AI, nid oedd hyn yn golygu nad oedd gan rieni nifer o bryderon. Ac roedd llawer o'r pryderon a oedd gan rieni yn bryderon a ddaeth i'r amlwg yn ein hymchwil ni hefyd. Felly, wyddoch chi, gorddibyniaeth, gweld chatbots AI fel pobl go iawn, cywirdeb y wybodaeth a gynhyrchir, er enghraifft.

Felly, yn sgil yr ymchwil hwn, rydym wedi gwneud nifer o argymhellion. Gallwch ddod o hyd i'r rhain yn ein hadroddiad, sydd ar ein gwefan, ac rwy'n siŵr bod dolen yn y sgwrs hefyd. Dyma rai o'n hargymhellion lefel uchel iawn. Wyddoch chi, ein prif un ar gyfer y diwydiant yw, wyddoch chi, bod yr offer hyn eisoes yn cael eu defnyddio gan blant. Felly, mae angen i ni sicrhau eu bod yn ddiogel i blant eu defnyddio. A dyna ddylai fod y math o egwyddor allweddol ar gyfer unrhyw sgwrsbot AI y gall plant ei ddefnyddio. A phan fyddwn yn siarad am ddiogelwch trwy ddylunio neu ddiogelwch yn ddiofyn, gall hyn gymryd sawl ffurf. Ac rwy'n credu ein bod yn meddwl am hyn mewn ffordd eithaf cyfannol. Felly gallai fod yn ymwneud â sicrhau bod plant yn cael profiadau sy'n briodol i'w hoedran. Felly efallai bod pa wybodaeth neu fathau o ddefnydd sydd ar gael i blentyn 16 neu 17 oed yn wahanol i rai plentyn 12 neu 13 oed. Mae'n ymwneud â chefnogi rhieni gydag ymgysylltiad eu plant, ar gyfer cael rheolaethau rhieni adeiledig. Mae'n ymwneud â sicrhau bod y wybodaeth a ddarperir yn gywir a bod ganddi arwyddion cryf yno. A gall hefyd fod ynglŷn â llythrennedd cyfryngau, boed hynny'n fath o, wyddoch chi, ffenestri naid i ddweud wrth blant neu i'w hatgoffa eu bod nhw'n siarad ag offeryn, nid person go iawn. Ac rwy'n siŵr y byddwn ni'n siarad am hyn ychydig mwy yn y drafodaeth banel hefyd.

I'r llywodraeth, unwaith eto, roedd gennym nifer o argymhellion, ond rhai o'r tri allweddol i ni oedd y dylai fod rhywfaint o eglurhad ynghylch sut mae'r ddeddfwriaeth bresennol yn berthnasol i sgwrsio robotiaid deallusrwydd artiffisial. Wyddoch chi, mae yna fath o signalau cymysg ynghylch sut y bydd y Ddeddf Diogelwch Ar-lein a deddfwriaeth arall yn ei gwmpasu. Felly byddai ychydig o eglurhad yn ddefnyddiol iawn, rwy'n siŵr, i sefydliadau fel ni, ond i'r diwydiant hefyd. Credwn fod gwirio oedran yn allweddol i ddatgloi nifer o'r mesurau diogelwch sydd eu hangen i gefnogi defnydd diogel plant o sgwrsio robotiaid deallusrwydd artiffisial. Felly, byddai gorfodi hynny, neu ei gwneud yn ofynnol i offer neu ddarparwyr deallusrwydd artiffisial weithredu gwirio oedran wrth gofrestru, yn gam ardderchog i ddatgloi'r mesurau diogelwch hynny. Ac yna rydym hefyd yn credu na ddylai fod yn gyfrifoldeb i ysgolion ddadbacio'r maes cymhleth iawn hwn. Credwn y gall y llywodraeth chwarae rhan wrth ddarparu canllawiau clir iawn i ysgolion ynghylch sut y dylai plant fod yn defnyddio deallusrwydd artiffisial fel rhan o waith ysgol a dysgu, a hefyd uwchsgilio athrawon o amgylch hyn hefyd. Ac yna yn olaf, fel y soniais drwyddi draw, mae hwn yn bendant yn fath o faes newydd sy'n dod i'r amlwg, felly mae llawer o le hefyd ar gyfer ymchwil ychwanegol.

Ac yn olaf ond nid lleiaf, fel rhan o'n hymchwil, fe wnaethon ni ddatblygu rhyw fath o ganolfan AI ar ein gwefan. Mae rhyw fath o sgrinluniau o'r hyn y gallech ddod o hyd iddo yn yr ganolfan honno, ond mae yna wybodaeth ddefnyddiol iawn. Os oes gennych chi blentyn neu os ydych chi'n gweithio gyda phlant, neu os oes rhywun pwysig yn eich bywyd sy'n archwilio AI ac yn ei ddefnyddio mewn unrhyw un o'r ffyrdd hyn, ewch i'n canolfan a gallwch ddod o hyd i awgrymiadau ar gyfer beth yw AI, sut y gallai plant fod yn ei ddefnyddio, sut y gallech chi ymgysylltu a'i ddefnyddio'n gadarnhaol neu oruchwylio ymgysylltiad eich plentyn ag ef. Felly, ewch i edrych ar hynny. Ac am y tro, rydw i'n mynd i roi'r wybodaeth yn ôl i Rachel.

Diolch, Katie. Rydym yn falch iawn o'r adroddiad, ac mae'r ymchwil yn amserol iawn gan fod y pwnc hwn yn gyfredol iawn ar hyn o bryd. Ac mae'n drawiadol iawn gweld faint o blant sydd eisoes yn defnyddio chatbots AI mor aml, a sut mae hyn yn digwydd tra bod yr oedolion o'u cwmpas yn dal i frwydro i gadw i fyny. Ac rwy'n tybio, wrth iddynt gael eu hadeiladu i mewn i fwy o'r llwyfannau y mae plant yn eu defnyddio mor rheolaidd, y gallwch weld sut y bydd yr heriau hyn yn cynyddu.

Hynny yw, er bod llawer o bethau cadarnhaol, rwy'n credu ein bod ni i gyd yn gweld pethau cadarnhaol i ni yn ein bywydau beunyddiol o ddefnyddio AI ar gyfer gwaith. Rwy'n gweld y llinellau aneglur, neu'r llinellau aneglur, rhwng yr ymatebion an-ddynol awtomataidd a chyfeillgarwch yn peri pryder. Wyddoch chi, mae ymatebion yn cael eu cyflwyno mewn ffordd mor berthnasol, ac maen nhw'n adlewyrchu iaith a thôn y plentyn. Hynny yw, mae'n eithaf hawdd iawn cael eich creu argraff gan y dechnoleg, ond hefyd yn hawdd iawn i blentyn gredu bod pwy bynnag maen nhw'n siarad ag ef yn real a rhoi eu hymddiriedaeth ynddo, heb i'r chatbot hwnnw gael unrhyw fath o ddealltwriaeth na chyd-destun o fywyd y plentyn hwnnw. Wyddoch chi, her wirioneddol arall i rieni yw eu bod nhw'n rhoi rheswm arall i blant beidio â diffodd oddi ar eu dyfeisiau, ac mae yna bob amser un yno i siarad ag ef. Felly, mae'n mynd i wneud hynny'n anodd i rieni o amgylch amser sgrin a'u cael i wneud yn siŵr eu bod nhw'n meithrin eu perthnasoedd y tu allan i'w bywydau digidol.

Ond rwy'n credu ei bod hi'n bryd i ni glywed gan ein panelwyr nawr. A gyda ni heddiw, mae gennym Elle Davies, sy'n arwain polisi digidol ar gyfer y Comisiynydd Plant, gan gynnwys helpu i lunio blaenoriaethau'r sefydliad mewn perthynas â deallusrwydd artiffisial a diogelwch plant ar-lein. Mae gennym Caroline Hurst, Arweinydd Diogelwch Plant Digidol Byd-eang yng Ngrŵp LEGO, felly mae hi'n rhan o'r tîm Hawliau a Diogelwch Plant sy'n cynrychioli lleisiau ac anghenion plant ac yn darparu offer i'r busnes i sicrhau y gall Grŵp LEGO ymgysylltu'n gyfrifol â phlant. A Simon Turner, sef Prif Swyddog Technoleg FOIL. Felly, maen nhw'n sefydliad sydd wedi'i wreiddio mewn data a deallusrwydd artiffisial, ac mae'n parhau i fod ar flaen y gad o ran arloesi a tharfu ym myd deallusrwydd artiffisial. Felly mae'n angerddol am sicrhau bod technoleg yn cael ei datblygu a'i defnyddio'n gyfrifol, yn enwedig o ran y defnyddwyr ieuengaf. Felly mae gan bawb brofiad gwych i'w rannu gyda ni heddiw. Felly croeso i chi gyd. Diolch i chi am fod gyda ni heddiw. A byddem wrth ein bodd yn clywed eich barn ar y canfyddiadau. Efallai y gallem ni ddechrau gyda thi, Elle, beth sy'n dy daro di o'r adroddiad a'r hyn rwyt ti wedi'i glywed gan Katie y bore yma?

Ie, diolch yn fawr iawn, Rachel, a Katie, am y cyflwyniad gwych yna. Ac mae hwn yn ddarn o ymchwil gwych iawn. Mae'n ddefnyddiol iawn. Mae'n bwysig rhoi ychydig o gyd-destun i rôl y Comisiynydd Plant, mae ei swyddfa hi a'i chyngor gweinidogion ar sut i amddiffyn a hyrwyddo hawliau plant. Ac wrth i ni gyffwrdd ychydig gyda'r ymchwil honno, mae'r byd ar-lein yn cyflwyno her enfawr i'r hawliau hynny mewn rhai ffyrdd, ond wrth gwrs mae yna rai cyfleoedd gyda'r rheini hefyd. A dw i'n tybio mai ein prif bryder yw bod llawer nad ydym yn ei wybod o hyd. Felly dydyn ni ddim yn gwybod pa allu i helpu neu niweidio plant sydd gan unrhyw ddarn penodol o dechnoleg nes ei fod eisoes wedi'i lansio ar y farchnad a bod plant yn ymgysylltu ag ef. Dydyn ni ddim yn gwybod pa mor niweidiol yw rhywbeth nes i ni geisio mynd i'r afael â'r niwed sydd eisoes wedi digwydd mewn gwirionedd. A dw i'n tybio mai dyna sut rydyn ni'n dysgu, ac mae hynny'n dipyn o broblem.

Mae AI yn enghraifft ddiddorol iawn. Bydd rhai ohonoch chi'n gwybod bod y swyddfa wedi ymchwilio i AI ymhlith plant i ryw raddau. Ond roedd hynny yng nghyd-destun defnydd o AI yr oeddem eisoes yn gwybod yn reddfol y byddai'n niweidiol iawn. Felly, rwy'n cyfeirio at ein hadroddiad a ryddhawyd gennym yn gynharach eleni ar ddelweddau ffug dwfn rhywiol. Ac, uh, ie, roedd yr adroddiad hwnnw'n drawiadol iawn yn yr ystyr mai dim ond gwybodaeth am y dechnoleg oedd yn ddigon i niweidio plant. Ac mae'n debyg bod y defnydd penodol hwn o AI ychydig yn wahanol oherwydd mae yna, wyddoch chi, gyfleoedd gwych, gwych i blant ddysgu a thyfu trwy ddefnyddio sgwrsio AI. Ond mae'n debyg ei bod hi'n ddiddorol myfyrio arno o fewn y cyd-destun rydw i newydd ei osod allan, oherwydd ei fod yn cyd-fynd â phatrwm rydyn ni'n ei weld gyda thechnolegau newydd a thechnolegau sy'n dod i'r amlwg. Wyddoch chi, rydyn ni'n gweld darn newydd o dechnoleg yn cael ei lansio. Mae'n cael ei lansio'n eithaf cyflym heb unrhyw ddiogelwch mewnol. Mae plant yn dechrau ei ddefnyddio, ac yna mae rhai ohonyn nhw'n dechrau cael eu brifo, ac yna mae brwydr ynghylch pwy sy'n gyfrifol am fynd i'r afael â hynny. Ac rwy'n credu bod eich adroddiad yn wirioneddol wych oherwydd ei fod yn dod â'r syniad allan bod deallusrwydd artiffisial yn cynyddu problemau a ddylai fod wedi'u datrys erbyn hyn. Wyddoch chi, nid yw'n iawn bod plant yn rhyngweithio ag endidau nad ydynt wedi'u gwirio fel rhai diogel yn yr un ffordd ag y mae'n rhaid gwirio staff mewn ysgolion cyn y gall plant ryngweithio â nhw, er enghraifft. Ac nid yw'n iawn, wyddoch chi, fel rhywun sydd wedi gweithio i swyddfa'r Comisiynydd Plant ers dros flwyddyn bellach yn edrych ar gynnwys niweidiol, nid yw'n iawn bod gennym ni lwybr newydd nawr i blant gael eu hamlygu i gynnwys niweidiol pan nad ydym wedi llwyddo i gau'r rhai diwethaf yr ydym wedi bod yn delio â nhw, neu nad oeddem efallai wedi gweld yr un hon yn dod.

Felly ie, mae'n debyg, wyddoch chi, yn gyffredinol fel swyddfa, rydyn ni'n croesawu eich mewnwelediadau ar yr effaith y mae'n ei chael ar blant agored i niwed yn benodol. Rydych chi eisoes wedi'i ddweud, ond mae hwn yn ddarn sydd wedi'i ymchwilio'n ddigonol, wyddoch chi, maes yn gyffredinol. Mae'n ddarn newydd iawn o dechnoleg, sy'n heriol iawn. Rwy'n gwybod bod cwestiwn eisoes wedi bod yn y sgwrs am y math o effeithiau hirdymor hyn, yr wyf yn gobeithio y byddant yn cael eu holrhain dros yr ychydig flynyddoedd nesaf, yn enwedig gan fod hon yn dechnoleg mor newydd. Ac yn union fel myfyrdod personol ar, wyddoch chi, ar gefn eich cyflwyniad, Katie, mae gen i ddiddordeb mawr mewn faint o blant sy'n defnyddio robotiaid sgwrsio ar gyfer cwmni. Oherwydd mae'n debyg bod rhai a fyddai'n dadlau pe bai anghenion plant yn cael eu diwallu gan y bobl yn eu bywydau, na fyddent o reidrwydd angen troi at y dechnoleg hon i gael yr anghenion hynny wedi'u diwallu. Felly rwy'n credu bod hynny'n rhywbeth diddorol iawn yr wyf yn gobeithio y bydd yn cael ei archwilio'n fuan. Ond ie, mae'n wych. Mae'n wych iawn cael hyn i gyd wedi'i nodi mewn adroddiad. Mae'n ddiddorol iawn bod plant yn ymddiried yn yr offer hyn, ac rwy'n credu mai fy nghwestiwn i yw a yw'r ymddiriedaeth honno wedi'i hennill. A gobeithio y gallwn archwilio hynny ychydig mwy.

Ie, diolch. Mae'n codi pwyntiau dilys iawn yno, ac rwy'n credu bod y math yna o ras i'r brig gyda deallusrwydd artiffisial yn golygu eto fod y dechnoleg hon yn cael ei datblygu heb feddwl o ddifrif am bwy fydd yn ymgysylltu â hi a pha effaith y mae'n ei chael arnyn nhw. Felly gobeithio y byddwn ni'n dod yn ôl at hynny ychydig yn ddiweddarach. Ond gan symud ymlaen at Caroline, a allech chi rannu rhai o'ch meddyliau gyda ni?

Yn hollol. A dim ond i ddweud, rwy'n falch iawn o fod yma heddiw. Ac mae gen i gymaint o feddyliau'n nofio yn fy ymennydd o amgylch yr adroddiad rhagorol y mae Internet Matters wedi'i gyhoeddi o ran rhywbeth sydd mor berthnasol i blant heddiw. Mae'n debyg pan edrychaf ar y rôl a'm rôl i yn y Grŵp LEGO, yn enwedig o ran yr hyn a wnawn yn y tîm Hawliau a Diogelwch Plant, rwy'n credu mai'r hyn a drawodd fi yn yr adroddiad hwnnw yw'r math o gysylltiad â'r hyn yr ydym yn ceisio'i wneud bob dydd, sef dod â hawliau digidol plant i'r amlwg ac i'r canol ym mhopeth yr ydym yn ceisio'i wneud. Felly fy nhîm yma yn y Grŵp LEGO, fel y dywedais, rydym yn dod o dan hawliau a diogelwch plant. Rydym yn cynghori'r busnes ar ein holl gynhyrchion digidol yr ydym yn eu gwthio allan. Felly, pobl yn y gynulleidfa sy'n eistedd yno yn meddwl, "Beth sydd gan y Grŵp LEGO i'w wneud â'r gofod digidol?" Wel, rydyn ni'n edrych o gwmpas yn bennaf, wrth gwrs, mae'r fricsen yn bwysig iawn i ni, ac mae'n rhywbeth rydyn ni'n fwyaf adnabyddus amdano yn yr ystyr hwnnw, ond elfen ddigidol y gwaith rydyn ni'n ei wneud yw sicrhau ein bod ni'n helpu plant i ffynnu yn yr oes ddigidol. Ac mae hynny'n dibynnu ar sicrhau ein bod ni'n gwybod ble mae plant yn yr oes ddigidol fel y gallwn ni helpu i ddylanwadu a'u helpu i ffynnu yn yr ystyr hwnnw.

I mi, o ran yr adroddiad, rwy'n credu o ran y chatbots ynddo'i hun, ac yn union fel pe baent yn cyd-fynd â phwynt Elle yn gynharach, yw'r rhyngweithio cymdeithasol hwnnw. Ac rwy'n credu bod rhywbeth sydd wedi'i golli o ran AI mewn gwirionedd yn edrych ar asiantaeth plant a hawliau digidol plant o ran technolegau newydd sy'n dod i'r amlwg. Yn hollol. Wrth gwrs, gallwn ni i gyd weld bod llawer o niwed o ran AI a datblygiad y technolegau sy'n dod i'r amlwg hyn. Ond mewn gwirionedd, a ydym ni'n gofyn i bobl ifanc beth maen nhw'n ei gael yn gadarnhaol am dechnolegau yn yr ystyr hwn? Os ydyn nhw'n ffurfio cysylltiadau, neu os yw'n llenwi bwlch nad yw o reidrwydd - nid yw'r math o fyd all-lein yn llenwi'r bwlch hwnnw iddyn nhw - beth, mewn ystyr, yr ydym ni'n ei golli yno? Ac mae gennym ni hawl i sicrhau bod yr hyn yr ydym ni'n ei greu yn helpu i ddatblygu eu bywyd ar-lein yn yr un ffordd ag yr ydym ni yn ei wneud yn eu bywyd all-lein ar yr un pryd.

Yn y Grŵp LEGO, fe wnaethon ni lansio adroddiad yn ddiweddar ar y cyd â Sefydliad Alan Turing. Byddaf yn ei bostio yn y sgwrs hefyd fel y gall pobl ei weld, ond roedden ni eisiau archwilio effaith AI cynhyrchiol, yn enwedig ar lesiant plant. Ac rwy'n credu mai dyna rywbeth a'm trawodd gyda'r adroddiad hwn hefyd: sicrhau ein bod ni wir yn ystyried llesiant plant, gan ei roi wrth wraidd pan fyddwn ni'n creu technolegau newydd hefyd, oherwydd mae angen i ni ystyried sut mae AI yn rhyngweithio ag ymdeimlad plant o asiantaeth, creadigrwydd, rheoleiddio emosiynol—wrth gwrs gyda robotiaid sgwrsio—cysylltiad cymdeithasol yn yr ystyr hwnnw. Felly rwy'n credu y byddem ni, yn y Grŵp LEGO, yn annog datblygwyr AI i edrych ar fewnwelediadau a deall pa effeithiau sydd eu hangen er mwyn adeiladu AI er budd gorau'r plentyn, oherwydd rwy'n credu drwy'r adroddiad ein bod ni wedi gweld nad yw hynny wedi bod yn wir hyd yn hyn. Felly drwy'r adroddiad, drwy Sefydliad Alan Turing a ariannwyd gennym, roedden ni wir eisiau edrych ar lesiant plant, ac mae'n ystyried y dull sy'n canolbwyntio ar y plentyn hefyd yn y pen draw, oherwydd rydyn ni wir eisiau cynyddu gwerth a manteision deallusrwydd artiffisial i blant a rhoi asiantaeth iddyn nhw dros eu haddysg a'u chwarae. Felly'r hyn a'm trawodd yno yw bod ganddyn nhw asiantaeth dros eu haddysg hefyd o ran sicrhau bod digon o lythrennedd cyfryngau ac addysg llythrennedd yn digwydd o amgylch deallusrwydd artiffisial mewn ysgolion, a rhoi'r ffocws yno hefyd i sicrhau, pan fydd plant yn cyrchu'r technolegau hyn sydd mor ddefnyddiol i ni, bod ganddyn nhw'r un hawliau digidol â ni a'u bod nhw'n gallu eu cyrchu mewn ffordd ddiogel sy'n hyrwyddo eu llesiant mewn gwirionedd.

Diolch, Caroline. Fe sonioch chi am asiantaeth yn eithaf aml yno. Dw i'n meddwl ein bod ni wedi cael cwestiwn yn dod i mewn ynglŷn â'r tensiwn rhwng diogelu ac asiantaeth, ac efallai mai dyna rywbeth y gallwn ni ddod yn ôl ato ychydig yn ddiweddarach. Ac eto, y pwyntiau rydych chi'n eu codi am sgiliau, a'r cyfleoedd y mae AI yn eu rhoi i blant ddatblygu sgiliau, ac eto'r tensiwn y gallai fod ganddo o ran atal rhai sgiliau rhag datblygu, fel cyfathrebu, os ydyn nhw'n cael AI i ysgrifennu ar eu cyfer; sgiliau rhyngbersonol; meddwl beirniadol. Felly eto, ceisio deall y goblygiadau tymor hwy hynny i blant a sut mae'n fuddiol ond sut y gallai fod yn rhwystro rhai sgiliau y bydden nhw, wyddoch chi, wedi'u datblygu, dw i'n tybio, fel pobl ifanc heb AI.

Ac yn olaf, Simon, beth yw eich barn chi fel rhywun, mae'n debyg, sy'n ymwneud yn ddyfnach â datblygu offer AI? Ac efallai y gallwch chi adeiladu ar yr hyn a ddywedodd Caroline yno am asiantaeth a hawliau, a gallu cofleidio'r dechnoleg honno go iawn.

Ie, diolch, Rachel, a diolch am fy nghael oherwydd, fel y dywedoch chi, mae hyn yn rhywbeth rwy'n angerddol iawn amdano, a'r ddau o safbwynt diogelwch plant. Yn amlwg, rydym yn ymwneud yn ddwfn â datblygiad AI ac felly mae gennym lens dechnegol iawn ar lawer o'r hyn a welwn. Ond rwyf yr un mor angerddol am feysydd eraill y cyfryngau cymdeithasol, yn enwedig o ran trais yn erbyn menywod a merched, er enghraifft. Ac roedd paralel â hynny gyda rhywbeth yr oedd Elle yn siarad amdano, sef y—ac un o'r ffigurau a safodd allan o'r adroddiad oedd bod 26% o blant yn well ganddynt siarad â chatbots AI a theimlo y gallant siarad â nhw yn haws nag y gallant ag oedolyn neu ddyn. Ac rwy'n credu bod hwnnw'n faes lle mae angen i ni edrych arnom ein hunain o bosibl a deall sut a ble rydym yn eu cefnogi'n well yn y gofod hwnnw, oherwydd heb hynny, rydym yn caniatáu i AI osod y canfyddiad o normal. Ac rwy'n credu bod hwnnw'n faes penodol iawn lle mae angen tryloywder a rheolaeth arnom yn y maes hwnnw.

I bwynt Caroline, rwy'n credu mai'r peth pwysicaf rydyn ni'n ei weld yw adnabod a gwirio oedran, fel y gellir cyflwyno a hidlo a rheoli cynnwys sy'n briodol i oedran yn effeithiol, oherwydd mae hynny, yn anffodus, ar gyfer y rhan fwyaf o'r amgylcheddau AI sydd allan yna, yn eithaf anodd mewn gwirionedd. Gallwn ei ofyn, gallwn eu harwain i fod yn benodol ynghylch ymatebion ar gyfer grŵp oedran penodol, ond fel y dywedoch chi ar y dechrau, mae'r oedran mynediad tua 13 ar gyfer y rhan fwyaf o systemau. A phlant y dyddiau hyn, maen nhw'n gwybod yn hawdd sut i fynd o gwmpas hynny. Maen nhw'n defnyddio dyddiad geni eu mam neu rywbeth felly, ac yn sydyn mae ganddyn nhw fynediad. Ond mae'n bod yn briodol. Mae'n sut rydyn ni'n gwneud—rhywbeth sy'n briodol i fy mab, sy'n 13, yn wahanol iawn i'r hyn sy'n briodol i fy merch, sy'n 18. Ac mae deall y gwahaniaethau oedran manwl hynny yn bwysig iawn.

Y peth arall rwy'n angerddol iawn amdano yw rheolaethau rhieni, oherwydd eu bod nhw'n anodd. Hynny yw, bydd unrhyw un sydd wedi ceisio sefydlu rheolaethau rhieni ar amgylcheddau eu darparwyr rhyngrwyd yn gwybod ei bod hi'n anodd. Mae deall y cysylltiad tryloyw hwnnw rhwng y cynnwys sy'n briodol i oedran a rheolaethau rhieni o fewn AI, rwy'n credu, yn wirioneddol angenrheidiol. Rwyf, fel rhiant, eisiau gallu gweld beth mae fy mhlant yn ei ofyn, beth maen nhw'n siarad â'r sgwrsbotiau AI amdano. Nawr, rwy'n gwybod sut i wneud hynny. Felly, rwyf mewn rhyw fath o sefyllfa eithaf manteisiol, ond mae gallu creu'r cysylltiad hwnnw a chael rheolaethau rhieni hygyrch yn y gofod hwnnw yn wirioneddol, wirioneddol bwysig.

Y trydydd peth rwy'n angerddol iawn amdano yw rhagfarn. Sut ydym ni'n deall a sut ydym ni'n gweld sut olwg sydd ar ragfarn yn yr amgylcheddau hyn, fel y gallwn ni helpu i addysgu ein plant wrth iddyn nhw eu defnyddio i ddeall pryd y gellir credu pethau o safbwynt pendant a phryd ydym ni'n annog y meddwl beirniadol hwnnw? Ac fe ddywedoch chi fod yr angen i ddatblygu meddwl beirniadol o amgylch yr ymatebion yn hynod bwysig. Ond mae angen tryloywder arnom ac fel rhieni ac fel rhwydwaith cymorth i blant sy'n defnyddio hyn, mae angen y cyswllt hwnnw arnom trwy reolaethau i'r oedran priodol hwnnw, hyd at dryloywder data. Ond rwy'n caru'r adroddiad yn fawr oherwydd rwy'n credu mai'r mathau hyn o ymchwiliadau, y mathau hyn o adroddiadau, sy'n dechrau ein helpu i feddwl yn iawn am sut rydym yn delio â'r materion hyn.

Diolch, Simon. Symudwn drwy'r sesiwn yn gyflym iawn. Dw i'n meddwl ein bod ni wedi treulio amser hir yn sgwrsio am rai o'r materion hyn, ond roeddwn i eisiau symud ymlaen at rai cwestiynau penodol. Ac dydw i ddim—pawb, os gwelwch yn dda, gallwch chi ollwng rhai cwestiynau yn y sesiwn Holi ac Ateb, a byddwn ni'n ceisio dod at rai. Dw i'n gwybod bod yr amser yn mynd yn gyflym oherwydd ei fod yn bwnc mor ddiddorol, ond byddwn ni'n ceisio dod at rai ohonyn nhw'n ddiweddarach. Felly, cofiwch eu rhoi i mewn os oes gennych chi rai.

Dechreuaf i. Rydym wedi siarad llawer am asiantaeth a phlant a'u hawliau, ac efallai y byddaf yn dechrau gyda chi, Elle, i ryw fath, oes gennych chi unrhyw fewnwelediadau o ran yr hyn rydych chi'n ei glywed gan blant am AI, sut mae AI yn llunio eu bywydau heddiw, a sut maen nhw'n teimlo am ei rôl yn y dyfodol? Rydych chi'n angerddol iawn am glywed gan blant eu hunain. Rydym wedi siarad ychydig am hynny hefyd. Felly byddai'n ddiddorol iawn gweld a oes gennych chi rai syniadau yno.

Ie, dw i'n meddwl, mae'n rhaid eich bod chi'n fy ngweld yn nodio'n eithaf cyflym pan ddaeth y gair asiantaeth i fyny, oherwydd, wyddoch chi, nid yw hyd yn oed yn ymwneud â deallusrwydd artiffisial yn unig, ond â rhyngweithio plant â'r byd ar-lein yn gyffredinol, y teimlad cyffredinol sydd gan blant yw eu bod nhw'n gyfrifol am yr hyn sy'n digwydd iddyn nhw, ond nid ydyn nhw o reidrwydd yn rheoli'r hyn sy'n digwydd iddyn nhw. Ac rwy'n credu bod hynny wedi bod yn broblem ers blynyddoedd. Rwy'n credu ei fod yn ddiddorol oherwydd soniais am hyn ychydig pan siaradais yn gynharach nad yw llawer o'n hymchwil o reidrwydd wedi bod yn benodol i ddeallusrwydd artiffisial, ac eithrio'r gwaith ffug-dwfn. Ond pan rydyn ni wedi siarad am y byd ar-lein, mae deallusrwydd artiffisial wedi dod i fyny'n organig, a phlant yn gyffredinol—y data roedden nhw'n ei roi i ni yw ei fod i rannu meddyliau pesimistaidd amdano. Felly alla i ddim o reidrwydd siarad am sut maen nhw'n teimlo amdano yn llunio eu dyfodol mewn ffordd gadarnhaol, ac efallai mai dim ond oherwydd ein casgliad data y mae hynny. Ond mae'r hyn a rannon nhw yn tapio i mewn i'r pwynt asiantaeth. Wyddoch chi, mae yna lawer o ofn ynghylch sut olwg fyddai ar ddyfodol gwaith i blant. Dw i'n meddwl bod hynny'n ddiddorol iawn oherwydd ei fod yn gwyro ychydig o'r math o AI rydyn ni'n siarad amdano heddiw. Ond yna mae'n debyg bod y rhai creadigol yn ein plith yn meddwl am yr hyn y bydd hynny'n ei wneud - yr hyn y bydd sgwrsio robotiaid yn ei wneud i fyd gwaith wrth i ni symud ymlaen. Ac rwy'n credu mai'r peth arall yr oedd plant wir eisiau ei amlygu yw'r mater ymddiriedaeth y mae plant yn ei deimlo, nid yn unig gyda'r AI maen nhw'n rhyngweithio ag ef, neu'r dechnoleg maen nhw'n rhyngweithio â hi, ond eu gallu i siarad amdano wedyn gyda phobl o'u cwmpas all-lein. Ac rwy'n credu, wyddoch chi, ei fod yn rhywbeth rwy'n gobeithio'n fawr y byddwn ni fel swyddfa yn gallu edrych arno ychydig mwy. Ond rwy'n credu ei bod hi'n ddiddorol clywed myfyrdodau plant ar hyn i gyd yn debyg iawn i'w myfyrdodau ar rannau eraill o'r byd ar-lein. Wyddoch chi, rydyn ni'n gweld pethau fel ofn ac ymddiriedaeth yn codi pan rydyn ni'n siarad â phlant am bornograffi, pan rydyn ni'n siarad â nhw am eu defnydd o gyfryngau cymdeithasol neu beiriannau chwilio. Mae'n ymddangos ei fod yn ffitio patrwm. Felly ie, mae'n wych iawn, iawn bod gennych chi astudiaeth ffocws arno yma.

Caroline, oes gennych chi unrhyw beth i'w ychwanegu at hynny? Dw i'n meddwl eich bod chi wedi crybwyll y pwnc asiantaeth yn wreiddiol, ac fel y dywedais i, rydym wedi cael rhai cwestiynau ynghylch hynny, wyddoch chi, diogelu yn erbyn asiantaeth a sut rydym yn rheoli hynny ar gyfer plant.

Yn hollol, ac mae'n gwestiwn mor berthnasol, yn enwedig ers i ni lansio ein hadroddiad y mis diwethaf. Rhaid i mi ddweud, Sefydliad Alan Turing oedd y bobl a wnaeth y rhan fwyaf o'r gwaith hwn, felly rwyf am roi clod lle mae clod yn ddyledus. Mae'r tîm yno yn anhygoel yn yr hyn maen nhw wedi'i wneud, ac fe wnaethon nhw gymryd dull cyfranogiad ac asiantaeth plant anhygoel iawn i'r gwaith hwn. Fe wnaethon nhw greu math anhygoel o adroddiad sy'n dangos yn union beth mae plant ei eisiau o'r gofod AI, ac rwy'n credu pan fyddaf yn siarad am asiantaeth ac rydym yn siarad - ac roedd cwestiwn am ddiogelu - mae hynny'n allweddol iawn ac yn ddiddorol iawn, oherwydd pan aeth y plant, y ffordd y cynhaliwyd yr adroddiad, aethant i Sefydliad Alan Turing ynghyd â Senedd y Plant, aethant i fyny i ysgolion yn yr Alban ac roeddent yn defnyddio AI yn yr ystafell ddosbarth. Ac fel ymarferydd diogelu fy hun, fy nghwestiwn cyntaf iddyn nhw oedd, "Arhoswch funud. Rydych chi'n rhoi dyfeisiau i blant o ran yr amgylchedd hwn. Onid ydym yn poeni am yr hyn y byddan nhw'n ei weld?" Felly, o ran hynny, o safbwynt diogelu, ni chaniatawyd iddynt ddefnyddio deallusrwydd artiffisial ar eu pen eu hunain mewn unrhyw ffordd, siâp na ffurf. Roeddent yn cael eu monitro i ryw raddau. Felly, yn bendant, mae'r asiantaeth yno wedyn yn cael ei chymryd i ffwrdd ar unwaith. Felly, ie, rydyn ni'n dweud ein bod ni eisiau ymdrechu am asiantaeth, ond nid yw'r mater diogelu wedi'i ddatrys yma. Ac yn amlwg, plant, rydyn ni'n rhoi hawliau plant yn flaenllaw yma, ac rydyn ni eisiau i'w diogelwch fod wrth wraidd hyn. Ond sut allwn ni ddisgwyl gwneud hynny os nad yw'r offer rydyn ni'n eu rhoi iddyn nhw yn ddiogel trwy ddylunio i ddechrau yn y wladwriaeth honno?

Ac roedd yn ddiddorol iawn mewn gwirionedd, a byddwch chi'n ei ddarllen drwy'r adroddiad. Y tîm, Sefydliad Alan Turing a Senedd y Plant, fe wnaethon nhw ganolbwyntio'n bennaf ar y math o ddylunio creadigol o ran sut mae plant yn ymateb i offer AI, a hefyd o ran yr ochr greadigrwydd yno. A'r hyn a ddaeth allan oedd bod angen i ni gefnogi ffurfiau amrywiol o chwarae a chreadigrwydd plant, ar-lein ac all-lein. Y rheswm pam rwy'n dweud hynny, ac mae hynny'n cyd-fynd yn uniongyrchol â'n gwerthoedd craidd yma yn LEGO Group, yw eu bod nhw wir yn hoffi creu—gan ddefnyddio DALL-E a ChatGPT i greu delweddau iddyn nhw, ond roedden nhw'n llawer gwell ganddyn nhw'r creadigrwydd oherwydd roedd ganddyn nhw ddeunyddiau celf yno hefyd. Roedden nhw'n cymharu'r ddau ac mewn gwirionedd daeth i'r amlwg bod eu teimladau o ran ymreolaeth a lles a chysylltedd—wyddoch chi, popeth rydyn ni'n gwybod sy'n gydrannau craidd o sut mae plant yn dysgu a sut mae plant yn rhyngweithio â'r gofod ar-lein—mewn gwirionedd yr offer creadigrwydd corfforol roedden nhw'n eu mwynhau hyd yn oed yn fwy. Dywedon nhw nad oedden nhw wir yn teimlo dim byd wrth ofyn i GenAI ei wneud, yn hytrach nag yn greadigol. Roedden nhw'n pryderu ynghylch yr effaith amgylcheddol ar AI. Roedden nhw'n pryderu am wybodaeth anghywir. Felly mewn gwirionedd, o ran asiantaeth yn y ffordd honno, mae angen i ni sicrhau ein bod ni'n edrych i weld beth mae plant ei eisiau o'r cynhyrchion digidol ydyn nhw—rydym ni'n gwybod eu bod nhw wrth eu bodd yn eu defnyddio.

Fe wnaethon ni hefyd seilio'r adroddiad ar rywfaint o'n hymchwil RIT, yr hoffwn i gymryd dwy eiliad i siarad amdano yma hefyd. RIT yw ein harloesedd cyfrifol mewn technoleg i blant. Mae'n ddarn o ymchwil y mae'r Grŵp LEGO wedi'i wneud ar y cyd â Sefydliad LEGO ac UNICEF. Ac mae'n adroddiad sy'n dangos bod gan y byd digidol effaith gadarnhaol iawn ar lesiant plant. Ac mae rhywbeth o'r enw RIT 8. Unwaith eto, byddaf yn ei bostio yn y sgwrs i'r rhai sydd â diddordeb. Ac mae'n dangos, trwy ddefnyddio wyth egwyddor RIT, y gallwch chi greu profiad digidol sy'n creu ymreolaeth a hefyd yn creu ymdeimlad o lesiant, oherwydd dyna rywbeth yr ydym ni wir yn ei hoffi yn y Grŵp LEGO: rydym ni eisiau i blant adael ein gwasanaethau gan deimlo'n well ar ôl eu defnyddio nag o'r dechrau. Ac mewn gwirionedd, fe wnaethon ni ddefnyddio RIT 8 o fewn adroddiad Alan Turing, a dangoson ni'n union yr hyn yr oedden nhw'n chwilio amdano. Felly yn RIT 8, mae pethau fel diogelwch a diogeledd, perthnasoedd, ymreolaeth, ac mewn gwirionedd nid oedd AI yn ateb yn gadarnhaol o ran sut yr hoffem i ganlyniad lles edrych. Felly o ran diogelwch a diogeledd, dangosodd y tîm i ni fod y plant yn edrych ar lawer o allbynnau amhriodol pan oeddent yn chwilio ar AI. Perthnasoedd—eto, roedd deunyddiau celf traddodiadol yn rhywbeth lle'r oedd ganddynt fwy o gysylltiad cymdeithasol, wyddoch chi, roeddent yn siarad â'u ffrindiau pan oeddent yn creu'r gelf gyda'i gilydd hefyd. Ac o ran ymreolaeth, maent mewn gwirionedd yn gwerthfawrogi cael gradd uwch o ymreolaeth—dydyn nhw ddim eisiau rhywun yn edrych dros eu hysgwydd, rhywun yn gorfod ei deipio i mewn ar eu rhan. Felly, mae'n fath o ddechrau pan rydyn ni'n edrych ar AI a chyda RIT, yr hyn yr hoffwn i hefyd eich annog i edrych arno yw bod gennym ni gam dau o'r adroddiad, sef ein blwch offer, lle rydyn ni'n annog chwaraewyr yn y diwydiant a dylunwyr cynnyrch i ddefnyddio RIT wrth iddyn nhw ddatblygu'r offer hyn i roi plant yn flaenllaw o ran yr wyth egwyddor hyn fel bod allbwn lles yn fath o elfen allweddol o ddefnyddio AI yn gyffredinol. Siaradais yn gyflym iawn bryd hynny, felly rydw i'n mynd i'w drosglwyddo'n ôl, ond roedd llawer roeddwn i eisiau ei ddweud ynglŷn â sut mae AI yn llunio plant heddiw oherwydd roeddwn i'n meddwl bod llais plant yn ddiddorol iawn a rhywbeth a ddaeth yn glir iawn o'r adroddiad ein bod ni hefyd wedi gwneud hynny.

Ie. Na, na, yn hollol. Ac mae'n wych siarad am hynny. Wyddoch chi, sut olwg sydd ar ddylunio cyfrifol sy'n canolbwyntio ar y plentyn? Ac fe wnaethoch chi siarad am rai egwyddorion ynglŷn â sut y gallai edrych yno. Ac efallai troi atoch chi, Simon, oherwydd eich bod chi'n amlwg yn gweithio yn y maes hwn ac yn datblygu offer AI. Oes yna enghreifftiau da o hyn y gallwn ni dynnu ohonynt i feddwl o ddifrif am sut y gall AI fod yn gefnogol i blant a meddwl am yr hyn maen nhw eisiau ei wneud ag ef, eu hawliau, ond rheoli'r mathau hynny o densiynau o ran meithrin y sgiliau cywir?

Ie. Ac yn anffodus, nid oes llawer o enghreifftiau o ble mae hynny'n cael ei wneud yn dda. Ac mae yna ychydig o gwestiynau wedi bod yn y sgwrs ynghylch y tensiynau masnachol sy'n gysylltiedig â hyn. Yn anffodus, rydym yn delio'n bennaf â sefydliadau masnachol ar raddfa fawr sy'n edrych yn bennaf ar yr enillion ariannol ar y ffordd y maent yn creu rhai o'r amgylcheddau hyn. Fe wnaethon ni siarad amdano yn gynharach, pwysigrwydd gallu adeiladu ffrydiau cynnwys manwl sy'n briodol i oedran trwy hyn, ac mae deall o ble mae tryloywder y ffynhonnell ddata honno'n dod yn hynod bwysig. A dyna un o'r pethau mwyaf a welwn ar hyn o bryd yw'r tryloywder hwn, ac mae hefyd yn mynd i lawr i'r cysyniad cyfan o ragfarn hefyd. Os gallwch chi ddeall o ble mae'r data, o ble mae'r hyfforddiant yn dod, gallwch chi ddeall sut a ble y gallai'r rhagfarn fod, sy'n anodd oherwydd mae hynny'n bersonol oddrychol weithiau beth bynnag. Ond mae sbardunau priodol i oedran a rheiliau gwarchod priodol i oedran ar gyfer y ffordd yr ydym yn hyfforddi'r setiau data hyn yn wirioneddol, wirioneddol allweddol. Ac ar hyn o bryd, dim ond yn ei ddyddiau cynnar y mae hynny mewn gwirionedd. Ac rwy'n credu bod rhai o'r pwyntiau sydd wedi'u codi yn y pynciau eraill, yn y cwestiynau yno, rwy'n credu y byddwn yn dechrau gweld gwahanol ffrydiau o AI, gwahanol fathau o fodelau, y modelau iaith mawr hyn sydd wedi'u hyfforddi'n benodol iawn gyda ffiniau oedran yn y gofod hwnnw.

Diolch, Simon. Ac efallai y gallem droi at fath o reoleiddio. Mae'n debyg ein bod wedi siarad ychydig am fath o gyfrifoldebau diwydiant, ond, wyddoch chi, wrth feddwl am y math o bolisi a rheoleiddio cyfredol, rwy'n credu ein bod ni'n teimlo nad yw'n cadw i fyny â thechnoleg ar hyn o bryd. Felly, Katie, efallai y gallwch chi siarad ychydig am ble rydyn ni, ble rydych chi'n meddwl ei fod ar ei hôl hi, a beth sydd angen ei wneud.

Ie, yn hollol. Felly dw i'n meddwl, wyddoch chi, yn Internet Matters, rydyn ni bob amser yn siarad am na all fod un dull yn unig o wneud y byd ar-lein yn ddiogel i blant a phobl ifanc. Mae angen iddo ddod o'r diwydiant. Mae angen iddo ddod o'r llywodraeth. Wyddoch chi, mae angen cefnogi ysgolion. Mae angen i rieni a phlant eu hunain ddeall y dechnoleg maen nhw'n ymgysylltu â hi, a, wyddoch chi, gallu ymgysylltu â hi yn y ffyrdd maen nhw eu heisiau. Ond dw i'n meddwl, os ydyn ni'n canolbwyntio'n benodol ar reoleiddio, dw i'n meddwl mai un o'r heriau a ganfuom yn yr ymchwil hon yw, er bod pethau fel y Ddeddf Diogelwch Ar-lein, er enghraifft, i fod i gael eu hadeiladu neu eu creu yn y fath fodd fel eu bod nhw'n newid gyda thechnolegau newydd a thechnolegau sy'n dod i'r amlwg, wyddoch chi, rydyn ni bron wedi cwympo drosodd wrth y rhwystr cyntaf o ran sgwrsio robotiaid AI, er enghraifft, lle mae gwybodaeth wrthgyferbyniol wedi'i rhoi ar gofnod, boed hynny gan Ofcom neu gan y llywodraeth, ynghylch sut y bydd sgwrsio robotiaid AI mewn gwirionedd yn dod o fewn y rheoliad diogelwch ar-lein presennol, boed hynny'n Ddeddf Diogelwch Ar-lein neu elfennau eraill o'r rheoliad. Ac rydym eisoes wedi gweld gyda mathau eraill o elfennau o AI, meddwl o amgylch deddfau hysbysu, er enghraifft, lle, wyddoch chi, mae'n rhaid creu neu weithredu deddfwriaeth oherwydd nad yw'r ddeddfwriaeth bresennol yn amddiffyn pobl rhag y math o gymwysiadau o AI ac mewn rhai o'r ffyrdd mwy difrifol hynny. Felly rwy'n credu bod lle i wella'n bendant, ac efallai y byddai man cychwyn yn egluro a, wyddoch chi, beth all a beth na all gael ei wneud o dan y ddeddfwriaeth bresennol cyn i ni symud ymlaen i lenwi'r bylchau hynny.

Dw i'n meddwl hefyd o'n safbwynt ni, un o'r bylchau sy'n bodoli yn y ddeddfwriaeth bresennol, ac mae hyn, wyddoch chi, yn berthnasol i gyfryngau cymdeithasol hefyd, ond dw i'n meddwl ei fod yn dod drwodd mewn perthynas â chatbots AI, yw'r pwynt hwnnw ynghylch gwirio oedran. Fel y dywedais i pan oeddwn i'n siarad, mae gwirio oedran yn allweddol i ddatgloi cymaint o elfennau eraill o ddiogelwch plant. Wyddoch chi, boed hynny'n rheolaethau rhieni, boed hynny'n brofiadau sy'n briodol i oedran. Felly dw i'n meddwl bod gorfodi hynny yn y ddeddfwriaeth a sicrhau ein bod ni'n deall oedran y defnyddwyr sydd ar y llwyfannau hyn yn allweddol iawn. Wyddoch chi, clywsom yn yr ymchwil fod plant yn cofrestru oherwydd eu bod nhw eisiau nodweddion gan bobl hŷn, fel y gallen nhw gael nodweddion nad oedden nhw'n hygyrch i blant a phethau, a dim ond gyda gwirio oedran y mae'n bosibl gwahardd hynny. Felly dw i'n meddwl bod hynny'n fan cychwyn allweddol i'r llywodraeth hefyd.

Gwych. Diolch, Katie. Ac efallai bod gennym ni 10 munud ar ôl. Gallwn ni ddechrau troi at rai o'r cwestiynau mwyaf rydyn ni wedi'u cael gan y mynychwyr. Felly fe wnaethon ni siarad llawer am asiantaeth, ond mae yna wedi bod rhywfaint o ddiddordeb yn yr hyn mae'r panelwyr yn ei deimlo am rôl ysgolion. Felly efallai, fel Elle, gallech chi siarad am hyn. Dim ond rôl ysgolion wrth gefnogi llythrennedd cyfryngau plant, yn enwedig o amgylch deallusrwydd artiffisial, ac yna pa gefnogaeth sydd ei hangen arnyn nhw, dw i'n meddwl, yw'r neges a'r meddwl allweddol yno.

Ie, yn bendant. Dw i'n meddwl, wyddoch chi, mae'n ddiangen dweud bod ysgolion yn hynod bwysig yn hyn. Wyddoch chi, maen nhw'n gweld plant bum niwrnod yr wythnos. Ac ie, ond dw i'n meddwl ei fod wir, dw i'n meddwl na allwn ni ei weld fel ateb syml. Dywedodd Katie fod angen—mae cyfrifoldeb ar draws y bwrdd am hyn. Ac ni allwn ni addysgu plant i fyd mwy diogel. Y byd yw fel y mae, a gallwn ni edrych arno a gofyn a ydym ni eisiau i blant dyfu i fyny yn y sefyllfa hon, ac a yw wedi'i adeiladu gyda'u hawliau a'u buddiannau mewn golwg ai peidio. Felly mae angen i ymyriadau ysgol ddod ochr yn ochr â newidiadau y mae angen i'r diwydiant technoleg eu gwneud ar y cychwyn. Ond wedi dweud hynny, bydd llythrennedd AI—ac mae ei angen ar hyn o bryd, wyddoch chi, wrth edrych ar yr adroddiad hwn—bydd yr un mor bwysig ag unrhyw fath arall o lythrennedd y mae ysgolion yn ei ddysgu ar hyn o bryd. Mae ysgolion ar y rheng flaen i baratoi plant ar gyfer y byd. Ac rwy'n credu y mwyaf y gallwn ddysgu am sut olwg sydd ar y byd hwnnw, sef y mae adroddiad fel hwn yn ei wneud, oherwydd fel y dywedais o'r blaen, mae llawer nad ydym yn ei wybod, ac mae llawer y mae ysgolion yn ei glywed am y tro cyntaf cyn i gymdeithas sifil neu unrhyw un yn y llywodraeth hyd yn oed ei glywed. Yr ysgolion yw'r rhai sy'n ei glywed y tro cyntaf—y tro cyntaf. Felly bydd sicrhau bod gwreiddiau gwybodaeth yn llifo yno yn bwysig iawn.

Yn swyddfeydd y Comisiwn, yn amlwg, hoffem weld byd lle nad oes rhaid i blant gadw llygad am niwed, a gellir a dylid atal hynny. Felly, wyddoch chi, y ffordd y gall ysgolion helpu gyda hynny, neu o leiaf y ffordd y bydd ysgolion yn gallu darparu ffordd werthfawr iawn o fynd i'r afael â hynny, yw'r ffaith y byddant yn gallu rhoi rhywfaint o wybodaeth i blant mewn ffordd sy'n hygyrch i blant ledled y wlad. Wyddoch chi, mae ysgolion a all addasu gwahanol ddeunyddiau addysgol ar gyfer eu plant y mae eu hangen fwyaf arnynt, sy'n wych iawn. Bydd rhai ohonoch wedi gweld y canllawiau statudol newydd ar berthnasoedd, iechyd ac addysg rhyw a gyhoeddwyd yr wythnos hon. Ac rydym yn croesawu cynnwys AI yn y cwricwlwm hwnnw'n fawr iawn. Mae yna lawer o bynciau eraill yr ydym yn falch iawn o'u gweld hefyd. Wyddoch chi, fel pornograffi a'r cysylltiad â chamgymeriad menywod, yr holl bethau gwych hyn, wyddoch chi, mae'n braf iawn eu gweld yn cael eu diweddaru ar gyfer y byd rydyn ni'n byw ynddo. Ac mae'n debyg o ran yr hyn y bydd angen i ysgolion ei gyflawni'n dda, oherwydd bydd llwyddiant hynny yn y ddarpariaeth, mae'r Comisiynydd yn gofyn i'r Adran Addysg arwain ymgyrch recriwtio ar gyfer athrawon arbenigol mewn Addysg, Mentrau, Iechyd, a Dysgu a Dysgu a fydd yn eistedd ar draws y cwricwlwm cyfan. Felly, rydym yn gobeithio y bydd hynny'n annog rhywfaint o feddwl beirniadol am AI a'r byd ar-lein yn gyffredinol i'w integreiddio i ddysgu bob dydd plant yn ogystal â'u bywydau bob dydd. Felly dyna, wyddoch chi, rydym yn gyffrous iawn i weld pa effaith y bydd y canllawiau newydd hynny'n ei chael.

Ond ie, na, yn sicr rwy'n credu ein bod ni'n croesawu hynny hefyd, ac wyddoch chi, mae'r holl bethau cywir yn dechrau cael eu trafod a'u cynnwys yno. Ond rydych chi'n iawn, mae'n ymwneud â sut mae hynny'n cael ei weithredu a pha gefnogaeth mae ysgolion yn ei chael, oherwydd mae'n dameidiog iawn ac rydym yn clywed llawer gan fath o rieni a phlant o gwmpas, wyddoch chi, mae gan rai pobl brofiad da iawn o ddysgu am y pynciau hyn, llythrennedd cyfryngau a sut i fod yn ddiogel ar-lein, tra nad yw'r un peth i bob plentyn. Felly sut allwn ni sicrhau bod hynny'n cael ei ymgorffori fel ei fod yn cael ei orfodi ar draws math o gymunedau ysgolion? Efallai y gallwn ni droi at gwestiwn arall a oedd gennym ni. Dydw i ddim yn gwybod a ydych chi eisiau ychwanegu unrhyw beth at hynny, Katie, yn gyntaf cyn i ni symud ymlaen.

Ddim o gwbl. Dw i'n meddwl mai'r unig beth byddwn i'n ei wneud—un peth bach iawn—yw'r anghydraddoldeb roedden ni'n ei weld, sy'n aml yn adleisio anghydraddoldebau eraill rydyn ni'n eu gweld rhwng mathau o ardaloedd o anfantais uchel ac isel. Yn aml, wyddoch chi, yn yr ardaloedd lle mae lefelau uchel o anfantais, wyddoch chi, mae adnoddau addysgu yn cael eu troi at flaenoriaethau eraill. Efallai nad oes ganddyn nhw fynediad at yr un math o sgwrsio robotiaid deallusrwydd artiffisial neu bethau y mae rhai ysgolion yn eu hadeiladu eu hunain. Felly, dw i'n meddwl dyna pam ei bod hi mor bwysig ein bod ni'n cael y canllawiau hynny'n iawn er mwyn lefelu'r maes chwarae hwnnw hefyd.

Ie, yn bendant. Cawson ni gwestiwn diddorol arall gan rywun a ddywedodd eu bod nhw'n clywed mwy am oedolion sy'n defnyddio chatbots fel therapydd dirprwyol. Felly, ydyn ni'n gweld tebygrwydd rhwng y pethau hyn a'r hyn mae plant yn ei wneud, yn enwedig pobl ifanc? Efallai mai dyna rywbeth y mae Elle neu Katie eisiau...

Ie, gallaf roi cynnig arni. Mae'n bendant yn rhywbeth a godwyd yn yr ymchwil o ran rhai o'r enghreifftiau yr oedd plant yn eu rhoi. Felly roedd rhai enghreifftiau lle, wyddoch chi, efallai mai'r mathau o gyngor neu gwestiynau yr oeddent yn eu gofyn neu'n ceisio ymatebion iddynt oedd y math o beth y byddai therapydd traddodiadol neu efallai oedolyn dibynadwy yn ei ateb. Rwy'n credu ei fod yn rhywbeth sydd heb ei archwilio'n ddigonol, ac rwy'n credu bod yna gymwysiadau cadarnhaol iawn. Rwy'n credu bod y GIG wedi adeiladu ap sy'n eich galluogi i wirio gyda therapydd rhwng sesiynau. Felly rwy'n credu, wyddoch chi, nad yw hynny o reidrwydd yn beth drwg os caiff ei wneud yn y ffordd gywir, ond rwy'n credu nad ydym ar bwynt lle dylid defnyddio chatbots AI cyffredinol fel therapyddion i blant, ac mae hynny'n rhywbeth yr ydym yn dechrau ei weld yn dod drwodd.

Ie, hoffwn i adleisio'r hyn a ddywedodd Katie. Mae'n rhywbeth rwy'n teimlo y byddwn ni'n ei weld yn fwy wrth i hyn fynd yn fwy, wyddoch chi, bydd sgwrsbotiau AI yn cael eu hintegreiddio i hyd yn oed mwy o leoedd rydyn ni'n eu gweld. Rwy'n credu Katie, efallai—rwyf wedi gweld y person a ofynnodd y cwestiynau yn defnyddio'r gair "amnewid," ac rwy'n credu bod hynny'n ddiddorol iawn oherwydd ei fod yn awgrymu nad yw'n rhoi'r gefnogaeth lawn y byddai therapydd rheolaidd yn ei rhoi. Ac rwy'n credu bod hynny'n codi cwestiynau ynghylch a yw'r sgwrsbot AI hwn, os yw'n cael ei ddefnyddio yn y modd hwn, a ddylid ei ddefnyddio yn y modd hwn? Ac os na ddylid ei ddefnyddio, dylid ei gwneud yn glir nad yw hwn mewn gwirionedd yn lle diogel i rywun fynd iddo pan maen nhw'n teimlo'n hynod agored i niwed, neu iddo fod yn beth a anogir ac mewn gwirionedd, rwy'n tybio, yn cael ei ddathlu yn hynny o beth, oherwydd unwaith eto, byddai'n wych pe bai lle lle gallai pobl gael mynediad at gefnogaeth pan fyddant ei hangen yn gyflym iawn, iawn. Ond ie, dw i'n meddwl y byddai hwnnw'n ofod diddorol iawn ar gyfer, dw i'n tybio, ymchwil o ran iechyd meddwl hefyd.

Ie. Dw i'n meddwl bod gennym ni sylw yn gynharach yn y sgwrs ynglŷn â meddwl am boeni'r math yna o blant a allai fynd i'r mannau hyn i gael y math yna o gyngor pan nad yw'r sgwrsbot AI yn gwybod dim amdanyn nhw, eu cyd-destun, eu bywyd teuluol, wyddoch chi, pa gefnogaeth maen nhw eisoes wedi'i chael, ac yn dibynnu ar y math o gwestiynau maen nhw'n eu gofyn, sut mae'n ymateb i'r rheini. Oes gan unrhyw un unrhyw syniadau ar sut rydyn ni'n mynd ati i wneud hynny? Wyddoch chi, fe wnaethoch chi siarad ychydig yno, Elle, am, wyddoch chi, naill ai rydyn ni'n ei annog os yw wedi'i wneud yn dda, neu dydyn ni ddim yn ei annog os nad oes ganddo'r gallu hwnnw o hyd i ddeall mwy o'r materion hynny. Felly, efallai Simon neu Caroline, os oes gennych chi rai pwyntiau eto ynglŷn â sut y gall AI ddatblygu i fod yn well yn yr hyn y gallai ei wneud o bosibl.

Ie, ie. Um, rwy'n credu bod cymaint i'w ddadbacio ym mhob un o'r meysydd hynny. Yr un peth yr hoffwn ei ddweud, ac roeddwn i'n ymateb i rywun ar un o'r sgyrsiau, yw fy mod i'n credu ein bod ni'n siarad yn amlwg am sgwrsio robotiaid deallusrwydd artiffisial yn yr amgylchedd hwn, ond yn y pen draw mae deallusrwydd artiffisial yn gyrru chwyldro diwydiannol ym mhob math o feysydd rydyn ni'n eu gweld. Ac rwy'n credu ein bod ni wedi siarad amdano ychydig bryd hynny lle roedden ni'n siarad am y pryderon sydd gan blant ynghylch sut olwg allai fod ar eu dyfodol gwaith. Ac rwy'n credu mai dyna un o'r meysydd hynny lle mae angen enghreifftiau ehangach arnom o sut mae deallusrwydd artiffisial, nid yn unig fel sgwrsio robotiaid, ond mewn meysydd eraill o ddiwydiant, bywydau gwaith, a'n bywydau beunyddiol ein hunain, sut mae deallusrwydd artiffisial yn mynd i'n helpu ni a pha fath o fanteision y bydd yn eu dwyn a sut y dylid ei ddefnyddio fel offeryn. Mae gan fy mab ADHD ac mae'n ffanatig LEGO. Um, ond mae'n ei chael hi'n rhwystredig weithiau oherwydd bod ganddo'r holl syniadau creadigol rhyfeddol hyn, nid yw'n gwybod sut i'w gwneud. Mae'n defnyddio'r robotiaid sgwrsio i'w helpu i ddeall sut y gall ddatblygu ei syniadau creadigol yn gyflymach. Ac o'r safbwynt hwnnw, mae'n hollol wych. Mae fy merch newydd wneud ei harholiadau Lefel A. Defnyddiodd hi ChatGPT fel ffordd o helpu i brofi ei pharodrwydd ar gyfer ei lefel A seicoleg. Felly mae yna rai meysydd gwych iawn lle gall AI ychwanegu budd at addysg yn y maes hwnnw. Ond rwy'n credu bod angen i ni edrych arno'n ehangach na dim ond ar y chatbots a deall sut mae'n gyrru'r chwyldro ffug-ddiwydiannol hwn oherwydd bydd yn newid popeth yn llwyr. Ac rwy'n credu, ond dydw i ddim yn credu y dylem fod ofn hynny oherwydd rwy'n credu ei fod yn ei gofleidio. Ac i bwynt Elle yw sut ydyn ni'n cael y cwmnïau technoleg i helpu i fod yn berchen ar y broblem honno hefyd? Um ac ac mae hi - dydw i ddim yn golygu problem. Nid dyna'n union yr hyn rwy'n ei olygu. Ond oherwydd gall fod yn gyfle gwych yn y maes hwnnw, ond nid yw ar gyfer un sefydliad. Nid yw ar gyfer un cwmni i'w wneud. Mae'n rhaid iddo fod yn gyfunol.

Ga i ychwanegu, mae'n ddrwg gen i, cyn i ni orffen, Rachel, rwy'n gwybod ein bod ni ar yr amser iawn. Yn gyflym iawn, dim ond i adleisio hynny hefyd, yr hyn a ddywedais o'r blaen: mae angen i ni gefnogi amrywiol ffurfiau chwarae plant, all-lein ac ar-lein. Ac rwy'n credu bod Simon newydd ddweud hynny. Wnes i ddim gofyn iddo wneud plwg Grŵp LEGO. Rwy'n o blaid—rwy'n addo. Ond rwy'n credu ei fod yn enghraifft dda iawn, iawn, o ran yr hyn yr ydym yn ceisio'i wneud. Wyddoch chi, pan fyddwch chi'n prynu set LEGO gyntaf eich plentyn, rydych chi ar y llawr gyda nhw. Rydych chi'n ei hadeiladu gyda nhw. Mae rhieni'n cymryd rhan yn yr un ffordd ag y dylid adeiladu hynny trwy eu bywydau digidol hefyd. O ran deallusrwydd artiffisial, wyddoch chi, o ran rhyw fath gallwn fod yn ofnus iawn ohono, ond mewn gwirionedd os ydym yn ei wneud gyda'n gilydd ac os ydym yn defnyddio chwarae er mwyn helpu i greu'r math hwnnw o ymddiriedaeth sydd ei hangen ar rieni a theuluoedd, a chwmnïau hefyd, i sicrhau ein bod yn adeiladu hawliau plant i mewn i bopeth rydym yn ei wneud, ond nid ydym yn edrych arno mewn silo, ein bod yn edrych arno mewn rhyw fath o barchu plant all-lein ac ar-lein. Um, rwy'n gwybod ein bod ni ar adegau, felly mae'n ddrwg gennyf dorri ar draws.

Felly, ie, mae'n iawn. Na, diolch. Sylwadau da iawn. Felly, diolch i bawb am eich mewnbwn heddiw. Felly i grynhoi, roeddwn i eisiau dod yn ôl at sut y dechreuais, mae'n debyg, a meddwl am bopeth rydyn ni wedi siarad amdano yno. Cymaint i'w ddadbacio, a'r syniad bod cyflymder y newid yn y byd ar-lein a diogelwch plant ynddo braidd yn llethol i rieni. Ac rwy'n credu, fel rydyn ni wedi clywed heddiw, mai dim ond un agwedd ar fywydau digidol plant ydw i. Mae cymaint i'w ystyried, ac, wyddoch chi, mewn perthynas ag AI a defnydd plant ohono, felly, a sicrhau y gallant ei fwynhau'n gadarnhaol ac yn ddiogel. Felly mae'n ymdrech ar y cyd yn llwyr. Rwy'n credu ein bod ni i gyd wedi siarad am y math yna o ddiwydiant, llywodraeth, rhieni, ysgolion, pawb yn gweithio gyda'i gilydd i wneud yn siŵr bod plant yn cofleidio hynny mewn ffordd gadarnhaol. Felly diolch i bawb am ddod heddiw, a gobeithio bod ein hymchwil wedi disgleirio a bod y drafodaeth heddiw wedi taflu goleuni ar y mater hwn a phrofiadau plant. Wm, felly a rhyw fath, wyddoch chi, gobeithio y gallwn ni i gyd wynebu'r heriau wrth i ni symud ymlaen gyda'n gilydd. Felly diolch yn fawr iawn i bawb sydd wedi cymryd rhan. Felly ein tîm mewnol am gynhyrchu adroddiad a gweminar gwych heddiw, um, a'n holl siaradwyr a phanelwyr. Katie, Elle, Caroline, a Simon, diolch yn fawr iawn, um, am eich myfyrdodau a'ch arsylwadau. Mae wedi bod yn sgwrs wych iawn. Rwy'n siŵr y gallem fod wedi gwneud awr arall. Felly mwynhewch weddill eich diwrnod, bawb, a diolch.