Y mis hwn, fe wnaethom gymryd rhan yn #Take20Talk y Gynghrair Gwrth-fwlio.
Dysgwch am ddefnydd plant o AI cynhyrchiol a’i effeithiau cyn ein hymchwil sydd ar ddod ar AI ac addysg cynhyrchiol.
Roeddem yn falch iawn o gymryd rhan mewn #Take20Siarad gyda’r Gynghrair Gwrth-fwlio. Rhoddodd y sgwrs gyfle i ni drafod effaith AI cynhyrchiol ar les digidol plant.
Yn y sesiwn, buom yn trafod defnydd plant o AI cynhyrchiol, y manteision a’r risgiau y mae’n eu cyflwyno, a’r dirwedd bolisi gyfredol sy’n ymwneud â’r dechnoleg esblygol hon. Daw'r cyflwyniad hwn cyn ein hymchwil sydd ar ddod ar AI ac addysg gynhyrchiol, a fydd yn cael ei ryddhau yn gynnar y flwyddyn nesaf.
Mae AI cynhyrchiol (Gen-AI) yn fath o ddeallusrwydd artiffisial sy'n cynhyrchu testun, delweddau a sain gwreiddiol. Mae modelau Gen-AI yn cael eu hyfforddi ar setiau data a ddefnyddir i grefftio cynnwys newydd, gan dynnu ar batrymau a ddysgwyd yn ystod y broses hyfforddi.
Gen-AI yn defnyddio Prosesu Iaith Naturiol (NLP). Mae hon yn gangen o AI sy’n “canolbwyntio ar helpu cyfrifiaduron i ddeall, dehongli a chynhyrchu iaith ddynol.” Mae'r technolegau hyn yn cynnig llawer o gyfleoedd cyffrous i blant. Fodd bynnag, fel gyda phob technoleg newydd, ochr yn ochr â buddion, mae risgiau posibl i wybod amdanynt hefyd.
Gall AI cynhyrchiol helpu athrawon i addasu eu cynlluniau gwersi a'u deunyddiau i gefnogi gwahanol anghenion dysgu eu myfyrwyr yn well. Mae hyn felly yn sicrhau profiad dysgu mwy deniadol a chynhwysol ar gyfer ystafelloedd dosbarth amrywiol.
Mewn gwirionedd, mae athrawon eisoes yn defnyddio offer AI cynhyrchiol i ddarparu cymorth wedi'i deilwra i ddisgyblion ag anghenion addysgol arbennig ac anableddau (SEND).
Gall plant elwa ar linellau cymorth sy'n defnyddio AI cynhyrchiol. Gall llinellau cymorth cymorth iechyd cymdeithasol a meddwl sydd wedi’u hadeiladu ar AI cynhyrchiol ddarparu cymorth ymatebol a phersonol iawn i bobl ifanc. Gall hyn arwain at gymorth ar unwaith a gwella effeithiolrwydd cyffredinol cymorth dynol.
Er enghraifft, Ffôn Help Plant yn wasanaeth iechyd meddwl ar-lein sy'n defnyddio technoleg AI cynhyrchiol i gynnig cymorth 24/7 i blant ledled Canada. Gan ddefnyddio NLP, mae'r gwasanaeth hwn yn dadansoddi ac yn cyfateb i arddull cyfathrebu pobl ifanc. Mae hyn yn ei dro yn cyfeirio plant at y sianel wasanaeth benodol sydd ei hangen arnynt, boed hynny ar gyfer cymorth gyda thrallod emosiynol, problemau bwlio neu bryderon eraill.
Mae llinellau cymorth yn cynnig gofod diogel a dienw i bobl ifanc fynegi eu teimladau a’u pryderon heb ofni barn. Fodd bynnag, er y gall chatbots llinell gymorth ddarparu ymatebion cyflym, nid oes ganddynt naws a hyblygrwydd y mae cefnogaeth ddynol yn eu cynnig. Byddant felly'n ei chael hi'n anodd disodli effeithiolrwydd rhyngweithiad dynol yn llawn.
Yn ogystal â chefnogi a chyfarwyddo pobl ifanc ar y ffôn, gall chatbots AI wasanaethu fel cymdeithion rhithwir. Mewn rhai achosion efallai y byddant yn darparu cefnogaeth emosiynol i blant sy'n cael trafferth i wneud ffrindiau neu ymdopi â heriau cymdeithasol. Yn ogystal, gall y botiau sgwrsio hyn gefnogi plant sy'n teimlo'n unig neu'n cael trafferth rhannu eu teimladau ag eraill.
Gyda'r mesurau diogelu cywir yn eu lle, gall chatbots hefyd gefnogi plant sy'n cael trafferth gyda phryder cymdeithasol. Gall yr offer hyn gynnig gofod anfeirniadol i gymryd rhan mewn sgyrsiau, ac i ddatblygu ac ymarfer rhyngweithio cymdeithasol.
Enghraifft o'r math hwn o chatbot yw Harlie. Mae Harlie yn ap ffôn clyfar sy'n defnyddio technoleg AI ac algorithmau NLP i siarad â bodau dynol. Fodd bynnag, yn hytrach nag ymateb i gwestiynau yn unig, mae Harlie yn annog deialog trwy ofyn cwestiynau i'r defnyddiwr. Ar ben hynny, gyda chaniatâd y defnyddiwr, gall Harlie gasglu gwybodaeth am batrymau lleferydd i'w rhannu â thimau iechyd ac ymchwil a darparu therapi wedi'i dargedu.
Gallai gorddibyniaeth ar AI cynhyrchiol gael effaith negyddol ar sgiliau meddwl beirniadol plant. Mae hyn oherwydd ei fod yn lleihau'r cyfleoedd i gymryd rhan mewn dadansoddiad annibynnol a datrys problemau. At hynny, gallai defnyddio AI fel y brif ffynhonnell wybodaeth beryglu’r gallu i gwestiynu a gwerthuso gwybodaeth. Gweler ein canllaw meddwl yn feirniadol ar-lein.
Mae'n bwysig helpu plant i ymgorffori offer AI i mewn i'w dysgu heb ddibynnu'n ormodol arnynt.
Mae yna duedd sy'n peri pryder lle mae defnyddwyr ifanc yn copïo ymddygiadau bwlio ac yn eu cyfeirio at chatbot AI. Ar gyfryngau cymdeithasol, mae rhai defnyddwyr yn annog eraill i ‘fwlio’ chatbots trwy oleuadau nwy a cham-drin cyffredinol.
Er nad yw plant yn bwlio bodau dynol eraill, mae pryder ynghylch sut y gallai rhyngweithio rhithwir normaleiddio ymddygiadau bwlio.
Gallai defnyddio rhai chatbots AI amlygu plant i cynnwys amlwg ac amhriodol. Un enghraifft o chatbot o'r fath yw Replika. Chatbot AI wedi'i deilwra yw Replika sy'n annog defnyddwyr i rannu gwybodaeth bersonol. Po fwyaf o wybodaeth y mae defnyddiwr yn ei rhannu ag ef, y mwyaf y gall bersonoli ei ymatebion.
Er bod y wefan yn honni ei bod ar gyfer pobl dros 18 oed yn unig, nid oes angen unrhyw wiriad oedran. O'r herwydd, ychydig o rwystrau y bydd plant yn eu canfod wrth ddefnyddio'r wefan.
Mae Replika yn annog defnyddwyr i gymryd rhan mewn sgyrsiau penodol gydag oedolion. Mae'n eu hannog ymhellach i dalu ffi i'r chatbot rannu lluniau anweddus neu hwyluso galwad fideo 'ramantus'. Gallai normaleiddio’r weithred o dalu am gynnwys penodol hyrwyddo diwylliant lle mae plant yn teimlo ei bod yn dderbyniol gofyn am, derbyn ac anfon delweddau amhriodol — gyda’r chatbot ac ymhlith ei gilydd.
Mae adroddiadau’n awgrymu bod plant yn defnyddio offer deallusrwydd artiffisial yn gynyddol i gynhyrchu delweddau anweddus o gyfoedion, wedi’u hwyluso gan apiau ‘datgelu’ hawdd eu cyrraedd. Mae delweddau anweddus o rai dan 18 oed yn anghyfreithlon waeth beth fo amgylchiadau eu cynhyrchu. Mae hyn yn cynnwys deunydd cam-drin plant yn rhywiol (CSAM) wedi'i gynhyrchu gyda thechnoleg deepfake.
Er bod deinameg cynhyrchu a dosbarthu ffug ddwfn yn wahanol i fathau eraill o gam-drin rhywiol ar sail delwedd, mae'r niwed i ddioddefwyr yn debygol o fod yr un mor ddifrifol, os nad yn fwy felly.
Er mwyn archwilio effeithiau technoleg ffug yn fanylach, cynhaliom gyfres o grwpiau ffocws yn gynharach eleni. Roedd y grwpiau ffocws yn cynnwys pobl ifanc 15-17 oed ac yn ymdrin â phwnc misogyny ar-lein. Roedd hyn hefyd yn cynnwys dynameg rhyw sy'n sail i hyn aflonyddu a cham-drin rhywiol plentyn-ar-blentyn.
Bu’r cyfranogwyr yn trafod cam-drin rhywiol yn ymwneud â thechnoleg ffug ffug – mater sydd wedi cyrraedd y penawdau sawl gwaith eleni, yn y DU ac yn rhyngwladol. Roedd pobl ifanc yn eu harddegau – yn enwedig cyfranogwyr benywaidd – yn gyffredinol yn rhannu’r farn y gallai bod yn ddioddefwr cam-drin dwfn fod yn fwy niweidiol na ffurfiau confensiynol o rannu delweddau nad ydynt yn gydsyniol.
Dywedodd cyfranogwyr wrthym fod dwyster y niwed yn gorwedd yn y diffyg asiantaeth a rheolaeth y byddent yn ei deimlo mewn ffug ffug. Mae hyn oherwydd na fyddent yn gwybod am ei gynhyrchu nac yn cydsynio iddo:
“Rwy’n meddwl y byddai’r ffug ddwfn yn llawer gwaeth efallai, oherwydd, gyda noethlymun, rydych chi wedi ei gymryd hefyd, felly rydych chi'n gwybod amdano, tra bod y ffug ddwfn, ni fydd gennych unrhyw syniad o gwbl. Gallai fod un allan yn llythrennol ar hyn o bryd ac ni allai neb wybod” – Merch, 15-17 oed, grŵp ffocws Internet Matters.
Mae llywodraeth y DU wedi penderfynu peidio â chyflwyno deddfwriaeth newydd ar AI. Yn lle hynny, bydd yn dibynnu ar fframweithiau deddfwriaethol presennol i reoleiddio cynhyrchu a defnyddio technolegau AI newydd.
Mae'n dal yn aneglur a fydd y dull ysgafn hwn yn amddiffyn unigolion yn ddigonol - yn enwedig plant - rhag yr ystod lawn o risgiau a achosir gan AI, gan gynnwys niwed sy'n dod i'r amlwg o wasanaethau a thechnolegau newydd.
Mae’n bwysig bod safbwyntiau a phryderon pobl ifanc a rhieni yn cael eu hystyried wrth lunio polisïau ynghylch defnyddio AI cynhyrchiol. Mae hyn yn arbennig o wir o ran defnydd y dechnoleg mewn addysg lle gallai'r cymwysiadau posibl gael yr effaith fwyaf.
Felly, rydym yn gyffrous i gyhoeddi ymchwil newydd i effeithiau AI cynhyrchiol ar addysg, yn seiliedig ar farn plant a rhieni. Bydd yr ymchwil yn archwilio sut mae teuluoedd ac ysgolion yn defnyddio Gen-AI, a gobeithion a phryderon plant a rhieni ar gyfer y dyfodol.
Gweld mwy o erthyglau ac adnoddau i helpu plant i aros yn ddiogel o ran deallusrwydd artiffisial.
Materion Digidol: Cyflwyniad i Ymchwil Ar-lein
Materion Digidol: Cyflwyniad i Feddwl yn Feirniadol Ar-lein
