Dyma gyfieithiad o'r testun o'r Saesneg i'r Gymraeg:
Rydyn ni'n hoffi meddwl bod anghyfiawnder yn gwneud ei hun yn hysbys yn uchel. Pan fydd rhywbeth yn mynd o'i le mewn system gyhoeddus, dylai clychau ganu, a dylai rhywun gymryd cyfrifoldeb—neu gael ei ddal yn atebol os nad ydynt. Ond yn 2020 yn Gothenburg, daeth anghyfiawnder yn dawel, wedi'i wisgo fel effeithlonrwydd.
Am y tro cyntaf, defnyddiodd y ddinas algorithm i aseinio myfyrwyr i ysgolion. Wedi'r cyfan, mae cyfrifo parthau ysgol a derbyniadau yn boen gweinyddol enfawr i unrhyw fwrdeistref. Beth allai fod yn well na pheiriant i optimeiddio pellteroedd, dewisiadau, a chapasiti? Roedd y system i fod i wasanaethu effeithlonrwydd cyhoeddus: fe'i cyflwynwyd fel rhywbeth niwtral, symlach, a gwrthrychol.
Ond aeth rhywbeth o'i le yn ofnadwy. Cafodd cannoedd o blant eu haseinio i ysgolion filltiroedd i ffwrdd o'u cartrefi—ar draws afonydd a ffiordau, dros briffyrdd mawr, mewn cymdogaethau nad oeddent erioed wedi ymweld â nhw ac nad oedd ganddynt unrhyw gysylltiad â nhw. Syllodd rhieni ar y penderfyniadau mewn anghrediniaeth. A oedd rhywun wedi gwirio a allai plentyn 13 oed gerdded y llwybr hwnnw'n ddiogel yn y gaeaf? Pa resymeg a arweiniodd y dewisiadau hyn? A gafodd eu dewisiadau datganedig eu hanwybyddu'n syml? Nid oedd neb yn y weinyddiaeth ysgol yn gallu—nac yn barod—i egluro beth oedd wedi digwydd neu drwsio'r camgymeriadau.
Gwyliodd hyn yn datblygu fel ymchwilydd mewn technoleg a chyn-gyfreithiwr, ond hefyd fel mam. Roedd fy mab 12 oed ar y pryd yn un o'r plant yr effeithiwyd arnynt gan yr algorithm. Tyfodd ein rhwystredigaeth wrth i'r weinyddiaeth ysgol fethu ag ymateb. Yn dawel, dywedasant wrthym y gallem apelio pe bai gennym broblem gyda'n lleoliad—fel pe bai'n fater o chwaeth bersonol. Fel pe bai'r mater yn anfodlonrwydd unigol, nid methiant system-eang. O amgylch byrddau cegin ar draws y ddinas, roedd yr un dryswch a dicter yn mudferwi. Roedd rhywbeth o'i le, ac roedd maint y broblem yn dod yn gliriach bob dydd.
Cymerodd bron i flwyddyn i archwilwyr y ddinas gadarnhau'r hyn yr oedd llawer ohonom wedi'i amau: roedd yr algorithm wedi cael cyfarwyddiadau diffygiol. Cyfrifodd bellteroedd "fel y frân yn hedfan," nid y llwybrau cerdded gwirioneddol. Mae gan Gothenburg afon fawr yn rhedeg trwyddi. Methu ag ystyried hynny olygai fod plant yn wynebu cymudo o awr. I lawer, roedd cyrraedd ochr arall yr afon trwy gerdded neu feicio—fel y mae'r gyfraith yn dweud yw'r ffordd briodol o fynd i'r ysgol—yn syml yn amhosibl.
Ar ôl gweiddi gan deuluoedd, gwellwyd gweithdrefnau ar gyfer y flwyddyn ysgol ganlynol. Ond i tua 700 o blant yr effeithiwyd arnynt eisoes gan yr algorithm diffygiol, ni newidiodd dim. Byddent yn treulio eu holl flynyddoedd ysgol uwchradd yn yr ysgolion "anghywir."
Y llinell swyddogol oedd bod apeliadau unigol yn ddigon. Ond mae hynny'n colli'r pwynt. Nid yw algorithmau'n gwneud penderfyniadau ynysig yn unig; maent yn creu systemau o benderfyniadau. Pan fydd 100 o blant wedi'u lleoli'n anghywir mewn ysgolion ar lan arall yr afon, maent yn cymryd y lleoedd a fwriadwyd ar gyfer eraill. Yna caiff y plant hynny eu gwthio i ysgolion gwahanol, gan ddadleoli eraill yn eu tro. Fel dominos, mae'r gwallau'n rhaeadru. Erbyn y pumed neu'r chweched dadleoliad, mae'r anghyfiawnder bron yn amhosibl ei ganfod, heb sôn am ei herio a'i brofi mewn llys.
Cafodd plant tair ar ddeg oed eu haseinio i ysgolion filltiroedd i ffwrdd—ar draws afonydd a ffiordau, dros briffyrdd mawr.
Nid yw'r anghyfiawnder algorithmig hwn yn broblem haniaethol, ac nid yw'n unigryw i Sweden. Mae'n atseinio'n boenus gyda sgandalau diweddar ledled Ewrop. Un yw sgandal y Swyddfa Bost yn y DU, lle cyhuddodd system TG Horizon gannoedd o weithredwyr swyddfa bost o ddwyn, gan arwain at erlyniadau, methdaliadau, a hyd yn oed carcharu. Am flynyddoedd, trinwyd allbwn y system fel rhywbeth bron yn anffaeledig. Plygwyd tystiolaeth ddynol i awdurdod y peiriant. Enghraifft arall yw sgandal budd-daliadau gofal plant yn yr Iseldiroedd, lle roedd system a ddefnyddiwyd gan awdurdod treth yr Iseldiroedd yn nodi miloedd o rieni yn anghywir fel twyllwyr. Cafodd teuluoedd eu plymio i ddyled. Collodd llawer eu cartrefi. Cymerwyd plant i ofal maeth. Yn y ddau achos, parhaodd methiannau algorithmig am flynyddoedd lawer, wrth i'r system awtomataidd weithredu y tu ôl i len o gymhlethdod technegol ac amddiffynoldeb sefydliadol. Pentyrrodd camgymeriadau. Gwaethygodd niwed. Arhosodd atebolrwydd ar ei hôl hi.
Yn ôl yn Gothenburg yn 2020, sylweddolais nad oedd apelio lleoliad fy mab yn unig yn ddigon. Ni allwch drwsio problem systemig gydag atebion unigol. Felly, fel rhan o brosiect ymchwil, fe wnes i erlyn y ddinas i weld beth sy'n digwydd pan fydd algorithmau'n mynd i'r llys. Ni wnes i herio lleoliad penodol fy mab yn unig—heriais gyfreithlondeb y system gwneud penderfyniadau gyfan a phopeth a gynhyrchodd. Dadleuais fod dyluniad yr algorithm wedi torri'r gyfraith.
Gan na allwn gael mynediad at y system—anwybyddwyd fy nghais dro ar ôl tro i weld yr algorithm—ni allwn ei ddangos i'r llys. Yn lle hynny, dadansoddais gannoedd o leoliadau yn ofalus, gan ddefnyddio cyfeiriadau a dewisiadau ysgol i ddarganfod sut mae'n rhaid i'r system fod wedi gweithio, a chyflwynais hynny fel tystiolaeth.
Roedd amddiffyniad y ddinas yn syml syfrdanol. Honnent mai dim ond "offeryn cymorth" oedd y system. Dywedasant na wnaethant ddim o'i le a chynigiwyd dim prawf: dim dogfennau technegol, dim cod, dim esboniad o sut roedd pethau'n gweithio.
Ac, er mawr syndod i mi, nid oedd yn rhaid iddynt wneud hynny. Gosododd y llys y baich profi arnaf fi. Dywedodd y barnwyr mai fy ngwaith i oedd dangos bod y system yn anghyfreithlon. Nid oedd fy nhadansoddiad o'r penderfyniadau yn ddigon. Heb dystiolaeth uniongyrchol o'r cod, ni allwn fodloni'r safon profi. Taflwyd yr achos allan. Mewn geiriau eraill: profwch beth sydd y tu mewn i'r blwch du, neu gollwch.
Hyn—yn fwy na'r methiant gweinyddol gwreiddiol—sy'n fy nghadw'n effro. Gwyddom fod algorithmau weithiau'n methu. Dyna'n union pam mae gennym lysoedd: i orfodi datgeliad, i archwilio, ac i drwsio pethau. Ond pan fydd gweithdrefnau cyfreithiol yn aros yn sownd yn y gorffennol, a phan nad oes gan farnwyr yr offer, y sgiliau, na'r awdurdod i holi systemau algorithmig, mae anghyfiawnder yn ennill. Tra bod asiantaethau cyhoeddus yn defnyddio systemau aneglur ar raddfa fawr, dywedir wrth ddinasyddion sy'n wynebu canlyniadau sy'n newid bywyd i apelio—un wrth un—heb weld y cod y tu ôl iddo erioed.
Mae gwersi o sgandalau'r Swyddfa Bost a budd-daliadau gofal plant yr Iseldiroedd yn atseinio'r hyn a ddarganfyddais yn Gothenburg. Pan fydd llysoedd yn ymddiried mewn technoleg yn lle ei holi, a phan fydd y baich profi yn disgyn ar y rhai a niweidiwyd yn hytrach na'r rhai a adeiladodd ac a ddefnyddiodd y system, nid yw anghyfiawnder algorithmig yn ymddangos yn unig—gall bara am flynyddoedd. Hyd yn oed pan fo'r dechnoleg ei hun yn syml, fel yn Gothenburg—lle'r oedd y camgymeriad yn defnyddio pellter llinell syth yn lle llwybrau cerdded gwirioneddol—roedd dinasyddion yn dal i wynebu blwch du y bu'n rhaid iddynt ei ddatgelu i'w herio. Yn yr achos hwn, blwch gwydr wedi'i lapio mewn haenau lawer o bapur du oedd.
Mae'n bryd mynnu bod ein llysoedd yn agor blychau du gwneud penderfyniadau algorithmig. Mae angen i ni symud y baich profi i'r parti sydd â mynediad at yr algorithm mewn gwirionedd, a chreu rheolau cyfreithiol ar gyfer atebion effeithiol, system-eang. Nes i ni ddiweddaru ein gweithdrefnau cyfreithiol i gyd-fynd â realiti cymdeithas ddigidol, byddwn yn parhau i faglu o sgandal i sgandal. Pan ddarperir anghyfiawnder yn dawel gan god, rhaid i atebolrwydd ateb yn uchel.
Mae Charlotta Kronblad yn ymchwilio i drawsnewid digidol ym Mhrifysgol Gothenburg.
**Cwestiynau Cyffredin**
Dyma restr o Gwestiynau Cyffredin yn seiliedig ar yr erthygl Es i â algorithm i lys yn Sweden Enillodd yr algorithm gan Charlotta Kronblad
**Cwestiynau Lefel Dechreuwyr**
1. **Beth mae'r erthygl hon yn ei drafod?**
Mae'n ymwneud ag achos cyfreithiol go iawn lle ceisiodd ymchwilydd o Sweden herio algorithm y llywodraeth mewn llys. Gwnaeth yr algorithm benderfyniad yn ei chylch a dadleuodd ei fod yn annheg. Dyfarnodd y llys o blaid yr algorithm.
2. **Pam enillodd yr algorithm?**
Penderfynodd y llys fod yr algorithm yn dilyn y gyfraith fel yr oedd wedi'i hysgrifennu. Ni wnaeth gamgymeriad—roedd yn cymhwyso'r rheolau'n gywir. Y broblem oedd bod y gyfraith ei hun yn rhy gaeth, nid bod yr algorithm wedi camweithio.
3. **Allwch chi wir fynd â algorithm i lys?**
Nid yn uniongyrchol. Ni allwch erlyn darn o feddalwedd. Ond gallwch herio'r penderfyniad a wnaeth trwy erlyn yr asiantaeth lywodraethol neu'r cwmni a'i defnyddiodd. Yn yr achos hwn, heriodd yr awdur benderfyniad awtomataidd Awdurdod Yswiriant Cymdeithasol Sweden.
4. **Pa fath o benderfyniad wnaeth yr algorithm?**
Gwrthododd ei chais am fudd-daliadau estynedig absenoldeb rhiant. Cyfrifodd yr algorithm ei chymhwysedd yn awtomatig yn seiliedig ar reolau incwm a hanes gwaith llym, heb ystyried ei sefyllfa benodol.
5. **Ai problem gyffredin yw hon?**
Ydy, mae mwy a mwy o lywodraethau a chwmnïau'n defnyddio algorithmau i wneud penderfyniadau am fudd-daliadau, benthyciadau, cyflogaeth, a hyd yn oed dedfrydu troseddol. Pan fo'r rheolau'n rhy syml, mae pobl ag amgylchiadau anarferol yn aml yn cael eu gwrthod yn annheg.
**Cwestiynau Lefel Ganolradd**
6. **Pam roedd yr awdur yn meddwl bod yr algorithm yn anghywir?**
Dadleuodd nad oedd yr algorithm wedi ystyried ei phatrwm incwm go iawn. Roedd yn weithiwr llawrydd, felly nid oedd ei hincwm yn gyson o fis i fis. Defnyddiodd yr algorithm reol edrych yn ôl 12 mis gaeth a'i hanghymhwysodd, er ei bod wedi ennill digon yn gyffredinol.
7. **Beth oedd rhesymeg y llys dros ochri gyda'r algorithm?**
Dywedodd y llys mai dim ond offeryn oedd yr algorithm a oedd yn cymhwyso'r gyfraith yn union. Os yw'r gyfraith yn ddiffygiol, ni all y llys feio'r algorithm. Byddai angen i'r awdur newid y gyfraith, nid ymladd y meddalwedd. Yn y bôn, roedd yr algorithm yn gywir o fewn rheolau diffygiol y system.
8. **A yw hyn yn golygu bod algorithmau bob amser yn iawn mewn llys?**
Na. Os yw algorithm yn rhagfarnllyd, yn defnyddio data gwael, neu'n torri'r gyfraith, gellir ei herio. Ond mae'r achos hwn yn dangos pa mor anodd yw ennill pan fo'r gyfraith ei hun yn ddiffygiol.
