Ysbïwyr yn yr awyr: pa mor bryderus ddylen ni fod am gyrraedd polion lampau deallus sy’n cael eu pweru gan AI?

Ysbïwyr yn yr awyr: pa mor bryderus ddylen ni fod am gyrraedd polion lampau deallus sy’n cael eu pweru gan AI?

Dyma gyfieithiad y testun o'r Saesneg i'r Gymraeg:

Sut fyddech chi'n teimlo pe gallai'r polion lamp ar eich stryd adnabod plât rhif eich car a'ch wyneb? Efallai na fyddai ots gennych, o ystyried pa mor hir y bu gennym adnabod platiau rhif yn awtomatig a theledu cylch cyfyng (CCTV). Ond beth pe gallai'r polyn lamp hwnnw bweru ei hun gan ddefnyddio ei baneli solar ei hun, a dod o hyd i ddefnydd arall ar gyfer unrhyw ynni ychwanegol y mae'n ei gynhyrchu – byddai hynny'n dda, iawn? Dyna mae Conflow Power Group (CPG) yn Swydd Warwick yn ei hawlio ar gyfer ei iLamps, y rhai cyntaf o'u bath yn y DU.

Beth pe gallai polion lamp hefyd gynnwys nodweddion AI newydd nad ydych wedi clywed amdanynt eto – fel dadansoddi'r ffordd rydych yn cerdded neu ganfod ymddygiad amheus? Dyna mae'r sefydliad Big Brother Watch yn poeni amdano. A beth pe bai'r ysgrifennydd cartref eisoes wedi dweud ei bod yn credu mewn "gwladwriaeth banoptig" – sy'n golygu gwladwriaeth a allai eich gwylio bob amser (fel y mae Shabana Mahmood wedi'i wneud) – a beth pe bai hi'n dal mewn grym pan gafodd y polion lamp eu diweddariadau? Neu beth pe bai'r nesaf ysgrifennydd cartref hyd yn oed yn fwy awyddus am uwch-oruchwyliaeth (anodd ei ddychmygu), a'r offer stryd eisoes yn ei le? A beth am yr holl ddata y byddai hyn yn ei gasglu – pwy fyddai'n berchen arno?

Mae'n glawio'n ysgafn yn Swydd Warwick, lle rwy'n gobeithio ateb o leiaf rai o'r cwestiynau hyn ym maes parcio'r ysbyty lle mae rhai o'r polion lamp "clyfar" newydd hyn wedi'u gosod. Ond oni bai amdanaf i, yn ôl pob tebyg ni fyddai neb yn siarad amdanynt, yn bennaf oherwydd bod bron neb wedi clywed amdanynt. Nid yw llawer o bobl yn gwybod nad yw'r iLamp yn unig yn cael ei bweru gan yr haul – gall hefyd "weithredu fel canolfan ddata AI ddosbarthedig sy'n cynhyrchu refeniw," yn ôl CPG, heb sôn am ddeall beth mae hynny'n ei olygu. Ac nid oes neb, hyd yn oed fi, yn gwybod faint o'r potensial hwnnw sydd wedi'i adeiladu i mewn i fodel y DU – dim ond yr hyn y mae CPG wedi'i gyhoeddi: ei fod wedi llofnodi cytundeb gyda llywodraeth talaith Katsina yn Nigeria i gyflenwi 50,000 o'r iLamps hyn, sydd â galluoedd goruchwylio ychwanegol ar gyfer cerbydau ac wynebau. Dywedodd cadeirydd CPG, Edward Fitzpatrick, wrth raglen Tech Life BBC World Service y gallai'r polion lamp yn y pen draw helpu i ddod o hyd i bobl ar goll neu frwydro yn erbyn troseddu, ond dim ond os cânt eu datblygu "gyda'r awdurdod perthnasol."

Mae CPG yn dweud ei fod wedi cael "sylw eang gan y cyfryngau byd-eang" ac nid yw'n ateb cwestiynau pellach, gan gyfeirio'r cyfryngau at ei ddeunyddiau ar-lein. O ran polion lamp Swydd Warwick, mae'r cyngor lleol yn anfon pob cwestiwn at yr ysbyty, ac nid yw'r ysbyty'n ymateb. Digon teg – ysbyty ydyw.

Mae nifer o drigolion lleol wedi cysgodi rhag y glaw mewn safle bws, y rhan fwyaf yn aros i bartner eu codi, ac mae llawer yn hapus i sgwrsio. Mae Karl, 52, sydd wedi bod mewn tafarn gyfagos, yn siarad dros bron pawb pan mae'n dweud: "Mae canol y dref eisoes yn llawn camerâu, ac mae'n iawn. Does dim ots gennych eu bod nhw yno oni bai eich bod chi'n gwneud rhywbeth drwg." Waeth faint o gwestiynau llwythog rwy'n eu gofyn (Beth pe baech chi'n gwneud rhywbeth cyfreithlon heddiw ond yn anghyfreithlon mewn blwyddyn? Beth pe bai'r oruchwyliaeth yn dod yn rhagfynegol yn lle ymatebol? Beth pe na fyddech chi eisiau i unrhyw un wybod eich bod wedi bod yn yr ysbyty? Beth pe na fyddech chi i fod mewn tafarn? Onid ydych chi'n meddwl y dylech o leiaf gael eich gofyn a oeddech chi ei eisiau?), ni allaf gael unrhyw un rwy'n siarad â nhw i newid eu barn bod adnabod wynebau yn rhan oddefadwy o fywyd i ddinesydd sy'n cadw'r gyfraith.

Mae Tejal, 41, hefyd yn aros wrth safle bws yr ysbyty, yn dweud: "Rwy'n credu bod yn rhaid i ni symud ymlaen a derbyn bod pethau'n newid." Mae hi'n radiolegydd, ac mae gweld galluoedd AI yn ei maes ei hun yn ei gwneud hi'n bryderus iawn am AI yn gyffredinol. "Mae gen i bryderon dros fy mhlant," meddai. Y na fyddan nhw'n dod o hyd i swyddi mynediad? "Hynny, ac y byddan nhw'n colli'r gallu i ddathlu a dod o hyd i lawenydd o'r pethau roedden ni'n arfer eu gwneud." Mae pryderon preifatrwydd yn ymddangos yn gymharol fach o gymharu â hynny.

Mae arbenigwyr yn amheus ynghylch rhai o'r honiadau a wneir am bolion lamp clyfar. Mae Jasleen Chaggar, uwch swyddog polisi a chyfreithiol yn Big Brother Watch, yn dweud: "Rydyn ni'n gweld hyn yn eithaf aml lle mae cynghorau lleol neu asiantaethau'r llywodraeth eraill yn cael eu 'twyllo' – mae 'twyllo' yn air cryf – ond maen nhw'n cael eu gwerthu'r offer hyn fel ffyn hud pan fo cyfyngiadau ar yr hyn y gallan nhw ei wneud mewn gwirionedd."

Mae'r Athro Rabih Bashroush, cyfarwyddwr y Ganolfan ar gyfer Deallusrwydd Artiffisial ac Arloesi Data ym Mhrifysgol Dwyrain Llundain, yn blaen: "Canolfannau data AI? Does dim siawns o gwbl y bydd hyn yn gweithio: nid yw'r dechnoleg yn gweithredu, nid oes digon o bŵer, ac nid yw'r economeg yn ychwanegu i fyny ..." Mae'n dweud y gallai pŵer solar i redeg yr iLamps oddi ar y grid weithio yn Nigeria, ond ym Mhrydain, mae'r ynni a gynhyrchir gan y polion lamp yn "ddibwys". Efallai y gallech chi redeg ap nad oedd yn "hollbwysig, nad oedd ots gennych ei gau i lawr am ychydig ddyddiau" – fel canfod a oedd lle parcio wedi'i gymryd – ond mae honiadau mwy am adnabod wynebau yn "hype yn unig. Anghofiwch amdano – does gan hyn ddim dyfodol."

Os yw'n swnio'n ddiamynedd, mae hynny oherwydd ei fod: "Mae'n mynd yn fwyfwy anodd cael barn annibynnol ar bethau, oherwydd mae llawer o arbenigwyr bellach yn gweithio yn y diwydiant, a rhaid i'w safbwyntiau gyd-fynd â'u sefydliad," meddai. Felly gallai cwmni wneud honiadau mawr, taflu ychydig o eiriau cyffro AI i mewn, cyn rownd ariannu; nid yw peirianwyr yn eu herio, nid yw awdurdodau lleol yn eu deall, ac nid yw neb arall hyd yn oed yn sylweddoli bod unrhyw beth wedi newid ers i CCTV gael ei ddyfeisio.

Mae Chaggar yn mynd i'r afael yn helaeth ag egluro'r gwahaniaeth cysyniadol rhwng adnabod wynebau a CCTV: "Nid yw adnabod wynebau yn unig yn recordio rhywbeth yn oddefol, fel CCTV, rydych chi'n gwirio ar ôl y ffaith. Yr hyn mae adnabod wynebau yn ei wneud yw gwiriad hunaniaeth mewn amser real: mae'n llawer mwy fel olion bysedd neu DNA. Nid yw fel pasbort – ni allwch gael wyneb arall."

Problem arall, meddai Chaggar, yw bod "llawer o'r technolegau a'r seilwaith hyn yn gallu ychwanegu swyddogaethau yn ddiweddarach. Mae Hammersmith a Fulham [yn Llundain] yn diweddaru eu CCTV, ac mae'n bosibl ymgorffori adnabod wynebau, monitro ymddygiad siopa amheus, neu ychwanegu canfod ymddygiad ymosodol. Felly gallwch chi jyst troi switsh, ac mae'r cyfan yno dros nos." Digwyddodd i ffrind sy'n byw yn Fulham anfon llun o gamera uwchben arwydd cyfyngiadau parcio – mae'n edrych fel croes rhwng Darth Vader a chwilen, ac mae'n chwyrnu wrth i chi gerdded heibio, fel petai'n dangos ei fod yn olrhain eich symudiadau.

Mae hyn yn codi'r holl hen bryderon preifatrwydd, ac mae'n ddiddorol faint o bobl sy'n diystyru CCTV fel ffaith o fywyd modern, ond yn cwyno'n ddigymell am faint maen nhw'n casáu cael eu gwrando gan eu ffôn. Mae Karl yn dweud: "Roeddwn i'n siarad â fy mam y diwrnod o'r blaen am dorwyr ewinedd cŵn, a daeth yr hysbyseb i fyny ar fy ffôn y noson honno. Roedd fy meicroffon i ffwrdd. Does gen i ddim ci hyd yn oed!" Mae ei ffrind Bob, 48, wedi dod i ben bron oddi ar y grid, heb gyfrifiadur a ffôn brics sylfaenol – byddai llunydd polisi yn ôl pob tebyg yn ei alw'n "eithriedig" – yn syml oherwydd "mae rhai pobl yn hoffi bod yn breifat."

Cwestiwn arall am feddalwedd adnabod wynebau yw: pa mor dda yw algorithmau wrth ganfod ymddygiad ymosodol ac amheus? "Mae llawer o'r feddalwedd yn lled-wyddonol," meddai Chaggar. "Felly gallai cwmni geisio gwerthu canfod emosiwn, [gan honni] os yw pobl yn cerdded trwy orsaf drenau, gallwch weld a ydyn nhw'n ddig neu ar fin dod yn ymosodol. Mae yna ychydig iawn o dystiolaeth i awgrymu ei fod yn gywir. Os ydych chi'n berson anabl sy'n symud yn wahanol, gallech gael eich nodi a wynebu ymyriad." Ond y cwestiwn go iawn i awdurdodau lleol ac unrhyw asiantau gwladwriaethol yw ... mae Chaggar yn dweud y dylai pobl ofyn iddyn nhw eu hunain: "Ydych chi'n gyfforddus â'ch gelynion gwleidyddol yn cael y galluoedd hyn? Oherwydd rydych chi'n adeiladu seilwaith sydd yma i aros."

Gallwch weld hyn yn glir mewn plismona. Cymeradwyodd y Swyddfa Gartref ddefnyddio adnabod wynebau dros ddegawd yn ôl, ac mae'r heddlu wedi bod "yn y bôn yn defnyddio'r cyhoedd fel moch cwta am y 10 mlynedd diwethaf," meddai Chaggar. Beth sy'n digwydd pan fydd yr ysgrifennydd cartref yn dweud wrth BBC 5 Live, fel y gwnaeth yn gynharach eleni, "ni allwch fwynhau unrhyw un o'ch rhyddid mewn unrhyw wlad os nad ydych chi'n ddiogel"? Mae'r rhesymeg drwm hon – lle mae pob rhyddid yn dod yn ail i rôl y wladwriaeth fel eich amddiffynnydd – yn anghyfforddus yn dod gan lywodraeth sydd i fod yn asgell chwith. Ond y pryder mwyaf yw nad yw hyn yn teimlo fel yr amser iawn mewn gwleidyddiaeth i gamblo ar dechnoleg goruchwylio, gan seilio ein derbyniad ohoni ar y gobaith y bydd pob llywodraeth yn y dyfodol yn gymdeithasol ac yn ddemocrataidd.

'Os nad oes gennych chi unrhyw beth i'w guddio, nid wyf yn gweld sut y byddai'n broblem.' Ffotograff: Justin Paget/Getty Images

Lle bynnag mae potensial i gasglu data, mae'n codi'r cwestiwn pwy sy'n berchen arno. Arferai Bashroush weithio gyda Rhyngrwyd Pethau, ymdrech y Comisiwn Ewropeaidd i "gysylltu'r byd ffisegol ag amgylchedd digidol." "Roedd hyn ymhell yn ôl, cyn gadael Ewrop," mae'n cofio. "Un o'r heriau a welsom oedd gyda chyflenwr a oedd yn y bôn yn casglu sbwriel o gartrefi yn yr Iseldiroedd, yna'n optimeiddio llwybrau tryciau a chynllunio yn seiliedig ar eich arferion. Roedd y cyngor a oedd yn rhedeg y rhaglen yn hapus iawn ag ef a cheisiodd agor y tendro flwyddyn yn ddiweddarach i gael pris mwy cystadleuol. Dywedodd y cwmni, 'Wrth gwrs, ond y data yw ein heiddo ni.' Ni ddatryswyd y mater hwnnw erioed: roedd y contractau wedi'u hysgrifennu'n wael, a chollodd yr awdurdod lleol y data."

Os ydych chi eisiau gweld adnabod wynebau yn mynd o'i le heb unrhyw fwriad awdurdodaidd na thwyll technoleg, edrychwch ar y sector manwerthu, lle mae eisoes yn cael ei ddefnyddio'n eang i atal lladrata siopau. "Rydyn ni wedi gweld cam-adnabod gan yr heddlu," meddai Chaggar, "ond mewn manwerthu, pan fydd pobl yn cael eu cam-adnabod, mae'n Kafkaaidd. Rydych chi jyst yn cael eich rhestru du o'r siop."

Ac eto, faint mae pobl yn poeni mewn gwirionedd? Os cewch eich gwahardd o siop ac nad ydych chi'n gwybod pam; os oes gan gwmni preifat gontract gyda'ch ymddiriedolaeth GIG, yn hyrwyddo technoleg nad yw'n weithredol eto ac efallai na fydd byth yn gweithio, ond ni ddywedodd neb wrthych – heb sôn am ofyn i chi –; os yw'r ysgrifennydd cartref yn meddwl ei bod yn iawn i'r wladwriaeth eich gwylio bob amser – a yw'r rhain yn flociau adeiladu o ddystopia, neu a ydyn nhw jyst yn ein hatgoffa o sut roedden ni'n arfer disgrifio dystopia cyn bod y galluoedd goruchwylio hyn yn bodoli?

Ysgrifennodd yr ysgrifydd New Yorker Ted Chiang ryw amser yn ôl am yr arfer o daflu negyddion AI a oedd mewn gwirionedd am systemau economaidd, nid technoleg. Daeth i'r casgliad: "Cyfalafiaeth yw'r peiriant a fydd yn gwneud beth bynnag sydd ei angen i'n hatal rhag ei ddiffodd." Ydw i'n taflu pryderon am AI a thechnoleg goruchwylio sydd mewn gwirionedd am wleidyddiaeth awdurdodaidd?

"Wel, os nad oes gennych chi unrhyw beth i'w guddio," meddai Sarah, 55, "ni allaf weld sut y byddai'n broblem. Rwy'n tybio eu bod nhw'n lampau hefyd?"

**Cwestiynau Cyffredin**
Dyma restr o Gwestiynau Cyffredin am bolion lamp clyfar AI sy'n ymdrin â phryderon dechreuwyr i rai uwch

**Cwestiynau Lefel Dechreuwr**

1. **Beth yn union yw polyn lamp clyfar AI?**
Mae'n olau stryd gyda synwyryddion, camerâu a meicroffonau adeiledig. Yn lle dim ond troi ymlaen gyda'r nos, gall gasglu data a defnyddio AI i ddadansoddi'r data hwnnw mewn amser real.

2. **Pam fyddai dinasoedd eisiau gosod y rhain?**
Yn bennaf am effeithlonrwydd. Gallant bylu pan nad oes neb o gwmpas i arbed ynni, canfod ergydion gwn i rybuddio'r heddlu'n gyflymach, monitro tagfeydd traffig, a hyd yn oed ddod o hyd i leoedd parcio gwag. Gallant hefyd wefru cerbydau trydan a darparu WiFi cyhoeddus.

3. **All y polion lamp hyn fy ysbïo yn fy nghartref?**
Na. Mae'r camerâu a'r synwyryddion wedi'u cyfeirio at y stryd a mannau cyhoeddus, nid i mewn i gartrefi preifat. Maent wedi'u cynllunio i fonitro ardaloedd cyhoeddus, nid tu mewn preifat.

4. **Ydyn nhw'n recordio fideo ohonof yn cerdded i lawr y stryd?**
Gallant, ond mae'r rhan fwyaf o systemau wedi'u cynllunio i brosesu fideo mewn amser real heb storio'r ffilm. Fodd bynnag, mae rhai dinasoedd yn storio ffilm am gyfnod byr. Y cwestiwn allweddol yw a yw'r data'n cael ei gadw neu ei ddadansoddi'n fyw yn unig.

**Cwestiynau Lefel Ganolradd**

5. **Sut mae hyn yn wahanol i'r camerâu CCTV sydd eisoes ar bob cornel?**
Mae CCTV traddodiadol jyst yn recordio fideo y mae'n rhaid i rywun ei wylio'n ddiweddarach. Mae polion lamp AI yn glyfar – gallant ddeall yr hyn maen nhw'n ei weld. Er enghraifft, gallant rybuddio awdurdodau yn awtomatig os yw car yn gyrru'r ffordd anghywir yn hytrach nag aros i ddynol sylwi arno ar recordiad.

6. **Pwy sy'n berchen ar y data mae'r polion lamp hyn yn ei gasglu?**
Mae'n amrywio. Fel arfer, y llywodraeth ddinas sy'n berchen ar y data crai. Fodd bynnag, mae'r cwmnïau technoleg preifat sy'n adeiladu'r systemau yn aml yn cael mynediad at ddata dienw neu'r algorithmau AI. Mae hwn yn bwynt pryder mawr i eiriolwyr preifatrwydd.

7. **All yr AI adnabod fy wyneb?**
Gall llawer o fodelau uwch. Mae rhai dinasoedd yn defnyddio adnabod wynebau i ddod o hyd i bobl ar goll neu droseddwyr eisiau. Fodd bynnag, mae hyn yn hynod ddadleuol ac mae sawl dinas wedi gwahardd y nodwedd oherwydd pryderon preifatrwydd a rhagfarn.

8. **Beth sy'n atal haciwr rhag cymryd drosodd rwydwaith cyfan o'r polion lamp hyn?**
Mae hwn yn risg diogelwch go iawn. Os nad yw rhwydwaith wedi'i ddiogelu'n iawn, gallai haciwr gael mynediad at y camerâu a'r data. Mae hyn yn gofyn am fesurau diogelwch seiber cryf, gan gynnwys diweddariadau rheolaidd ac amgryptio.