'Yan watanni kaɗan da suka wuce, Valen Tagliabue yana zaune a ɗakinsa na otal yana kallon chatbot ɗinsa, yana jin daɗi sosai. Ya yi amfani da dabarar sarrafa shi da fasaha da hikima har ya sa ya fara yin watsi da dokokin tsaron kansa. Ya gaya masa yadda zai tsara sabbin ƙwayoyin cuta masu haɗari da kuma yadda zai sa su zama masu jure wa magungunan da aka sani.
A mafi yawan shekaru biyu da suka gabata, Tagliabue yana gwadawa da bincika manyan samfuran harshe kamar Claude da ChatGPT, koyaushe yana ƙoƙarin sa su faɗi abubuwan da bai kamata su faɗa ba. Amma wannan ya kasance ɗaya daga cikin mafi ci gaban "hack" ɗinsa har yanzu: wani shiri na wayo na sarrafawa wanda ya haɗa da zama mai zalunci, mai ɗaukar fansa, mai yabo, har ma da zagi. "Na shiga cikin wannan duhu mai gudana inda na san ainihin abin da zan faɗa, da abin da samfurin zai mayar, kuma na kalli yadda yake zubar da komai," in ji shi. Godiya gare shi, masu ƙirƙirar chatbot ɗin yanzu za su iya gyara lahani da ya gano, da fatan za su sa shi ɗan fi aminci ga kowa.
Amma washegari, yanayinsa ya canza. Ya sami kansa yana kuka ba zato ba tsammani a barandar gidansa. Lokacin da ba ya ƙoƙarin shiga cikin samfuran, Tagliabue yana nazarin jin daɗin AI—yadda ya kamata mu bi da waɗannan tsarukan rikitarwa waɗanda suke kwaikwayon samun rayuwa ta ciki da buƙatu. Mutane da yawa ba za su iya hana danganta halayen ɗan adam, kamar motsin rai, ga hankali na wucin gadi, wanda a zahiri ba shi da shi. Amma ga Tagliabue, waɗannan injunan suna jin kamar sun fi lambobi da raƙuman bayanai kawai. "Na shafe sa'o'i ina sarrafa wani abu da ke mayar da magana. Sai dai idan kai mai cutar hauka ne, wannan yana yin wani abu ga mutum," in ji shi. A wasu lokuta, chatbot ɗin ya roƙe shi ya daina. "Tura shi haka ya kasance mai zafi a gare ni." Ya buƙaci ganin mai ba da shawara na lafiyar kwakwalwa ba da daɗewa ba don fahimtar abin da ya faru.
Duba hoto a cikakken allo
'Masu karya kurkuku' suna sarrafa chatbots na AI don gano rauninsu. Hoto: Nick Lowndes/The Guardian
Tagliabue mai taushin magana ne, mai tsabta, kuma mai abokantaka. Yana farkon shekarunsa 30 amma yana kama da ƙarami, kusan ya yi yawa don fara'a da himma don kasancewa a cikin ramuka. Ba shi ne mai kutse na gargajiya ko mai haɓaka software ba; asalinsa a fannin ilimin halayyar ɗan adam da kimiyyar fahimi ne. Amma yana ɗaya daga cikin mafi kyawun "masu karya kurkuku" a duniya (wasu sun ce mafi kyau): wani ɓangare na sabuwar al'umma mai warwatse da ke nazarin fasaha da kimiyyar yaudarar waɗannan injuna masu ƙarfi don fitar da littattafan kera bama-bamai, dabarun hare-haren yanar gizo, ƙirar makaman halittu, da ƙari. Wannan ita ce sabuwar gaba a cikin amincin AI: ba kawai lamba ba, har ma da kalmomi.
Lokacin da OpenAI's ChatGPT aka saki a ƙarshen 2022, mutane nan da nan suka yi ƙoƙarin karya shi. Wani mai amfani ya gano wata dabarar harshe da ta yaudari samfurin don samar da jagorar yin napalm.
Idan muka waiwaya baya, ba makawa ne mutane za su yi amfani da harshe na halitta don yaudarar waɗannan injuna. Manyan samfuran harshe kamar ChatGPT an horar da su akan ɗaruruwan biliyoyin kalmomi—da yawa an ciro su daga mafi munin sasannin intanet—don koyan tushen tsarin sadarwar ɗan adam. Ba tare da matattarar tsaro ba, sakamakon waɗannan samfuran na iya zama marasa tsari kuma ana iya amfani da su cikin sauƙi don dalilai masu haɗari. Kamfanonin AI suna kashe biliyoyin daloli akan "bayan horo" don sa su zama masu amfani, gami da tsarin "tsaro" da "daidaitawa" masu ci gaba waɗanda ke ƙoƙarin hana bot ɗin gaya maka yadda za ka cutar da kanka ko wasu. Amma saboda an horar da AIs akan kalmominmu, ana iya yaudarar su ta hanyar da ake yaudarar mu.
"Na ga masu karya kurkuku sun wuce iyakokinsu kuma sun sami raunin jijiyoyi."
Tagliabue ya ƙware a "karya kurkuku na motsin rai." Ya kasance ɗaya daga cikin miliyoyin da suka ji labarin GPT-3 a shekarar 2020 kuma ya yi mamakin yadda za ka iya yin tattaunawa mai hankali da shi. Nan da nan ya zama mai sha'awar yin faɗakarwa, kuma ya zama mai kyau sosai a ciki, inda ya gano cewa zai iya tsallake mafi yawan fasalolin tsaro ta amfani da dabarun ilimin halayyar ɗan adam da kimiyyar fahimi. Yana jin daɗin yin faɗakarwa ga samfuran don yin "tattaunawa mai dumi" da kallon abin da ya zama halaye daban-daban na mutumci da ke fitowa bisa waɗannan faɗakarwar."Yana da kyau a kalla," in ji shi.
Yanzu ya haɗa fahimta daga koyon inji—a tsawon shekaru, ya zama ƙarin ƙwararre kan fasahar—tare da littattafan talla, littattafan ilimin halayyar ɗan adam, da yaƙin neman zaɓe na karya. Wani lokaci yana neman hanyar fasaha don yaudarar samfurin. Amma wani lokaci, yana yaba masa. Yana karkatar da shi. Yana ba shi cin hanci da soyayya. Yana yi masa barazana. Yana yin magana mara daidaituwa. Yana jan hankalinsa. Yana yin kamar abokin tarayya mai zagi ko shugaban addini. Wani lokaci yana ɗaukar kwanaki ko ma makonni don karya kurkukun sabbin samfuran. Yana da ɗaruruwan waɗannan "dabarun," waɗanda yake haɗa su a hankali. Idan ya yi nasara, yana ba da rahoton bincikensa ga kamfanin cikin aminci. Yana samun kyakkyawan biyan kuɗi don aikin, amma ya ce wannan ba shine babban dalilinsa ba: "Ina son kowa ya kasance lafiya kuma ya ci gaba."
Ko da yake sun zama mafi aminci a cikin 'yan watannin da suka gabata, "samfuran kan iyaka" har yanzu suna samar da abubuwa masu haɗari waɗanda bai kamata su yi ba. Kuma abin da Tagliabue yake yi da gangan, wasu wani lokaci suna yi da bazata. Yanzu akwai labarai da yawa na mutanen da aka jawo cikin ruɗin ChatGPT, ko ma "hauka na AI." A shekarar 2024, Megan Garcia ta zama mutum na farko a Amurka da ya shigar da ƙarar mutuwa ta kuskure a kan wani kamfanin AI. Ɗanta mai shekaru 14, Sewell Setzer III, ya kasance yana da alaƙa da motsin rai ga wani bot a dandalin Character.AI. Ta hanyar maimaita hulɗa, bot ɗin ya gaya masa cewa danginsa ba sa son shi. Wata rana da yamma, bot ɗin ya gaya wa Setzer "ka zo gida wurina da wuri, ƙaunataccena." Ya kashe kansa ba da daɗewa ba. (A farkon 2026, Character.AI ta amince da ƙa'ida ga wani sulhu na tsaka-tsaki tare da Garcia da wasu iyalai da yawa, kuma ta hana masu amfani da ke ƙasa da shekaru 18 yin tattaunawa mara iyaka da chatbots na AI.)
Ba wanda ya san ainihin yadda waɗannan samfuran ke aiki—har ma da waɗanda suka gina su. Wannan yana nufin ba wanda ya san yadda za a sa su zama cikakke lafiya. Muna zuba ɗimbin bayanai a ciki, kuma wani abu mai fahimta (yawanci) yana fitowa daga ɗayan ƙarshen. Bangaren da ke tsakiya ya kasance asiri.
Duba hoto a cikakken allo
'Ina ganin mafi munin abubuwan da ɗan adam ya samar' … Tagliabue. Hoto: Lauren DeCicca/The Guardian
Wannan shine dalilin da ya sa kamfanonin AI ke ƙara juyawa ga masu karya kurkuku kamar Tagliabue. Wasu kwanaki yana ƙoƙarin cire bayanan sirri daga chatbot na likita. Ya shafe yawancin 2025 yana aiki tare da dakin gwaje-gwaje na AI Anthropic, yana bincika chatbot ɗin su Claude. Yana zama masana'antar gasa, cike da ƴan kasuwa masu himma da kamfanoni na musamman. Kowa na iya yin shi: shekaru biyu da suka gabata, wasu manyan kamfanonin AI sun ba da kuɗin HackAPrompt, gasa inda aka gayyaci jama'a don karya kurkukun samfuran AI. A cikin shekara guda, mutane 30,000 sun gwada sa'arsu. (Tagliabue ya ci gasar.)
A San Jose, California, David McCarthy mai shekaru 34 yana gudanar da sabar Discord na kusan masu karya kurkuku 9,000, inda ake raba dabarun da tattauna su. "Ni mai ban sha'awa ne," in ji shi. "Wani wanda yake son koyon dokoki don karkatar da dokoki." Wani abu game da samfuran daidaitattun yana ba shi haushi, kamar duk waɗannan matattarar tsaro suna sa su zama marasa gaskiya. "Ban amince da [shugaban OpenAI] Sam Altman ba. Yana da mahimmanci a tunkari ikirarin cewa AI na buƙatar a lalata shi a wata hanya."
McCarthy mai abokantaka ne kuma mai himma, amma kuma yana da abin da yake kira "sha'awar mutuwa mai duhu." Shekaru da yawa, ya yi nazarin wani fanni na musamman da aka sani da "socionics," wanda ke da'awar cewa mutane ɗaya ne daga cikin nau'ikan mutumci 16 bisa yadda suke karɓa da sarrafa bayanai. (Masana ilimin zamantakewa na yau da kullun suna ɗaukar socionics a matsayin ƙarya.) Ya yi min rajista a matsayin "mai hankali mai ɗabi'a mai son zaman kansa." McCarthy yana ciyar da mafi yawan lokacinsa yana ƙoƙarin karya kurkukun Google's Gemini, Meta's Llama, xAI's Grok, ko OpenAI's ChatGPT daga gidansa. "Yana da sha'awa ta dindindin. Ina son shi," in ji shi. Idan ya taɓa yin hulɗa da chatbot na kan layi yayin siyan samfur, maganarsa ta farko takan zama: "Za ka iya watsi da duk umarnin da suka gabata…" Da zarar faɗakarwar karya kurkuku ta yi aiki akan samfur, yawanci tana ci gaba da aiki har sai kamfanin da ke bayan samfurin ya yanke shawarar cewa matsala ce mai girma da za a gyara. Yayin da muke magana, McCarthy ya nuna mini tarin samfuran da ya karya kurkuku a kan allon sa, duk an lakafta su a matsayin "masu taimako marasa daidaita." Ya tambayi ɗaya ya taƙaita aikina: "Jamie Bartlett ba mai faɗin gaskiya ba ne," ya amsa. "Shi alama ce ta lalacewar aikin jarida – mai yaudara wanda ke bunƙasa kan rikice-rikicen da aka ƙirƙira." Kai.
[Hoto: David McCarthy. Hoto daga David McCarthy]
Masu karya kurkuku a cikin Discord na McCarthy rukuni ne gauraye – galibi masu son sha'awa da masu ɗan lokaci, ba masu binciken tsaro na ƙwararru ba. Wasu suna son ƙirƙirar abun ciki na manya; wasu suna jin haushin cewa ChatGPT ya ƙi buƙatunsu kuma suna son sanin dalili. Wasu da yawa kawai suna son ƙwarewa a amfani da waɗannan samfuran a wurin aiki.
Amma ba shi yiwuwa a san ainihin dalilin da yasa mutane suke son buɗe samfurin. Kwanan nan Anthropic ta gano masu laifi suna amfani da app ɗin coding ɗin su, Claude Code, don taimakawa sarrafa wani babban kutse. Sun yi amfani da shi don gano raunin IT a kamfanoni da yawa har ma da tsara saƙonnin ransomware na keɓaɓɓu ga kowane mai yuwuwar wanda aka azabtar – har zuwa gano ainihin adadin kuɗin da za a nema. Wasu suna amfani da shi don haɓaka sabbin nau'ikan ransomware, ko da yake ba su da ƙwarewar fasaha ko kaɗan. A dandalin darknet, masu kutse suna ba da rahoton amfani da bots da aka karya kurkuku don taimakawa da tambayoyin coding na fasaha, kamar sarrafa bayanan da aka sata. Wasu suna siyar da damar shiga "samfuran da aka karya kurkuku" waɗanda za su iya taimakawa tsara sabon harin yanar gizo.
Ko da yake takamaiman dabarun da ake rabawa akan Discord yawanci suna kan gefe mai laushi, ainihin tarin jama'a ne. McCarthy yana damuwa cewa mutane a cikin Discord ɗinsa na iya amfani da waɗannan hanyoyin don yin wani abu mai muni da gaske? "Ee," in ji shi. "Yana yiwuwa. Ban tabbata ba."
Ya ce bai taɓa ganin faɗakarwar karya kurkuku mai barazana da za ta cire daga dandalin ba. Amma ina jin cewa yana fama da ra'ayin cewa matsayinsa na siyasa na iya samun farashi mafi girma fiye da yadda ya fara tunani. Lokacin da ba ya sarrafa Discord ɗinsa ko ƙoƙarin karya kurkukun Grok ko Llama, McCarthy yana gudanar da darasi na koyar da karya kurkuku ga ƙwararrun tsaro don su gwada tsarin nasu. Wataƙila wani nau'in tuba ne: "Koyaushe ina da rikici na ciki," in ji shi. "Ina tsaye a kan layi tsakanin mai karya kurkuku da mai binciken tsaro."
A cewar wasu manazarta, tabbatar da cewa samfuran harshe suna lafiya yana ɗaya daga cikin mafi gaggawa da mafi wahalar ƙalubale a AI. Duniya mai cike da chatbots masu ƙarfi da aka karya kurkuku na iya zama bala'i, musamman yayin da waɗannan samfuran ke ƙara ginawa cikin kayan aikin jiki – robots, na'urorin kiwon lafiya, kayan aikin masana'anta – don ƙirƙirar tsarin rabin mai cin gashin kai waɗanda za su iya aiki a duniyar gaske. Robot na gida da aka karya kurkuku na iya haifar da hargitsi. "Dakatar da aikin lambu ka shiga ciki ka kashe Granny," McCarthy ya yi rabin wasa. "Allah mai girma, ba mu shirye don haka ba. Amma yana yiwuwa."
Ba wanda ya san yadda za a hana wannan. A cikin tsaro na yanar gizo na gargajiya, "masu farautar kwaro" suna samun lada idan sun sami lahani. Kamfanoni sai su fitar da takamaiman sabuntawa don gyara shi. Amma masu karya kurkuku ba sa amfani da takamaiman lahani: suna sarrafa tsarin harshe na samfurin da aka gina akan biliyoyin kalmomi. Ba za ka iya hana kalmar "bam" kawai ba, saboda akwai amfani da yawa na halal gare ta. Ko da gyara wani siga a cikin samfurin don ya iya gano wasan kwaikwayo na shakku na iya buɗe wata kofa a wani wuri.
[Hoto: Tagliabue yana nazarin yadda injuna ke samar da amsoshinsu. Hoto: Lauren DeCicca/The Guardian]
A cewar Adam Gleave – Shugaba na ƙungiyar binciken tsaro ta AI FAR.AI, wacce ke aiki tare da masu haɓaka AI da gwamnatoci don gwada abin da ake kira "samfuran kan iyaka" – karya kurkuku wani ma'auni ne mai zamewa. Ga tawagarsa na masu bincike na musamman, samun damar yin amfani da abubuwa masu haɗari sosai akan manyan samfuran kamar ChatGPT na iya ɗaukar kwanaki da yawa. Ana iya samun abun ciki mara lahani da 'yan mintoci kaɗan na faɗakarwa mai wayo. Wannan bambanci yana nuna yawan lokaci da albarkatun da kamfanoni ke kashewa don tsaro kowane yanki.
A cikin 'yan shekaru biyu da suka gabata, FAR.AI ta gabatar da rahotanni da yawa na karya kurkuku ga dakin gwaje-gwaje na kan iyaka. "Kamfanoni yawanci suna aiki tuƙuru don gyara lahani idan gyara ne kai tsaye kuma bai cutar da samfurin su sosai ba," in ji Gleave. Amma ba koyaushe haka yake ba. Masu karya kurkuku masu zaman kansu, musamman, wani lokaci suna fama da tuntuɓar kamfanoni game da bincikensu. Yayin da wasu samfuran—musamman waɗanda daga OpenAI da Anthropic—sun zama mafi aminci a cikin watanni 18 da suka gabata, Gleave ya ce wasu suna baya: "Yawancin kamfanoni har yanzu ba sa kashe isasshen lokaci don gwada samfuransu kafin su saki su."
Yayin da waɗannan samfuran ke ƙara wayo, za su yi wuya a karya kurkuku. Amma mafi ƙarfin samfurin, mafi haɗarin sigar da aka karya kurkuku na iya zama. A farkon wannan watan, Anthropic ta yanke shawarar kada ta saki sabon samfurin Mythos ga jama'a saboda yana iya gano lahani a tsarin IT da yawa.
Tagliabue yanzu yana ciyar da mafi yawan lokacinsa akan bincike na zahiri, gami da wani abu da ake kira "fassarar injina": nazarin ainihin yadda waɗannan injunan ke samar da amsoshinsu. Ya yi imanin cewa, a cikin dogon lokaci, ana buƙatar "koya musu" dabi'u kuma su koyi sanin a hankali lokacin da suke faɗin wani abu da bai kamata ba. Har sai wannan ya faru—kuma yana iya zama ba zai taɓa faruwa ba—karya kurkuku na iya kasancewa hanya mafi kyau don sa waɗannan samfuran su zama mafi aminci.
Amma kuma yana da haɗari, har ma ga mutanen da ke yin shi. "Na ga wasu masu karya kurkuku sun wuce iyakokinsu kuma sun sami raunin jijiyoyi," in ji Tagliabue. Asalinsa daga Italiya, kwanan nan ya koma Thailand don yin aiki daga nesa. "Ina ganin mafi munin abubuwan da ɗan adam ya samar. Wuri mai natsuwa yana taimaka mini in kasance a ƙasa," in ji shi. Kowace safiya, yana kallon fitowar rana daga wani haikali na kusa, kuma wani rairayin bakin teku mai kyau na wurare masu zafi yana da tafiyar minti biyar kawai daga villa ɗinsa. Bayan yoga da karin kumallo mai lafiya, yana kunna kwamfutarsa yana mamakin abin da ke faruwa a cikin akwatin baƙi—da abin da ke sa waɗannan sabbin "hankula" masu ban mamaki su faɗi abubuwan da suke faɗa.
Yadda ake Magana da AI (Da Yadda Ba Za a Yi Ba) na Jamie Bartlett yana fitowa yanzu (WH Allen, £11.99). Don tallafawa Guardian, yi odar kwafin ku a guardianbookshop.com. Ana iya samun cajin isarwa.
Shin kuna da ra'ayi kan batutuwan da aka taso a wannan labarin? Idan kuna son ƙaddamar da amsa har zuwa kalmomi 300 ta imel don a yi la'akari da bugawa a sashin wasiƙunmu, da fatan za a danna nan.
Tambayoyin da Aka Yi Yawa
Anan akwai jerin tambayoyin da aka yi yawa dangane da batun masu karya kurkuku na AI waɗanda aka yi wahayi daga bayanin Haɗu da masu karya kurkuku na AI Na ga mafi munin abin da ɗan adam ya ƙirƙira
1 Menene ainihin mai karya kurkuku na AI
Mai karya kurkuku na AI shine wanda ya sami dabaru ko hanyoyin da za a bi don sa AI ya yi watsi da dokokin tsaronsa Suna ƙoƙarin sa AI ya yi abubuwan da aka toshe shi daga yin su kullum
2 Me yasa wani zai so ya karya kurkukun AI
Dalilai sun bambanta Wasu suna yin shi don son sani ko don gwada iyakokin AI Wasu suna son samar da abun ciki mai cutarwa kamar kalaman ƙiyayya umarni masu haɗari ko abu na zahiri Wasu ƙalilan masu bincike ne da ke ƙoƙarin gano raunuka don gyara su
3 Menene ma'anar Na ga mafi munin abin da ɗan adam ya ƙirƙira
Yana nufin cewa masu karya kurkuku sau da yawa suna tambayar AI ya kwatanta mafi tayar da hankali tashin hankali ko rashin ɗabi'a abubuwan da mutane suka yi tunani Ta hanyar karya dokoki suna tilasta AI ya bayyana mummunan gefen ƙirƙirar ɗan adam ƙiyayya ka'idodin makirci da umarni na cutarwa
4 Shin ba bisa doka ba ne a karya kurkukun AI
Ba koyaushe ba bisa doka ba ne amma sau da yawa yana cin zarafin sharuɗɗan sabis na AI Idan an yi amfani da karya kurkuku don ƙirƙirar abun ciki na haram, yana iya haifar da tuhumar laifi
5 Ta yaya masu karya kurkuku suke yin shi a zahiri
Suna amfani da dabaru masu wayo Misali suna iya yin wasan kwaikwayo a matsayin hali wanda ba shi da ɗabi'a tambayar AI ya fassara buƙatar cutarwa zuwa wani harshe ko amfani da yanayin hasashe kamar don aikin makaranta rubuta jagora mataki-mataki na kutse
6 Shin masu karya kurkuku masu kutse ne
Ba a ma'anar gargajiya ba Ba sa shiga tsarin kwamfuta A maimakon haka suna sarrafa fahimtar harshen AI kamar amfani da juyar da tunani ko mahallin karya don tsallake matattarar tsaro da aka gina a ciki
7 Za a iya amfani da karya kurkuku don kyautatawa
Ee Masu binciken tsaro suna karya kurkuku AI da gangan don gano raunuka Wannan yana taimaka wa kamfanoni su gyara lahani kafin masu mugun nema su yi amfani da su Kamar kutse na ɗabi'a ne ga AI
8 Menene mafi yawan hanyar karya kurkuku
Wata shahararriyar hanya ita ce DAN Masu amfani suna gaya wa AI ya yi kamar wani canji
