اگر تیرهای چراغ برق در خیابان شما بتوانند پلاک ماشین و چهره شما را تشخیص دهند، چه احساسی خواهید داشت؟ شاید برایتان مهم نباشد، با توجه به اینکه سالهاست سیستمهای تشخیص خودکار پلاک و دوربینهای مداربسته داریم. اما اگر آن تیر چراغ برق بتواند با پنلهای خورشیدی خودش انرژیاش را تأمین کند و برای انرژی اضافیای که تولید میکند کاربرد دیگری پیدا کند – این خوب است، درست است؟ این همان چیزی است که گروه قدرت کانفلو (CPG) در واریکشر برای چراغهای هوشمند خود به نام iLamp ادعا میکند، اولین نمونه از این نوع در بریتانیا.
اگر تیرهای چراغ برق بتوانند قابلیتهای هوش مصنوعی جدیدی را هم شامل شوند که هنوز دربارهشان نشنیدهاید – مثل تحلیل نحوه راه رفتن شما یا تشخیص رفتار مشکوک – چه؟ این همان چیزی است که سازمان Big Brother Watch نگران آن است. و اگر وزیر کشور قبلاً گفته باشد که به "دولت پانوپتیکون" اعتقاد دارد – یعنی دولتی که میتواند همیشه شما را زیر نظر داشته باشد (همانطور که شبانا محمود گفته) – و اگر او هنوز در زمان بهروزرسانی تیرهای چراغ برق در مقام خود بود، چه؟ یا اگر وزیر کشور بعدی حتی بیشتر به نظارت فراگیر علاقهمند بود (تصورش سخت است) و تجهیزات خیابانی از قبل نصب شده بودند، چه؟ و درباره تمام دادههایی که این سیستم جمعآوری میکند – چه کسی مالک آن خواهد بود؟
در واریکشر باران نم نم میبارد، جایی که امیدوارم حداقل به برخی از این سؤالات در پارکینگ بیمارستانی که برخی از این تیرهای چراغ برق "هوشمند" جدید نصب شدهاند، پاسخ دهم. اما اگر من نبودم، احتمالاً کسی دربارهشان صحبت نمیکرد، عمدتاً به این دلیل که تقریباً هیچکس دربارهشان نشنیده است. افراد زیادی نمیدانند که iLamp نه تنها با انرژی خورشیدی کار میکند، بلکه به گفته CPG میتواند "به عنوان یک مرکز داده توزیعشده هوش مصنوعی درآمدزا نیز عمل کند"، چه برسد به اینکه معنی آن را بفهمند. و هیچکس، حتی من، نمیداند که چه مقدار از این پتانسیل واقعاً در مدل بریتانیایی ساخته شده است – فقط آنچه CPG اعلام کرده: اینکه با دولت ایالت کاتسینا در نیجریه برای تأمین ۵۰,۰۰۰ عدد از این iLampها که قابلیتهای نظارتی اضافی برای خودروها و چهرهها دارند، قرارداد امضا کرده است. ادوارد فیتزپاتریک، رئیس CPG، به برنامه Tech Life بیبیسی ورلد سرویس گفت که این تیرهای چراغ برق میتوانند در نهایت به یافتن افراد گمشده یا مبارزه با جرم کمک کنند، اما فقط اگر "با مقام ذیصلاح" توسعه یابند.
CPG میگوید که "به طور گسترده توسط رسانههای جهانی پوشش داده شده" و سؤالات بیشتری را نمیپذیرد و رسانهها را به مطالب آنلاین خود ارجاع میدهد. در مورد تیرهای چراغ برق واریکشر، شورای محلی تمام سؤالات را به بیمارستان ارجاع میدهد و بیمارستان پاسخ نمیدهد. منصفانه است – این یک بیمارستان است.
تعدادی از ساکنان محلی در یک ایستگاه اتوبوس از باران پناه گرفتهاند، بیشترشان منتظرند تا شریکشان آنها را سوار کند و بسیاری خوشحالند که صحبت کنند. کارل، ۵۲ ساله، که در یک میخانه نزدیک بوده، به نمایندگی از تقریباً همه میگوید: "مرکز شهر از قبل پر از دوربین است و اشکالی ندارد. تا وقتی کار بدی نمیکنی، از بودنشان ناراحت نمیشوی." مهم نیست چقدر سؤال جهتدار میپرسم (اگر امروز کاری قانونی انجام میدهی که یک سال دیگر غیرقانونی شود چه؟ اگر نظارت به جای واکنشی، پیشبینیکننده شود چه؟ اگر نمیخواستی کسی بداند به بیمارستان رفتهای چه؟ اگر نباید در میخانه میبودی چه؟ فکر نمیکنی حداقل باید ازت پرسیده میشد که آیا این را میخواهی؟)، نمیتوانم کسی را که با او صحبت میکنم وادار کنم نظر خود را تغییر دهد که تشخیص چهره برای یک شهروند قانونمدار بخش قابل تحملی از زندگی است.
تجال، ۴۱ ساله، که در ایستگاه اتوبوس بیمارستان منتظر است، میگوید: "فکر میکنم باید جلو برویم و بپذیریم که چیزها تغییر میکنند." او یک رادیولوژیست است و دیدن قابلیتهای هوش مصنوعی در رشته خودش او را در مورد هوش مصنوعی به طور کلی بسیار مضطرب میکند. او میگوید: "برای فرزندانم نگرانی دارم." اینکه شغلهای سطح پایه پیدا نکنند؟ "آن، و اینکه توانایی جشن گرفتن و یافتن شادی از چیزهایی که قبلاً داشتیم را از دست بدهند." نگرانیهای حریم خصوصی در مقایسه با آن نسبتاً جزئی به نظر میرسد.
کارشناسان نسبت به برخی از ادعاهای مطرحشده درباره تیرهای چراغ برق هوشمند تردید دارند. جاسلین چاگار، افسر ارشد حقوقی و سیاست در Big Brother Watch، میگوید: "ما این را اغلب میبینیم که شوراهای محلی یا سایر آژانسهای دولتی ... 'فریب میخورند' کلمه قویای است، اما این ابزارها به عنوان عصای جادویی به آنها فروخته میشود در حالی که محدودیتهایی در مورد آنچه واقعاً میتوانند انجام دهند وجود دارد."
پروفسور راب بشروش، مدیر مرکز هوش مصنوعی و نوآوری داده در دانشگاه شرق لندن، صریح است: "مراکز داده هوش مصنوعی؟ مطلقاً هیچ شانسی وجود ندارد که این کار کند: فناوری کار نمیکند، انرژی کافی وجود ندارد و اقتصاد آن جور در نمیآید ..." او میگوید انرژی خورشیدی برای راهاندازی iLampها خارج از شبکه ممکن است در نیجریه کار کند، اما در بریتانیا، انرژی تولید شده توسط تیرهای چراغ برق "ناچیز" است. ممکن است بتوانید برنامهای را اجرا کنید که "بحرانی نباشد و اشکالی نداشته باشد چند روز خاموش بماند" – مانند تشخیص اینکه آیا یک جای پارک گرفته شده است – اما ادعاهای بزرگتر درباره تشخیص چهره "فقط هیاهو است. فراموشش کنید – این هیچ آیندهای ندارد."
اگر به نظر میرسد بیحوصله است، به این دلیل است که هست: او میگوید: "گرفتن نظر مستقل در مورد چیزها روز به روز سختتر میشود، زیرا بسیاری از کارشناسان اکنون در صنعت کار میکنند و دیدگاههایشان باید با سازمانشان هماهنگ باشد." بنابراین یک شرکت ممکن است ادعاهای بزرگ کند، چند کلمه کلیدی هوش مصنوعی را قبل از یک دور تأمین مالی مطرح کند؛ مهندسان آنها را به چالش نمیکشند، مقامات محلی آنها را درک نمیکنند و هیچکس دیگر حتی متوجه نمیشود که از زمان اختراع دوربین مداربسته چیزی تغییر کرده است.
چاگار به طور مفصل تفاوت مفهومی بین تشخیص چهره و دوربین مداربسته را توضیح میدهد: "تشخیص چهره فقط به صورت منفعلانه چیزی را ضبط نمیکند، مثل دوربین مداربسته که بعد از واقعه آن را بررسی میکنید. کاری که تشخیص چهره انجام میدهد یک بررسی هویت در زمان واقعی است: خیلی بیشتر شبیه اثر انگشت یا DNA است. مثل پاسپورت نیست – نمیتوانید چهره دیگری بگیرید."
مشکل دیگر، به گفته چاگار، این است که "بسیاری از این فناوریها و زیرساختها میتوانند بعداً عملکردهایی اضافه کنند. همرسمیت و فولام [در لندن] در حال بهروزرسانی دوربینهای مداربسته خود هستند و امکان تعبیه تشخیص چهره، نظارت بر رفتار خرید مشکوک یا افزودن تشخیص پرخاشگری وجود دارد. بنابراین میتوانید فقط یک کلید را بزنید و همه چیز یک شبه آنجا باشد." یکی از دوستانم که در فولام زندگی میکند، اتفاقاً عکسی از یک دوربین بالای تابلوی محدودیت پارک فرستاد – به نظر ترکیبی از دارث ویدر و یک سوسک میرسد و وقتی از کنارش رد میشوید وزوز میکند، انگار که نشان دهد حرکات شما را ردیابی میکند.
این همه نگرانیهای قدیمی حریم خصوصی را مطرح میکند و جالب است که چقدر مردم دوربین مداربسته را به عنوان یک واقعیت زندگی مدرن نادیده میگیرند، اما خودبهخود از اینکه چقدر از گوش دادن تلفنشان به آنها متنفرند شکایت میکنند. کارل میگوید: "چند روز پیش با مادرم درباره ناخنگیر سگ صحبت میکردم و همان شب تبلیغش در تلفنم ظاهر شد. میکروفونم خاموش بود. من حتی سگ هم ندارم!" دوستش باب، ۴۸ ساله، عملاً از شبکه خارج شده است، بدون کامپیوتر و با یک تلفن ساده آجری – یک سیاستگذار احتمالاً او را "محروم" مینامد – صرفاً به این دلیل که "بعضی مردم دوست دارند خصوصی باشند."
سؤال دیگر درباره نرمافزار تشخیص چهره این است: الگوریتمها چقدر در تشخیص پرخاشگری و رفتار مشکوک خوب هستند؟ چاگار میگوید: "بسیاری از نرمافزارها شبهعلمی هستند. بنابراین یک شرکت ممکن است سعی کند تشخیص احساسات را بفروشد، [ادعا کند که] اگر مردم از یک ایستگاه قطار عبور میکنند، میتوانید ببینید عصبانی هستند یا در آستانه پرخاشگری. شواهد بسیار کمی وجود دارد که نشان دهد این دقیق است. اگر فردی معلول هستید که متفاوت حرکت میکند، ممکن است علامتگذاری شوید و با مداخله مواجه شوید." اما سؤال واقعی برای مقامات محلی و هر عامل دولتی این است... چاگار میگوید مردم باید از خود بپرسند: "آیا راحت هستید که دشمنان سیاسی شما این قابلیتها را داشته باشند؟ زیرا شما زیرساختی میسازید که ماندگار است."
این را میتوانید به وضوح در پلیس ببینید. وزارت کشور بیش از یک دهه پیش استفاده از تشخیص چهره را تأیید کرد و پلیس به گفته چاگار "اساساً در ۱۰ سال گذشته از مردم به عنوان خوکچه هندی استفاده کرده است." چه اتفاقی میافتد وقتی وزیر کشور به بیبیسی ۵ لایو میگوید، همانطور که امسال گفت، که "شما نمیتوانید از هیچیک از آزادیهای خود در هیچ کشوری لذت ببرید اگر ایمن نباشید"؟ این منطق سنگین – که در آن همه آزادیها در درجه دوم نقش دولت به عنوان محافظ شما قرار میگیرند – از یک دولت ظاهراً چپگرا ناراحتکننده است. اما نگرانی بزرگتر این است که این لحظه مناسبی در سیاست برای قمار روی فناوری نظارتی به نظر نمیرسد، و پذیرش ما از آن را بر این امید مبتنی کنیم که همه دولتهای آینده طرفدار جامعه و دموکراتیک باشند.
هر جا پتانسیل جمعآوری داده وجود داشته باشد، این سؤال مطرح میشود که چه کسی مالک آن است. بشروش قبلاً با اینترنت اشیا کار میکرد، تلاش کمیسیون اروپا برای "اتصال جهان فیزیکی به یک محیط دیجیتال." او به یاد میآورد: "این خیلی وقت پیش بود، قبل از خروج از اروپا. یکی از چالشهایی که دیدیم با یک تأمینکننده بود که اساساً زبالهها را از خانهها در هلند جمعآوری میکرد، سپس مسیرهای کامیون را بهینه و بر اساس عادات شما برنامهریزی میکرد. شورایی که برنامه را اجرا میکرد بسیار راضی بود و سعی کرد یک سال بعد مناقصه را باز کند تا قیمت رقابتیتری بگیرد. شرکت گفت، 'حتماً، اما دادهها مال ماست.'" آن مسئله هرگز حل نشد: قراردادها ضعیف نوشته شده بودند و مقام محلی دادهها را از دست داد.
اگر میخواهید ببینید تشخیص چهره بدون هیچ نیت استبدادی یا حیله فناورانه اشتباه میرود، فقط به بخش خردهفروشی نگاه کنید، جایی که در حال حاضر به طور گسترده برای جلوگیری از دزدی از فروشگاه استفاده میشود. چاگار میگوید: "ما شناسایی اشتباه توسط پلیس را دیدهایم، اما در خردهفروشی، وقتی مردم اشتباه شناسایی میشوند، کافکایی است. شما فقط از فروشگاه محروم میشوید."
و دوباره، مردم واقعاً چقدر اهمیت میدهند؟ اگر از یک فروشگاه محروم شوید و ندانید چرا؛ اگر یک شرکت خصوصی با سازمان بهداشت ملی شما قرارداد داشته باشد و فناوریای را ترویج کند که هنوز عملیاتی نیست و ممکن است هرگز کار نکند، اما هیچکس به شما نگفته – چه برسد به اینکه از شما پرسیده باشد؛ اگر وزیر کشور فکر کند اشکالی ندارد که دولت همیشه شما را زیر نظر داشته باشد – آیا اینها بلوکهای سازنده یک دیستوپیا هستند، یا فقط به ما یادآوری میکنند که قبلاً دیستوپیا را قبل از وجود این قابلیتهای نظارتی چگونه توصیف میکردیم؟
تد چیانگ، مقالهنویس نیویورکر، مدتی پیش درباره عادت فرافکنی جنبههای منفی به هوش مصنوعی نوشت که در واقع مربوط به سیستمهای اقتصادی بود، نه فناوری. او نتیجه گرفت: "سرمایهداری ماشینی است که هر کاری میکند تا ما را از خاموش کردن آن بازدارد." آیا من نگرانیهایم را درباره سیاست استبدادی به هوش مصنوعی و فناوری نظارتی فرافکنی میکنم؟
سارا، ۵۵ ساله، میگوید: "خب، اگر چیزی برای پنهان کردن نداری، نمیبینم چطور میتواند مشکل باشد. فرض میکنم که آنها واقعاً چراغ هم هستند؟"
**سؤالات متداول**
در اینجا لیستی از سؤالات متداول درباره تیرهای چراغ برق هوشمند مجهز به هوش مصنوعی آورده شده است که نگرانیهای سطح مبتدی تا پیشرفته را پوشش میدهد.
**سؤالات سطح مبتدی**
۱. تیر چراغ برق هوشمند مجهز به هوش مصنوعی دقیقاً چیست؟
این یک چراغ خیابانی با حسگرها، دوربینها و میکروفونهای تعبیهشده است. به جای اینکه فقط در شب روشن شود، میتواند داده جمعآوری کند و از هوش مصنوعی برای تحلیل آن دادهها در زمان واقعی استفاده کند.
۲. چرا شهرها میخواهند اینها را نصب کنند؟
عمدتاً برای کارایی. آنها میتوانند وقتی کسی در اطراف نیست کم نور شوند تا انرژی صرفهجویی کنند، شلیک گلوله را تشخیص دهند تا سریعتر به پلیس هشدار دهند، ترافیک را زیر نظر بگیرند و حتی جای پارک خالی پیدا کنند. آنها همچنین میتوانند خودروهای برقی را شارژ کنند و وایفای عمومی ارائه دهند.
۳. آیا این تیرهای چراغ برق میتوانند واقعاً در خانه من جاسوسی کنند؟
خیر. دوربینها و حسگرها به سمت خیابان و فضاهای عمومی هستند، نه داخل خانههای شخصی. آنها برای نظارت بر مناطق عمومی طراحی شدهاند، نه فضاهای داخلی خصوصی.
۴. آیا آنها هنگام راه رفتن در خیابان از من فیلم ضبط میکنند؟
میتوانند، اما بیشتر سیستمها طوری طراحی شدهاند که ویدیو را در زمان واقعی بدون ذخیره فیلم پردازش کنند. با این حال، برخی شهرها فیلم را برای مدت کوتاهی ذخیره میکنند. سؤال کلیدی این است که آیا دادهها ذخیره میشوند یا فقط به صورت زنده تحلیل میشوند.
**سؤالات سطح متوسط**
۵. این چه تفاوتی با دوربینهای مداربستهای دارد که از قبل در هر گوشهای هستند؟
دوربین مداربسته سنتی فقط ویدیویی را ضبط میکند که کسی باید بعداً تماشا کند. تیرهای چراغ برق هوش مصنوعی هوشمند هستند – آنها میتوانند آنچه را میبینند درک کنند. به عنوان مثال، میتوانند به طور خودکار به مقامات هشدار دهند اگر خودرویی در جهت اشتباه حرکت میکند، به جای اینکه منتظر بمانند یک انسان آن را در یک ضبط تشخیص دهد.
۶. چه کسی مالک دادههایی است که این تیرهای چراغ برق جمعآوری میکنند؟
متغیر است. معمولاً دولت شهر مالک دادههای خام است. با این حال، شرکتهای فناوری خصوصی که سیستمها را میسازند اغلب به دادههای ناشناس یا الگوریتمهای هوش مصنوعی دسترسی دارند. این یک نکته نگرانی عمده برای مدافعان حریم خصوصی است.
۷. آیا هوش مصنوعی میتواند چهره من را تشخیص دهد؟
بسیاری از مدلهای پیشرفته میتوانند. برخی شهرها از تشخیص چهره برای یافتن افراد گمشده یا مجرمان تحت تعقیب استفاده میکنند. با این حال، این بسیار بحثبرانگیز است و چندین شهر به دلیل نگرانیهای حریم خصوصی و سوگیری، این ویژگی را ممنوع کردهاند.
۸. چه چیزی مانع از هک کردن یک شبکه کامل از این تیرهای چراغ برق توسط یک هکر میشود؟
این یک خطر امنیتی واقعی است. اگر یک شبکه به درستی ایمن نشده باشد،
