天空中的间谍:我们对人工智能驱动的智能路灯杆的到来应有多担忧?

天空中的间谍:我们对人工智能驱动的智能路灯杆的到来应有多担忧?

如果你所在街道上的路灯能识别你的车牌和面孔,你会作何感想?考虑到自动车牌识别和闭路电视已存在多年,你或许不会介意。但如果那盏路灯能通过自身太阳能电池板供电,并将多余电能另作他用——那岂不是很好?这正是沃里克郡的康弗洛电力集团为其iLamp所宣称的,这是英国首款此类产品。

如果路灯还能加入你闻所未闻的新人工智能功能——比如分析你的走路方式或发现可疑行为呢?这正是“老大哥观察”组织所担忧的。如果内政大臣已经表示她相信“全景监狱国家”——即一个能随时监视你的国家(正如沙巴纳·马哈茂德所言)——并且当路灯升级时她仍在位呢?或者,如果下一任内政大臣更热衷于超级监控(难以想象),而街道设备已就位呢?还有,这些收集的数据——谁将拥有它们?

沃里克郡正下着毛毛雨,我希望能在这家医院停车场回答至少其中一些问题,那里已安装了一些新型“智能”路灯。但如果不是因为我,可能没人会谈论它们,主要是因为几乎没人听说过。没多少人知道iLamp不仅由太阳能供电——根据CPG的说法,它还能“兼作创收的分布式人工智能数据中心”,更不用说理解这意味着什么。而且,没人——包括我在内——知道这种潜力有多少已实际融入英国型号中——只知道CPG已宣布:它与尼日利亚卡齐纳州政府签署协议,供应5万盏这种iLamp,这些路灯具备额外的车辆和面部监控能力。CPG主席爱德华·菲茨帕特里克告诉BBC世界服务的科技生活节目,这些路灯最终可能帮助寻找失踪人员或打击犯罪,但前提是“与相关当局”共同开发。

CPG表示已“被全球媒体广泛报道”,不再回答进一步问题,并引导媒体查阅其在线资料。至于沃里克郡的路灯,当地议会将所有问题转给医院,而医院不予回应。这倒可以理解——毕竟那是家医院。

一些当地居民在公交车站避雨,多数在等伴侣来接,许多人乐意聊天。52岁的卡尔刚从附近酒吧出来,他的话代表了几乎所有人:“市中心已经满是摄像头,这没什么。除非你图谋不轨,否则你不会介意它们的存在。”无论我问多少带有倾向性的问题(如果你今天合法的事一年后变得非法呢?如果监控变成预测性而非反应性呢?如果你不想让人知道你去过医院呢?如果你本不该在酒吧呢?你不觉得至少应该征求你是否同意吗?),我无法让任何交谈者改变观点,他们认为面部识别对守法公民来说是生活中可容忍的一部分。

41岁的特贾尔也在医院公交站等车,她说:“我认为我们必须向前看,接受事物在变化。”她是一名放射科医生,看到人工智能在自己领域的应用能力,让她对人工智能整体感到非常焦虑。“我为我的孩子们感到焦虑,”她说。担心他们找不到入门级工作?“那只是一方面,还担心他们会失去从我们过去的事物中庆祝和寻找快乐的能力。”相比之下,隐私担忧似乎相对次要。专家们对智能路灯的一些说法持怀疑态度。“老大哥观察”组织的高级法律和政策官员贾斯琳·查格说:“我们经常看到这种情况,地方议会或其他政府机构……‘被欺骗’是个强烈的词,但他们被兜售这些工具当作魔法棒,而它们实际能做的有限。”

东伦敦大学人工智能与数据创新中心主任拉比赫·巴什鲁什教授直言不讳:“人工智能数据中心?这绝对不可能行得通:技术不奏效,电力不足,经济账也算不过来……”他说,用太阳能让iLamp离网运行在尼日利亚可能可行,但在英国,路灯产生的能量“微不足道”。你或许能运行一个“非关键任务、不介意关闭几天的应用”——比如检测停车位是否被占——但关于面部识别的更大说法“只是炒作。算了吧——这没有未来。”

如果他听起来不耐烦,那是因为他确实如此:“现在越来越难获得对事物的独立意见,因为许多专家现在在行业工作,他们的观点必须与所在组织一致,”他说。因此,一家公司可能在融资轮前大吹大擂,抛出一些人工智能流行词;工程师不质疑,地方当局不理解,而其他人甚至没意识到自闭路电视发明以来有什么变化。

查格不遗余力地解释面部识别与闭路电视的概念差异:“面部识别不仅仅是像闭路电视那样被动记录,事后查看。面部识别所做的是实时身份检查:它更像是指纹或DNA。不像护照——你无法换一张脸。”

查格说,另一个问题是,“许多这类技术和基础设施以后可以添加功能。哈默史密斯和富勒姆(伦敦)正在更新他们的闭路电视,有可能嵌入面部识别、监控可疑购物行为或添加攻击检测。所以你只需按一下开关,一夜之间就全有了。”一位住在富勒姆的朋友碰巧发来一张照片,显示停车限制标志上方有一个摄像头——它看起来像达斯·维达和甲虫的混合体,你走过时会嗡嗡作响,仿佛在显示它正在追踪你的行动。

这引发了所有旧的隐私担忧,有趣的是,许多人将闭路电视视为现代生活的事实而不予理会,却自发抱怨多么讨厌被手机监听。卡尔说:“前几天我和母亲谈论狗指甲剪,当晚广告就出现在我手机上。我关了麦克风。我甚至没有狗!”他48岁的朋友鲍勃几乎完全脱离网络,没有电脑,只有一部基本功能手机——政策制定者可能会称他为“被排斥者”——仅仅因为“有些人喜欢隐私。”

关于面部识别软件的另一个问题是:算法在检测攻击性和可疑行为方面有多好?“很多软件是伪科学的,”查格说。“所以一家公司可能试图销售情绪检测,[声称]如果人们走过火车站,你可以看出他们是否生气或即将变得有攻击性。很少有证据表明它准确。如果你是一个行动方式不同的残疾人,你可能会被标记并面临干预。”但对地方当局和任何国家机构来说,真正的问题是……查格说人们应该问自己:“你对你的政治敌人拥有这些能力感到自在吗?因为你正在建设一个会长期存在的基础设施。”

这在警务中显而易见。内政部十多年前就批准了面部识别的使用,而警方“在过去10年里基本上把公众当作小白鼠,”查格说。当内政大臣像今年早些时候那样告诉BBC 5 Live,“如果你不安全,在任何国家都无法享受任何自由”时,会发生什么?这种强硬逻辑——所有自由都次于国家作为保护者的角色——来自一个所谓的左翼政府令人不安。但更大的担忧是,在政治中,现在似乎不是用监控技术赌博的正确时机,基于所有未来政府都将亲社会和民主的希望来接受它。

只要有收集数据的潜力,就会引发谁拥有数据的问题。巴什鲁什曾与物联网合作,这是欧盟委员会“将物理世界连接到数字环境”的努力。“这早在脱欧之前,”他回忆道。“我们遇到的挑战之一是与一家供应商有关,它基本上从荷兰家庭收集垃圾,然后根据你的习惯优化卡车路线和规划。运行该计划的议会非常满意,一年后试图开放招标以获得更具竞争力的价格。公司说,‘当然,但数据是我们的。’”这个问题从未解决:合同写得不好,地方当局失去了数据。

如果你想看到面部识别在没有威权意图或技术诡计的情况下出错,只需看看零售业,它已广泛用于防止入店行窃。“我们见过警方误认,”查格说,“但在零售业,当人们被误认时,那是卡夫卡式的。你只是被商店列入黑名单。”

再说一次,人们到底有多在乎?如果你被商店禁止却不知原因;如果一家私营公司与你的NHS信托机构有合同,推广尚未运行且可能永远无法运行的技术,但没人告诉你——更不用说征求你的意见;如果内政大臣认为国家随时监视你没问题——这些是反乌托邦的基石,还是仅仅提醒我们,在这些监控能力存在之前,我们是如何描述反乌托邦的?

《纽约客》散文作家特德·姜不久前写过一种习惯,将实际上关乎经济体系而非技术的负面因素投射到人工智能上。他总结道:“资本主义是一台机器,它会不惜一切代价阻止我们关闭它。”我是否将实际上关乎威权政治的焦虑投射到了人工智能和监控技术上?

“嗯,如果你没什么可隐瞒的,”55岁的莎拉说,“我看不出这有什么问题。我假设它们实际上也是灯吧?”

**常见问题解答**
以下是关于人工智能智能路灯的常见问题列表,涵盖从初级到高级的关切。

**初级问题**

1. **人工智能智能路灯到底是什么?**
它是一种内置传感器、摄像头和麦克风的路灯。它不仅仅在夜间亮起,还能收集数据并利用人工智能实时分析这些数据。

2. **城市为什么要安装这些?**
主要是为了提高效率。它们可以在无人时调暗以节省能源,检测枪声以更快地报警,监控交通拥堵,甚至找到空停车位。它们还可以为电动汽车充电并提供公共WiFi。

3. **这些路灯真的能在我家里监视我吗?**
不能。摄像头和传感器指向街道和公共空间,而非私人住宅。它们旨在监控公共区域,而非私人内部。

4. **它们会录下我走在街上的视频吗?**
可以,但大多数系统设计为实时处理视频而不存储录像。然而,一些城市确实会短期存储录像。关键问题是数据是保存还是仅实时分析。

**中级问题**

5. **这与每个角落已有的闭路电视摄像头有何不同?**
传统闭路电视只是录制视频,需要有人事后观看。人工智能路灯是智能的——它们能理解所见内容。例如,它们可以自动向当局报警,如果汽车逆行,而不是等待人类在录像中发现。

6. **这些路灯收集的数据归谁所有?**
这因情况而异。通常,原始数据归市政府所有。然而,构建系统的私营科技公司通常可以访问匿名数据或人工智能算法。这是隐私倡导者关注的主要问题。

7. **人工智能能识别我的脸吗?**
许多高级型号可以。一些城市使用面部识别来寻找失踪人员或通缉犯。然而,这极具争议,一些城市因隐私和偏见问题而禁止了该功能。

8. **如何防止黑客接管整个路灯网络?**
这是一个真正的安全风险。如果网络没有得到适当保护……