Surveillance

空のスパイ:AI搭載スマート街灯の登場に、私たちはどの程度警戒すべきか?

以下の英文を日本語に翻訳します。 もしあなたの通りの街灯があなたの車のナンバープレートと顔を認識できたら、どう感じますか?自動ナンバー認識と防犯カメラが長い間使われてきたことを考えると、気にしないかもしれません。しかし、その街灯が独自のソーラーパネルで電力をまかない、余ったエネルギーを別の用途に使えるとしたら、それは良いことですよね?それが、ウォリックシャー州のConflow Power Group(CPG)が英国初の「iLamp」で主張していることです。 もし街灯が、まだ聞いたことのない新しいAI機能、例えば歩き方の分析や不審な行動の検出も備えていたらどうでしょう?それが、監視団体「Big Brother Watch」が懸念していることです。そして、内務大臣がすでに「パノプティコン国家」、つまり常にあなたを監視できる国家を信じていると述べていたら(シャバナ・マフムードのように)、そして彼女が街灯のアップデート時にもまだ責任者だったらどうでしょう?あるいは、次の内務大臣がさらに超監視に熱心で(想像しにくいですが)、街路設備がすでに整っていたら?そして、これによって収集されるすべてのデータは誰が所有するのでしょうか? ウォリックシャーでは小雨が降っています。私はこれらの新しい「スマート」街灯が設置された病院の駐車場で、少なくともこれらの質問のいくつかに答えようとしています。しかし、私がいなければ、おそらく誰もそれらについて話さないでしょう。なぜなら、ほとんど誰もそれらについて聞いたことがないからです。iLampが単にソーラー駆動であるだけでなく、CPGによれば「収益を生み出す分散型AIデータセンターとしても機能する」ことを知っている人は多くなく、ましてやその意味を理解している人はほとんどいません。そして、私を含め誰も、その可能性のうちどれだけが実際に英国モデルに組み込まれているかを知りません。CPGが発表したこと、つまりナイジェリアのカツィナ州政府と5万台のiLampを供給する契約を結び、これらが車両と顔の両方に対する追加の監視機能を持つことだけが知られています。CPGの会長エドワード・フィッツパトリックは、BBCワールドサービスの「Tech Life」番組で、これらの街灯は最終的に行方不明者発見や犯罪対策に役立つ可能性があるが、「関連当局と協力して」開発された場合に限ると述べました。 CPGは「世界中のメディアで広く取り上げられた」と述べ、追加の質問には応じず、メディアをオンライン資料に誘導しています。ウォリックシャーの街灯については、地元の議会はすべての質問を病院に回し、病院は応答しません。まあ、病院ですから仕方ありません。 何人かの地元住民がバス停で雨宿りしており、ほとんどがパートナーの迎えを待っていて、多くが気軽に話してくれます。近くのパブにいた52歳のカールは、ほぼ全員を代表してこう言います。「町の中心部にはもうカメラがあふれているし、それで問題ないよ。悪さをしない限り、気にならないさ。」私がどれだけ誘導尋問をしても(今日は合法でも1年後には違法になる可能性は?監視が事後対応ではなく予測的になったら?病院に行ったことを誰にも知られたくなかったら?パブにいるべきでなかったら?少なくとも自分がそれを望むかどうか尋ねられるべきだと思わないか?)、話した誰も、顔認識は法律を守る市民にとって許容できる生活の一部だという見解を変えませんでした。 同じく病院のバス停で待つ41歳のテジャルはこう言います。「私たちは前に進んで、物事が変わっていくことを受け入れなければならないと思います。」彼女は放射線科医で、自身の分野でAIの能力を見ているため、AI全般に非常に不安を感じています。「自分の子供たちに不安があります」と彼女は言います。彼らがエントリーレベルの仕事を見つけられないこと?「それと、私たちがかつて楽しんでいたことから喜びを見つけ、祝う能力を失うことです。」それに比べれば、プライバシーの懸念は比較的小さいように思えます。 専門家はスマート街灯に関する一部の主張に懐疑的です。Big Brother Watchの上級法務・政策責任者、ジャスリーン・チャガーはこう言います。「地方議会や他の政府機関が…『だまされる』というのは強い言葉ですが、これらのツールを魔法の杖として売りつけられるケースをよく見ます。実際にできることには限界があるのに。」 東ロンドン大学の人工知能・データイノベーションセンター所長、ラビー・バシュルーシュ教授は率直です。「AIデータセンター?それが機能する可能性は全くありません。技術が機能せず、十分な電力がなく、経済的にも成り立ちません…」彼は、iLampをオフグリッドで動かすためのソーラー電力はナイジェリアでは機能するかもしれないが、英国では街灯が生成するエネルギーは「無視できる」と述べています。「ミッションクリティカルではなく、数日間シャットダウンしても構わない」アプリ、例えば駐車スペースが空いているかを検出するようなものは動かせるかもしれませんが、顔認識に関する大きな主張は「単なる誇大広告です。忘れてください。これに未来はありません。」 彼が焦っているように聞こえるなら、それは実際に焦っているからです。「物事について独立した意見を得るのがますます難しくなっています。なぜなら、多くの専門家が今や業界で働いており、彼らの見解は組織と一致しなければならないからです」と彼は言います。そのため、企業は資金調達ラウンドの前に、いくつかのAIバズワードをちりばめて大きな主張をするかもしれません。エンジニアはそれに異議を唱えず、地方自治体は理解せず、他の誰もが防犯カメラが発明されて以来何かが変わったことに気づきさえしません。 チャガーは、顔認識と防犯カメラの概念的な違いを説明するために多大な努力を払っています。「顔認識は、防犯カメラのように受動的に何かを記録するだけではありません。防犯カメラは事後に確認します。顔認識が行うのはリアルタイムの身元確認です。それは指紋やDNAにはるかに近いものです。パスポートとは違い、別の顔を手に入れることはできません。」 別の問題として、チャガーは「これらの技術やインフラの多くは、後で機能を追加できることです。ハマースミス・アンド・フラム(ロンドン)では防犯カメラを更新中で、顔認識を埋め込み、不審な買い物行動を監視し、攻撃性検出を追加することが可能です。つまり、スイッチを切り替えるだけで、一晩ですべてが整うのです。」フラムに住む友人がたまたま駐車規制の標識の上のカメラの写真を送ってくれました。それはダース・ベイダーとカブトムシを掛け合わせたように見え、通り過ぎるとウィーンと音を立て、まるで動きを追跡しているかのようです。 これにより、古くからのプライバシー懸念が再び浮上します。多くの人が防犯カメラを現代生活の事実として軽視する一方で、自分の電話に聞かれていることを嫌うと自発的に不満を言うのは興味深いことです。カールは言います。「先日、母と犬の爪切りについて話していたら、その晩に広告が携帯に表示されたんだ。マイクはオフにしていたのに。犬すら飼っていないのに!」彼の友人で48歳のボブは、事実上オフグリッド状態になり、コンピューターもなく、基本的なガラケーを使っています。政策立案者はおそらく彼を「排除された」と呼ぶでしょう。単に「プライベートを好む人もいるから」です。 顔認識ソフトウェアに関する別の疑問は、アルゴリズムが攻撃性や不審な行動をどの程度正確に検出できるかです。「ソフトウェアの多くは疑似科学的です」とチャガーは言います。「企業は感情検出を売り込もうとするかもしれません。『人々が駅を歩いているとき、彼らが怒っているか、攻撃的になろうとしているかがわかる』と主張して。それが正確であるという証拠はほとんどありません。もし障害者で動き方が違えば、フラグが立てられ、介入に直面するかもしれません。」しかし、地方自治体や国家機関にとっての本当の疑問は…チャガーは人々に自問すべきだと言います。「あなたの政治的な敵がこれらの能力を持つことに安心できますか?なぜなら、あなたは永続するインフラを構築しているからです。」 これは警察活動で明確に見ることができます。内務省は10年以上前に顔認識の使用を承認し、警察は「過去10年間、基本的に一般市民をモルモットとして使ってきました」とチャガーは言います。内務大臣が今年初めにBBC 5 Liveで「どの国でも、安全でなければ自由を享受することはできません」と述べたとき、何が起こるでしょうか?この強引な論理、つまりすべての自由が国家の保護者としての役割に次ぐものとする考え方は、いわゆる左派政権から出ているとは不安にさせられます。しかし、より大きな懸念は、監視技術に賭け、その受け入れを将来のすべての政府が向社会性的で民主的であるという希望に基づかせるには、政治的に適切な時期ではないように思われることです。 「隠すことが何もなければ、問題になるとは思えません。」写真:Justin Paget/Getty Images データ収集の可能性があるところではどこでも、誰がそれを所有するのかという疑問が生じます。バシュルーシュは以前、欧州委員会の「物理世界をデジタル環境に接続する」取り組みであるモノのインターネットに携わっていました。「これはずっと昔、欧州離脱前のことです」と彼は回想します。「私たちが直面した課題の一つは、オランダの家庭からゴミを収集し、あなたの習慣に基づいてトラックのルートを最適化し計画を立てるサプライヤーに関するものでした。プログラムを運営する議会はそれに非常に満足し、1年後により競争力のある価格を得るために入札を開始しようとしました。会社は『もちろん、でもデータは私たちのものです』と言いました。」その問題は決して解決されませんでした。契約は不十分に書かれており、地方自治体はデータを失いました。 権威主義的な意図や技術的なトリックなしに顔認識がうまくいかない例を見たいなら、小売業界を見てください。そこでは万引き防止のためにすでに広く使われています。「警察による誤認は見てきました」とチャガーは言います。「しかし小売業では、人々が誤認された場合、それはカフカ的です。単にその店からブラックリストに載せられるだけです。」 そして再び、人々は実際にどれだけ気にしているのでしょうか?理由もわからず店から追放され、民間企業がNHSトラストと契約し、まだ稼働しておらず、おそらく決して機能しないかもしれない技術を推進しているが、誰もあなたに知らせず、ましてや尋ねもしない。内務大臣が国家が常にあなたを監視しても構わないと考えている。これらはディストピアの構成要素なのでしょうか、それとも、これらの監視能力が存在する前に私たちがディストピアをどのように描写していたかを思い出させるだけなのでしょうか?...