富川市は現在、全国でCCTVの構築密度が最も高い都市だ。現在、約8300台のCCTVを保有しており、今年度末までにこれを1万823台にまで増やす方針だ。これにより、縦横7メートルの区域ごとに監視カメラ1台が設置される、きめ細かい監視網を備えることになる。富川市は仁川市とソウル市の中間に位置している上、通販大手クーパンの物流倉庫や各種産業団地が存在し、流動人口が多いためだという。
富川市における顔認識AIのCCTVネットワーク構築計画に対し、「明白な人権侵害」と反発する動きもある。コロナ防疫を名分に自治体が保有する感染者の顔や個人情報をAIに学習させるためだ。このAIは、感染者、そして感染者とすれ違った通行人の距離が何メートルだったのかまでを把握し、密接な接触者の身元追跡にも活用される。これを拡張すれば、国家が国民一人一人の全ての動線を監視することもできる。誰がいつ、どんな服を着て、誰と会い、どこを訪問したのか、秒単位で分析された情報を政府が手にする「ビッグブラザー」社会になりかねない。
中国はすでにこのような社会に近い。全国に設置された4億台以上の監視カメラと顔認識技術を活用し、「世界最大規模の監視社会」を構築している、との評価を受けている。マンションの玄関、地下鉄の改札口など顔認識装置が特定の人の動線を絶えず追跡し、交通規則を無視して道路を横断する人の身元も把握、自動的に罰金を課している。2018年に中国江西省で開かれた香港スター、ジャッキー・チュン(張学友)のコンサート会場では、出入り口に設置されていた顔認識カメラが、5万人のうち指名手配中だったある男性の顔を正確に捉え、公安(警察)が逮捕したこともあった。中国の代表AIスタートアップ企業(初期創業企業)は、人種に関係なく0.2秒以内に、98-99%の精度で動く人の身分を確認する高度な技術を備えている。中国は、このような技術を新疆ウイグル自治区の少数民族の監視と香港デモ隊の身元確認に使用している、と批判を受けている。