「高度化見守りカメラ」のAI稼働前の事前倫理検証の実施

～プライバシーに配慮した倫理観点での問題点の事前検証～

JDMC

2023年3月24日 12時00分

一般社団法人日本データマネジメント・コンソーシアム　／　兵庫県加古川市

一般社団法人日本データマネジメント・コンソーシアム（会長：栗島聡以下JDMC）と加古川市（市長：岡田康裕）は、AIデータ活用事業推進には、分かりやすい客観的な説明が重要であることから、JDMCの「倫理フレームワーク」を用いて、倫理観点での問題点を事前に洗い出す検証を実施しました。

加古川市では、平成29年度から小学校の通学路や学校周辺、公園周辺を中心に、住民のプライバシーに配慮しながら、「見守りカメラの設置及び運用に関する条例」を制定し、見守りカメラ約1,500台を設置し、地域総がかりで子どもや高齢者を見守る地域コミュニティの強化に取り組んできました。犯罪抑止効果、犯罪の早期発見に役立っており、設置から約４年間で市内の犯罪件数は半分以下になりました。令和4年度には、犯罪や交通事故の未然防止の仕組みを強化し、さらなる安全・安心のまちづくりを行うことを目的に、AIを搭載した「高度化見守りカメラ」150台の設置をすすめています。

【高度化見守りカメラの機能】

● I型（100台）

悲鳴等の異常音を検知し、スピーカーと回転灯で周囲に警告（夜間のみ）

● II型（50台）
I型の機能に加え、次の機能があります。（以下の機能は、日中のみ）
・自動車の危険運転を検知し、回転灯などで歩行者に注意喚起。
・交通量や人流データを自動把握し、防犯や交通安全のほか、まちのにぎわい作りにも活用。　　　

高度化見守りカメラを活用することで、人流データ、車両接近データ、異常音検知位置データなどの派生データを取得することができます。これらのデータを利用することで、犯罪や交通事故の未然防止などこれまで以上にさらなる安全・安心のまちづくり目指す、全国的に注目される事業となっています。

高度化見守りカメラから取得したデータの利活用にあたっては、これまでの取組と同様に、住民のプライバシーへの配慮や個人情報保護の観点から、見守られる側である市民やデータ活用で影響を受ける社会の人々が理解し納得できるよう、より分かりやすい客観的な説明を行うことが重要であることから、「高度化見守りカメラ」の設置について、倫理観点での問題点を事前に洗い出すために、JDMCの「AI・データ活用のためのコンプライアンス研究会」が作成した「倫理フレームワーク～49のチェックリスト」を用いて、加古川市とJDMCが協力して検証実施しました。

■検証結果

・加古川市は、「高度化見守りカメラ事業」において各種の対策を講じてきました。その取り組みを「倫理フレームワーク」に沿って確認した結果、倫理的にカバーすべき点が網羅的に対応できていたことが確認されました。

・JDMCは、個人情報やAIを用いたデータ活用の事業の倫理観点でのチェックにおいて、「倫理フレームワーク」の有効性が実事業で確認できました。加えて、「倫理フレームワーク」を適用する過程で、加古川市は事業の情報を整理し、49項目のチェックと対応状況を整理しました。このプロセスが、同事業の関係部門や関係者間で共通認識を形成するためにも役立つことが検証できました。

■検証結果の詳細

検証結果の詳細、およびJDMC　AI・データ活用のためのコンプライアンス研究会からの総評については、下記URLをご覧ください

https://www.city.kakogawa.lg.jp/soshikikarasagasu/shiminbu/shiminseikatsuanshinka/ICT/38711.html

■JDMCによるつまずきポイントのチェック結果に対するコメント
加古川市がデータ活用における倫理的な問題を考慮した「倫理フレームワーク」を用いてチェックした内容をJDMCが確認し、つまずきポイントとして、問題になりうる要因に対する対応状況をコメントします。

＜総括＞
• 高度化見守りカメラの設置にあたり、特に注意すべき点は「つまずきポイント」であり、以下の事項に留意する必要があります。これらの事項は、個人情報を扱うことや、地域や人々に影響を及ぼす可能性があることから、「つまずきポイント」に対して適切な対応が求められます。

(1)  カメラで収集する画像や音声データには、個人に関する情報も含まれる。
(2) 異常音（悲鳴や怒声など）の検知、車両接近の検知、人流のデータの採取にAIを利用している。
(3)  異常音や車両接近を検知した場合、回転灯やスピーカーと連動し、周囲の人に通知される。
(4)  音声データは、異常音の特徴を得るために、中間サーバへ転送され、AI分析に使用される。
(5)  異常音や車両接近、人流のデータは、データ連携基盤に格納され、分析・加工などの後、まちづくり検討の場などに提供される。

• 「データ活用における倫理フレームワーク」にある、14個の「つまずきポイント」における 49個のチェック項目について、すべてのチェック項目に対して適切な対応が行われているといえます。

＜特記事項＞

• 個人情報を扱うカメラのデータについて、長期間保管しない方針や外部提供しない方針を採用すること、そして市民に取り組み内容を広く公開することが、各種対策のレベルアップの基盤となっています。
• なお、カメラ内蔵のAI機能による車両接近検知や人流データの取得、AI分析運用を通じて改善を目指す異常音検知については、運用開始後に精度や特性を把握しながら改善を継続し、この機能の最適な使用方法を探求していくことが重要です。

■「倫理フレームワーク」について

データ活用にて新しいことに取り組む際に、事前に「つまずきポイント」を見つけ対策を講じていくことが大切となります。しかしながら、法令に基づく確認だけでは不十分なため、倫理観点で見つける必要があります。「倫理フレームワーク」は、最近の問題事例を分析した上で、判り易い体系に整理したものです。最近の数多くの事例を基にしているので、チェック項目においては今の時代においてベストな内容となっています。「倫理フレームワーク」では、図の５つの倫理項目で整理しています。倫理の項目の下に14個の「つまずきポイント」があり、その下に、49個の「チェック項目」を用意しています。

■加古川市　高度化見守りカメラの設置
小学校の通学路や学校周辺を中心に見守りカメラを設置し、通学時や外出時の子どもの安全を確保することで、安心して子育てができるまちを目指す。結果、加古川市内の刑法犯認知件数は設置前（平成29年12月）と比較すると半減（令和3年12月）していることから、犯罪・交通事故の未然防止の仕組みを強化し、カメラで取得したデータを利活用したまちづくりを行うため、AIを活用した高度化見守りカメラを市内に150台設置することで、さらなる安全・安心のまちづくりを行うとともに、市民のWell-being向上を目指す。
https://www.city.kakogawa.lg.jp/soshikikarasagasu/shiminbu/shiminseikatsuanshinka/ICT/mimamori.html
https://prtimes.jp/main/html/rd/p/000000086.000084250.html

■一般社団法人日本データマネジメント・コンソーシアム（JDMC）
2011年4月18日創立。目的は「様々なデータや情報のマネジメントに関する社会的認知を高め、企業や行政機関などがデータマネジメントを実践するための土壌を創ること」。企業や団体でデータを取り扱う実務者が参加し、活動。会員は約270社
https://japan-dmc.org

■AI・データ活用のためのコンプライアンス研究会
2019年度から活動するJDMCの研究会。企業の戦略としてAI・データ活用を促進していくにあたりセキュリティ､コンプライアンス、個人情報保護について社内規定や社外との契約に基づき厳格に取り扱う必要があることを受け、それらの実務対応の検討や実務の基礎となることを研究
https://japan-dmc.org/?p=16634

写真は検証会合の様子（加古川市庁舎にて）