法執行機関のAIシステム導入に向けた取組みとAIガバナンス: Interpol/UNICRIツールキットの紹介と日本への示唆 - 東京カレッジ

法執行機関のAIシステム導入に向けた取組みとAIガバナンス: Interpol/UNICRIツールキットの紹介と日本への示唆

日時:
2023.11.20 @ 14:00 – 16:00
2023-11-20T14:00:00+09:00
2023-11-20T16:00:00+09:00

イベント開催報告

2023年11月20日、zoomウェビナーにて「法執行機関のAIシステム導入に向けた取組みとAIガバナンス: Interpol/UNICRIツールキットの紹介と日本への示唆」が行われました。

人工知能(AI)の活用が様々な場面で進展する中、警察を始めとする法執行機関がAIを活用する上では、AIシステムのリスクを評価した上で、捜査の必要性と人権を侵害するリスクとのバランスをとることが重要と考えられます。そして、AIガバナンスに対する国際的な関心の高まりを踏まえれば、今後日本の法執行機関にもそのような議論が及ぶことが予想されます。したがって、AIを活用する機関、組織及び事業者等の間で重要な課題について認識を共有しつつ、日本の法執行機関におけるAIの利活用に向けた方向性を議論することが必要です。

本イベントでは、国際刑事警察機構(INTERPOL)及びUNICRI(国連地域間犯罪司法研究所)が、法執行機関における責任あるAI利用を推進することを目的として共同で開発した、「法執行機関における責任あるAIイノベーションのためのツールキット(Toolkit for Responsible AI Innovation in Law Enforcement)」を題材に、日本の法執行機関におけるAI利活用について議論を行いました。

上段左から、江間氏、後藤氏、濱口、下段左から、渡邊氏、宇田川氏、尾崎氏

本イベントにおいては、INTERPOL及びUNICRIが開発した「法執行機関における責任あるAIイノベーションのためのツールキット」の概要説明、日本の法執行機関におけるAI利活用に関する事例及び論点の紹介、そして以上を踏まえたパネルディスカッションが行われました。本イベントは、事前登録制の一般公開のzoomウェビナーとして実施され、国内の大学や企業などから、約50名の参加がありました。

最初に、開会の挨拶及び本イベントの趣旨説明として、東京大学東京カレッジ准教授を務める江間有沙氏からコメントをいただきました。本イベントは、INTERPOL及びUNICRIが、2023 年 6 月に共同開発した、「法執行機関における責任あるAIイノベーションのためのツールキット(Toolkit for Responsible AI Innovation in Law Enforcement)」の簡単な紹介を行うこと、このツールキットを踏まえ、警察をはじめとする日本の法執行機関におけるAI利活用に関するいくつかの論点の紹介・議論を行うことを目的としていると述べられました。

次に、上記ツールキットの概要説明のセクションにうつりました。本セクションでは、まず、INTERPOL及びUNICRIが作成した20分程度のビデオメッセージを視聴しました。ビデオメッセージにおいては、実際にツールキットの開発に携わった方々から、「法執行機関における責任あるAIイノベーションのためのツールキット」の趣旨及び内容に関する説明が行われました。続いて、江間有沙氏から、ツールキットの作成経緯についてコメントをいただきました。本ツールキットは、法執行機関におけるAI利用について、2019年以降INTERPOL及びUNICRIが継続的に行なっている活動の成果の一つであり、このような議論は今後も行われていくであろうことが述べられました。また、江間有沙氏自身が、このような議論に直接参加しており、今回東京大学が本イベントを開催することができたと述べられました。最後に、東京大学公共政策大学院の濱口海慧が、ツールキットの目的や対象、具体的な内容について、簡単な説明を行いました。ツールキットは、大きく7つの文書から構成され、AIシステムを導入しようと考える法執行機関が、責任あるAIイノベーションを理解し、実際に業務に取り入れることを支援することができると述べました。なお、本イベントで言及された点も含めたツールキットの詳細な内容は、「本ツールキットの日本語解説資料」(PDFファイル形式)に記載されております。

INTERPOL及びUNICRIが共同開発した「法執行機関における責任あるAIイノベーションのためのツールキット」の概要説明の後は、話題提供のセクションにうつりました。本セクションでは、筑波大学ビジネスサイエンス系の尾崎愛美氏、東北大学法学研究科公共政策大学院の宇田川尚子氏から、話題の提供とそれぞれ15分程度の発表を行なっていただきました。

まず、尾崎氏から、「日本における警察や法執行機関でのAI利用の事例紹介」に関する発表が行われました。我が国においては、例えば、2015年10月から、京都府警において予測型犯罪防御システムが導入され、また近年では、警視庁および五つの都道府県警においてAIを用いたSNS捜査が行われております。加えて、2021年東京オリンピックに際し導入された、JR東日本と警察間の非常時画像伝送システムなど、官民連携によるAI事例も存在しております。最後に尾崎氏は、このような事例には個人情報保護の観点から様々な議論が行われていること、今後本格的に導入が進むであろうことを指摘した上で、AI法執行活動における信頼性の確保が重要な第一歩であると述べられました。

次に、宇田川氏から、「法執行機関におけるAI利活用の論点」に関する発表が行われました。我が国においては、行政におけるマンパワーの維持、法執行活動の効率化といった要請から、警察におけるAIの活用及び導入が求められており、政府戦略としても検討が進められております。この点、データやアルゴリズムにおける無意識的な差別といったスケーラビリティの課題、意思決定過程や責任の所在の明確化といったトレーサビリティの課題、そして、AIを用いた公共サービスの利便性の向上から誰も取り残さないというアクセシビリティの課題があります。宇田川氏は、このような問題の存在を指摘した上で、ツールキットは、一つの参考材料として、AIシステムの利活用を検討する日本の法執行機関に一定の示唆を与えるのではないかと述べられました。

尾崎氏及び宇田川氏からの話題提供のあとは、江間氏、尾崎氏、宇田川氏に加え、晴海パートナーズ法律事務所弁護士の後藤大氏、AI法研究会事務局長弁護士の渡邊道生穂氏を交えて、5者でのパネルディスカッションが行われました。

まず初めに渡邊氏から、これまでの議論を踏まえ、パネルディスカッションのテーマの提供と、それに対するコメントをいただきました。パネルディスカッションにおける最初のテーマは、「AIツールキットをどうやって現場で実装していくのか」という点であり、渡邊氏はまず、実装する必要性は何か、どうやって実装するのかという二つの観点から議論する必要があると述べられました。必要性としては、近年、AIガバナンスに関する原則の標準化や制度化が世界的に議論され、日本国内においても、例えば経産省がガイドラインを作成するといったように実際の議論になっていることから、AIシステムに関係する事業者、開発者、ユーザーも、それらの議論を意識していかなければならないと述べられました。また、実際に実装する上でツールキットは、既存の国内原則や基準に基づき法執行活動を行う警察をサポートするツールとしての役割を果たし、特にワークブックのような文書は、警察などがAIシステムを導入、実施する際の丁寧なチェックリストとして使用することができるだろうと述べられました。

以上のような渡邊氏の考えを踏まえ、尾崎氏から、ツールキットが実際に現場で使用できるレベルに達しているかという点につきコメントをいただきました。尾崎氏は、ツールキットが詳細かつ網羅的に記載されている一方で、実際に使用するためには、それぞれのツールキットユーザーに適した形で、実務的な観点から整理され、順序立てられる必要があると指摘されました。また、後藤氏は、警察が使用するAIシステムの開発やデータの提供を民間のベンダーが行う可能性があることを指摘した上で、説明責任といったツールキットに示されるAIガバナンスの原則が、現状民間企業に共有されているか疑問であり、民間側の対応も重要な視点であると述べられました。また、宇田川氏も、警察のAI利活用においては、そのシステムを計画、開発する民間側の動きも重要であると述べた上で、ツールキットが非常に丁寧かつ大量な資料となっており、また既存のAIガバナンス原則と重複する部分もあることから、実際に現場で使用する人にとっては負担になりかねないと指摘されました。

次に江間氏から、法執行活動におけるAIガバナンスを、「誰が、どのタイミングで、どのように始めていくのが良いか」というテーマの提供がありました。まず渡邊氏は、現状AIを作っている企業、とりわけ大企業以外の事業者のAIガバナンスの意識は低いと指摘した上で、AIガバナンスを行う事業者に対する補助金の交付などの形でインセンティブを与えていくことが必要ではないかと述べられました。加えて、尾崎氏は、米国においては、AIなどの先端科学技術ガバナンスなどを行うことが対外的なアピールになり、企業の重要なインセンティブになっていると指摘した上で、日本におけるSDGsのように、AIガバナンスを行なっていることを示すことが民間企業のインセンティブになる可能性はあると述べられました。

企業における人権保護を示すというインセンティブに関連し、江間氏は、AIツールキットを含む様々なガバナンスガイドラインにおいて、法執行機関が特に重要視するべきことは何かという疑問を提起されました。この点宇田川氏は、AIシステムを用いた法執行活動が結果的に違法だった場合に法執行機関に与えるハレーションが日本は特に大きいことから、そのようなAI法執行活動の信頼性を確保することがとりわけ重要であろうと述べられました。

以上のような議論のあと、ディスカッションは二つ目のテーマにうつりました。まず初めに、後藤氏からテーマの提供とコメントをいただきました。二つ目のテーマは、「INTERPOL及びUNICRIが開発したツールキットと他のAIガバナンスガイドラインとの違い」であり、後藤氏は、ツールキットの「責任あるAIイノベーション原則」において合法性が最初に示され、その中身について詳細に記載されている点が、他のガイドラインと異なると指摘されました。この点、渡邊氏及び尾崎氏は、ツールキットが民間のAIガバナンスではなく法執行機関のAIガバナンスを目的としており、捜査と人権侵害とは密接に関わることから、法執行活動における合法性が特に重要視されているのだろうと述べられました。また、宇田川氏は、ツールキットが全世界を対象としていることから、日本では当たり前と思われている合法性などについても、詳細かつ網羅的に書かれているのだろうと述べられました。

これらの議論を踏まえ、江間氏は、「ツールキットの課題」について、他のパネリストの方々にお聞きになりました。まず渡邊氏は、警察関係者だけでなく、技術開発者や民間の事業者など、様々な知識を有する幅広い利害関係者の確保が必要であろうと述べられました。次に後藤氏は、ツールキットを、実際の日本の法執行機関の実情、文脈に落とし込むことができるかどうかが課題であると述べられ、現状、警察の現場で実際に使用するのは難しいであろうと述べられました。また、尾崎氏は、現場での実際の使用という観点から、具体的な法執行活動事例を想定したケースメソッドの記載を拡充すると良いのではないかと指摘されました。最後に宇田川氏も、具体的な事例に即した詳細な記載が重要であると述べられ、実際の組織や団体が、それぞれの現場の実情に合わせて試行錯誤していくことが必要であろうと述べられました。

以上でパネルディスカッションは終了し、最後に江間氏から、閉会の挨拶も兼ねてコメントをいただきました。江間氏は、パネルディスカッションでも度々言及されたように、ツールキットを実際の現場で使用するための現場の視点やテストケースが必要であることから、今回お越しいただいた方々とも一緒に研究会を進めていきたいと述べられ、本イベントは締めくくられました。

(文責:東京大学大学院公共政策学教育部 濱口海慧)

 

 

 

終了しました
Zoomウェビナー
開催日時 2023年11月20日(月)14:00-16:00
会場

Zoomウェビナー(登録はこちら

申込方法 事前申込制
言語 日本語
プログラム

◆趣旨

人工知能(AI)の活用が様々な場面で進展する中、警察を始めとする法執行機関がAIを活用する上では、AIシステムのリスクを評価した上で、捜査の必要性と人権を侵害するリスクとのバランスをとることが重要と考えられます。日本の警察においては、マネーロンダリング等に関する膨大な取引情報を解析し重要度を判断するシステムが既に運用されているほか、SNS上の書込みから規制薬物に関する情報を抽出する実証実験が行われています。また、民間セクターでも、行動解析技術や顔認証技術を搭載した防犯カメラを用いて不審者・不審物を検知するシステムが運用された例があります。

 

国際刑事警察機構(INTERPOL)とUNICRI(国連地域間犯罪司法研究所)は、このようなAIの導入にあたって注視すべき責任あるAI原則を提唱し、これを実装するための「法執行機関における責任あるAIイノベーションのためのツールキット(Toolkit for Responsible AI Innovation in Law Enforcement)」を共同で公表しました。本AIツールキットは、法執行機関向けに作成されていますが、AIを活用するあらゆる組織にも適用できる原則についても記載されていることから、法執行機関にとどまらず、AIを利活用する公的機関や事業者の方にも参考となるものとなっています。

 

本ウェビナーでは、本ツールキットを紹介しながら、AIシステム導入に伴う倫理、透明性、プライバシー保護、バイアス対策、セキュリティ評価など、法執行機関が直面する重要な課題について探求します。AIガバナンスに対する国際的な関心の高まりを踏まえれば、今後日本の法執行機関にも議論が及ぶことが予想されることから、AIを活用する機関、組織及び事業者等の間で重要な課題について認識を共有しつつ、日本の法執行機関におけるAIの利活用に向けた方向性を議論します。

 

参考資料

国際刑事警察機構(INTERPOL)とUNICRI(国連地域間犯罪司法研究所)が共同開発した「法執行機関における責任あるAIイノベーションのためのツールキット(Toolkit for Responsible AI Innovation in Law Enforcement)」は下記リンクから入手できます。

INTERPOL: https://www.interpol.int/How-we-work/Innovation/Artificial-Intelligence-Toolkit

UNICRI: https://unicri.it/topics/Toolkit-Responsible-AI-for-Law-Enforcement-INTERPOL-UNICRI

 

UNICRI(国連地域間犯罪司法研究所)AIとロボティクスセンター所長のイラクリ・ベリゼ氏をお招きした「犯罪防止と法執行のためのAI:ベネフィットとリスク」研究会(2020年3月)の開催報告書は下記リンクから入手できます。
https://ifi.u-tokyo.ac.jp/event/6492/

 

本ツールキットの内容を日本語で解説した資料はこちらから入手できます。

講師プロフィール

◆プログラム

14:00-14:10  趣旨説明 

  • 東京大学東京カレッジ・江間有沙

 

14:10-14:30 UNICRI/Interpolからの内容紹介(動画:日本語字幕あり)

 

14:30-15:00 Toolkitの内容紹介

  • 東京大学東京カレッジ・江間有沙
  • 東京大学公共政策大学院・濱口海慧

 

15:00-15:15 日本における警察や法執行機関でのAI利用の事例紹介

  • 筑波大学ビジネスサイエンス系・尾崎愛美

 

15:15-15:30 法執行機関におけるAI利活用の論点

  • 東北大学法学研究科公共政策大学院・宇田川尚子

 

15:30-15:55 パネルディスカッションと質疑応答

  • 東北大学法学研究科公共政策大学院・宇田川尚子
  • 筑波大学ビジネスサイエンス系・尾崎愛美
  • 晴海パートナーズ法律事務所弁護士・後藤大
  • AI法研究会事務局長弁護士・渡邊道生穂
  •  司会:江間有沙

 

15:55–16:00 閉会の挨拶

 

 

主催 東京大学国際高等研究所東京カレッジ
お問い合わせ tg-event@tc.u-tokyo.ac.jp

Upcoming Events

開催予定のイベント

ソフト・ロボット工学(講演者:Jean Louis VIOVY教授)

イベント予定講演会/Lecture

2024年3月4日(月)15:00-16:30

ロボット工学は、工業生産、農業、個人や家庭への支援、医療など幅広い用途で重要性を増している。しかし、その進歩は、構造面や操作上での機械的技術基盤に制約されたままである。この欠点は、「ソフト・ロボット工学」の登場によって根本的に減らすことができる。つまり、この技術は、金属と機械力学を、「ソフト」な弾力・粘性を持った素材と流体力学に置き換えるものである。本講演では、Viovy教授がこの新しい分野の可能性をいくつかの例を挙げて説明し、その将来性と潜在的な限界について論じる。

GPAI仕事の未来:Future of Work Survey Report 2023

イベント予定パネルディスカッション/Panel discussion

2024年3月6日(水)10:00-12:00

本イベントでは2021年度、2022年度に続いて、今年度に行われた調査の概要を紹介し、実際にインタビューに関わった学生の皆さんや教員にもご登壇いただいて、調査から分かった「仕事の未来」や調査法の可能性と課題について議論を行います。本調査にご関心をお持ちの企業や組織の皆さんや学生の皆さんとともに、今後の展開について議論します。

野生の教育学:惑星の境界とグローバル化する現状の危機(講演者:Bob JICKLING教授)

イベント予定講演会/Lecture

2024年3月11日(月)15:30-17:00

地球規模の持続可能性の課題に取り組む上で、教育はとても重要です。野生の教育学は、人間と場所、景観、自然、人間以外の存在、惑星の境界の関係をそれぞれ再検討することを目的としています。 自然を私たちの「教師」と位置付け、教育学の管理を強化しようとするグローバルな傾向に挑戦します。 野生の教育学は、保護者、学生、地域の教育者、教師、学者、ビジネスリーダー、政策立案者、自然環境ガイドなど、自然の実践の可能性に興味を持ち、視野を広げたいと願う全ての人に向けて提供されます。

国際女性デーイベント: 芥川賞受賞作家 村田沙耶香氏を迎えて

イベント予定対話/Dialogue講演会/Lecture

2024年3月18日(月)17:00-18:30 JST

東京カレッジ ジェンダー・セクシュアリティ・アイデンティティ共同研究会は、芥川賞受賞作家 村田沙耶香氏を迎え、国際女性デーを記念したウェビナーを開催します。 小説「コンビニ人間」(2016)で第155回芥川賞を受賞した村田氏に執筆経験やインスピレーションについて聞き、社会におけるジェンダーとセクシュアリティの規範、またそれらが私たちの世界をどのように形作っているのかについて再考します。

Previous Events

公開済みイベント

マクロ経済学における社会と行動の転換(講演者:Edward John DRIFFILL教授)

イベント予定講演会/Lecture

2024年2月28日(水)15:00-16:30

マクロ経済学は1936年に誕生して以来、論争が絶えない分野である。マクロ経済学は、人々が合理的に行動すると仮定した高度なモデルが前提となっている。しかし、人々は「経済人」のように行動しないという認識が、徐々に状況を変えつつある。労働時間、余暇の使い方、支出のパターンなどは、社会的規範や慣習に影響される。また、これらは、戦争やパンデミックのような混乱に経済がどう対応するかにも影響を与えている。

Web3.0 — 分散型テクノロジーの未来(講演者:Gavin WOOD氏)

イベント予定講演会/Lecture

2024年1月24日(水)15:30~17:00 JST

中央集権的なテクノロジーがわたしたちの社会へ及ぼす影響力がますます高まるなか、分散的で公正かつオープンなウェブ技術、"Web3.0”はこれまで以上に重要になりつつある。本イベントでは、Web3.0がもたらしうる安全で透明性の高いテクノロジーの可能性を議論しながら、未来のデジタルランドスケープを模索する。

「THE TOKYO TOILET」 & 『PERFECT DAYS』(講演者:柳井 康治氏)

イベント予定講演会/Lecture

2024年1月17日(水)15:00-17:00(14:30開場)

2018年、東京都渋谷区で公共トイレの改装プロジェクト「THE TOKYO TOILET(TTT)」が始まりました。日本を代表する建築家をはじめ、世界的に活躍する16名のクリエイターが参加したTTTは、都市建築の中でも見過ごされがちな「公共トイレ」という領域にクリエイティビティを導入し、新たな価値の創造に成功しました。2021年、柳井氏はTTTの課題に取り組むため、新たにアートプロジェクトを立ち上げ、映画を製作しました。映画『PERFECT DAYS』は2023年カンヌ国際映画祭で最優秀男優賞を受賞し、現在、アカデミー賞に向けてプロモーションが行われています。本講演では、柳井氏がなぜTTTを始め、どのような洞察を得たのか、そしてその課題解決がなぜアートプロジェクトだったのかについて解説します。

日英で築く「自由で開かれた国際秩序」(講演者:Alastair MORGAN氏)

イベント予定講演会/Lecture

2024年1月10日(水)14:00~15:30 JST

2023年5月、日本と英国の首相は「強化された日英のグローバルな戦略的パートナーシップ」を締結し、「法の支配に基づく自由で開かれた国際秩序」を強化することを誓った。ますます紛争が激しくなり不安定化する世界において、遠く離れた2つの中規模の島国にとって、現実的な目標なのだろうか。そのパートナーシップは、国際的なルール形成やグローバルな問題への解決に実際にどれだけ貢献できるだろうか。それは果たしてどちらかの国家の安全保障や繁栄を守ることができるのだろうか。その結果はどのように測定されるべきか。

中国に対する英国の見解(講演者:Alastair MORGAN氏、 Tim SUMMERS教授)

イベント予定講演会/Lecture

2023年12月5日(火)15:30-17:00 JST

英国のデービッド・キャメロン元首相は、在任中の2015年、英国と中国の関係における「黄金時代」について語りました。2022年、リシ・スナク首相はその時代の終結を正式に宣言し、スナク政権は中国が国際秩序に対する新時代を定義づけるような挑戦であるという見解を示しています。この激動の時期に、英国の中国に対する見方は、政府の内外や報道機関でどのように変化し、分岐したのでしょうか。英国の国益と価値観を維持するために、英国は中国に対し、どのように関与するか、あるいは離脱するのが最善でしょうか。 

日本企業は現金を貯め込みすぎか(講演者:Jennifer CORBETT教授)

イベント予定講演会/Lecture

2023年12月5日(火)13:00-14:30

日本企業が多額の現金残高を保有することは批判も称賛もされている。海外のコメンテーターやアクティビスト投資家、学者らはこれに批判的である。世界的に企業は現金の貯蓄を増やしているが、日本は依然として例外である。この講演では、日本企業の貯蓄と、国民所得に占める労働分配率を含むその経済効果について考察する。


TOP