法執行機関のAIシステム導入に向けた取組みとAIガバナンス: Interpol/UNICRIツールキットの紹介と日本への示唆 - 東京カレッジ

法執行機関のAIシステム導入に向けた取組みとAIガバナンス: Interpol/UNICRIツールキットの紹介と日本への示唆

日時:
2023.11.20 @ 14:00 – 16:00
2023-11-20T14:00:00+09:00
2023-11-20T16:00:00+09:00

イベント開催報告

2023年11月20日、zoomウェビナーにて「法執行機関のAIシステム導入に向けた取組みとAIガバナンス: Interpol/UNICRIツールキットの紹介と日本への示唆」が行われました。

人工知能(AI)の活用が様々な場面で進展する中、警察を始めとする法執行機関がAIを活用する上では、AIシステムのリスクを評価した上で、捜査の必要性と人権を侵害するリスクとのバランスをとることが重要と考えられます。そして、AIガバナンスに対する国際的な関心の高まりを踏まえれば、今後日本の法執行機関にもそのような議論が及ぶことが予想されます。したがって、AIを活用する機関、組織及び事業者等の間で重要な課題について認識を共有しつつ、日本の法執行機関におけるAIの利活用に向けた方向性を議論することが必要です。

本イベントでは、国際刑事警察機構(INTERPOL)及びUNICRI(国連地域間犯罪司法研究所)が、法執行機関における責任あるAI利用を推進することを目的として共同で開発した、「法執行機関における責任あるAIイノベーションのためのツールキット(Toolkit for Responsible AI Innovation in Law Enforcement)」を題材に、日本の法執行機関におけるAI利活用について議論を行いました。

上段左から、江間氏、後藤氏、濱口、下段左から、渡邊氏、宇田川氏、尾崎氏

本イベントにおいては、INTERPOL及びUNICRIが開発した「法執行機関における責任あるAIイノベーションのためのツールキット」の概要説明、日本の法執行機関におけるAI利活用に関する事例及び論点の紹介、そして以上を踏まえたパネルディスカッションが行われました。本イベントは、事前登録制の一般公開のzoomウェビナーとして実施され、国内の大学や企業などから、約50名の参加がありました。

最初に、開会の挨拶及び本イベントの趣旨説明として、東京大学東京カレッジ准教授を務める江間有沙氏からコメントをいただきました。本イベントは、INTERPOL及びUNICRIが、2023 年 6 月に共同開発した、「法執行機関における責任あるAIイノベーションのためのツールキット(Toolkit for Responsible AI Innovation in Law Enforcement)」の簡単な紹介を行うこと、このツールキットを踏まえ、警察をはじめとする日本の法執行機関におけるAI利活用に関するいくつかの論点の紹介・議論を行うことを目的としていると述べられました。

次に、上記ツールキットの概要説明のセクションにうつりました。本セクションでは、まず、INTERPOL及びUNICRIが作成した20分程度のビデオメッセージを視聴しました。ビデオメッセージにおいては、実際にツールキットの開発に携わった方々から、「法執行機関における責任あるAIイノベーションのためのツールキット」の趣旨及び内容に関する説明が行われました。続いて、江間有沙氏から、ツールキットの作成経緯についてコメントをいただきました。本ツールキットは、法執行機関におけるAI利用について、2019年以降INTERPOL及びUNICRIが継続的に行なっている活動の成果の一つであり、このような議論は今後も行われていくであろうことが述べられました。また、江間有沙氏自身が、このような議論に直接参加しており、今回東京大学が本イベントを開催することができたと述べられました。最後に、東京大学公共政策大学院の濱口海慧が、ツールキットの目的や対象、具体的な内容について、簡単な説明を行いました。ツールキットは、大きく7つの文書から構成され、AIシステムを導入しようと考える法執行機関が、責任あるAIイノベーションを理解し、実際に業務に取り入れることを支援することができると述べました。なお、本イベントで言及された点も含めたツールキットの詳細な内容は、「本ツールキットの日本語解説資料」(PDFファイル形式)に記載されております。

INTERPOL及びUNICRIが共同開発した「法執行機関における責任あるAIイノベーションのためのツールキット」の概要説明の後は、話題提供のセクションにうつりました。本セクションでは、筑波大学ビジネスサイエンス系の尾崎愛美氏、東北大学法学研究科公共政策大学院の宇田川尚子氏から、話題の提供とそれぞれ15分程度の発表を行なっていただきました。

まず、尾崎氏から、「日本における警察や法執行機関でのAI利用の事例紹介」に関する発表が行われました。我が国においては、例えば、2015年10月から、京都府警において予測型犯罪防御システムが導入され、また近年では、警視庁および五つの都道府県警においてAIを用いたSNS捜査が行われております。加えて、2021年東京オリンピックに際し導入された、JR東日本と警察間の非常時画像伝送システムなど、官民連携によるAI事例も存在しております。最後に尾崎氏は、このような事例には個人情報保護の観点から様々な議論が行われていること、今後本格的に導入が進むであろうことを指摘した上で、AI法執行活動における信頼性の確保が重要な第一歩であると述べられました。

次に、宇田川氏から、「法執行機関におけるAI利活用の論点」に関する発表が行われました。我が国においては、行政におけるマンパワーの維持、法執行活動の効率化といった要請から、警察におけるAIの活用及び導入が求められており、政府戦略としても検討が進められております。この点、データやアルゴリズムにおける無意識的な差別といったスケーラビリティの課題、意思決定過程や責任の所在の明確化といったトレーサビリティの課題、そして、AIを用いた公共サービスの利便性の向上から誰も取り残さないというアクセシビリティの課題があります。宇田川氏は、このような問題の存在を指摘した上で、ツールキットは、一つの参考材料として、AIシステムの利活用を検討する日本の法執行機関に一定の示唆を与えるのではないかと述べられました。

尾崎氏及び宇田川氏からの話題提供のあとは、江間氏、尾崎氏、宇田川氏に加え、晴海パートナーズ法律事務所弁護士の後藤大氏、AI法研究会事務局長弁護士の渡邊道生穂氏を交えて、5者でのパネルディスカッションが行われました。

まず初めに渡邊氏から、これまでの議論を踏まえ、パネルディスカッションのテーマの提供と、それに対するコメントをいただきました。パネルディスカッションにおける最初のテーマは、「AIツールキットをどうやって現場で実装していくのか」という点であり、渡邊氏はまず、実装する必要性は何か、どうやって実装するのかという二つの観点から議論する必要があると述べられました。必要性としては、近年、AIガバナンスに関する原則の標準化や制度化が世界的に議論され、日本国内においても、例えば経産省がガイドラインを作成するといったように実際の議論になっていることから、AIシステムに関係する事業者、開発者、ユーザーも、それらの議論を意識していかなければならないと述べられました。また、実際に実装する上でツールキットは、既存の国内原則や基準に基づき法執行活動を行う警察をサポートするツールとしての役割を果たし、特にワークブックのような文書は、警察などがAIシステムを導入、実施する際の丁寧なチェックリストとして使用することができるだろうと述べられました。

以上のような渡邊氏の考えを踏まえ、尾崎氏から、ツールキットが実際に現場で使用できるレベルに達しているかという点につきコメントをいただきました。尾崎氏は、ツールキットが詳細かつ網羅的に記載されている一方で、実際に使用するためには、それぞれのツールキットユーザーに適した形で、実務的な観点から整理され、順序立てられる必要があると指摘されました。また、後藤氏は、警察が使用するAIシステムの開発やデータの提供を民間のベンダーが行う可能性があることを指摘した上で、説明責任といったツールキットに示されるAIガバナンスの原則が、現状民間企業に共有されているか疑問であり、民間側の対応も重要な視点であると述べられました。また、宇田川氏も、警察のAI利活用においては、そのシステムを計画、開発する民間側の動きも重要であると述べた上で、ツールキットが非常に丁寧かつ大量な資料となっており、また既存のAIガバナンス原則と重複する部分もあることから、実際に現場で使用する人にとっては負担になりかねないと指摘されました。

次に江間氏から、法執行活動におけるAIガバナンスを、「誰が、どのタイミングで、どのように始めていくのが良いか」というテーマの提供がありました。まず渡邊氏は、現状AIを作っている企業、とりわけ大企業以外の事業者のAIガバナンスの意識は低いと指摘した上で、AIガバナンスを行う事業者に対する補助金の交付などの形でインセンティブを与えていくことが必要ではないかと述べられました。加えて、尾崎氏は、米国においては、AIなどの先端科学技術ガバナンスなどを行うことが対外的なアピールになり、企業の重要なインセンティブになっていると指摘した上で、日本におけるSDGsのように、AIガバナンスを行なっていることを示すことが民間企業のインセンティブになる可能性はあると述べられました。

企業における人権保護を示すというインセンティブに関連し、江間氏は、AIツールキットを含む様々なガバナンスガイドラインにおいて、法執行機関が特に重要視するべきことは何かという疑問を提起されました。この点宇田川氏は、AIシステムを用いた法執行活動が結果的に違法だった場合に法執行機関に与えるハレーションが日本は特に大きいことから、そのようなAI法執行活動の信頼性を確保することがとりわけ重要であろうと述べられました。

以上のような議論のあと、ディスカッションは二つ目のテーマにうつりました。まず初めに、後藤氏からテーマの提供とコメントをいただきました。二つ目のテーマは、「INTERPOL及びUNICRIが開発したツールキットと他のAIガバナンスガイドラインとの違い」であり、後藤氏は、ツールキットの「責任あるAIイノベーション原則」において合法性が最初に示され、その中身について詳細に記載されている点が、他のガイドラインと異なると指摘されました。この点、渡邊氏及び尾崎氏は、ツールキットが民間のAIガバナンスではなく法執行機関のAIガバナンスを目的としており、捜査と人権侵害とは密接に関わることから、法執行活動における合法性が特に重要視されているのだろうと述べられました。また、宇田川氏は、ツールキットが全世界を対象としていることから、日本では当たり前と思われている合法性などについても、詳細かつ網羅的に書かれているのだろうと述べられました。

これらの議論を踏まえ、江間氏は、「ツールキットの課題」について、他のパネリストの方々にお聞きになりました。まず渡邊氏は、警察関係者だけでなく、技術開発者や民間の事業者など、様々な知識を有する幅広い利害関係者の確保が必要であろうと述べられました。次に後藤氏は、ツールキットを、実際の日本の法執行機関の実情、文脈に落とし込むことができるかどうかが課題であると述べられ、現状、警察の現場で実際に使用するのは難しいであろうと述べられました。また、尾崎氏は、現場での実際の使用という観点から、具体的な法執行活動事例を想定したケースメソッドの記載を拡充すると良いのではないかと指摘されました。最後に宇田川氏も、具体的な事例に即した詳細な記載が重要であると述べられ、実際の組織や団体が、それぞれの現場の実情に合わせて試行錯誤していくことが必要であろうと述べられました。

以上でパネルディスカッションは終了し、最後に江間氏から、閉会の挨拶も兼ねてコメントをいただきました。江間氏は、パネルディスカッションでも度々言及されたように、ツールキットを実際の現場で使用するための現場の視点やテストケースが必要であることから、今回お越しいただいた方々とも一緒に研究会を進めていきたいと述べられ、本イベントは締めくくられました。

(文責:東京大学大学院公共政策学教育部 濱口海慧)

 

 

 

終了しました
Zoomウェビナー
開催日時 2023年11月20日(月)14:00-16:00
会場

Zoomウェビナー(登録はこちら

申込方法 事前申込制
言語 日本語
プログラム

◆趣旨

人工知能(AI)の活用が様々な場面で進展する中、警察を始めとする法執行機関がAIを活用する上では、AIシステムのリスクを評価した上で、捜査の必要性と人権を侵害するリスクとのバランスをとることが重要と考えられます。日本の警察においては、マネーロンダリング等に関する膨大な取引情報を解析し重要度を判断するシステムが既に運用されているほか、SNS上の書込みから規制薬物に関する情報を抽出する実証実験が行われています。また、民間セクターでも、行動解析技術や顔認証技術を搭載した防犯カメラを用いて不審者・不審物を検知するシステムが運用された例があります。

 

国際刑事警察機構(INTERPOL)とUNICRI(国連地域間犯罪司法研究所)は、このようなAIの導入にあたって注視すべき責任あるAI原則を提唱し、これを実装するための「法執行機関における責任あるAIイノベーションのためのツールキット(Toolkit for Responsible AI Innovation in Law Enforcement)」を共同で公表しました。本AIツールキットは、法執行機関向けに作成されていますが、AIを活用するあらゆる組織にも適用できる原則についても記載されていることから、法執行機関にとどまらず、AIを利活用する公的機関や事業者の方にも参考となるものとなっています。

 

本ウェビナーでは、本ツールキットを紹介しながら、AIシステム導入に伴う倫理、透明性、プライバシー保護、バイアス対策、セキュリティ評価など、法執行機関が直面する重要な課題について探求します。AIガバナンスに対する国際的な関心の高まりを踏まえれば、今後日本の法執行機関にも議論が及ぶことが予想されることから、AIを活用する機関、組織及び事業者等の間で重要な課題について認識を共有しつつ、日本の法執行機関におけるAIの利活用に向けた方向性を議論します。

 

参考資料

国際刑事警察機構(INTERPOL)とUNICRI(国連地域間犯罪司法研究所)が共同開発した「法執行機関における責任あるAIイノベーションのためのツールキット(Toolkit for Responsible AI Innovation in Law Enforcement)」は下記リンクから入手できます。

INTERPOL: https://www.interpol.int/How-we-work/Innovation/Artificial-Intelligence-Toolkit

UNICRI: https://unicri.it/topics/Toolkit-Responsible-AI-for-Law-Enforcement-INTERPOL-UNICRI

 

UNICRI(国連地域間犯罪司法研究所)AIとロボティクスセンター所長のイラクリ・ベリゼ氏をお招きした「犯罪防止と法執行のためのAI:ベネフィットとリスク」研究会(2020年3月)の開催報告書は下記リンクから入手できます。
https://ifi.u-tokyo.ac.jp/event/6492/

 

本ツールキットの内容を日本語で解説した資料はこちらから入手できます。

講師プロフィール

◆プログラム

14:00-14:10  趣旨説明 

  • 東京大学東京カレッジ・江間有沙

 

14:10-14:30 UNICRI/Interpolからの内容紹介(動画:日本語字幕あり)

 

14:30-15:00 Toolkitの内容紹介

  • 東京大学東京カレッジ・江間有沙
  • 東京大学公共政策大学院・濱口海慧

 

15:00-15:15 日本における警察や法執行機関でのAI利用の事例紹介

  • 筑波大学ビジネスサイエンス系・尾崎愛美

 

15:15-15:30 法執行機関におけるAI利活用の論点

  • 東北大学法学研究科公共政策大学院・宇田川尚子

 

15:30-15:55 パネルディスカッションと質疑応答

  • 東北大学法学研究科公共政策大学院・宇田川尚子
  • 筑波大学ビジネスサイエンス系・尾崎愛美
  • 晴海パートナーズ法律事務所弁護士・後藤大
  • AI法研究会事務局長弁護士・渡邊道生穂
  •  司会:江間有沙

 

15:55–16:00 閉会の挨拶

 

 

主催 東京大学国際高等研究所東京カレッジ
お問い合わせ tg-event@tc.u-tokyo.ac.jp

Upcoming Events

開催予定のイベント

21世紀の中央銀行(講演者:Luiz Awazu PEREIRA DA SILVA教授)

イベント予定講演会/Lecture

2024年5月29日 (水)15:00-16:30 JST

21世紀の中央銀行は、5つの岐路に直面している(1. インフレとその不透明性の再現、2. 気候変動、3. 不平等、4. デジタル金融イノベーション、5. 人工知能)。これまで、中央銀行は課題に直面した際、分析的思考を強化し、適切にリスクを均衡させ、最善の道を選択してきた。現在、中央銀行が直面する新たな課題は、中央銀行がそれらの挑戦的な影響を慎重に特定し、分析する必要があることを示唆している。

日本における同族経営医療法人(講演者:Roger GOODMAN教授)

イベント予定講演会/Lecture

2024年5月30日(木)14:00-15:30

日本では、病院の約80%とクリニックの約90%が私立であり、これらのうち約75%が同族経営である。本講演では、日本の医療制度の運営全体の文脈における同族経営医療法人の発展と意義を説明し、先行研究でまだ明らかにされていない部分に注目する。

グローバリゼーションの未来: 歴史の視点から(講演者:Bill EMMOTT氏)

イベント予定講演会/Lecture

2024年6月4日(火)16:00-17:30

グローバリゼーション―貿易、金融、思想を通じた国々のつながり―は後退しているように見える。各国政府は地政学的な緊張により、経済的保障を優先させ「リスク回避」に努めている。しかし、グローバリゼーションの後退が言われるのは、これが初めてではない。歴史を振り返ることで、どのような要因が今後のグローバリゼーションの行方を真に左右するのか理解することができるだろう。

ザ・サロン ー 東大教授との対話シリーズ シーズン2

イベント予定対話/Dialogue

2024年6月7日以降毎週金曜日 順次公開(17:00以降視聴可能)

東大の文系の卓越研究者をゲストに迎え、東京カレッジの島津直子教授がホスト役を務める対談シリーズ企画。専門分野の壁を超えた対話を繰り広げます。
収録はキャンパス内の某カフェで、コーヒーを片手に行われました。隣の席に座った気分で、分野の異なる専門家によるリラックスした会話に耳を傾けてみませんか?
今までにないゲストの新たな一面がみられる、魅力の新企画です。

Previous Events

公開済みイベント

「西洋」という虚構とその仮想的同一性:人類学的差異について(講演者:酒井直樹教授)

イベント予定講演会/Lecture

2024年5月17日(金)14:00-15:30

近現代世界の国際的な景観は、近世における「ヨーロッパ」の出現以来、人類学的差異への投資によって形成されてきた。ヒューマニタスとアントロポスを区別するこの差異は、事実的な規範というよりも、むしろ規制的な理念として人類の行く道を導く予期的なものである。それは、ヨーロッパ/アジア、西洋/東洋、白人/有色人種といった二項対立を統合し、複雑な帰属関係を育む。本講演では、ヨーロッパ文化、西洋文明、有色人種を排除した人種にみられる白人性のアイデンティティ・ポリティクスについて掘り下げる。しかし、真の帰属意識は依然として仮定のものであり、非ヨーロッパ的、非西洋的、非白人的なものとの対比を通してのみ実現される。

永久凍土を考える(講演者:Sabine DULLIN教授)

イベント予定講演会/Lecture

2024年5月14日 (火)16:30-18:00

本講演では、居住する先住民コミュニティにとって自然で意味のある土地であった永久凍土が、いかに科学的問題として発見されたのか検討する。そして、21世紀初頭、ヤクーツクなど北極圏の準州における主権の模索において、永久凍土がどのように政治的意味を帯びたかを論じる。

グローバルヒストリー史家のアーカイブとは何か?(講演者:Martin DUSINBERRE教授)

イベント予定講演会/Lecture

2024年5月10日(金)10:30-12:00

本講演では、アジア各地域と太平洋水域を航行した「山城丸」の軌跡を追いながら、19世紀後半、ハワイや東南アジア、オーストラリアで働くために日本を離れた移民たちの生活を革新的な視点から考察する。これらの物語は、入植者植民地主義、労働史、資源採掘に関する環太平洋の歴史研究を新たな方法で結びつける。本講演では、非伝統的な、実物性の高いアーカイブをもとに、グローバル・ヒストリーの記述における方法と記述者の立ち位置に関する重要な問題を取り上げる。

ホモ・サピエンスの起源と台頭(講演者:Jean-Jacques HUBLIN教授)

イベント予定講演会/Lecture

2024年5月9日(木)14:00-15:30

人類の進化は、古代の系統の多様化によって特徴付けられており、さまざまなアフリカの集団が、ホモ・サピエンスの”現代的な”形態の出現を形成してきた。「緑のサハラ」時代に、アフリカの集団の移住が促進されたが、ホモ・サピエンスの拡大と環境要因はほとんど関係がない。ホモ・サピエンスの拡大により、現地の人口が入れ替わり、文化は大きく変容し、結果的に今日も世界の環境を形成し続けているヒトという唯一の種が広がったのである。

暗黒の遺産に光を:日本における戦時外国人労働者の慰霊碑(講演者:Andrew GORDON教授)

イベント予定講演会/Lecture

2024年4月26日(金)14:00-15:30 JST

戦時外国人労働者の死を追悼する慰霊碑は、遺産に関連する「暗黒」(dark)という言葉の二つの意味を思い起こさせる。歴史上の悲劇的な出来事の追悼と、この歴史についてあまり知られていない、ほぼ隠されている慰霊碑の重要性である。2つの意味で「暗黒」であるこれらの場所で伝えられるメッセージは何か、検討する。

デジタルフロンティアの強化:サウジアラビアのサイバーセキュリティへの道(講演者:Muhammad KHURRAM KHAN教授)

イベント予定共催/Joint Event講演会/Lecture

2024年4月24日(水)15:30-17:00 JST

本講演では、サウジアラビアが企業や個人をサイバー脅威から守るためのICTインフラの取り組みを紹介する。サイバーセキュリティ能力を再評価するサウジアラビアの取り組み、デジタルで安全な経済ビジョンへの投資、地域のリーダーとしてだけではなく、集団的サイバーセキュリティの世界的パイオニアとして自国を位置づけるための戦略的枠組みなどについて議論する。


TOP