多文化・多言語対応の安全な大規模言語モデルの構築を目指して

Zoomウェビナー（登録はこちらへ）

生成人工知能（AI）の利用が世界的に広まるにつれ、AIモデルが地域ごとの文化や言語におけるリスクや懸念を敏感に反映できることがますます重要になっています。

そのためには、何がリスクや有害なコンテンツなのかを地域・文化ごとに特定する作業を更新し続けていくことが必要となります。この作業には、AIや情報セキュリティの研究者はもちろん、人文・社会科学の研究者、AIやメディアのプラットフォーマー達や実務家の方や政策関係者たちと継続的に議論できるコミュニティを形成していくことが重要となります。

これに対する１つのアプローチとして展開されている「レッドチーミング」は、生成AIを評価するため、安全性に違反するような暴力を煽る有害コンテンツ、攻撃的な言葉、汚い言葉などをあえて誘発し、モデルを「壊そう」とするものです。しかし、現在のAIの安全性に関するレッドチーミングは、欧米中心であり、地域的な被害（モデルが特定の民族を差別するリスクなど）に対処する方法を考える必要があります。

このような問題意識のもと2024年11月、シンガポール政府 Infocomm Media Development Authority が「AI安全性レッドチームチャレンジ プロジェクト」を開始しました。文化や言語の専門家のコミュニティを集め、AIモデルをレッドチーム化することを目的として組成しており、生成AIを地域にとってより安全なものにするための重要な第一歩と捉えています。同プロジェクトには日本も協力しています。本イベントでは、11月5日に行われたプロジェクトの報告会を行うと同時に、このようなコミュニティを継続させていく枠組みについてお話します。

生成AIの安全性やガバナンスにご関心をお持ちの方々のご参加をお待ちしております。

10:00-10:15　開会挨拶と趣旨説明：江間有沙（東京大学東京カレッジ）

10:15-10:30　 LLMの安全性に向けた取り組み：関根聡（NII-LLMC/理研AIP）

10:30-10:45　CTFチャレンジの概要説明と今後について：築地テレサ（日本ディープラーニング協会）

10:45-11:00　コメントと質疑応答