CCC2023 アイディアソン ディスインフォメーション事例共有

Transcript

1. ディスインフォメーション・フェイクニュース 課題 • 情報の正しさ，信頼性を確かめること は古代からの課題 ◦ インターネットに限った話ではない • 影響は多岐にわたる ◦ パンデミック，選挙，戦争 etc. • インターネット全ての情報の信頼性を 一つずつ調べることはできない ◦ 「怪しいもの」を選び出す必要がある • ユーザーからの通報やアルゴリズムに よる自動検知で「怪しいもの」を見つ ける • 人間の手で情報の信頼性を精査する • 精査の結果をインターネット上に公開 することでフェイクニュースへの対策 を行う • 近年問題が大きくなった分野でもある ため，改善の余地が多くある！ 解決案
2. 字幕配信はこちら！ https://udtalk.c4j.jp/ccc2023-ideathon ディスインフォメーションとは？？ 特定の目的を持って意図的に流布される間違った情報 • Dis-information（偽情報）...害意を以て故意に広められた、誤った文脈や詐欺的な内容、でっち上 げや操作された内容の情報 • Mis-information（誤情報）...事実誤認や誤った文脈での情報の結合、ミスリーディングなコンテ キスト等であるが、誤って広められたものであり故意や害意はないもの • Mal-information（悪意の情報）...秘匿されていた情報をリークする、機微な個人情報を相手を害 する目的で公にするなど、真なる情報だが害意を以て広められている情報 主に政治利用，特に選挙の際の情報操作に利用されるケースが多い • アメリカ 2016年大統領選挙「Cambridge Analytica事件」 • フィリピン ドゥテルテ大統領によるネット世論操作と弾圧 • フランス マクロン大統領へのヘイトスピーチ 引用: https://www.spf.org/iina/articles/nagasako_01.html#note18 People illustrations by Storyset
3. 字幕配信はこちら！ https://udtalk.c4j.jp/ccc2023-ideathon インターネットにおけるディスインフォメーション • SNSでのフェイクニュース拡散（主に文章によるもの） ◦ 政治利用 ◦ 災害時の誤情報 ex. 東日本大震災発生時の放射能, パンデミックの反ワクチン・反マスク派 ◦ タイムリーな話題の拡散が非常に速い ◦ 情報の修正が難しい • ディープフェイク ◦ ある動画に映る人物の顔や姿を他人のものに置き換える技術 ◦ この技術自体は悪質ではない ◦ 政治的利用 ex. ゼレンスキー大統領の動画 ◦ ポルノにおける悪用 People illustrations by Storyset
4. 字幕配信はこちら！ https://udtalk.c4j.jp/ccc2023-ideathon ディスインフォメーションに対する解決策① ディープフェイク検知技術 • Sensity • Intel FakeCatcher • Deepware 詳細なアルゴリズムは異なるが，基本的に機械学習 モデルによって判定を行う →信頼性の検証は速く行える • モデルの成熟から「フェイクニュースの削減」 に至るまでの課題 ◦ いたちごっこ的側面 ◦ 大量の動画から「怪しい動画」をどう選ぶか 引用: https://www.goodnewsnetwork.org/intel-unveils-real-time-deepfake-detector-claims-96-accuracy-rate/
5. 字幕配信はこちら！ https://udtalk.c4j.jp/ccc2023-ideathon 日本における取り組み: ClaimMonitor ファクトチェックイニシアティブ（FIJ）による疑義言説の共有システム • インターネットの無数の記事や投 稿から信頼性が疑われるもの（疑 義言説）を登録する ◦ 自動検知 or 一般通報 • ジャーナリストなどがファクト チェックを行う • 結果を記事として投稿 • 投稿された記事は疑義言説と紐付 けてClaimMonitorに登録される https://fij.info/activity/support-system/claimmonitor
6. 字幕配信はこちら！ https://udtalk.c4j.jp/ccc2023-ideathon ClaimMonitorによるファクトチェックの事例 https://navi.fij.info/factcheck_navi/factcheck_navi-39148/
7. 字幕配信はこちら！ https://udtalk.c4j.jp/ccc2023-ideathon ClaimMonitorに残る課題 • 信頼性の検証が拡散の速度に追いつかない ◦ 一度拡散されてからファクトチェックの結果を公開しても，その情報を確認しなかった人は 間違った情報を正しいと思い込んだまま • 投稿や記事にファクトチェックの結果が紐づいていない ◦ 疑義言説とは別のサイトでファクトチェックの結果が公開されても，元の記事や投稿を閲覧 している人には直接届かない ◦ → Twitterコミュニティノートの意義 ディスインフォメーションに限らず，既存事例に課題が残る分野は多くある 興味のある分野を調べ，「先人の肩に乗る」新しいアイディアを考える