偽情報と戦うDr. MessageとCofacts

力を結集して社会問題を解決

トレンドマイクロのDr. Message（防詐達人）と、Cofacts真的假的のエンジニアたちがファクトチェック･プラットフォームを立ち上げたのは、最初は家族や友人を偽情報から守るためだった。だが、情報の真偽を確認したいという需要が多く、今ではLINEやフェイスブックでDr. Messageは40万人、Cofactsは18万人が利用、偽情報による被害を減らしている。

Dr. Messageは毎月5500万件の情報を判読し、これまでに200万件以上の偽情報や詐欺情報を識別、阻止してきた。2018年の設立のきっかけは、トレンドマイクロの技術者たちが勉強会だ。その中で、ビッグジョン（詐欺グループに狙われないよう、メンバーはニックネームを使う）が、母親が「3人の友だちに転送すると無料のスタンプがもらえる」という偽情報に騙されたという話をした。するとカリンが2日でフィッシングサイトを識別するチャットボット「麻薬探知犬」を開発し、皆に提供したのである。

だが、これは使えなかった。偽情報やフィッシングサイトなどの情報が充分ではなく、判別できなかったのである。そこでチームは、トレンドマイクロでグローバル･コンシューマー･セールス･イネーブルメントおよびビジネス･セールス部門を担当する劉彦伯に依頼し「麻薬探知犬」商品化の可能性を話し合った。劉彦伯はDr. Messageの情報をMobile01などのフォーラムにアップし、使用者から情報をフィードバックしてもらい、識別度を高めることにした。

Confactsはオープンな形を採って一般ユーザーの協力を求めており、誰もがエディターとして参加できる。

偽情報の氾濫で利用者激増

劉彦伯によると、詐欺対策は当初、詐欺サイトとLINEの偽アカウントだけを対象にしていた。そこで、以前マイクロソフトで働いていた時に、刑事局と協力した経験から、刑事局の165詐欺防止サイトと協力関係を結び、2018年8月からは偽情報を識別するMyGoPenやCofacts、ファクトチェックセンターのデータバンクなどと協力し、10月にはさらに外務省や食品薬物管理署、疾病管理署などの公的部門の偽情報サイトとも連携した。

2020年2月、米国在台協会（AIT）と資訊工業策進会（III）が共同で開催したUS-Taiwan Teck Challengeにおいて、Dr. Messageは一等に輝き、賞金17.5万米ドルを獲得した。この大会に出場した理由は実はつらいものだったと劉彦伯は言う。このプラットフォームの運営費はトレンドマイクロから支援され、政府でデジタル化を担当する唐鳳･政務委員による推薦もあったのだが、会社の管理職から評価されず、メンバーはあきらめてやめようとしていたのである。

その後、トレンドマイクロCEOのエヴァ･チェンがDr. Messageのメンバーと面会し、チームが世界の情報セキュリティ企業としてのコア･コンピタンスを発揮し、企業の社会的責任を果たしていることを称賛した。そして6月から、Dr. Messageは日本とフィリピンでも打ち出すこととなり、偽情報や誤情報による多くの人の損失の削減に役立つこととなったのである。

Confactsのチームは社会に貢献したいという理念で偽情報から市民を守っている。左から李柏緯、ジョンソン、ビリオン、郭冠宏。

Cofactsのファクトチェック

Cofacts真的假的は、一般ユーザーの協力を得て、多くの人が協力してファクトチェックをする仕組みを作り上げた。創設者のジョンソンは、LINEのグループで、しばしば本当かどうか疑わしいデマや噂が転送されてくるのを何とかしたいと考え、タップするだけで真偽を確認できるプログラムを作りたいと考えた。

時間をかけて準備した後、2016年9月、彼は台湾大学政治学科の同級生ビリオンに、ファクトチェックができるチャットボットのプログラムを依頼した。

ジョンソンはまずAirtableの試算表を使ってファクトチェックのためのデータベースを確立した。ユーザーから送られてきた情報の真偽を判別し、返答するという方法だ。だが、内容のチェックを担当していたビリオンは、情報量が多すぎて作業が追い付かず、より多くのエディターが必要だと考えた。

これを知った唐鳳政務委員は、Cofactsが多くのエディターを求めているといいう情報を自身のフェイスブックに載せた。この情報で協力者は増えなかったが、Cofactsの利用者が激増し、Airtableのデータベースはパンクしてしまった。そこでジョンソンは2017年にデータベースを書き直し、台湾大学情報工学科の同級生、李柏緯と郭冠宏に提案執筆を依頼してgOv第1回公民科技創新奨助金を申請した。こうして助成金を得て、毎週水曜の夜に会議を開くことにした。

2019年、Confactsはオスロのフリーダム･フォーラムに招かれて出展し、チャットボットを使ってファクトチェックする方法を紹介した。（Cofacts提供）

Cofacts：市民がエディター

Cofactsチームはプログラム力が強いだけでなく、「オープンソース」の理念を持っている。ジョンソンは台湾大学情報工学科の大学院にいた時に、gOvのグループに参加したことからプログラム共同制作の習慣が身に付き、オープンソースの価値を理解していた。

長い髪を団子に束ねたジョンソンは、ゆっくりとこう話す。「ウィキペディアから、プログラム分野、あるいはQ&AサイトのStack OverflowやYahoo奇摩の知識+まで、どれもユーザーが協力する形で成り立ち、オープンな形で編集されています」

Confactsも、こうしたオープンな精神を基礎としてデータとプログラムを公開している。最近LINEグループではファクトチェック･チャットボットの「美玉姨」に人気があるが、これを開発した徐曦もConfactsのオープンデータを応用している。また、唐鳳政務委員の紹介でタイのNPO、Open DreamがConfactsの英語ツールキットを用い、タイ語版のConpactsを運用するようになった。ジョンソンは、これもオープンソースの精神のおかげだと言う。

情報は伝達の過程で次々と変形して判別を難しくさせるため、チャットボットも進化していかなければならない。

メディア･リテラシーを高める

ビリオンによると、ユーザーから転送されてくる情報は以下のように分類できる。健康に関する偽情報、無料スタンプの広告とオンライン詐欺、政治関連のフェイクニュース、そして昔から幾度も否定されているにも関わらず形を変えて出てくる偽情報などである。「デマや噂にしろ、それに対する回答にしろ、すべて疑ってみる価値があります。最終的に判断するのは自分自身なのです」とビリオンは強調する。

Dr. Messageは他のSNS用のバージョンも計画中だ。トレンドマイクロのAI専門家であるテッドは、言語や文字に対するコンピュータの理解力には限界があるため、まだ人間の方に優位性があり、プラットフォームは偽情報の判別に役立つと言う。ただ、これは決してユーザーの判断に取って代わるものではない。最も重要なのは、自分で真偽を見抜く力、すなわちメディア･リテラシーなのである。