マツコ・有働のNHKスペ「AIに聞いてみたどうすんのよ!?ニッポン」はエセ科学番組？
高橋秀樹［放送作家／日本放送作家協会・常務理事／日本認知心理学会会員／北陸先端科学技術大学院大学・博士後期課程］
＊＊＊
7月22日放送されたNHKスペシャル「AIに聞いてみたどうすんのよ!?ニッポン」の番組概略を番宣で見た時に筆者はいくつかの危惧を抱いた。
NHKのPRページでは次のように紹介してあった。
「日本の閉塞感を打破する手がかりを求めて、NHKは『社会問題解決型AI（人工知能）』を開発した。パターン認識と呼ばれる手法で700万を超えるデータをAIが解析したところ、驚きの結果が！そこから導き出されたのは『40代ひとり暮らしを減らせば日本がよくなる』といった驚きの提言の数々だった。それは何を意味するのか？日本は本当に良くなるのか？マツコ・デラックスと有働由美子アナが、本音で AIと対決する」
これを読んで瞬間的に危惧したのは「相関関係」と「因果関係」の違いをきちんと説明しているかと言うことである。この理解なしに番組が進行したら、大きなミスリードを生んでしまうことになるからだ。
＜危惧その①＞「因果関係」と「相関関係」はきちんと区別してあるか？
結論から言うと、見る人にはこの2つの違いが理解されていなかっただろう。PRのHPには井手真也エグゼクティブ・プロデューサー（制作統括）、神原一光ディレクター（総合演出）、阿部博史ディレクター（AI開発担当）による、次のようなやりとりがある。
（以下、番組サイトより引用）
井手「まずはAIの分析結果を読み解くことで導かれた『日本の未来をよくするための5つの提言』をお見せします。その中のひとつは、『40代ひとり暮らしが日本を滅ぼす』！ 社会への影響を考えていきます」
神原「研究者や大学教授の方々に取材した際『“40代ひとり暮らし”が日本社会を変えるカギなんです』とお話すると『何を言っているんだ？』というリアクションをされました（苦笑）。一見、AIはまったく的はずれなことを言っているのかもしれませんが『これまでにない視点だ』と皆さんに興味を持っていただけたので、番組として、そこに賭けてみようというわけです。また、匿名の個人1万人を追跡調査しているデータも解析したところ、『幸せに暮らすための条件』や、『その後の人生を左右する分岐点』が明らかになるなど、日本人の意外な姿も見えてきたんですよ。ただ、AIは『◯◯と✕✕はなんらかの関係がある』としか見せてくれないので、その背後に何があるかについては人間が読み解かなくてはならないんです。AIが見せてくれるものは回答というより『お告げ』に近いですね。」
（以上、引用）
ここではNHKがつくったAIが示すのは単なる「相関関係」で「因果関係」ではない、ということを言っている。番組内でも『これは因果関係ではない』との発言が専門家から何回か成された。視聴者が「相関関係」と「因果関係」の違いを理解していなければ混同してしまう恐れが大きい。
ただし、この説明は七面倒くさく、テレビ視聴者向けに理解できるようにやるのは、大変なことである。「時間がかかるわりに説明しても分かってもらえない面白くないこと」をテレビはよく端折ってしまう。テレビ屋の悩みどころだ。
Webなら繰り返し読んでもらえるので「因果関係」と「相関関係」の違いの説明を筆者が試みてみよう。
因果とは、もともとは「原因と結果」を意味している。つまり、因果関係とは2つ以上のものの間に「原因と結果の関係があると言い切れる関係」だ。例えば、「気温が上がる→エアコンの売れ行きは伸びる」気温が上がるという現象が原因で、エアコンが売れるという結果が導かれる。暑いからエアコンが売れる。原因と結果が明確な、これが因果関係だ。
【参考】ホリエモンの名言「AIがレシピをつくっても、それを食べてうまいと思えるのは人間だけだ」（https://mediagong.jp/?p=19847）
相関関係とは、一方の値が変化すれば、他方の値も変化するという、2つの値の単なる関連性を意味している。番組ではこれを「連動している」と表現していた。
「冬になるにつれ気温は下がる→大阪府のひったくり件数が減少する」こういうデータがあったとして、2者には相関はあるが、これは単なる偶然だ。犯罪を抑止するために、気温がもっと低下することを期待することは間違っている。
疑似相関というのもある。「子どもが朝食を食べない→成績が悪い」。これは一見因果関係が見えるが，そうではない。本来は「子どもに朝食を与えない家庭環境→成績が悪い」が因果関係であって、「子どもが朝食を食べない→成績が悪い」は疑似相関だ（参考：http://www.mm-lab.jp/report/the-difference-of-correlation-and-causal-relationship）。
疑似相関なのに「子どもに朝食を食べさせよう運動」をやるのは間違いである。番組は「因果関係」と「相関関係」の違いを分かった上で見る必要があるが、その努力はほぼ放棄されていた。
さて、番組がAIが調べ上げたと謳って示す「相関関係」は以下の4つである。
（1） 健康になりたければ病院を減らせ。
（2）少子化を食い止めるには結婚よりも車を買え。
（3）男の人生の鍵は女子中学生のぽっちゃり度。
（4）40代のひとり暮らしが日本を滅ぼす。
「→」を使って書き換えてみたい。もちろん、番組を見た上での書き換えである。
（1） 病院のベッド数を減らす→人々が健康になる。
（2）結婚よりも車を買う→少子化が食い止められる。
（3）女子高生のぽっちゃり度を高くしない→男の人生を左右する
（4）40代のひとり人暮らしが増える→日本が滅びる。
これらの提言について、マツコと有働、専門家がトークを繰り広げるのだが、番組は、これを単なる相関だとは敢えて言わない方針のようであったので。AIの提言が真であるとして、人に伝わっていきはすまいかという危惧を筆者は強く持った。
【参考】＜パソコン未所有と貧困は無関係＞NHKが描く「貧困女子高生」のリアリティの低さ（https://mediagong.jp/?p=18818）
「ナンセンスな例ならばジョークで済むけど、それっぽい結論が出そうなときこそ、社会にとって脅威になりかねないので注意がいる。その扱いはとてもデリケートではないかなあ」というツイートもあった。その通りだと思う。
その結果番組は、
＜危惧その②＞視聴者の「データに対するリテラシー」を劣化させないか？
NHKは『AI』という言葉を用いて、番組のもっていきたい結論に一種の権威付けをしているようにも見えたのである。
＜危惧その③＞番組がNHKが開発したAIと言っているものは本当にAIなのか。
AIは、これまでにあるデータ（ビッグデータなどと呼ばれる）を深層学習という方法で人間よりはるかに超高速で学習する機械知能である。番組でも言及されていたが、これらはすべて過去のデータである。過去のデータを使って未来を予測する連関をみつけているのである。
その作業が出来るだけのものをAI第3世代に入っているいまAIと呼ぶのはNHKとしていかがなものか。膨大な棋譜を読み込みAI同士で大戦を繰り返し『これまで誰も考えつかなかった手を指す』この『』の部分が現代のAIだ。ビッグデータの読み込みにしても，あるがん患者にとって最適な治療法を探すために『研究論文も含めたネット上の事例や論文をすべて調べ上げ，最適解を提示する』それが現代のAIだ。
＜危惧その④＞AIはブラックボックスであることを視聴者に分からせていたか。
PRのHPでは次のような発言がある。AI開発担当の阿部博史ディレクターの発言だ。
（以下、番組サイトからの引用）
阿部「AIに何かを尋ねると答えのみを教えてくれるのですが、その回答に至ったプロセスまでは分かりません。どんなに難解な問題であっても、AIの『頭の中』を覗いたら、解決の糸口が見つかるのではないかと考えたのです」
（以上、引用）
AIは結論を出すがその仕組みはブラックボックスになっている、ということを前のセンテンスでは言っている。ところが後半センテンスはそのブラックボックスを覗くと言っている。矛盾していると思うのだが、この発言は単に舌足らずの故であったのだろうか。
番組自体がブラックボックスのことに触れずに進んでいたのは、筆者には、まさしく舌足らずに見えた。
【あわせて読みたい】