GAFAは現代版「パノプティコン」か

　「19世紀の腐敗した教会の権威」というフレーズは、「21世紀にデータと金の亡者となり腐敗したGAFAの権威」となりかねない。GAFAがその道を踏み外せば、そのような堕落と失墜もあり得るだろう。

　フーコーは、『監獄の誕生―監視と処罰』で、国家権力の集中機構としての監獄を論じ、その特徴と本質を抽出した。ジョージ・オーウェルが『1984』で描いたことで有名になった「パノプティコン」（一望監視施設、全展望監視システム）を例に、フーコーは、中央で情報をコントロールし、人を監視する権力の本質を論じた。

　2018年にヨーロッパでGDPRが施行され、個人データの取り扱いが規制されるようになった。その背景には、GAFAなどITプラットフォーマーが「パノプティコン」に変貌しつつあるという懸念がある。

「パノプティコン＜一望監視施設＞は、（中略）周囲には円環状の建物、中心に塔を配して、塔には円環状にそれを取巻く建物の内側に面して大きい窓がいくつもつけられる（塔から内庭ごしに、周囲の建物のなかを監視するわけである）。周囲の建物は独房に区分けされ、そのひとつひとつが建物の奥行をそっくり占める。独房には窓が二つ、塔の窓に対応する位置に、内側へむかって一つあり、外側に面するもう一つの窓から光が独房を貫くようにさしこむ。それゆえ、中央の塔のなかに監視人を一名配置して、各独房内には狂人なり病者なり受刑者なり労働者なり生徒なりをひとりずつ閉じ込めるだけで十分である。周囲の建物の独房内に捕らえられている人間の小さい影が、はっきり光のなかに浮かびあがる姿を、逆光線の効果で塔から把握できるからである。」
出典：『監獄の誕生―監視と処罰』p.202

　GAFAは、国家権力ではない。つまり、「殺す権力」ではないのだが、GAFAが我々の生活に浸透し、生活を便利にすればするほど、その「生の権力」の意のままに、個人データを取得され監視されているのではないか。GDPRの背後に、そんな漠然とした不安がある。GAFAは、「パノプティコン」になってしまったのではないか、と。

テクノロジーが暴走した時、だれが止めるのか

　デジタルトランスフォーメーション（DX）は、社会の至るところにテクノロジーを浸透させていく。民間企業のDXは、顧客である一般の生活者の生活をデジタル化する。エストニアの電子政府など、政治・行政サービスのDXも、同様だ。我々の生活は、デジタルテクノロジーに依存し、それなしでは、もはや成り立たない。

　中国の習近平国家主席は2020年6月30日、香港での反体制活動を禁じる「香港国家安全維持法」に署名し公布した。政治的に個人の主権や自由を奪うと同時に、個人データも国家の管理下におこうと企む。国家権力がその牙を剥き出し、暴走し始めた。だが、この暴走は、人類史で繰り返されている。全体主義的で絶対的な権力は、内外の抵抗を抑えきれず、いずれは必ず、崩壊した。それが歴史的事実だ。

　その一方で、デジタルトランスフォームの結果、テクノロジーが浸透した社会はどうなるのか？　もし、テクノロジーが暴走したら、その「生の権力」の暴走は、誰がどのように止めるのだろうか？

　『TOOLs and WEAPONs――テクノロジーの暴走を止めるのは誰か』の序文で、ビル・ゲイツは書いている。

「本書『TOOLs and WEAPONs』は、サイバーセキュリティ、IT労働者の多様性、米中関係など実に多岐に渡る15のテーマに切り込んでいる。なかでも特に重要な章を挙げるとすれば、プライバシーに関する章だろう。膨大な量のデータの収集能力は諸刃の剣だ。データのおかげで政府や企業、個人の意思決定の質がこれまで以上に向上する一方、人々のプライバシー権を保護しつつ、こうしたデータを利用するにはどうすればいいのか、大きな課題が持ち上がっている。」
参照：『TOOLs and WEAPONs――テクノロジーの暴走を止めるのは誰か』

　ビル・ゲイツが「特に重要な章を挙げるとすれば、プライバシーに関する章だ」とするのには理由がある。それは、テクノロジーの進化によって、「人間のデジタルトランスフォーメーション（Human Digital Transformation：ヒューマンDX）」が技術的に可能になってきたからだ。その結果、テクノロジーの「生の権力」が人類の「完全監視体制」を確立し、人間の脳がコントロールされるかもしれない。

　ナチスドイツや旧東ドイツのシュタージ（国家保安省）を例に、この『TOOLs and WEAPONs』の中でもその懸念が暗示されている。

「テクノロジー企業は、膨大な量の個人データを預かる管理人として、ナチスやシュタージに苦しめられた人々並みにデータが悪の手に渡るリスクを十分に意識しておく必要がある。『この刑務所に送り込まれた人々の多くは、自宅で行っていたことを理由に逮捕されています。国民を支配するための「完全監視体制」だったのです』＜中略＞と説明した」
参照：『TOOLs and WEAPONs――テクノロジーの暴走を止めるのは誰か』

　AmazonのAlexaなどクラウドベースの音声サービスは、自宅内部の日常の会話も盗み聞きしているのではないか。そんな話が話題になっている（参考記事：「スマートスピーカーは人の会話を盗み聞きしている？　弁護士が利用規約を読んでみた」）。

　会話を盗み聞きされている程度なら、まだマシだ。そんな意見もある。なぜなら、私たちの脳は、「ヒューマンDX」によって、ネットに接続されコントロールされるかもしれない（技術的可能性として）からだ。

　先日の日経の記事によれば、「米連続起業家のイーロン・マスク氏が設立した医療系スタートアップの米ニューラリンクは28日、開発を進める脳とコンピューターをつなぐ技術の最新の成果を発表した。ブタを使った実演では、頭蓋骨に埋め込んだデバイスが脳内の電気信号を読み取る様子を披露した」とのことだ（参考記事：「脳に電極、念じるだけで車を操作　マスク氏が最新成果」）。

　この米ニューラリンクの技術は、「ブレーン・マシン・インターフェース（BMI）」と呼ばれ、人間の脳とコンピュータを接続し電気信号をやり取りする。この技術については、イーロン・マスク自身が説明している動画がある。

　さらに、Forbes JAPANの記事では、南アフリカ大学で脳とネットを接続できるシステムが開発されているし（参考：「脳とインターネットが接続可能に、南アの大学が新システムを開発」）、日経XTECHでは「『五感や脳がネット接続』エリクソンの2030年予測」という予測記事で、人間の五感（視覚、聴覚、味覚、嗅覚、触覚）や脳と連動してインターネットとつながる「Internet of Sense」を使ったサービスが、2030年までに実現できる可能性を取り上げている。