Nexusを読んでみたのでその感想のメモ。
情報には真実と秩序という側面がある。 そのバランスが大切
情報が爆発することで人間は賢くなると思っていないだろうか。 魔女狩りは印刷技術という情報技術の爆発が生んだ大惨事である。 Snsの発展も迫害、差別を加速させた。snsのプラットフォームは民主主義的なアプローチによるアルゴニズムであるため自分達に責任はないという。本当に？
このように偽りの情報が爆発すると大惨事になるから、情報の爆発によって人間が賢くなるわけではない。
では真実を見つけるためにはどうしたらいいか？ キュレーションが大切だ。 体制を不可謬を前提にすると誤ってもただすことができない。一方で可謬を前提にすると自浄作用が働く。 聖書と科学の例。 聖書は不可謬な神が書いた書物である。不可謬であることが重要であるため、聖書を修正することはできない。 どんなに時代にそぐわないものでも、修正は許されず解釈によって回避する。 科学は可謬であることを前提にする。論文の査読プロセスはまさにそう。
民主主義は可謬説を前提に真実を見つけるために議論し構造で真実を見つけるといったキュレーションを導入。 全体主義はキュレーションを利用せず、不可謬説が前提。1人が正しくあり続けるといった構造。 民主主義というキュレーション機構は、自浄作用によって誤りが正される。しかし、個々が議論することができるので情報の爆発に弱い。議論は停滞しがちで、議論の進みが遅い。 全体主義は、情報は限られたルートしか通らないので、情報の爆発に強いが誤りが許されない。
AIはどう作用するか。 コンピュータはそれまでの情報媒体と異なる。 紙などの情報媒体は、情報の伝達に人が介在する必要があるが、コンピュータは人の介在なしで情報を伝達することができる。大きな情報を持ったAIは人間の介在というキュレーションなく、真偽のわからない情報を伝えることができる。 こうなると、民主主義は弱い。特定の人に情報を浴びせると民意を変えることができることが知られているが、AIによってそれが加速する恐れがある。そうなると選挙や議論はAIのアルゴリズム合戦にあり、そこには民主主義の「人が主役」という前提が覆ってしまう。 また、AIが作り出した真偽のわからない情報が氾濫することで議論が不毛になってしまう。 我々は民主主義こそが正義だと信じているが、民主主義という構造は歴史的にみると比較的新しく、情報の氾濫にさらされていない。AIが民主主義の危機かもしれない。
国だけではなく、小さい民主主義的な組織でも起きているなと思う。 会社でも「会議に参加する人が多いと議論が発散するので少ない人を呼ぼう」はまさに民主主義が破綻しているところ。これからはAIという嘘か誠か分からない情報を持ち出す人が増えるので、この民主主義の欠点はますます顕在化する。そうなったときに何も進まなくなってしまうのが怖い。