ＡＩとの共存に必要な「編集能力」とは？

　世界は支配する側とされる側に分かれつつある。その武器はインターネットとＡＩだ。シリコンバレーはＡＩによる大失業の恐怖を煽り、ベーシックインカムを救済策と称するが背後に支配拡大の意図が潜む。人は専制的ディストピアを受け入れるしかないのか？
　『テクノ専制とコモンへの道 民主主義の未来をひらく多元技術PLURALITYとは？』(集英社新書)の著者、李舜志氏(法政大学社会学部准教授)と、江戸研究の第一人者である田中優子氏(法政大学名誉教授)が、最新の「デジタル民主主義」のテクノロジーと、江戸文化の意外な接点について語り合った90分。人間ならではの創造性を開花させる「編集の技術」とは？（全３回の最終回）　

構成＝高山リョウ　撮影＝岩根愛

伝統芸能が「消えない」理由

田中　情報を伝えるメディアは、時代とともに古くなってもなぜか消えない。文学の言葉はもちろんのこと、テレビやインターネットが出てきてもラジオは残り、今の若い人たちはラジオをよく聞いている。そういう話をしていました。消えないって本当に不思議ですよね。たとえば伝統芸能ってあるでしょう。もう誰も共感できないような伝統芸能でも消えないんです。原因のひとつは、日本人の特性だと思うんだけど、自分でやりたがるので「お稽古文化」として残っている。日本舞踊にしても三味線にしても、ただ見に行くだけではなく、自分でも稽古する。お稽古ごとは江戸時代からすごく庶民の世界ではやっていて、いまだにお稽古文化が残っている伝統芸能は消えないんです。

　江戸時代でいうと、近松浄瑠璃が大坂で大流行した。この近松浄瑠璃の前に「説経節」という古いタイプのものがあったのですが、これが消えるのかというと、説経節の人たちが、大坂ではもう商売できないと思って九州とか佐渡のほうへ行くんです。そしてそこで、また別の「共感のコミュニティー」ができる。そうして残っていって、説経節は現代になってもまだある。現代人も「面白いな」と思って稽古している。そういうふうに本当に少数でも何か「共感する」というようなことが起こって、小さなコミュニティーがたくさんできると、それが文化の多様性にもなっている気がしますね。

李　稽古文化というのは本当に面白くて、僕のひとつ前の本(『ベルナール・スティグレールの哲学 人新世の技術論』法政大学出版局)で、フランスの哲学者であるベルナール・スティグレールについて書いたんですけど、その中でスティグレールが「アマチュア」について話しています。アマチュアというと、プロフェッショナルの対義語みたいに聞こえますけど、もともとはラテン語の「アマトーラ」から来ていて、それは「愛する人」のことなんです。専門家か素人かは全然関係ない。そして愛する人とは何かというと、「消費」をしないんです。短時間遊んで飽きたらポイではなく、自分の愛することを地道に続けている。

　たとえばまだレコードがない時代って、モーツァルトの新曲が出たといっても、その曲がどんな曲かわからない。だからアマチュアの音楽愛好家は何をするかというと、楽譜を買ってきて、自分で演奏をする。そうしてその曲を「体験」して、どこが難しいとかいうことも理解する。それをわかった上でコンサートを聴きに行くので、聴く時の解像度が段違いなんです。だから音楽で食っていかなくても、稽古をしている人は、そのすごさがわかる。

田中　わかるんですよ。それも共感の一つなんです。

生成ＡＩがもたらす本当の危機とは

李　稽古文化というのはすごく大事だなと思う反面、同時に、「何かを残す」ということについてお聞きしたいことがあります。「どういった情報を残すか、コンテンツを残すか」って、今はもうアルゴリズムが決めるじゃないですか。ラジオとかテレビというメディアは、情報を「映す（流す）媒体」ですけど、ＡＩを使用したＳＮＳは情報の「編集」もしている。

　ミャンマーで数年前にロヒンギャ難民が虐殺される事件がありましたが、あの時もＳＮＳ上でフェイクニュースが飛び交って、それを信じたミャンマーの人たちが事件を起こしました。そのことに対してプラットフォーム側は、「我々は何もしていない」と対立を煽った責任を否定した。でも、どういった情報を大々的に扱い、また小さく扱うかというのを決めているのは、まぎれもなくプラットフォームなんです。マーク・ザッカーバーグが「そう決めた」わけではありませんが、アルゴリズムが「そうなる」ように設定されている。

田中　あの事件の背景にあったのは、そういう事情だったんですか？

李　はい。だから情報の「編集」というキーワードが、今とても重要だと考えているんです。現代は、たとえば生成ＡＩが話題になると、「クリエイターの危機」みたいな文脈で語られることが多いですよね。「イラストを自動的に制作できるようになったから、イラストレーターはこの世から消える」とか、「小説家はこの世から消える」とか。でも生成ＡＩが普及していくことによって、「ものごとを編集する」という人間の営みさえも自動化していく。より深刻な危機がいま起こっていると思うんです。

　そんな中、田中先生の『蔦屋重三郎 江戸を編集した男』（文春新書）を読んで、やはり「編集」という営みの重要性を痛感しました。これは僕のうがった見方かもしれないですけど、本の中で先生は、蔦屋重三郎と松岡正剛さんを重ねて論じている節がありまして。

田中　そうです。

李　ＡＩで編集が自動化されていく現代の危機。その自動化を批判するとしたら、田中先生はどういった「編集の意義」をお考えなのか、お聞きしたいです。

田中　編集というのは、「編集という技術」が外化されて外側にあるのではなくて、人間の脳の中に「編集能力」があるんです。大体、人間の体そのものが編集されている。何か要らないものを外に出して、日々変えているわけですね。これは無意識にやっているんですよ。人間そのものが生物として「自己編集」をしている。それから、環境との間でやり取りしながら活動していますから、「相互編集」もしている。

「編集能力をどういうふうに伸ばすか」という研究を、松岡さんはずっとやってきたのだけれど、それは「何かを外から持ってきて、知識を得る」という話ではなくて、「頭の中にある自分の能力を拓く」ということなんです。なぜかというと、人間は生まれた時にもう既にこの社会があって、言語もあって、親がいて、家族がいてという中で、知識をどんどん教え込まれて、社会で生きていけるように学校にも行って……という型に嵌められてしまうわけです。

　そうすると自分が本来持っている編集能力の中の、ごく一部だけを使って、「こうやって生きなきゃならないんだな」とか「この価値観を持ってなきゃ駄目なんだな」とか思いながら、ガチガチに自分を固めていく。優秀な人であればあるほど、自分を固めていって生きているわけです。まずそういう前提がある。

　そこで「編集能力を拓く」とは何かというと、そんなガチガチになってしまっているものをほぐして変化させて、動かして、柔らかくするという、そういう訓練をするんですね。そのメソッドはもう確立しているので、誰でも学ぶことができます。私も学んできました。

　そうすると「ＡＩが編集する」といった時に、当然、人間がそのＡＩに情報を与えて、しかも編集方法まで与えているわけだから、それは「人間がやっている」わけですね。ですから、ある一定程度の方法しか与えなければ、ＡＩも一定程度の編集しかできないんです。つまり、ＡＩにも限界がある。そのＡＩが持っている限界は、人間が持っている限界と同じなんです。この社会があって、「この社会の中で役立つ編集」をＡＩもやってしまうわけですよ。

　そうした時、「ＡＩを柔軟にできるか」という問題があるとして、それは、難しいんじゃないかと思う。

ＡＩは蔦屋重三郎になれるか

田中　なぜかというと、人間の場合には、20歳、30歳、40歳と年を重ねるうちに能力が固められていくと同時に、「排除してきたもの」があるんですね。たとえば記憶。忘れたと思っているものも、本当は記憶しているんです。本当は記憶しているけれど、意識に上らないようにしているもの。子供の頃にいた家のこととか、その後おもいだす必要はないわけだから、覚えているけど排除して、忘れたふりをしている。

　ところが、人間の編集能力を拓いていくと、そういう「排除してきたもの」が全部使えるようになるんです。戻ってくるし、使おうと思えば使えるので、「自分の中に眠っているものをどんどん使おう」というのが、松岡さんの編集能力のメソッドなんですね。

　ＡＩの場合も、情報が人間以上に膨大にあるだろうから、編集できる要素はいっぱいあるのだと思います。でも、何を甦らせるのか？

　たとえば、ある人の顔を見た途端に、別の人を思い出したとか、その人と過ごした記憶が甦ってくるとか。「そういうことって、ＡＩに起こるのだろうか？」と思うんです。今言ったようなことは、人間関係の「外とのやり取り」、それから「環境とのやり取り」で起こることです。はたしてＡＩに同じことができるのか？　ある人の顔を見た瞬間、それを一瞬のうちに取り入れて、過去の膨大な記憶の中から特定の人物の記憶を想起する。そのような「編集」ができるのか？ それはでも、できるのかな、もしかしたら……。

李　どうですかね……。ＡＩによる編集は、いろいろな命令というか指示はできるんです。「こういうふうにしてくれ」という具合に。でも「こういうふうにしてくれ」と思うのは人間ですし。

田中　そうなんですよ。

李　先生、たしか蔦屋重三郎の本でもお書きになっていたと思うんですけど、「編集というのは単に、作家が書いてきたものを読んで構成して、世に出すだけではない。ビジョンが必要なのだ」と。

田中　そうそう。「こういう本を出したい」というビジョンがあって、初めて編集ができる。

李　まさに蔦屋重三郎は、既存の文書データとか絵画データを総合して、「いい感じのものを作りました」という人では全然ない。喜多川歌麿や東洲斎写楽といった、それまで存在しなかったタイプの才能を発掘して、新たな表現を生み出しましたね。

田中　そうですね。「今必要なものは何か」という発想をする人なんです。だから私は今のところ、人間が持っているような「柔軟な編集能力」というものを、ＡＩは持てないだろうとは思っています。未来はどうなるか、わからないけれど。

ブラックボックス化する「創造のプロセス」

李　ＡＩを「ツールの一つとして活用する」ことは問題ないと思うんですけど、ＡＩに「こういうふうに編集して」と言って、ポンと出てきたものを、そのまま世に出してしまうのは非常に危険だと思います。それが面白いかどうか、安全かどうか。最後に判断するのは人間なので、やはりビジョンが必要なのだと思います。

田中　だいたい編集というと、「編集した結果でき上がったもの」を想像してしまうけれども、松岡さんがやっていた編集というのは、たとえば今日は京都の何千年記念だから、じゃあ生け花をやりましょうかと。実際に私が目の前で見たことがあるんだけども、そこで「でき上がった生け花を並べる」ということは絶対やらないんですね。

　まず花をとってくるというところから始まって、水を用意しましょう、花器はどうしましょうかと、生け花の専門家の方もそこにいらっしゃって、生け花のプロセスを最初から全て見せるんです。

　そういうものを見せられたときに、「あ、人間はこういうことをするんだ」とか、「こういうふうに環境とやり取りしながら、ものが作られてくるんだ」とかいうことがわかる。そういうことも「編集」なんです。

李　いま、ＡＩと言われているもの、いわゆる大規模言語モデルを基盤としたＡＩは、ブラックボックス化していることが指摘されています。「こういう作品作って」と言ったらポンと出してくれるんですけど、その創作の過程というものがよくわかっていない。

田中　それはＡＩに命令した人もわかってない？

李　わかっていません。だから結構危ないんじゃないかという批判は以前からありまして、そこを透明化していこうという試みもあるんですけど、大多数の人はそこを透明化しても見ないと思うんです。プロセスが複雑で専門的すぎるから。でも先生がおっしゃるように、「プロセスを見る」というのはすごく大事で、たとえば文章を書いている時も、Ａ、Ｂ、Ｃと選択肢があって、「Ａにするか、Ｂ、Ｃにするか」とか、「こういう理由でＡにしよう」とか、いろいろな迷いがあるものですが、そのプロセスは、完成した文章では消えている。

田中　そうですね。消えています。

李　でも実はそういう過程があって、「この時、こういう理由でこちらの道を選んだ」というのが可視化されることはすごく大事で。さきほどの稽古ごととかアマチュアの話ともつながりますね。だから巷に「ＡＩが編集したコンテンツ」があふれ返ってしまうと、プロセスというものが全然見えなくなるし、見なくてもいいというふうに判断される。そういう危険が今あります。

田中　実際にそのプロセスの中で選ばなかったものが、すごく大事だったりするんですよ。それが見えなくなってしまうと、人間のクリエイティビティの一部が無くなっていく。人間が作っている場合には、Ａの人が「これはやめた」と言ったものを、Ｂの人が「いや、私はそれがいいと思う」と拾う。こういった対話の中で取捨選択が変わっていくということが、人間同士のやりとりでは起こるんです。そういう膨大なネットワークの中で行われてきたことが、本当は今まで文化をつくってきたんですよ。ＡＩではそれが見えなくなる。もったいないですよ。

信頼を築くための新技術を

李　今のお話を聞いていて、政治の場面でＡＩによる意思決定がなされていくと、非常に危険だなと思いました。たとえば加藤陽子先生の『それでも、日本人は「戦争」を選んだ』（新潮文庫）という本がありますが、いかに当時、実はほかの選択肢もあったけれど、戦争に向かう道を選んで行ったのかという積み重ねが描かれています。歴史を学ぶって、何年にこういうことがあったとかを暗記するだけではなくて、「他にもあり得たのにこうなった」ということを知ることが大事じゃないですか。

　でもＡＩが政治の意思決定の中心になってしまうと、あたかも「自然とそうなった」みたいに思われる。もし戦争になったとして、「他に選択の余地はなかった」というふうに思われるのは非常に危険ですよね。

田中　ＡＩが権威になってしまうのね。

李　そうなんです。ＡＩが「戦争しろ」と言うと、「あ、したほうがいいのかな」みたいに思う人たちが出てくる。「だってＡＩが言ってるから」と。

田中　そうそう、そうなる。だから今回の本で「第三の道」として紹介してくださった色々なテクノロジーは、デジタルがなければできないし、そこでＡＩも活用されることになると思うんです。だからこそ、その時に「ＡＩで全部解決！」というふうにはならないということを、私たちはわかっておかなければならない。

李　おっしゃるとおりで、今回の僕の本は、テクノロジーに詳しい人からしたら、「ブロックチェーンの話題が少ない」と言われるだろうと思っています。ブロックチェーンは「トラストレスなテクノロジー」と言われていて、トラストは「信頼」ですから、「信頼の不要な技術」ということです。ブロックチェーンを使った有名なものとしては、ビットコインのような仮想通貨があります。日本銀行とか日本国みたいな中央の機関に対する信頼がなくても、お金として扱えるということで、ブロックチェーンは「信頼がなくても駆動するシステムを可能にする」と言われています。

　でも、PLURALITYを提唱しているオードリー・タンとかグレン・ワイルたちは、ブロックチェーンを否定しているわけではないですが、テクノロジーというのはトラストレスではなくて、「トラストビルディング」であるべきだと言っています。つまり「信頼を築くための技術」ということです。たとえば意見が対立している人同士が、「コミュニケーションをしなくても、ＡＩのおかげで社会が回るから楽だね」ではなくて、なによりも人の間の信頼が大事で。これはＡＩとか技術以前の問題です。

　そしてオードリー・タンも釘を刺すように言っているんですけど、台湾でコロナ禍の対応とかがうまくいったのは、やっぱり国民が政府を信頼していたからなんです。「自分の情報が政府に渡っても大丈夫」という信頼があったから、テクノロジーも駆動したわけで。信頼がないところにいきなり台湾のテクノロジーを持ってきても……。

田中　じゃあ日本ではかなり困難。台湾の投票率はすごいでしょう。90％以上あります。だから社会に信頼性があるということが前提なんですよね。

李　そうですね。今回の本と対談では最新のテクノロジーについて話しましたが、「技術の導入さえすればいい」というふうに誤解してほしくなくて。やっぱり人々の間だったり、市民と政府だったり、市民と大学とかの信頼関係が大事です。だから最新のテクノロジーと並行して、「合意の形成」や「信頼の醸成」も進めていかなければいけない。そういうことが伝わればいいなと思いました。（了）