AIの進化が問いかける、人間の知性のあり方──遊びや人類学から探索する、新たな創造のカタチ

2024年5月22日（水）に、FabCafe Tokyo Talk Session「人類学からみるAI〜人はAIとなにをつくるのか〜」を開催しました！
今回はAIと「ともに」つくることについて、遊びや人類学の視点から考えるべく、デザイン・アートユニット「Playfool」のダニエルコッペンさん・丸山紗季さん、メディアアーティスト・ゲーム開発者の木原共さん、人類学者の久保明教さんにお越しいただきました。
前半では、Playfoolさん、木原さんによるAIやテクノロジーを用いたプロジェクトを紹介。後半では、人類学者の久保さんより、人類学および将棋ソフトから見るAIとの関係性について語られました。本レポートでは、その模様を紹介します。

「人間的な思考」以外の視点でAIが発展していたら？

最初に丸山さんから、Playfoolが手掛ける作品の紹介とともに、現在関心のある問いについて共有されました。

画面左から2番目、Playfool 丸山紗季さん

Playfoolは、ダニエルコッペンさんと丸山紗季さんが活動しているデザイン・アートユニットです。遊びを媒介に社会とテクノロジーとの関係性を探索しながら、様々なプロジェクトを立ち上げています。

木材を利用した森のクレヨン「Forest Crayons」

木材を利用した森のクレヨン「Forest Crayons」は、森林の維持・保全のために発達した林業や、それによって変化する環境、私たちの暮らしとをどう接続させるかを問いかけて生まれたプロダクト。丸山さんは「木の色は単に『茶色』であると考えられがちですが、実は幅広い色が存在することがわかります」と紹介します。

「地域連句」のステッカー

また、日本の様々な地域に住む見ず知らずの人々が、匿名かつ共同で連句を詠むことができる「地域連句」では、コロナ禍の渋谷や下北沢、江東区などにQRコードが印刷されたステッカーを貼り、そのステッカーの存在に気づいた人たちと連句を詠みました。連句を通して地域ごとに立ち上がってくる景色の差が出て「地域の見え方が変わる機会になりました」と共有します。

Playfoolが今、関心を持っているのは「人間中心主義から離れてAIを捉えることで、私たちの知性に対する理解はどう変わるのか」という問いです。

「現在のAIは、人間を模倣して、私たちのデータをもとにつくられています。もし人間の介在を仮に逃れられることができるとしたら、『知性』というものはどのように考えられるのか。それらについて探索しています」

これらの問いを踏まえて、Playfoolではいくつかの実験を行っています。その一つが「CREATURE SPECULATRIX（仮称）」 というプロジェクトです。

「インスピレーションを受けたのはグレイ・ウォルターという研究者だった」と丸山さんは振り返ります。彼は、コンピューターの父と呼ばれるアラン・チューリングと同時代に生き、光のある方向に動くアナログな亀型ロボットを作りました。

Mechanical Tortoise (1951)

チューリングが機械を人間らしく思考するかどうかで判断していたのに対し、ウォルターは生物らしい自由意志があるように見えるかを重視。丸山さんは「AIが人間らしさや人間よりも優れているかどうかに焦点を当てて発展してきたことに対し、私たちはウォルターのように人間以外の生物を踏まえて機械が発展していたらどうなっていたかを探求したいと考えています」と共有しました。

ただし、知性や自由意志は人間の認識に依存しているため、人間が感知できない知性や自由意志を私たちは認識できません。Playfoolでは、これらの問題と向き合いながら、今後3ヶ月で本プロジェクトを進めていくそうです。

人生の選択肢を、AIで相対的に可視化すると……

続いて、メディアアーティスト兼ゲーム開発者の木原さんがスピーカーとして登場。新しい問いを人々から引き出す遊びをテーマに、実験的なゲームやインスタレーションを開発しています。

メディアアーティスト・ゲーム開発者 木原共さん

ここ数年では、AIなどのテクノロジーが私たちの生活にどのような影響を与えるかを探索。その中で生まれたプロジェクトの一つが「Future Collider」です。

「架空の看板や標識をARで街に設置することができます。例えば、AIによる監視社会が進んだ未来を想定して、ゴミ捨て場の前に顔認証中と書かれた看板が置かれたらどう思うでしょうか。そういった都市の未来について、一般市民の方とともに議論しています」

ARで街にありうるかもしれない未来の看板や標識を設置できる「Future Collider」

また、木原さんは「人生における決断の影響をAIで事前に探索させるとどうなるのか?」という問いのもと「Diary of Tomorrows(s)  / 明日たちの日記」を開発しました。日記やカレンダーの予定など自分自身の過去のデータを大規模言語モデルに読み込ませることで、「仕事をやめるか？」といった大きな決断を元に、分岐していく未来の架空の日記を生成することができます。

自分自身のこれからを紡ぐ「Diary of Tomorrows(s)  / 明日たちの日記」

「私自身の、これまでのカレンダーデータを読み込んだところ、『東京とロンドンのどちらかに拠点を移す』という分岐点が生成されました。『東京に拠点を移す』を選んだ場合は、新作の展示など、作家活動に専念しており楽しそうです。一方で、『ロンドンに拠点を移す』を選んだ場合、カレンダーにカウンセラーの予約が入っており、心身を持ち崩している様子が伺えます。これは恐らく自分が過去にロンドンに住んでいた時に、暗い冬が辛かったという記述を元に生成されたのかもしれません」

本プロジェクトを通して、人は意思をもって自由に決断していると思っていても、実は非常に限られた範囲でしか意思決定をしていない可能性があることに気づきました。今後も『明日たちの日記』を通して、自分自身の人生の選択の傾向にバイアスがないかをシミュレーションし、その選択のプロセスを相対化させることができるのかを探索していきます。

AIから逸脱した、人間らしい新たな表現を探索

テクノロジーと遊びをテーマに様々なプロジェクトを手掛ける、Playfoolと木原さん。両者のコラボレーションが実現し、「遊びを通して、人間とAIの共生を目指す」ことを掲げて取り組んだ2つのプロジェクトについて紹介しました。

一つは、「How (not) to get hit by a self-driving car」というゲーム型のインスタレーションです。プレイヤーは、AI搭載カメラに検出されないよう、巧みにかわしながらゴールに到達する方法を考えます。例えば、コーンを重ねて炎のように見立てたり、コートで体を覆って人間と認識させないようにしたり……。プレイヤーが勝つたびに、歩行者を検出できない今の画像認識アルゴリズムの欠陥を浮き彫りにします。

もう一つは、「outdraw.ai」です。人間の表現行為に代わる新しい技術が登場するたびに、人々はそこから逸脱し、その技術では再現できない独自の表現を創り出してきました。AIとともにつくる「新しい表現とは何か？」という問いを起点に、本プロジェクトは立ち上がりました。

ルールは簡単。与えられたお題に対して、一人が絵を描きます。その絵は、AIにはわからず、人間だけに伝わるものでなければいけません。人間だけが正解を出すことができれば、優勝です。今回は、会場にいるみなさんとともに「outdraw.ai」を体験をしました。

出題されたテーマは「モノ」。スクリーン上に描かれた絵を見ながら、みなさん、必死になって考えていきます。

画面右上に描かれた「CD」の絵。会場からは「LP」「ライト」といった回答が集まった

正解は「CD」。残念ながら、AI、人間ともに不正解という結果でした。

丸山さんは「『CD』という回答は誰も思いつきませんでしたが、AIとの引き分け状態をどう捉えるかはまだ私たちの中でも結論が出ていません。以前、久保先生からもご指摘いただいた通り、本当に新しい表現というものはこの引き分けの中にあるのかもしれません」と述べ、探索の余地を残しました。

人間とテクノロジーの相互作用から生まれる、創造プロセスの変化

ここからは、人類学者の久保さんによるプレゼンテーションです。久保さんがロボットやAIをめぐる人類学について研究を始めたのは、大学院生の頃に読んだ人類学者レヴィ＝ストロースの著書『神話論理』に影響を受けたことからでした。

人類学者 久保明教さん

「『神話論理』には、アメリカ先住民の神話、特に起源神話において、過去のある時期には動物と人間の区別がなく、同じように言語を話し、技術を持ち、結婚や子育てができたことが描かれていました。しかし、時間の経過とともに、動物と人間の境界ができていったとされています。

『ロボット共生社会』や『シンギュラリティ仮説』といった未来予想では、いつかの未来で機械と人間が同等になる、あるいは機械が人間を超えるといったことが言われています。これらの概念と、神話に描かれた動物と人間の境界がない状態が似ているのではないかと考え、研究を始めました」

人類学的にみると、『テクノロジー』は人間が完全にコントロールできない人間以外の存在との相互作用を通じて、社会の仕組みが形作られていくプロセスとして捉えることができるそうです。私たちが人類学の観点からテクノロジーについて考える方法は、人間以外の存在との相互作用を通じて、私たちがいかに変化しつつあるのかを考察すること。そこで、久保さんは将棋ソフトを例に挙げて説明しました。

2012年から2015年にかけて開催された「電王戦」シリーズでは、プロ棋士とコンピュータ将棋ソフトによる対局が行われました。その結果、人間とコンピューター将棋ソフトにおける思考の著しい違いが明らかになりました。

第2回電王戦の初戦で勝利した阿部光瑠六段は、人間と将棋ソフトの思考の違いについて次のように述べています。「人間は、自分が不利になりそうな変化は怖くて、読みたくないから、もっと安全な道を行こうとしますよね。でも、コンピュータは怖がらずにちゃんと読んで、踏み込んでくる。強いはずですよ。怖がらない、疲れない、勝ちたいと思わない、ボコボコにされても最後まであきらめない。これはみんな、本当は人間の棋士にとって必要なことなのだとわかりました。」

久保さんは「電王戦では、棋士が将棋ソフトに敗れた際に、中継を担当していた女流棋士が涙をみせるなど『情動的なシーン』が強く見られた」と振り返ります。わずかでも情動的な反応を見せると、将棋が崩れる可能性がある。だからこそ、棋士は普段、感情表現を抑制し、冷静に対局に臨む必要があるのです。将棋ソフトは、人間にはない特性を持っており、それらとの対局を通じて、棋士たちは「将棋ソフトのように怖がらない」ように変化していったと言います。

「将棋ソフトは、単なるツールではなく、人間にとって新たな情動や概念を生み出す『媒介』として機能していました。これはAIやロボットと人間の関係性を考える上で示唆に富んでいます。AIは単なる道具でも自立した存在でもなく、人間と関わり合うことで新たな可能性を生み出す媒介として捉えられるのではないかということですね。」

最後に、久保さんは以下のように結論づけました。

「将棋の例から言えば、『AIと何かを作る』ことは、作り手とAIと呼ばれる存在の相互作用を通じて、作るということ自体に関する情動や概念の変容を引き起こすこととして捉えることができます。逆に、情動を揺さぶらないテクノロジーは、実は人間との相互作用をあまり生み出していないのかもしれません。未来予想からは情動の部分が抜けやすく、人間の情動や情念がどうなっているかについてはほとんど語られません。

情動と概念を変化させ、具体化することにおいて『AIと何を作るのか』という考え方の効果を見出すことができるのではないでしょうか」

あらゆるものを同一視し、「知性」を問い直す

クロストークセッションでは、モデレーターや登壇者による問いを起点に、様々な議論が行われました。はじめに、モデレーターの金岡さんが登壇者に投げかけたのが「なぜ人は、機械やテクノロジーを『AI』と一括りに呼びたがるのか？」について。

この問いに対して久保さんは「人間以外の存在が未来を作るということを私たちは想像できないようになっています。それは知性において人間とそれ以外の存在が明確に区別されるようになってきたからです。だからこそ、人間が作るものでありながら人間を超える知性をもちうる機械としての『AI』というイメージが、未来を語るうえで例外的な魅力と不安を喚起するのではないでしょうか。」と回答。

木原さんも「まだ実現されていない技術をとりあえず人工知能（(AI）)と呼ぶ傾向がある」と述べ、「人工”知能”という言い回しは、人間が勝手に機械に意志を見出したり、何かの問題が起きた時に人間側の責任を機械側に転嫁してしまう危険性もある」と指摘。そのため、人工知能ではなく「自動判断装置」などの言葉を用いることで、人間が機械にどのような意思決定を移譲しているのか、より明確になるのではと提案します。

続いて、Playfoolの丸山さんより「知性とは何か？」という問いとともに「植物や動物においても明らかになっていないことは多いはずなのに、なぜ人間はAIに脅威を感じているのか？」という疑問が投げかけられました。

久保さんいわく、人間は動植物を恐れなくなっているからこそ、機械を恐れているのではないかとのこと。例えば、森に住む熊と直接戦えば死ぬ可能性はありますが、銃があれば助かるかもしれませんし、情報技術があれば事前に危険な状況を回避することもできる。「人間と動植物の間に機械が入っているからこそ、機械が怖くなるのではないか」と述べます。

その上で、久保さんはこう続けます。

「機械は人間が作ったものだから人間がコントロールできるはずだと言われることが多いですが、機械もまた人間と人間以外の存在の相互作用の産物です。そのような相互作用を、そこには自然災害や原子力発電も含まれるわけですが、人間が完全にコントロールできるというのはかなり無理な考え方ではないでしょうか。コントロールできるはずだという前提から出発するからこそ、機械が人間を超えるのか越えられないのか、ユートピアになるのかディストピアになるのかという議論に決着がつかなくなる。そういった考え方をやめることは私たちが自らを「人間」と同一視することをやめるということです。その可能性や難しさについて考えてみるということが、拙著『機械カニバリズム』の副題に含まれている『人間なきあとの人類学』という表現の含意でした」

AI、そして知性について考える時、そもそも人間を評価の基準として置く考え方は改めなければいけないのかもしれません。

AIがますます生活に浸透し、さらなる進化を遂げる中で、まずは私たち自身を総体としての「人間」ではなく「自分自身」と認識することで、人間を評価軸としたAIとの関係性を脱し、かつてグレイ・ウォルターが知性において思索したように、フラットにAIと向き合えるのかもしれません。