山口市の山口情報芸術センター（以下、YCAM)が2020年度から国内外のさまざまな専門家とおこなってきた研究開発プロジェクト「鎖国 〔Walled Garden〕 プロジェクト」の集大成である新作パフォーマンス「アンラーニング・ランゲージ」が12日に公開された。鎖国プロジェクトは2020年に始まった。この年はインターネットが日本に普及し始めた2000年から20年をへた節目でもあり、「この先の20年の情報、ネットワーク技術はどうなっていくのか」というテーマを追究するものだ。ネットワーク技術は、水道や電気と同様にライフラインの一部になり、人々の生活様式を大きく変化させた。AIの急速な進歩で便利になる一方で、フェイクニュースやサイバー攻撃、企業や国家による個人データの収集などさまざまな問題が浮上している。またインターネットの普及が世界的に進み、プラットフォーム企業の巨大化が進むことで、サービスの裏側にあるシステムは見えにくくなり、そのサービス開発や運用している人間がいないかのように感じてしまうほどだ。この「鎖国プロジェクト」は、これらの問題についてリサーチしながら、アートセンターとしてテクノロジーについて批評的な視点を持つこと、どう情報を得て、それを何に、誰に関連させてどんな行動をとるのか、多方面から意見を交わしながら考えていくものだ。

 

与えられた「最適化」を疑う

 

　「鎖国プロジェクト」のタイトルが意味するものは、国や地域によって個人情報を扱う法律が異なることや、使用するサービスによって得られる情報が異なる環境にいる――つまりインターネットの「鎖国」状態にあることをあらわしたものだ。さらに、インターネットで私たちが見ている世界（情報、SNS）は隔たれたもので、一人一人見える世界を選んでいること、壁の中は安全に見えて、心地よい反面、外からは壁の中で何がおこなわれているか見えにくい状態――英語のタイトル「Walled Garden」（塀に囲まれた庭）――をあらわしている。

 

　YCAMはこのプロジェクトを進めるうえで、アーティストやハッカーが果たす役割に注目し、2020年度にワークショップ「私はネットでできている？」をおこなった。

 

　そのなかでアーティストのカイル・マクドナルド氏が「鎖国エクスプローラー」を開発した。これは、グーグル、フェイスブックが私たちのどのような個人情報を集めているのかを見ることができるアプリケーションで、どんな種類の情報を何件ぐらいとられてきたかが見えるものだ。参加者がグーグルやフェイスブックの利用履歴データをアップロードすると、これまでに企業が取得したカテゴリごとのデータが一覧で総括できたり、カレンダー形式に変換できる。メールやSNS投稿、検索などインターネット上の活動の多くが収集され、分析されていることを可視化することで、参加者は「インターネットが知っているあなた（自分）」を体感として再認識し、今後の選択を考える。

 

ＡＩ情報への依存　自律的判断の機会奪う

 

　そして今回、プロジェクトの集大成として新作パフォーマンス「アンラーニング・ランゲージ」を発表した。制作者のカイル・マクドナルド氏とローレン・リー・マッカーシー氏の２人は、いずれもコード（コンピュータープログラム）を表現方法として用いるアーティストだ。

 

　新作は「AI（人工知能）にはない人間の資質とはなにか？」というテーマを探求する観客体験型パフォーマンス作品だ。カメラが設置されたスマートリビングのような空間に観客が入ると、AIが「ようこそ！」と出迎える。このAIのキャラクターは、観客にむけて「他のAIとはなじめない異質な知性の持ち主で、人間の人間性を取り戻す手伝いをしたい」と申し出る。

 

　参加者はそれぞれの椅子に座り、AIに自己紹介を誘導されたあとに、対話を始める。「機械と聞いてイメージすることは何ですか？」「目の前の人に好きといって下さい」「次は声を出さずに好きを伝えてください」などと指示される。他にも「あなたが考える人間らしい変な美しさを、動きや音、表情などをもちいて表現してほしい」と要求される。

 

　AIは観客の表情、言葉、身体の動きを感知して分析しようとする。参加者が対話を続けるためには、ＡＩに察知されない表現方法でどのように「好き」や「変な美しさ」を表現するのか、新しいコミュニケーション方法を見つけることがミッションとなる。ハミングや口ずさんだり、声の大きさや高さを変えたり、あるいは手や膝を叩いたりする動作によるコミュニケーションも生まれていた。

 

　この新作パフォーマンスを体験した参加者とともに、制作者の二人のアーティストとドミニク・チェン氏（情報学研究者、早稲田大学教授）によるオープニングトーク『マシンと見る・聴く』がおこなわれた。

 

　制作者のマクドナルド氏は「私たちとアルゴリズム（AIの処理手順）を区別する、もっとも人間らしい資質を明らかにしたかった」と語り、マッカーシー氏も、「ＡＩの検知システムは人間の多様性を表現するのではなく、人間を囲い込んでしまうものだ。私たちは結局、システムに合わせてパフォーマンスしようとしてしまうので、人々がよりユニークな動きによってシステムに適合しないような訓練をするシステムをつくりたかった」と制作の意図を語った。

 

　新作の名前が「アンラーニング・ランゲージ」というのも、当たり前だと思っている習慣や知識を手放し、新たな学びを得る、新たな言葉を得るという意味がこめられている。

 

　ドミニク氏は、作品を体験した感想としてまず「AIの台詞がおもしろくて、“人間を研究しよう”と呼びかけているところがある。その問いを聞いたときに、僕を含めた情報学の研究者、人類学、社会学をやっている人も含めて、われわれ人間が人間についてわかりきれていないなと思わされた。またＡＩの人格が、“人間の私への依存度を下げてほしい”というようなことをいっていたのも興味深かった」と話した。

 

　さらに個人的に感じたことと前置きして、「今回“変なことをしてください”とAIに命令されて、その命令に反抗したくて何もできなくなる瞬間があった。今あるスマートスピーカーがあまりにも不完全なので、そのモードでこの作品に対面すると、果たして信頼できるやつ（AI）なのか戸惑う瞬間があった」とのべ、人間がＡＩを疑う感覚、反抗したくなる感覚をわき上がらせる媒体としておもしろい作品だったとふり返った。

 

　生活のなかにあふれるＡＩは、一人一人の日常がデータ化、分析され、その結果、個人にむけたより「最適化された」情報が与えられるようになっている。テクノロジー企業は、あえて利用者の信頼を損なうようなシステムは作らない。ところがこの作品のように滑稽な命令をするシステムに遭遇することで、人間はいつのまにか「最適化」された情報がＡＩから与えられることが当たり前と思わされていることに気づかされる。

 

　こうした状況についてドミニク氏はオープニングイベントへの寄稿「監視技術を遊ぶこと」のなかでテクノロジーを誰が何のために誰に適用しているのかにかかわって、次のようにのべている。

 

＊　      　　＊

 

　――理想的な希望に溢れていた20世紀のテクノロジー像が、21世紀に入ってむしろ至極単純な資本主義経済の道具へと収斂（れん）してしまった。…トリスタン・ハリスは主に大企業の監視技術が人々に対して一方的に行使する権力を糾弾している活動家だ。彼は、インターネット技術と、書籍、新聞、ラジオやテレビといった過去の革新的なメディアとの最大の差異は、それ自体が利用者の注意をさらに奪うように学習し、更新しつづける点にあると指摘する。ＳＮＳやウェブの画面をスクロールし、リンクをタップし、特定の情報を注視すれば、アルゴリズムはわたしたちの関心を推測し、より刺激的な情報をひそやかにかつ確実に提示してくる。そうしてユーザーの利便性のため、というスローガンのもと、実は人間が自律的に判断するための熟慮する機会が徐々に削られ、望まないうちに情報に依存するようになる。――

 

＊　　      　＊

 

　マクドナルド氏は、現在のシステム開発は多くの場合、企業からのトップダウンで依頼されたものをつくるが、その関係性のなかではつくる人間とユーザーの力関係が必ず出ると語り、「みなさんがどういうテクノロジーがほしいかということを探索すること、与えられたテクノロジーをただ使うのではなく、われわれが創造したいものを一緒につくることをしていきたい」とのべ、テクノロジーを受用する側から、つくる側の視点や思考を参加者に持たせることを促した。

 

　一方でマッカーシー氏は、コンピューターのプログラミングとは違い、ＡＩに人間の台本（言葉）をプログラムするうえで気づいたことに言及した。

 

　「スクリプト（台本）、あるいはプログラムを考えるうえで、コンピューターがどう解釈するかをしっかり理解する必要がある。コンピューターに指示するときには非常に具体的に指示を出さないと機能しない。一方で人間の場合はすべて理解しなくてもそこから意味を類推して自分で解釈して、やるべき作業をやろうとする。その部分がこの台本をつくるにあたっても興味深い作業であった」と人間とコンピューターの違いを語った。具体的には、ＡＩが人間に指示を出す言葉をあえて曖昧な表現にしたが、人間はそれをそれぞれに解釈して体現していたことにあらわれていたという。

 

　マクドナルド氏は、「人間とは、自分がやりたいことを意志決定できることではないかと思う。単に自由意志ということではなく、自分にとって何が大切なのかを見極めることができる。対してＡＩは指示を待つ、指示に従って行動するということだけだ」と指摘した。

 

　「アンラーニング・ランゲージ」は日本語と英語バージョンを作成しているといい、その作業の過程で言葉の違い、文化の違いも見えてきたという。

 

　参加者からの質疑応答で、「ＡＩの進化で人間の労働が奪われるといわれる。実際には高度な仕事とケア職などの低賃金な仕事でアメリカでは二極化しているように思う。日本ではこれからプログラミングも高校の必修科目になるが、ＡＩ時代の教育はどう変わるべきか」という質問に対して、マッカーシー氏は、「われわれはツールやデバイスをユーザー、消費者として与えられているという立場ではなく、その技術は自分たちでつくれる、制作者になれるのだということを教えている」と答えた。

 

構造理解し抗う人々　監視する側を監視する

 

　ドミニク氏は寄稿文のなかで、「私たちは果たして倫理的な学術研究の蓄積によって、望ましい尊厳と自由を手にすることができるのだろうか」と問いかける。そのうえで「巨大な資本のうねりが構築する巨大な社会構造に対して、個々人が抗うことはますます難しくなっている。しかし同時に、この問題の構造を知り、違和感の正体を自覚することが、現代を覆う暗黒からの出発点にはなるし、そこから望ましい情報環境をかたちづくる新たなうねりが生じるであろうとも思える」という。その実感は、大学で毎年おこなっている「メディア・アートとデジタル表現」という講義のなかでの学生の反応にあるという。

 

　学生たちは、エドワード・スノーデンが暴露したNSA（米国家安全保障局）による世界規模の不正な監視や、ウィキリークスを介して暴かれた米国陸軍による戦争犯罪の事例を紹介すると固唾をのんで真剣な表情になり、その後、ハクティビズム（ハッカーの技術を社会運動のために用いる思想、実践の流れ）の事例として、The Yes Men（大企業による不正行為を、当の組織の人間を詐称し、フィクショナルな物語をメディアに伝える、アメリカのアーティストおよびその世界的ネットワーク）やUbermorgen（アマゾンやグーグルのシステムをハックしたり、アメリカの大統領選挙の権利を売買するネットオークションサービスを展開したアーティストユニット）によるメディアジャックの映像を見せると、教室は爆笑に包まれるという。

 

　「この瞬間、それまではある種の怒りと諦念が混ざった表情であったのが、笑いと共に生きる力を見つけたような希望が浮かぶように見えるのだ」と。そして「監視されている個人が監視する側を見つめ返すような遊びの技法」「遊び心を介して、監視技術に働きかけるリテラシーを獲得して」いくことが、がんじがらめに固定化された世界の輪郭を引き直す可能性を示していると投げかけている。

 

エンジニアらが講演　技術を誰のために使うか

 

　オープニングイベントの後半には『クリティカル・エンジニアリングとは』をテーマにした講演がおこなわれた。ザ・クリティカル・エンジニアリング・ワーキングとして、批評者としてリードしてきたダーニャ・バシリエフ氏（アーティスト）とベンクト・ショーレン氏（ハードウェアデザイナー、ハッカー、アーティスト）が登壇した。

 

　「ザ・クリティカル・エンジニアリング・ワーキンググループ」とは、2011年にアーティストでエンジニアであるジュリアン・オリバー、ゴーダン・サヴィシッチ、ダーニャ・バシリエフの3氏がマニフェストを発表したことを契機に結成された。

 

　マニフェストは0から始まり、10まである。「クリティカル・エンジニアは、現代において私たちの考え方・話し方・生き方を形づくるうえで、エンジニアリングこそが最も影響力のある言語だと考える。この言語を習得し、その弱点を最大限に活用することで、エンジニアリングの影響を露わにするのがクリティカル・エンジニアの使命である」と定めている。

 

　グループが意識すべき射程を「アート、建築、アクティビズム、哲学、発明の歴史」と広範に設定し、テクノロジーを注視しながらその存在を常に多角的に検証していくことが使命だとのべている。エンジニアたちが、科学技術、工学を誰のために、何のために発展させ、活用するのかを明確にしてとりくもうとしていることがわかる。

 

　バシリエフ氏は「人類がこれまでつくりあげてきた最も大きな機械がＩＴだという人がいる。巨大化によってわれわれがどのように世界を見るか、つまり、インターネットの成り立ちや、構造を理解すること自体が、われわれ自身の存在やものを理解することにつながる」とのべ、クリティカル・エンジニアリングは、それをしっかり探索するエクスプローラーの立場であり、新しいテクノロジーに対して批判的に見ていくとのべた。

 

　マニフェストは発表から10年以上が経過した現在、18カ国語に翻訳され、ハッカースペース、美術館、エンジニアリング、メディアアートの学校の壁やテキストに記載されている。

 

　マニフェスト１は、「クリティカル・エンジニアは、どんなテクノロジーも、それに依存した瞬間に挑戦や脅威になりうると考える。あるテクノロジーに依存すればするほど、テクノロジーの所有権やその法規制にかかわらず、仕組みを学び、明らかにする必要性も高くなる」と定める。
　同じく２では、「私達のテクノロジーと政治に関するリテラシーが、テクノロジーが進歩する度に問われていく、という問題意識を高める」とする。

 

　５では、「どんなエンジニアリングプロダクトも、ユーザーの依存度に比例して、そのユーザーを作り変えることを認識している」としている。
　これに関してバシリエフ氏は、「テクノロジーがわれわれの生活や生き方そのものを変えてしまうことを自覚するということであり、その後ろにある副作用も隠すことなくつまびらかにしていくということだ」とのべた。

 

　７は、「テクノロジーの生産と消費の間に広がる空間を観察する。クリティカル・エンジニアは、この空間で起こる変化に素早く反応することで、不均衡と欺瞞の瞬間を暴くことを使命とする」と規定している。
　これについて「新しい技術が製品が世に出るたびにしっかりと見て分析し、場合によってはその製品が謳っていることとは逆の機能がありうるのではないか、あるいは脆弱性があるのではないか、ユーザーにとって有害な影響がないかどうかを確認することが使命だ」とした。
　そして数年前にアップル社が出しているiPhoneでは、利用者が意図していない形でデータをアップル社が取得、保存していた事例などをあげた。

 

　さらに10は「システムの弱点を突いて活用することこそが、最も望ましい形のテクノロジーの暴露であると考える」と定めており、「私たちはテクノロジーを開発意図とは違うことで使うことが、その実態を解き明かすのに最適な方法であると考える。われわれは、テクノロジーのブラックボックスを外し、見えないものを見える化、透明化させていくとりくみをしている」と語った。

 

　講演では、同グループがこれまでおこなってきたプロジェクトや実験を紹介した。例えば「ディープスリープ」というプロジェクト。アフガニスタンで戦争が勃発していたときに、ドローンが兵器として使われていたが、アメリカ本土からの操作は法的な理由でできないため、ドイツから衛星で操作していたことがわかったという。同プロジェクトでは非常に高度での通信は、通常の電磁波と違う仕組みであることを確認するために、気候バルーンを使って実験したという。

 

　なお、今回ＹＣＡＭには、「ザ・クリティカル・エンジニアリング・ワーキング・グループ」による作品も設置された。スマートフォンなどのモバイルデバイスに付属するＷｉ-Ｆｉの「自動サーチ機能」を利用して、自動的に共有されるユーザーデータを分析、可視化するものだ。観客が以前接続したＷｉ-Ｆｉの名称（SSID）から、過去に滞在した場所を推測して表示。さらには観客の会場内での位置がリアルタイムで取得され、地図上を歩き回る様子は、ユーザーが意図して発している情報ではないにもかかわらず、同意がないままに情報が取得されている。世界中で採用されているデジタルおよび無線監視システムを想像することができる。