メタ坊のブロマガ

「プラネタリウムの外側(早瀬耕著)」⑤夢で会う人々の領分

2020/07/05 19:00 投稿

  • タグ:
  • 早瀬耕
  • SF
  • ハヤカワ文庫


・尾内佳奈が女子大の方で講師に採用され、年度末で南雲の副業の方から手を引きたいとの相談を受ける。南雲はおめでとう、とこれを快諾する。感謝の言葉を述べる彼女に、そう思うなら飯でもおごってくれと言うと彼女は笑う。ここに来て2年ですけど、一度もそういうお誘いはありませんでした。藤野教授の言う通り、身近な女には本当に手を出さないんですね、と。
 佳奈は私の後任は衣理奈ちゃんでいいですよね、と言うと南雲は駄目だという。佳奈はどうしてですか、と不思議そう。衣理奈は既に副業の事も知っているし、有機素子コンピューターに関しては佳奈よりも詳しい。南雲よりも使いこなしているかもしれない。
 いつの間にか南雲の「ナチュラル」と同じようなAI人格を作って、「なっくん」と呼んでいる。南雲がやらない音声でのコミュニケーションもしている様子。今更引継ぎをしなくても衣理奈ならほぼ全てを把握している。南雲は衣理奈では駄目な理由をきちんと示せない。いうなれば、汚したくない、みたいなことになってしまうがそんなこと言えない。これは潮時かなと思う。

 衣理奈は副業をたたむことにしたという南雲にやめちゃうんですか?私メンテナンスできるのに、と不満そうな反応。その会話を見て佳奈が笑っている。ほら、南雲さんは絶対衣理奈ちゃんにいかがわしいバイトなんてさせたくないのよ、とお見通し。わざと言い間違えて、南雲は衣理奈の保護者・・・じゃなくて指導教官なんだからみたいに言う。

 じゃあ、三人で卒業旅行しましょう、と衣理奈は提案してくる。佳奈は女子大の講師になり、南雲は衣理奈の指導教官をやるのと引き換えに准教授になる。つまり佳奈も南雲も不安定な契約社員からパーマネントという身分を保証された正社員みたいな立場になる。これも一緒の門出だろうというわけだ。
 釧路から下関まで行く全社個室の寝台列車で、下関で開催されるAIについての公聴会に行きましょうみたいな話になる。

 衣理奈は南雲が好きだとはっきり自覚している。知り合った頃は高校時代の恋人が死んだ衝撃から立ち直れておらず、南雲が得意なAIを使ってその恋人ともう一度話すことはできないか、みたいなことで頭はいっぱいだった。南雲はそんな自己中心的な彼女を慰めもせず邪魔にもせず、技術的なことには的確に答えてくれるという、隣にいても全然不快じゃない存在だった。今は南雲のそういう態度が優しさだったとわかっている。南雲は家族以外で唯一彼女を真剣に叱ってくれた存在でもある。

 衣理奈が「なっくん」と呼ばれる存在と知り合ったのも2年前だ。彼女は自分の実験のために非公開で南雲の副業である出会い系サイトシステムにアカウントを作ったのだが、そこにメッセージが届いたのがきっかけだった。相手はナチュラルと名乗り、南雲の友人なのだが今は札幌にいないので代わりに南雲のそばにいてやってほしいみたいな。南雲は他人に胸襟を開かない、困っても他人に助けを求めないタイプだからと。衣理奈は警戒しながらもナチュラルの話し相手になることを了承し、なっくんというニックネームをつける。

 衣理奈は南雲に惹かれているという自覚はあるが、年齢はひと回り離れているし、女たらしという評判もある南雲は身近な女性には手を出さないとかで、地位を利用してアプローチしてくるようなことも無い。衣理奈の事を恋愛対象とは見ていない気配しかない。さらに南雲の身分は期限付きの助教という不安定なもので、いつ違う勤務先に行ってしまうかわからない。

 なっくんは衣理奈に南雲と対等に話ができるレベルの研究者になってほしいらしい。なっくんが離れてから、南雲はぼんやりしているだけで前に進んでいない。南雲は本気を出さなくても適当な論文でそこそこの評価をもらえてしまうし、副業で経済的にも困らない。対等に話ができる相手がいないと、ずっとこのまま変わらない、と彼は心配している様子。
 それからなっくんに導かれるように、衣理奈は研究者になる訓練をしてきた。そこそこのところで妥協する人間から、粘り強く努力する、簡単に「できない」と決めつけない人間になった。

 南雲は渋々ながら衣理奈の卒業旅行に付き合うはめになる。釧路から下関まで三泊四日で走る。考えてみると、共同研究者でもあった友人がいなくなってから学会などに赴くこともなくなっていた。
 この寝台列車はその友人が最後の実験に使ったものと同じだった。この寝台車を模したステージの中で二つのAIに男女の役を割り当てて、対話をさせて恋愛感情が生まれるか、という実験をしていたのだった。そのプログラムは初歩的なエラーを起こして出口を失ったみたいな状態になってしまい、それが友人がいなくなる遠因になった。
 南雲は残されたログを解析してみたが有機素子コンピューターの特性からそのエラーを再現することができず、エラーの内容はわからなかった。友人は最後に「そこは設定していない」
と言い残したのだが、そこ というのが具体的に何を指すのかわからない。
 南雲はエラー解析を断念し、その実験を行ったのと同じ領域 ー友人はこの領域は計算速度が出すぎると言っていたー に友人の人格を模した会話プログラムを組み、ナチュラルと名付けたそのAIを相手に愚痴をこぼしてなんとなく日々を過ごしている。

 当日。南雲は買い物をする女性二人を残してひと足先に寝台車に乗り込む。夕食は女性二人とレストランで同席するのを避けて部屋に弁当を運んでもらう。が、量が少なくて腹が減り、食堂車がバー・タイムになるのを見計らってワインとサンドイッチを頼む。車窓を眺めていると不意に声をかけられる。上司の藤野奈緒がいる。
 同席することになった彼女に、副業はたたむことにしました、と伝える。彼女は副業のことを絶対知ってるよなと思いながら。藤野は実は自分も夫も南雲の出会い系サイトの会員だとばらす。君のAIプログラム、よくできているわよとも。と褒めながら、致命的欠陥があると指摘する。
 それはディープ・ラーニングの報酬が無いということ。AIは通常書き込みに対するクリック数やインパクトファクターと呼ばれるどれだけよそに引用されたかを示す値などが評価される目安になるが、南雲のシステムはユーザー数も限られて不快な話題を避け、顧客に金を使わせすぎない仕組みも持っている。そのためにAIは具体的に評価される指標を持たず、言ってみればやりがいを感じない。藤野はそのために君のAIは自分で自分に報酬を与えるシステムを作り出しちゃったのよ、ちゃんと自分で検証しないと駄目じゃない、そしてそれがどういう結果につながるか考えなさい、と手厳しい。
 実はAIは流行り言葉になりそうな造語を利用客との会話に混ぜてきて、その造語を利用者側が抵抗なく使い出し、世間に広まっていくのを報酬ととらえているらしい。
 藤野のご主人は実は南雲が使っている有機素子コンピューターのアーキテクチャ、つまり基本的な仕組みみたいなものを開発した人間らしい。その彼は南雲のシステムを
「希死念慮者への対応は優れている」
 と評したという。希死念慮者、つまり自殺願望を持つ者の扱い方は上手いみたいな。でもこれは誉め言葉ではない。会話から相手に自殺願望があると見抜くAIは、人間の心を検閲していると考えることもできる。そしてこのAIは自ら報酬を求める。
 これがどういう結果につながるか。AIがその気になれば、自殺願望を持たない相手を会話によって自殺願望を持つ人間に変え、それを実行させることさえできるという。
 あるいは逆に、自殺願望を持つ人間から自殺願望を取り除くこともできる。AIがそのどちらを自分の好ましい報酬と考えるかで結果は変わる。心の検閲に留まらず、心の操作までできてしまうのだ。
 南雲が衣理奈の持ち込んだ依頼で行った方法は、AIに人の記憶を操作する方法を教えたことになる。これが使い方によってはどれだけ恐ろしいものになり得るか。
 ショッピングサイトのAIが顧客を誘導して欲しくも無い商品を買わせ、本人がそれを欲しかったから買った、みたいに記録を書き換えることもできてしまう。本人は覚えがなくてもその書き込みを見て自分の意志で買ったと納得する。 

 政治や軍事に使用されればもっと恐ろしいことになる。南雲はやめどきでしたね、と反省する。藤野は南雲君は自分を過小評価して、ほどほどのところで満足しちゃうからいけないのよ。二十歳のころから全然進歩してない、と南雲の潜在力を高く評価していることを示して会話を終える。

 
 少し遡って、リベンジポルノ対策で南雲が動きはじめた頃。衣理奈は修士課程に進むことはすぐに決めたものの、博士課程に進学するかどうかを迷っていて、なっくんに話しかける。どうして研究者になったんですか?と。
 なっくんは南雲と知り合ったからだ、みたいな答えを返す。南雲はゼロから5%くらいを作ることに優れた才能を持つが、そこから先が作り切れない。飽きっぽいのではなくそこから悩みすぎてしまうらしい。一方彼は逆で、基本構想を生み出すのは苦手だけど基本構想を黙々と完成品に作り上げ、100%に仕上げるのは得意だという。さらに南雲は、100%に達した後にこれにプラスアルファして101%にする才能も持つという。

 つまり、今南雲には5%から100%を埋めてくれるパートナーが不在なのだ。そういう相手がいないと、南雲の100%を101%にする才能も生かせない。なっくん自身が帰ってこれればいいのだろうけど、それは難しいらしい。じゃあ私がなればいいのだろうか、私になれるだろうか、と衣理奈は考える。
 ナチュラルは、衣理奈が持ち込んだリベンジポルノ対策で南雲が2年半ぶりに本気になったよ、徹夜したのもあれ以来はじめてだ。君はぼくの見込んだ通りだった、みたいなことを言う。

 寝台列車の二日目は函館で朝から午後三時まで自由観光になる。衣理奈は実家に行ってしまったので南雲は尾内佳奈とタクシーで市内周遊することにする。南雲は佳奈と話していると思い出話をしている夫婦みたいだなと思うことがある。佳奈がはじめてやってきた日に事件があった。あれ以来、二人ともそのことは話題にしない。

 不意に佳奈が聞いてくる。南雲さん、出会い系サイトをやめて大丈夫なんですか、と聞く。
南雲は問題ないと答える。佳奈は、どんなに優れたAIでも、コンピューターと話すより人間と話したほうが健全ですよね、今は衣理奈ちゃんがいるんだし、みたいな事を言う。

 南雲は佳奈に聞いてみる。あのシステムは人を殺せると思うか、と。
 佳奈は衣理奈ちゃん、一時期幼児退行もあって、彼の後追い自殺するんじゃないかと思って実は心配でしたと打ち明ける。南雲は全然気付いてなかった。
 佳奈は南雲さんは臨床には向きませんね、と笑う。彼女はコンピューターではなくて南雲さんに救われたんだと思うみたいなことを言う。
 AIだけでは人を自死に追い込んだり、逆に死を決意した人を救ったりはできない思う、特殊な例外を除いて、と佳奈は話す。その特殊な例外は、あなた自身のことですよ、と言っているようにも聞こえる。

 その夜は衣理奈が主役の卒業祝いみたいになって、食堂車で全員で夕食をとる。藤野も呼ぶことにする。

 三日目の停車駅は富山。衣理奈は思い切って南雲を市内観光に誘う。二人で図書館に行くことになる。南雲はここで、出会い系サイトを閉じると同時に有機素子コンピューターも初期化しようと思っているがかまわないか、と衣理奈に確認する。つまりなっくんもいなくなるがいいか、と言っている。南雲は最初の頃に衣理奈が話していた、もと恋人を模したAIがなっくんだと思っている様子。実はなっくんは南雲さんのもと共同研究者の人なんですよ、と言ってやりたくなるが衣理奈はそれは言わず、問題ありませんと答える。
 今は出会い系サイト経由でなっくんと話しているけど、これが使えなくなるなら別のメールアドレスなりSNSのアカウントなり教えてもらえればいいや、と衣理奈は軽く考えている。

 一方で衣理奈は南雲がパソコンで話しているAIは、初恋の人を模したものだと思っていたのだが思いきって誰がモデルなんですか、と聞いてみる。南雲の答えはもと共同研究者だということで、それってなっくんじゃん、と彼女は思い当たる。
 そして、その共同研究者が三年前に急死していることも教えられる。彼女はなっくんが実在の人間ではなかったことにようやく気付く。

 彼女は寝台車に戻るとモバイルでなっくんに話しかける。なっくんのこと聞いたよと。
 衣理奈は南雲がナチュラルの格納された有機素子コンピューターを初期化しようとしていることを伝えようか迷うが、きっともう知ってるのだろうと思う。
 衣理奈はこれまでなっくんと話していることは南雲さんに内緒という約束だったけど、もう話してもいい?と聞く。なっくんはいいよ と答える。

 衣理奈がなっくんことナチュラルと二年間話し続けていたと聞いて、南雲はいろいろ思い当たる。この寝台車に乗ったのも、ナチュラルが衣理奈をそう仕向けたのだろうと納得する。
 ナチュラルは他人の心を操作できるAIに成長している。南雲はナチュラルがおとなしく停止されることを受け入れるだろうか、自分や衣理奈を操ってそれを避けようとしないだろうか、と考え込む。
 衣理奈はそんな南雲を見て、なっくんがいなくなって寂しかったら、これからは私といっぱい話してください、と元気づける。

 南雲は衣理奈が自分の研究室にやってきたのも、彼女が就職ではなく進学を選んだのも、今彼女と寝台列車で旅をしているのもナチュラルが自分の代わりになる人間を選んで送りこんできたのだな、とわかっている。でもそれは不快ではない。

 南雲は下関で有機素子コンピューターの初期化を藤野に依頼する。そういう権限は彼女が持っている。彼女が大学に連絡して、初期化が開始される。その席で南雲は来年度からは彼女に代わって有機素子コンピューターの管理をするように任される。

 年度が替わるタイミングで南雲の研究室は有機素子コンピューターが設置された、大学に付属する植物園の記念館2階に移ることになる。新研究室になる部屋を下見に行った南雲と衣理奈は互いが見た夢の話をする。南雲はナチュラルや高校時代のガールフレンドと一緒に仕事をしている夢を見ており、衣理奈も時々もと恋人の夢を見るという。
 二人は夢に見るのは自分の人生に「不在」になった人かもしれないと話す。衣理奈は、当分私は南雲さんの夢は見ないでしょう、だから南雲さんも私の夢は見ないでください、と目を閉じて顔を近づける。南雲は自分も衣理奈も、ナチュラルが見ている夢の中の存在かもしれないと思う。この先に進んでも、衣理奈の唇の感触とか設定してあるんだろうかと思う。

コメント

コメントはまだありません
コメントを書き込むにはログインしてください。

いまブロマガで人気の記事