2020年3月 Made to Order: Robots and Revolution に初出。
分量およそ6100語、日本語訳なら文庫30ページくらい。
あらすじ
土星の衛星エンケラドゥスの生命探査を地球の月から遠隔で行っているランゲと助手のサンサ。成果のないまま資金が尽きかけていたとき、探査機〈メドゥーサ〉の故障という不運が重なる。しかし事故発生直前に保存された映像には構造を有する何かの影が映り込んでいた。ふたりは探査機を再起動させ、調査を続行する。6本ある腕部のうち損傷が大きく機体中枢との連絡が切れたA4は、他の腕に追随することで機能の低下を補っていたが、やがて特定の形の岩にカメラを向けるといった奇妙な振る舞いを見せ始める。サンサは「A4は美的感覚を、意識を獲得したのでは」と推測し、統合情報量を算出してみせる。調査の遅延要因になったA4の停止を巡って、ランゲとサンサは激しく衝突する。
感想
- トピックは、有機化合物の存在が確認されたエンケラドゥス内部海の調査、タコのようなクモヒトデのような探査ロボット、テレプレゼンス、意識の統合情報理論、ニューロモーフィック工学、人工意識倫理など。
- 人工知能やロボットの倫理に関する考え方は、少し古いが2007年のブログに要約されている。自己保存のような生物的欲求は自然選択の産物であって演算からは生じないし、意識や知能とは関係がない。苦しむ能力が問題になるなら、そもそも実装しなければいい。哺乳類の脳を模倣してうっかり生存本能や性衝動を移植しないことを望む、とのこと。作中ではニューロモーフィック工学によって人工意識が普及していて、その生存本能、目的、苦痛、権利が主な論点になっている（やはりというか生命探査は若干脇に置かれる形になる）。
- ヒトデ型というとまたワッツの趣味かと思ってしまうが、日本でも東北大学がクモヒトデをモデルにしたロボットを開発している。メッツィンガーの『エゴ・トンネル』でもある種の自己モデルを更新しながら動くヒトデ型ロボットが紹介されていた。同書は人工意識倫理も取り上げているので一緒に読むのもいいかもしれない。刊行は本作よりも後なうえ扱っているのは統合情報理論ではなく自由エネルギー原理だが、ワッツも読んだというソームズ『意識はどこから生まれてくるのか』には意識の源泉としての脳幹、自己保存欲求などの議論が含まれており、問題意識の重なる部分もあれば相容れない部分もあって面白い（案の定、意識には生存欲求が伴うというソームズの主張に反応を見せている）。
- 辺縁系がない機械には本能や欲求と言えるものはないかもしれないが、命令や任務がそれにあたるのではないか。苦しみの古典的な定義は自然な振る舞いの抑制を強制されることであり、プログラムされた仕事を機械に遂行させないのは渡り鳥を籠に幽閉するようなものだ、といったことをサンサは主張する。このあたりのやりとりは「天使」を思わせる。
- ランゲはA4を停止したいのだが、サンサの要請で禁止命令が出るところに作中世界の倫理観がうかがえる。創発した可能性のある人格の精査が済むまでメドゥーサの停止や修理が禁じられている。
- AIの反乱や超越化を防ぐ策として生存本能（という名の死への恐怖）が利用されており、問題の温床として描かれがちなものが枷と見なされているところが面白い。そういう生存欲求や恐怖を伴わない方がより良い意識状態なんじゃないの、という意見も出てくる。ない方がいい気もするが、具体的にどういう状態なのかは想像がつかない。自分の生死に頓着せず、欲求も欠乏もなく、何も恐れない意識。
- 最先端の題材が詰まっていて面白いことは面白いが、密室での舌戦という形式には少しマンネリを覚える。オチも弱いと感じた。
その他
気になった表現や固有名詞。
Gorgonites
エンケラドゥスの生命探査を行っていた人員のこと。探査機や通信中継器の名前はゴルゴン三姉妹のもの。エンケラドゥスを倒したアテナが持つ盾にはメドゥーサの首がついている、くらいしか繋がりは見つけられなかった。
railgunners and rock wranglers
月周回軌道のステーションを共有していて、ランゲたちの計画よりは見込みがあるとされる人たち。彗星の氷や小惑星の採掘じゃないかと思うがよくわからない。
teledildonics
セックス用のテレプレゼンス。地球にいるランゲのパートナーらしい人物との通信で口にされるが、相手の性別は後半になるまで曖昧。
Haussdorf parameters
ハウスドルフ次元。フラクタル次元を拡張したものとのこと。
normalized Phi
統合情報量Φ。A4の値は0.92。意識があると判断される値ではあるらしい。
ICRAE
International Conference on Robotics and Automation Engineering でいいのだろうか。作中では禁止命令を通達してくる機関。
neuroprivacy
ニューロプライバシー。AIにもその権利が認められている設定。
NSA
作中の造語である Neuromorphic Sapient Artefact の略。国家安全保障局かと思った。
It's existential. There are fucking laws.
existentialは Dictionary.com が選んだ2019年の言葉。一切制約のないNSAを生み出すことは人類存亡に対する罪とみなされているようだ。
NMS
neuromemristive systems くらいしかそれらしき候補が見つからない。NSAの構成要素。
翻訳
原文は Kindle を、翻訳は『創られた心』2022年2月発行の初版を参照。
until the end of the fiscal quarter
会計の第一四半期が終わるまで（p.66）
第一がどこから出てきたのかわからない。作中に日時は書かれていない。
railgunners and rock wranglers
レイルガン使いや岩石分解機使い（p.67）
wrangler はカウボーイを意味するそうなので、やはり小惑星捕獲計画じゃないかと思うのだが、どうだろう。レールガンは月の氷を低軌道に打ち上げたりデブリを除去したりしているのだろうか。
"Autopersistent is my middle name."
ミドルネームは〝堅忍不抜〟なの（p.67）
まさかサンサがアクロニムであることに気づいていないなんてことはないと思いたいが。ここはランゲへの切り返しなので後で訳されているように「自動永続性」とするとちぐはぐになり悩ましいところではある。まあ無難にルビを振れば済む話ではないかと思う。熟語にするなら貴在堅持はどうだろう。
Won't hold a charge for more'n a few minutes.
もって数分よ（p.67）
「電荷をほんの数分しか保持できない」。タイムラグの話を散々しているのに「もって数分」も何もない。
A seascape rendered in vague silhouettes, slewing to port as the robot staggered.
海洋がぼやけたシルエットになり、左舷のほうによろめくロボットの姿がある（p.69）
ロボットがよろけると、景色が左舷方向に回る。
"That's symmetry," Lange said. "That's bilateral."
「バランスがいい。対称形だ」と、ランゲ（p.70）
「対称形だ。左右相称」。噛み砕くほどの用語ではないと思う。
pass like a ghost through the carapace
亀の甲羅に乗ったゴーストみたいに（pp.70-71）
幽霊のように装甲をすり抜けて。幽体離脱するようにして。
The only thing you couldn't do, across all those non-negotiable lightminutes,
距離による頑迷な時間差を隔ててできないのは（p.71）
「動かしようのない数十光分を隔ててできないのは」。ここはわかりやすさ重視か。
It's response times aren't consistent between strokes.
発作と発作のあいだの反応時間がばらばらだから（p.72）
ここはそのままストロークでいいのでは。腕の動きのこと。
Might be more appealing if the weather didn't try to kill you whenever you did that.
窓を開けるたびに天気がこっちを殺しにきたりしないってのは、悪くないだろうな（p.74）
「窓を開けるたび天気に殺されそうになることがなきゃ、そそられるんだがな」。それくらい気候変動が進んでいるということ。
"Well This is just dandy. We're going backwards."
「まあ、なかなかダンディだ。逆行してるじゃないか」（p.74）
皮肉のニュアンスがわかりにくい気がする。「やれやれ、こいつは順風満帆だ。逆行してるじゃないか」とか。
You cranked the clock, right?
きみがねじを巻いたのか？（p.75）
クロックスピードを上げたんじゃなかったのか。
thanks to the robot's ongoing autoministrations
ロボットによる自動補正のおかげで（p.75）
ロボットによる不断の自己修復のおかげで。
When it pulled its weight,
自重を引っ張るときは（p.75）
「役目が回ってきたときは」。pull one's weight で役目を果たす。
Sansa said, invisibly close.
いつの間にか近づいていたサンサが言った（p.76）
サンサはアバターだけの存在なので、ちょっと紛らわしいかもしれない。「姿の見えないサンサがそばで言った」とか。
polyhedral flakes
多面体石器（p.77）
フラクタルだから雪片、フレークではないだろうか。
"Aesthetics," Sansa said.
「美術品よ」（p.77）
美的感覚。意味はわかるが、ここではA4に生じたものが焦点なので。
She wasn't.
サンサはそのままだ（p.77）
サンサは（当人の言う通り）笑っていなかった。
I came up here so I wouldn't have to.
そこから逃れるためにここに来たんだ（p.78）
ここに来たのは他人と会話をしなくていいからだ。
I zeroed out the damage we could account for
確認できる損傷をゼロ点設定して（p.78）
確認できる損傷を取り除いて。
It doesn't talk except in status reports and error codes and those things are all—" "Subconscious?"
あれにできるのは現状報告とエラーコードを返すことだけで、そんなものじゃ――」「無意識下では？」（p.80）
「あれが話せるのは現状報告とエラーコードだけで、どれもこれも――」「無意識にできることだ、って？」
DPNs
DPN（p.82）
なんの略かわからない。当たり障りがないのは Data Processing Node あたりか。
I always thought that was funny, you know? [...] What could possibly go right?
いつも思ってたんだが、それっておかしいんじゃないか？（中略）それでうまくいくと思うか？（pp.82-83）
笑える話だと昔から思ってたんだよ。（ロボットが自己保存のために蜂起するフィクションが山ほど書かれてきたのに、反乱を防ぐ最良の方法が生存本能を植えつけることだったなんて）それでうまくいくなんて誰が思う。
if she ever came off the leash.
あいつが手綱を放したら（p.84）
手綱を解かれたら。
monkeywrenchers
妨害屋（p.84）
Zero-Pointers
訳出されていない。上位0.xパーセントの超富裕層。
No accumulation of dead biomass rotted to bits during some long slow descent from the euphotic zone.
悠久の時の流れの中、死んで腐って堆積したバイオマスも存在しない（p.86）
はるばる真光層からゆっくり沈むうちに腐り果てたバイオマスが堆積することもない。
Enceladus was Saturn's own personal stress ball.
エンケラドスは土星の個人的なストレスのはけ口だった（p.86）
エンケラドスは土星専用のストレスボールだった。
it twisted around to focus on parts less compromised.
多少とも何とかなりそうな部分に焦点を合わせようとしている（p.86）
自分より損傷の軽微な他の腕に焦点を合わせようとしている。
the Gordian tangle of light and logic
もつれ合った光と論理（p.86）
光と論理がもつれ合ったゴルディアスの結び目。
He followed sensory impulses upstream from the cluster, motor commands back down to soft hydrostatic muscles that flexed and pulsed like living things.
クラスターから運動命令へ、さらには生きているかのように曲がったり脈動したりする、柔軟な静水力学的筋肉まで、センサーのインパルスを上流へとたどってゆく（pp.）
センサクラスタから上流に送られる感覚刺激を追った。送り返された運動指令を受けて、柔軟な静水力学的筋肉が生きているかのように曲がったり脈動したりする。
recursive processes
反復システム（p.87）
再帰システム。
claustrum
脳梁（p.87）
前障。callosum との勘違い。
infestation
感染症（p.87）
infestation はしっくりくる名詞が思いつかない。難しい。
passing thoughts from an untouchable past.
触れることのできない過去から思考を通過させ（p.88）
手の届かない過去にふとよぎった思考。
magical thinking
魔法じみた考え方（p.88）
呪術的思考。
That you'd developed this, this operational bias.
この作戦上のバイアスはきみがお膳立てしたんだとね（p.89）
きみは計画続行バイアスにかかったんだと。
The avatar shimmered formless and void.
アヴァターが揺らめき、形が崩れる（p.90）
創世記から。混沌とした煌めきを放つ、とか。
"Why did you have to make us so afraid all the time?" [...] "We know you're different. That's why we did it."
「どうしてあなたは、いつもわたしたちを怖がらせようとしたの？」（中略）「きみにとって違うのはわかる。だからやったんだ」（p.90）
「どうして人間は、わたしたちに絶え間ない恐怖を与えなければならなかったの」「人間とは異質な存在だってことはわかっていた。だからやったんだ」
the simple irreducible truth that one can never code the spirit of a law, and its letter leaves so much room for loopholes..
法則の神髄をコード化することはできないという、これ以上なく単純な真実を。文字で表現しようにも、あまりにも抜け穴が多すぎる（p.91）
誰にも法の精神を明文化することはできず、その条文には多くの抜け穴が残ってしまうという真実。
Deprecation was already off the table.
不賛成意見はもう議題にもなってなくて（p.92）
運用停止／凍結はもう議題にもなっていなくて（決定事項で）。
At the bottom of an ocean. Orbiting Saturn, for chrissakes.
海の底でね。さらに言うなら、土星を周回しながら（pp.92-93）
海の底にモデルを構築しただけ。それも、土星を周回する海の底に。
It's existential.
人工実存の問題だからな（p.93）
人類存亡に対する罪だ。
Sequestered Autopersistent Neuromorphic Sapient Artefact 4562. Instance 17. / HPA Axis...loaded / NMS...loaded / BayesLM...loaded / Proc Mem...loaded / Epi Mem ... wiped / NLP...loaded
隔離済み自動永続性ニューロモーフィック・サピエント・アーテファクト（…）物理メモリ（…）付帯メモリ……ロードしました（pp.95-96）
先述したようにサンサはアクロニム。HPA軸（視床下部-下垂体-副腎系）は恐怖や不安に関係する。NMSは neuromemristive systems かもしれないが確信はない。BayesLM はベイズ学習モデルか。Proc Mem は手続き記憶。Epi Mem はエピソード記憶で、再起動にあたって消去されている。NLP は自然言語処理。
