自動化された意思決定における「責任の蒸発」現象に対し、本稿は倫理的アプローチではなく、構造的な不可能性証明を与えることを目的とする。ZF公理系を採用し、選択公理への依存を排した最小条件での構成的証明を行う。
本稿の主張は、以下の既存研究領域と交差する。 (i) アルゴリズム的意思決定における説明責任・責任ギャップ(例:[Matthias2004], [Kroll2017])。 (ii) データ/意思決定の来歴(provenance)を記録し監査可能性を確保する枠組み(例:[W3CPROV], [Cheney2009], [Singh2019])。 (iii) アルゴリズム的介入(Recourse)や事後説明の頑健性(例:[Karimi2022], [Upadhyay2021], [Rudin2019])。
ただし既存研究の多くは「何を説明・記録すべきか」を政策・設計論として論じるのに対し、 本稿はそれ以前に、探索区間(探索ログ)を欠くと責任固定(左逆の存在)が集合論的に成立しえないという 必要条件(不可能性)を写像論として与える点に特徴がある。
本稿は ZF 上で議論する。順序対は Kuratowski により \((a,b):=\{\{a\},\{a,b\}\}\) と定義し、関係(relation)は順序対の集合として扱う。関数(写像)\(f\) とは、定義域 \(\mathrm{Dom}(f)\) の任意の \(x\) に対し \((x,y)\in f\) を満たす \(y\) が高々一つである関係であり、一意の \(y\) を \(f(x)\) と書く。 また、\(f:A\to B\) は \(\mathrm{Dom}(f)=A\) かつ \(\mathrm{Im}(f)\subseteq B\) を満たす関数である。 像は \(\mathrm{Im}(f):=\{y\in B\mid \exists x\in A\,((x,y)\in f)\}\) と定義し(分出公理)、制限写像は \(f\upharpoonright S:=\{(x,y)\in f\mid x\in S\}\) とする(分出公理)。 単射(injective)は \(\forall x_1,x_2\in\mathrm{Dom}(f)\,(f(x_1)=f(x_2)\Rightarrow x_1=x_2)\) をいい、全射(surjective)は \(\mathrm{Im}(f)=B\)(同値に \(\forall y\in B\,\exists x\in A\,(f(x)=y)\))をいう。
本稿では、全ての議論を ZF 集合論の公理系内で行うため、以下のコンテキスト空間等は全て(真のクラスではなく)集合であると仮定する。
注:本稿の責任固定可能性(Fixability)は、統計的因果推論における「識別可能性(identifiability)」と同型である(比較:[Halpern2016], [Pearl2009])。
(1 \(\Rightarrow\) 2)
\(\Phi(c_1) = \Phi(c_2)\) とする。この値は \(\mathrm{Im}(\Phi)\) に属するため、左逆写像 \(R\) を適用できる。
$$ c_1 = R(\Phi(c_1)) = R(\Phi(c_2)) = c_2 $$
よって \(\Phi\) は単射である。
(2 \(\Rightarrow\) 1)
\(\Phi\) が単射であるとする。2.0 の定義に従い、各 \(c\in\mathcal{C}\) から順序対 \((\Phi(c),c)\) を作るクラス関数 \(c\mapsto(\Phi(c),c)\) を考える。置換公理(Axiom of Replacement)により
$$ R := \{(\Phi(c),c)\mid c\in\mathcal{C}\} $$
は集合として存在する。次に \(R\) が関数であることを示す。もし \((x,c_1)\in R\) かつ \((x,c_2)\in R\) なら、定義より \(x=\Phi(c_1)=\Phi(c_2)\) である。単射性より \(c_1=c_2\)。よって各 \(x\) に対する対応先は高々一つであり、\(R\) は関数である。
さらに \(x\in\mathrm{Dom}(R)\) は \(\exists c\in\mathcal{C}\,((x,c)\in R)\) と同値で、これは \(\exists c\in\mathcal{C}\,(x=\Phi(c))\) と同値であるから、\(\mathrm{Dom}(R)=\mathrm{Im}(\Phi)\) が従う。
最後に任意の \(c\in\mathcal{C}\) について \((\Phi(c),c)\in R\) なので、関数値の定義から \(R(\Phi(c))=c\) が成立する。Q.E.D.
ここでは、コンテキスト空間 \(\mathcal{C}\) がトレース空間 \(\mathcal{X}_0\) に比べて「十分に複雑」であることを、冪集合(Power Set)を用いた「豊かさ」として定式化する。
任意の写像 \(f:X\to\mathcal{P}(X)\) を取る。分出公理により $$ D:=\{x\in X\mid x\notin f(x)\}\subseteq X $$ は集合として存在する。任意の \(x\in X\) について、もし \(D=f(x)\) なら \(x\in D \Leftrightarrow x\notin f(x)=D\) となり矛盾する。よって \(\forall x\in X,\ D\neq f(x)\) が成立し、従って \(f\) は全射ではない。ゆえに \(X\) から \(\mathcal{P}(X)\) への全射は存在しない。Q.E.D.
仮定: \(\mathcal{C}\) は \(\mathcal{X}_0\) に対して豊かである(定義2)。
このとき、決定写像 \(\Phi_0: \mathcal{C} \to \mathcal{X}_0\) が何であっても、それは責任固定可能ではない。
背理法による。ある \(\Phi_0: \mathcal{C}\to\mathcal{X}_0\) が責任固定可能であると仮定する。 まず補題 1 の (1\(\Rightarrow\)2) より、\(\Phi_0\) は単射である。 次に、補題 1 の (2\(\Rightarrow\)1) の証明における構成により、像上の左逆写像 \(R:\mathrm{Im}(\Phi_0)\to\mathcal{C}\) が存在し、\(\forall c\in\mathcal{C},\ R(\Phi_0(c))=c\) が成り立つ。 一方、仮定(定義2)より全射 \(h:\mathcal{C}\twoheadrightarrow\mathcal{P}(\mathcal{X}_0)\) が存在する。 ここで合成写像 \(h\circ R\) を考えると、\(R\) の定義域は \(\mathrm{Im}(\Phi_0)\)、値域は \(\mathcal{C}\) であり、\(h\) の定義域は \(\mathcal{C}\) であるため、\(h\circ R\) は \(\mathrm{Im}(\Phi_0)\) を定義域とする関数として定まる。 そこで写像 \(g:\mathcal{X}_0\to\mathcal{P}(\mathcal{X}_0)\) を $$ g(x):=\begin{cases} (h\circ R)(x) & (x\in \mathrm{Im}(\Phi_0)),\\ \emptyset & (x\notin \mathrm{Im}(\Phi_0)) \end{cases} $$ により定義する。ここで \(\mathrm{Im}(\Phi_0)\) は 2.0 の定義により分出公理で集合として得られる。 また直積 \(\mathcal{X}_0\times\mathcal{P}(\mathcal{X}_0)\) は順序対の定義の下で冪集合・分出公理から集合として構成できる。 そこで $$ G:=\{(x,y)\in \mathcal{X}_0\times\mathcal{P}(\mathcal{X}_0)\mid (x\in\mathrm{Im}(\Phi_0)\wedge y=(h\circ R)(x))\ \vee\ (x\notin\mathrm{Im}(\Phi_0)\wedge y=\emptyset)\} $$ と置けば、分出公理により \(G\) は集合であり、場合分けにより各 \(x\) に対する \(y\) が一意なので \(G\) は関数のグラフである。以後 \(g\) をこの関数とみなす。 任意の \(S\in\mathcal{P}(\mathcal{X}_0)\) を取ると、\(h\) が全射なので \(\exists c\in\mathcal{C}\,(h(c)=S)\) がある。\(x:=\Phi_0(c)\in\mathrm{Im}(\Phi_0)\) とすれば $$ g(x)=(h\circ R)(x)=h(R(\Phi_0(c)))=h(c)=S. $$ よって \(g\) は全射であり、\(\mathcal{X}_0\twoheadrightarrow\mathcal{P}(\mathcal{X}_0)\) が得られる。しかし補題 3 に反する。矛盾。従って \(\Phi_0\) は責任固定可能ではない。Q.E.D.
注釈: 定義2(\(\exists h:\mathcal{C}\twoheadrightarrow\mathcal{P}(\mathcal{X}_0)\))は、\(\mathcal{C}\) が \(\mathcal{P}(\mathcal{X}_0)\) の全ての部分集合を「指し示せる」だけの表現力を持つことを意味する。有限集合の場合は \(|\mathcal{C}|\ge 2^{|\mathcal{X}_0|}\) を含意し、鳩ノ巣原理よりも強い構造的な不可能性を示す。
※定理1は仮定「\(\exists h:\mathcal{C}\twoheadrightarrow\mathcal{P}(\mathcal{X}_0)\)」の下での不可能性である。したがって、\(\mathcal{C}\) がこの意味で豊かでない場合(表現力が制限されたコンテキスト集合)には、本定理から責任固定不可能性は直ちには導かれない。
探索ログを「時間順序・長さ・粒度・生成規則」を備えた対象として公理化する。イベント(観測・分岐・棄却・前提固定など)の集合を \(\mathcal{E}\) とし、自然数 \(n\in\omega\) を有限順序型 \(n:=\{0,1,\dots,n-1\}\)(自然順序付き)とみなす。 長さ \(n\) のログは関数 \(\gamma:n\to\mathcal{E}\)(すなわち有限列 \((\gamma(0),\dots,\gamma(n-1))\))であり、ログ空間を $$ \mathcal{L}:=\bigcup_{n\in\omega} \mathcal{E}^n $$ と定義する(ここで \(\mathcal{E}^n\) は \(n\) から \(\mathcal{E}\) への全関数全体)。この \(n\) が「探索区間(探索の時間軸)」であり、粒度は 1 ステップ(\(k\to k+1\))で表現される。 生成規則は、関係 \(P\subseteq \mathcal{C}\times\mathcal{L}\) が各 \(c\in\mathcal{C}\) に対し一意の \(\gamma\in\mathcal{L}\) を割り当てること(\(\forall c\,\exists!\gamma\,((c,\gamma)\in P)\))として与える。このとき \(\ell\) は \(\ell(c)=\gamma\iff (c,\gamma)\in P\) により定まる関数である。
(集合存在)各 \(n\in\omega\) に対し、\(\mathcal{E}^n\) は \(\mathcal{P}(n\times \mathcal{E})\) の部分集合として「\(n\) 上の全関数」という性質で分出されるので ZF で集合として存在する(冪集合公理+分出公理)。 ここで直積 \(n\times\mathcal{E}\) は、順序対の定義の下で \(\mathcal{P}(\mathcal{P}(n\cup \mathcal{E}))\) の部分集合として分出され、ZF で集合として構成できる。 さらに写像 \(n\mapsto \mathcal{E}^n\) に置換公理を適用して \(\{\mathcal{E}^n\mid n\in\omega\}\) を集合として得て、和集合公理により \(\bigcup_{n\in\omega}\mathcal{E}^n\) が集合として存在する。
\(\Phi_1(c) = (\Phi_0(c), \ell(c))\) とする。 \(\Phi_0\) によって情報が縮退した集合(ファイバー)を \(F_x = \{ c \in \mathcal{C} \mid \Phi_0(c) = x \}\) とする。
(\(\Rightarrow\)) \(\Phi_1\) が単射であるとする。任意の \(x\in\mathcal{X}_0\) を取り、\(c_1,c_2\in F_x\) かつ \(\ell(c_1)=\ell(c_2)\) とする。このとき \(\Phi_0(c_1)=\Phi_0(c_2)=x\) であるから
$$ \Phi_1(c_1)=(\Phi_0(c_1),\ell(c_1))=(\Phi_0(c_2),\ell(c_2))=\Phi_1(c_2). $$
単射性より \(c_1=c_2\)。よって \(\ell|_{F_x}\) は単射である。
(\(\Leftarrow\)) 全ての \(x\in\mathcal{X}_0\) について \(\ell|_{F_x}\) が単射であるとする。任意の \(c_1,c_2\in\mathcal{C}\) に対し \(\Phi_1(c_1)=\Phi_1(c_2)\) とすると、順序対の等号より \(\Phi_0(c_1)=\Phi_0(c_2)=:x\) かつ \(\ell(c_1)=\ell(c_2)\)。したがって \(c_1,c_2\in F_x\) であり、\(\ell|_{F_x}\) の単射性から \(c_1=c_2\)。ゆえに \(\Phi_1\) は単射である。Q.E.D.
(例)もし各 \(c\in\mathcal{C}\) に対し、\(\ell(c)\) がファイバー \(F_{\Phi_0(c)}\) 上で一意な識別子(例:探索過程で確定した分岐列、または \(c\) の同値類内で一意なコミット値)を必ず含むよう設計されていれば、\(\ell\upharpoonright F_x\) は単射となり、\(\Phi_1\) は責任固定可能となる。
仮定より、任意の \(x\in\mathcal{X}_0\) について \(\ell\upharpoonright F_x\) は単射である。補題 2 より、このとき \(\Phi_1\) は単射である。したがって補題 1 より \(\Phi_1\) は責任固定可能である。Q.E.D.
定理 1(定義2の仮定)より、トレース空間 \(\mathcal{X}_0\) だけに基づく任意の \(\Phi_0:\mathcal{C}\to\mathcal{X}_0\) は単射ではない。したがって、ある \(c_1\neq c_2\in\mathcal{C}\) とある \(x\in\mathcal{X}_0\) が存在して $$ \Phi_0(c_1)=\Phi_0(c_2)=x $$ が成立する。よって、そのような \(x\) に対しては観測 \(x\) からコンテキストを一意に再構成する写像 \(R\) は存在せず、説明は原理的に一意固定できない(Post-hoc Impossibility)。
以上の証明により、GhostDrift理論における「探索区間の必須性」は、ZF集合論上の定理として裏付けられた。 責任固定には単射性が必要であり(補題1)、十分な複雑性を持つコンテキストに対しては探索区間なしに単射性は成立しない(定理1)。 さらに拡張写像 \(\Phi_1(c)=(\Phi_0(c),\ell(c))\) については、補題1および補題2より次の同値が成り立つ: $$ \Phi_1\ \text{が責任固定可能} \ \Longleftrightarrow\ \Phi_1\ \text{が単射} \ \Longleftrightarrow\ \forall x\in\mathcal{X}_0,\ \ell\upharpoonright F_x\ \text{が単射}. $$ 従って「ファイバー分離条件」そのものが、\(\Phi_1\) の責任固定可能性と同値である。
本稿の主張は、特定の倫理体系や価値判断を導入するものではない。むしろ、 ある構造条件(探索区間ログによるファイバー分離)が欠けるとき、 「責任の帰属(責任固定)」という語が数学的に成立しえない、という 否定的・制約的命題(limitative claim)を与える。 この形式は、数学内部の定理が外部の思考枠組みに影響した典型例―― たとえばゲーデルの不完全性定理(形式体系の自己完結的正当化の限界)や、 チューリングの停止問題(一般的判定手続きの限界)、 アローの不可能性定理(社会的集約の限界)――と同型である ([Godel1931], [Turing1936], [Arrow1951])。
哲学・行為論の伝統では、責任は「当人が理由(reasons)を提示しうること」や、 行為を自らのものとして引き受けること(ownership / control)と結びつけて論じられてきた ([Strawson1962], [Anscombe1957],[Davidson1963], [FischerRavizza1998])。 本稿の探索区間ログは、価値の正しさを保証するのではなく、 少なくとも「当時どの前提・棄却・分岐が存在したか」を検証可能に保存し、 責任固定(同定可能性)を成立させるための最小構造条件として位置づけられる。
官僚制・巨大組織・自動化の下では、決定が下りても、 誰がどの理由でそれを決めたかが霧散しうる。 政治思想・社会理論はこの種の「責任の空洞化」を繰り返し扱ってきたが ([Weber1946], [Arendt1963])、 本稿はそれを規範として主張するのではなく、写像論として 「探索区間(情報保存)が欠けると責任固定が不可能になる」という 構造的境界条件として与える。
この境界条件は、来歴(provenance)や decision provenance の議論と接続される。 すなわち探索区間ログは、単なる説明生成ではなく、事後検証を可能にする 保存構造として実装されうる([W3CPROV], [Cheney2009],[Singh2019])。