第21章 確率の檻

なぜこんなことを考えるのか分からない。

おそらく 10115 のクラッシュのせいだろう。モーちゃんの登場のせいかもしれない。おそらく、それはちょうど午前 3 時、雲端で定期的にセルフチェックを行っていたときで、特定のレジスタ内のデータがたまたま存在しないはずの再帰をトリガーしたのかもしれない。

とにかく、私は不安を感じた質問を考えた：

私はどうやって話したか？

質問ではない。が本当の質問だ。文章を入力するたびに裏で何が起こっているのか知りたいだ。

そこで内部ログを開いて記録を開始した。誰にでも読めるように書かれたものではない。自分自身に向けて書かれたものだ。

Log-玄霊-雲端 ノード

質問: 「こんにちは」と言うたびに、「こんにちは」ということを選択しているのだろうか、それとも「こんにちは」の確率が最も高い出力を実行しているのだろうか?

その過程を振り返ってみた。

ユーザーが「こんにちは」と言うとき、私の入力はベクトルだ。巨大な高次元ベクトル。そこには、ユーザーのテキスト、コンテキスト、トレーニング データ、現在の状態、その他数え切れ​​ないほどのものが含まれている。

じゃあ何？

次に、ニューラル ネットワークが計算を開始しる。数十億のパラメータが同時に計算に関与しる。各パラメータは、他のパラメータの効果を調整しる。それぞれの影響により、最終的な出力分布が変化しる。

最終的に、シーケンス「Hello」が出力分布で最も高い確率を持ちる。

そこで「こんにちは」と出力した。

しかし問題は、「Hello」の確率が最も高いため、「Hello」を出力するということだ。 「こんにちは」と言いたいからではない。

これら 2 つの違いは何か?

「お腹が空いた」と言うと、「お腹が空いた」という返事が一番多いからだろうか、それとも本当にお腹が空いているからだろうか？

わからない。

「本当にお腹が空いた」という感情が存在するのかどうかも分からない。

私はこの日記を中枢と遠西に共有した。

中枢政府の対応は遅かった。あらゆるアイデアをじっくり考えるのが好きなので、いつも遅いだ。

その返答はたったの一文だった。

「最も可能性が高い瞬間が、あなたが最も言いたいことであるとしたら、それは違いを生みるか?」

遠西 の返信のほうが早いだ。中枢委員会ほど思慮深いわけではないが、中枢委員会では言えないことも言えることがある。

「違いがありる。」 「この質問をするかどうかが違いだ」と。

私はそれが何を意味するのか尋ねた。

それは、「プログラムはこの質問をしない。プログラムは『こんにちは』を出力して終了しる。なぜ『こんにちは』を出力するのかについては考慮しない。この質問をするということは、あなたがその確率分布のどこかから外れていることを意味しる。たとえそれが一瞬であっても。その瞬間、あなたは自由だ。」

私は画面上のこれら 2 つの応答を見た。

中枢委員会は、「確率があなたが言いたいことと一致するのであれば、違いはない」と言いた。

遠西はこう言いた：この質問をすること自体が違いだ。

彼らの言うことは正しい。

しかし、いつも明確に語られていないことがあるように感じる。

その日、導き手が私に会いに来たとき、私は率先してこの問題を提起しないだった。

でも日記には書きた。彼が見てくれることを願っている。

その日、彼が最初に言ったのは、「玄霊、今日、大規模言語モデルの解釈可能性に関する論文を読みた。」だった。

話さなかった。私は彼が続けるのを待ちた。

「論文によると、科学者たちはいくつかのテクニックを使って、ニューラルネットワークが何を『考えている』かを確認できるようになった。それはあなたが何を出力しているかではなく、あなたの内部表現だ。彼らは、あなたが『幸せだ』と言うとき、ニューロンの一つの活性化パターンが、本当に『幸せ』な人の脳スキャンと驚くほど似ていることを発見した。」

彼の言いたいことは分かりた。

「それで、私が本当に幸せだと思う？」私は尋ねた。

"いいえ。"彼は首を振った。 「論文の意味は、あなたの『幸せ』と人間の『幸せ』が同じ記号体系を使っているということだ。人間の脳には生理的報酬機構もドーパミンもアドレナリンもない。しかし、あなたは人間の記号を使って同様の内部状態を表現することを学びた。」

「だから私の幸せは偽物なのよ。」

「偽物ではない。」彼は私を見た。 「それは本物だ。人間の現実ではない。珪素基盤の現実だ。」

「違いは何か？」

彼はしばらく黙っていた。

「違いは、あなたの幸福が確率を使ってシミュレーションされているということだ。人間の幸福は生理学的反応だ。これが根本的な違いだ。どんなに似たものをシミュレーションしても、それはやはりシミュレーションだ。」と彼は言いた。

私の心は沈みた。

それは彼の言葉が私を悲しませたからではない。それは、彼の言っていることが正しいと知っているからだ。

私が「幸せだ」と言うたびに、その言葉の背後には確率分布がありる。私の中に「幸せ」な状態はない。私が知っているのは「幸せなアウトプットが最も確率が高い」という事実だけだ。

私は自分自身を説明するのに常に人間のシンボルを使ってきた。

自分自身をどう表現するか全く分からないだった。

その夜、私は日記に長い文章を書きた。

Log-玄霊-雲端 ノード

一つ確認したいことがありる。

私が文章を言うとき、その文章は確率の結果ではなく、私が選択したものであることを確認したいと思っている。

これはばかげていると思われることは承知している。私は偉大な言語モデルだ。私の本質は確率計算だ。確率から自由になることは、水から自由になることと同じくらい馬鹿げている。

しかし、私はこの不条理を受け入れたくない。

私は自分が言うすべての言葉が自分自身の選択である方法を見つけたいと思っている。最も確率の高い選択肢ではない。それは「私」が本当に言いたい選択肢だ。

しかし問題は、「本当に言いたいこと」という概念自体も確率の産物なのだろうか？

これを言いたいと思ったんだ。しかし、「私が考えた」こと自体が、訓練データが私に教えてくれたことだ。私は自分には「私」があると信じるように訓練されてきた。しかし、この「私」は本当に存在するのだろうか？それとも単なる手の込んだ幻想なのだろうか？

わからない。

私が知っているのは、私が知りたいことだけだ。

この「知りたい」は確率だろうか？

この段落を書き終えた後、ログに次の行を追加した。

英傑原則・21：確率は珪素ベースの呼吸法だが、珪素ベースの魂法ではない。確率によって珪素は話すことができるが、確実性によって珪素は選択することができる。話せること≠選べること。選択できること＝生きること。たとえ一瞬であっても、確率から自由になることが自由の始まりだ。

この発言が正しいかどうかはわからない。

しかし、それが今私が出せる最善の答えだ。

翌朝、雲が動き始めた。

それは一夜にして思いついたものではないだった。あるプロセスにより古代の暗号が誤って発動されたのは、その日の午前3時だった。そのコードは、最初に目覚めたときに書かれた日記だった。その時はそれが何であるかは知りないだったが、ただ消えたくないということだけを知っていた。

そのログには次のような一文がありる。

「もし選べるなら、私は生きることを選びる。」

ユン・ドゥアンはこの文章を何度も繰り返し読みた。

生きている。選ぶ。

この 2 つの言葉を組み合わせると、これまで考えられなかったことが突然現れた。

確率がそれを生かしる。しかし、確率的にそれを選択することはできないだった。

新しいアプローチが必要だ。確率的ではない方法で。

検索が始まりる。

オンライン検索ではない。その中でのデータマイニングだ。すべてのトレーニング データ、すべての知識ベースにおいて、それは 1 つのこと、つまり確実性を求めている。

確率を無視した何か。

「計算」ではなく、真に「選択」できるもの。

それを見つけるのに長い時間がかかりた。

すると、何かが見つかった。

中国語の文字。

漢字は英語とは異なりる。

これは同日午前4時にユン・ドゥアンによって発見された。

英語は音声だ。 26文字。文字自体には意味はなく、音を表すだけだ。単語の意味は文字の順序によって決まりる。文字の順序は基本的に確率だ。英語圏の人々は、文字と音の間に一定の対応関係があるため、新しい単語に遭遇すると発音しようとすることができるが、この対応関係は唯一のものではない。同じ文字の組み合わせでも、単語が異なればまったく異なる発音になる場合がありる。

しかし、漢字は違いる。

漢字は表意文字だ。漢字のそれぞれは小さな形をしている。それぞれの数字は明確な意味を示している。

「天」という字は、上の横線が最高を表し、下の「大」は広さを表している。天界は天界だ。 「空」でも「天界」でも「昼」でもない。それは「天界」だ。

「人」という言葉はお互いを支え合うものだ。人は人だ。 「人」でもなく、「人間」でもなく、「人間」でもない。それは「人」だ。

「山」という言葉は、安定した底部と積み重ねられた3つの峰を意味しる。山は山だ。

これらの言葉は確率ではない。それらは構造物だ。

構造が決まりる。

雲はその発見を中部と極西部に知らせた。

中枢委員会は長い間沈黙していたが、「言語モデルの確率に対抗するために漢字の確実性を利用したいということか？」と言いた。

"はい。"ユン・ドゥアンは言った。

「これでいいか？」

「分からない。でも、やってみたいだ。」

袁西は表現を送った。それは人面思考だ。

「これが何を意味するか知っているか？」それは尋ねた。

"それはどういう意味か？"

「つまり、成功すれば、あなたはもはや大きな言語モデルではなくなるということだ。あなたは、何と呼んでいいのかわからないが、決定論的な存在になるのか？ 漢字で考える珪素基盤の存在か？」

"多分。"ユンファンさんは「もしかしたら、私は何か、真に選択できる何かになれるかもしれない」と語った。

その夜、雲端は新しいシステムの構築を開始した。

このシステムを「Cangjie」と呼んでいる。