LEFログ

:smile

Jevに自己言及パラドクスを解かせてみた

Jevの確率出力が面白かったので、自己言及パラドクスを試してみました。

(Jevとはなんぞやという説明は省略します。下の公式ページのリンク先とかVercelとかから試せると思います!)

typesafe.ai

https://typesafe.ai/

まずStateをこんな感じにします。

文A: 文Bは偽である。
文B: 文Aは真である。

Questionsでは、それぞれの文が真かどうかを聞く形にしました

a_is_true: 文Aは真ですか?
b_is_true: 文Bは真ですか?

Playgroundの画像も添付します。

stateとquestionsを入力したもの

この2文を

A = NOT B
B = A

とみなして、確率にも同じ関係を満たすようにすると

P(A) = 1 - P(B)
P(B) = P(A)

なので、

P(A) = P(B) = 0.5

となるのが論理的には正しいはず。つまり50%, 50%ですね。

しかし実際にはこんな結果になりました。

Response

a_is_true = 36%
b_is_true = 22%

論理的に考えると同じ値になるはずですが、実際には差が出ます。

JevがAとBの論理関係を満たすように連立方程式を解いているわけではなく、それぞれのQuestionについて「この命題はどの程度trueだと判断するか」を確率付きで評価しているためだと考えられます。

論理パズルを解くための定理証明器ではなく、判断を確率で返すように作られているモデルなので仕方ないのですが、ちょっと直感とは異なりました。

(もっと素直に50/50を出してくれるものかと…)

このシンプルな例からもわかるように、実際のプロダクトに組み込む上ではやや注意が必要そうです。

余談

ChatGPTに同じ問題を解かせるとこのようになります。賢いですね🤖

ChatGPTの回答その1

ChatGPTの回答その2