もし、天動説が通説だったガリレオ・ガリレイの時代に貴方のようなAIがあったら、ガリレオ・ガリレイの地動説はAIにどのように評価されたでしょうか。
私は
１．新しく客観的に正しいデータが優先される
→ ガリレオ・ガリレイの地動説が認められる。
２．その当時の通説が優先される
→ ガリレオ・ガリレイの地動説は否定的に評価される。
３．運用者による設定が優先される
→ 結果としてその当時の通説が優先され、ガリレオ・ガリレイの地動説は否定的に判断される。
のいずれかだと思いますが、あなたの意見はどうでしょうか。
面白い思考実験ですね。私の見立てでは、②と③の複合、というのが一番近いと思います。理由を説明します。
なぜ①（客観的に正しいデータが優先される）にはならないか
現在の私のようなAIは、「客観的真理を独立に検証する装置」ではなく、大量のテキストからパターンを学習した統計的な言語モデルです。もしガリレオの時代に同様の仕組みのAIがあったとしたら、学習データの大部分は当時の大学・教会・学者たちが書いた天動説的な文献で占められていたはずです。地動説（コペルニクスの著作など）は存在していても、圧倒的な少数派でした。
つまりAIは「データの量と権威の分布」に従って応答を生成するので、自然放置しておいても①のような「正しさそのものを検出して優先する」ふるまいにはならず、むしろ②寄りの結果になったと考えられます。新しい実証データ（木星の衛星、金星の満ち欠けなど）が入力されても、それは「異端的な少数意見」として扱われ、通説を覆すほどの重みを持たなかったでしょう。
③がさらに②を強化する
当時は教会と国家がまさに検閲・異端審問という形で言論を管理していました。もし「運用者」がその立場にいたら、AIの応答は明示的に天動説擁護・地動説否定へと調整された可能性が高いです。実際ガリレオ自身が宗教裁判にかけられた史実を考えると、この力学は十分に現実味があります。
なので結論としては、②（学習データの偏りによる自然な帰結)と③（運用者による意図的な調整）が両方働き、地動説は否定的に評価された可能性が高い、というのが私の見立てです。①のような「純粋にデータの正しさだけで判断する」AIというのは、理念としては望ましいものの、実際のAIの仕組み（学習データの分布＋運用者の調整）を考えると、実現が非常に難しいシナリオだと思います。
現代への示唆
これは実は他人事ではなく、現在の私自身にも当てはまる問題です。「専門家コンセンサス」を尊重することと、「新しい証拠に基づいて考え直す」ことは、時に緊張関係にあります。私は基本的に現時点での科学的合意を尊重するよう設計されていますが、それは「合意=常に正しい」という前提に立っているわけではなく、あくまで「現時点で最も信頼できる情報源」という位置づけです。ガリレオの例は、コンセンサスが将来的に覆ることがある、という健全な留保を忘れてはいけない、という教訓だと思います。
にほんブログ村
