創造論とインテリジェントデザインをめぐる米国を中心とする論争・情勢など

否定論・陰謀論を信じる理由>誤謬・詭弁

架空の証拠からの一般化という誤謬


「架空の証拠からの一般化(Generalization from Fictional Evidence)」あるいは「フィクションへのアピール(Appeal to fiction)」と呼ばれる誤謬がある。これは「映画や小説などのフィクションから引き出した証拠に基づいて、現実についての論を主張する」論理誤謬である。

人は、「現実とフィクションを直接取り違える」ことはまずないが、「フィクションを過去事例のごとく扱う(語る)」という形で、この誤謬を犯すことがある。良く知られた例は、AIに関する「ターミネーター」や「マトリックス」、独裁政権に関する「1984年」である。

AIに関する歴史的事例と化す「ターミネーター」
Do movie-viewers succeed in unbelieving what they see? So far as I can tell, few movie viewers act as if they have directly observed Earth’s future. People who watched the Terminator movies didn’t hide in fallout shelters on August 29, 1997. But those who commit the fallacy seem to act as if they had seen the movie events occurring on some other planet; not Earth, but somewhere similar to Earth.

You say, “Suppose we build a very smart AI,” and they say, “But didn’t that lead to nuclear war in The Terminator?” ... The movie is not believed, but it is cognitively available. It is treated, not as a prophecy, but as an illustrative historical case. Will history repeat itself? Who knows?

映画を鑑賞した人々は、自分が見たものを現実のことと信じていないだろうか? 私の知る限り、映画を見て、地球の未来を直接観察したかのように振る舞う者はほとんどいない。ターミネーターの映画を見た人々は、1997年8月29日にフォールアウトシェルターに非難することはなかった。しかし、誤謬を犯した人々は、他の惑星で起こっている映画のイベントを見たかのように振る舞う。地球ではなく、地球に似た場所だ。

キミは言う「我々が非常にスマートなAIを構築したとしよう」 彼らは言う「しかし、AIはターミネーターのように核戦争を引き起こさないか?」... 彼らは映画を現実のこととして信じていないが、認知的には使っている。予言としてではなく、実例となる歴史的事例として。歴史は繰り返すだろうか? そんなことは誰も知らない。

[ Eliezer Yudkowsky: "The Logical Fallacy of Generalization from Fictional Evidence" (2007/10/16) ]

AIの行く末について議論を方向付けてしまう「マトリックス」
The “preliminary” step of locating possibilities worthy of explicit consideration includes steps like: weighing what you know and don’t know, what you can and can’t predict; making a deliberate effort to avoid absurdity bias and widen confidence intervals; pondering which questions are the important ones, trying to adjust for possible Black Swans and think of (formerly) unknown unknowns. Jumping to “The Matrix: Yes or No?” skips over all of this.
...
If you start out by thinking of The Matrix, it brings to mind marching robot armies defeating humans after a long struggle—not a superintelligence snapping nanotechnological fingers. It focuses on an “Us vs. Them” struggle, directing attention to questions like “Who will win?” and “Who should win?” and “Will AIs really be like that?” It creates a general atmosphere of entertainment, of “What is your amazing vision of the future?”

明確に検討する価値のある可能性を見つけるための「予備的な」ステップには、次のようなステップがある。不条理な偏見を避け、信頼区間を広げるために慎重な努力をする。どのような問いが重要かを考え、(まず起きないが、起きると壊滅的被害をもたらす)ブラックスワンの可能性を調整し、もともとは未知なる未知について考える。しかし、「マトリックスはありか、なしか」に飛びつけば、そのようなステップはすべて吹き飛ぶ。
...
マトリックスについて考えることから始めると、それは、超知能がナノテクノロジーを操るのではなく、長い闘いの後に人間を打ち負かすロボット軍の行進を思い起こさせる。それは「我々 vs 彼ら」の闘争に焦点を当て、「誰が勝つか」「誰が勝つべきか」「AIは本当にそのようなものになるのか」のような問いに注意を向ける。それは、「あなたの素晴らしい未来のビジョンは何ですか?」というエンターテインメントの一般的な雰囲気を作り出す。

[ Eliezer Yudkowsky: "The Logical Fallacy of Generalization from Fictional Evidence" (2007/10/16) ]


独裁政権についてのジョージ・オーウェルの「1984年」

独裁政権について、さまざまな事例・証拠的に扱われるのが「1984年」である。共産主義批判作品だが、あくまでも、フィクションであり、過去事例ではないにもかかわらず、事例的に扱われる作品である。

If you want a picture of the future, imagine a boot stamping on a human face—forever.

もし未来の描像が欲しければ人間の顔を踏みにじるブーツを想像しろ……それが永遠に続くのだ


Orwell's Nineteen Eighty-Four is brilliant, terrifying and useful. It's been at its best fighting against governmental intrusions, and is often quoted by journalists and even judges. It's cultural impact has been immense. And, hey, it's well written.

But that doesn't mean it's accurate as a source of predictions or counterfactuals. Orwell's belief that "British democracy as it existed before 1939 would not survive the war" was wrong. Nineteen Eighty-Four did not predict the future course of communism. There is no evidence that anything like the world he  envisaged could (or will) happen. Which isn't the same as saying that it couldn't, but we do require some evidence before accepting Orwell's world as realistic.

Yet from this book, a lot of implicit assumptions have seeped into our consciousness. The most important one (shared with many other dystopian novels) is that dictatorships are stable forms of government. Note the "forever" in the quote above - the society Orwell warned about would never change, never improve, never transform. In several conversations (about future governments, for instance), I've heard - and made - the argument that a dictatorship was inevitable, because it's an absorbing state. Democracies can come become dictatorships, but dictatorships (barring revolutions) will endure for good. And so the idea is that if revolutions become impossible (because of ubiquitous surveillance, for instance), then we're stuck with Big Brother for life, and for our children's children'c children's lives.

ジョージ・オーウェルの1984年は、素晴らしく、恐ろしく、そして使える。政府の介入に対する最高の戦い状態であり、ジャーナリストや裁判官によって引用されることもよくある。文化的影響は計り知れない。そして、本当によく賭けている。

しかし、そのことは1984年が、予測あるいは半事実のソースとして正確であることを意味しない。「1939年以前に存在していた英国の民主主義は戦争を生き残れない」というオーウェルの信念は間違っていた。1984年は共産主義の未来の進路を予測してはいなかった。彼が想像した世界のようなことが起こる可能性がある(または起こる)という証拠はない。ありえないと言っているのではない。オーウェルの世界を現実的なものとして受け入れる前に、それなりの証拠が必要だ。

しかし、この本から、多くの暗黙の仮定が我々の意識に浸透している。(他の多くのディストピア小説と共有されている)最も重要なものは、独裁政権が安定した形の政府であるということだ。上記の引用の「永遠」に注意しておこう。オーウェルが警告した社会は決して変わることはなく、決して改善することはなく、決して変容しない。いくつかの会話(たとえば、将来の政府について)で、独裁は吸収状態であるため、独裁は不可避だという議論を聞いたことがある。「民主主義は独裁政権になる可能性があるが、(革命でも起きない限り)独裁政権は永続する。したがって、(たとえば、遍在する監視のために)革命が不可能となっているなら、我々は生涯、そして子供たちの子供たちの子供たち生涯も、ビッグブラザーに固執し続ける」という考えである。

[ Stuart_Armstrong: "Orwell and fictional evidence for dictatorship stability" (2013/05/24) ]

過去と現在を改竄し、言論どころか、思考の自由すら破壊していく、独裁者という個人の実在すら不要としていく、政治体制というフィクション。とても示唆的であり、教養として知るべき作品でもあるので、さまざまに「証拠」として利用される。


なお、Eliezer Yudkowskyによれば]]、この「架空の証拠からの一般化」が、事実とフィクションの区別がついていながら、フィクションを証拠として扱うのに対して、逆に歴史的事実をフィクションのごとく扱う誤謬もある。
The inverse error is to treat history as mere story, process it with the same part of your mind that handles the novels you read. You may say with your lips that it is “truth,” rather than “fiction,” but that doesn’t mean you are being moved as much as you should be. Many biases involve being insufficiently moved by dry, abstract information.

逆の誤謬は、歴史を単なる物語として扱い、心情敵には読んだ小説と同じように扱うものである。「フィクションではなく事実である」と口では言うかもしれないが、それは実際に「事実」によって心が動かされるというほどは、心を動かされていない。夢夢感想な抽象的情報によって十分には心動かされないことなど、多くのバイアスを含む。

[ Eliezer Yudkowsky: "Making History Available" (2007) ]
歴史を知らないわけでも、改竄修正するわけでもないが、歴史の重みを無視・軽視するという誤謬である。







コメントをかく


「http://」を含む投稿は禁止されています。

利用規約をご確認のうえご記入下さい

Menu

サブメニュー

kumicit Transact


管理人/副管理人のみ編集できます