券売機(自動機械)は経験をもたないが,切符売場の男は経験をもっている。このことは,与えられた刺激は,機械においては常に同じ反応をびきおこすが,人間においては違った反応を生じさせる,ということを意味している。あなたが逸話を話すと聞き手は「私が初めてその話を聞いた時に,どんなに笑ったかをご存じでしょう」と答える。けれども,あなたが冗談を聞くと笑う自動機械を造ったとすればきっと前に聞いたことのある冗談をいくら繰返したとしてもその度に笑うことであろう。,あなたは,恐らく,もし唯物論的哲学を採用したくなったらこのことを考えれば恐らく慰めを見出すであろう。
The automatic machine has no experience; the man at the ticket office has experience. This means that a given stimulus produces always the same reaction in the machine, but different reactions in the man. You tell an anecdote, and your hearer replies: "You should have heard how I laughed the first time I heard the story." If, however, you had constructed an automatic machine that would laugh at a joke, it could be relied upon to laugh every time, however often it had heard the joke before. You may, perhaps, find this thought comforting if you are tempted to adopt a materialistic philosophy.
出典: Bertrand Russell : Mind and Matter (1950?)
詳細情報:https://russell-j.com/beginner/19501110_Mind-Matter080.HTM
<寸言>
AIロボットを作り改良していけば、同じ刺激でも過去のデータやノウハウ等の蓄積の変化(増減)によって反応が異なるものを作ることができるであろう。しかし、完全に自分でデータを収集し、自分で判断するAIロボットを作って改良していけば、将来、人間をほろぼしてしまうことも考えられる。そうならないようにプログラミングしておけば、AIロボットの発達も限界がでてくる。 どちらの方向に進むか? 人間をほろぼすAIロボットを作る科学者が現れても不思議ではないが・・・?