Sentient 기계의 신화
오늘날의 최고 기술자와 과학자 중 일부는 동기가있는 기계의 결과로 발생할 가능성이있는 종말론 적 시나리오에 대해 매우 공개적으로 우려를 표시합니다. 두려운 것은 스티븐 호킹 (Stephen Hawking), 엘론 머스크 (Elon Musk), 빌 게이츠 (Bill Gates)와 같은 지적인 거물들이다. 기계 학습 분야의 진보는 곧 우리를 파괴하려는 자기 인식 AI를 곧 만들어 낼 것이다. 쓰레기 같은 바람막이 와이퍼에 의해 지워지고있어. 사실 호킹 박사는 BBC에 "완전한 인공 지능의 개발은 인류의 종말을 예고 할 수있다"고 말했다.
실제로 미래의 인공 지능이 심각한 피해를 입힐 수 있다는 것에는 의심의 여지가 없습니다. 예를 들어, 로봇이 전에 본 것과 달리 엄청나게 위험한 자율 무기로 작동하도록 프로그래밍 할 수 있다고 생각할 수 있습니다. 또한 인터넷을 통해 확산되는 제약없는 소프트웨어 응용 프로그램을 상상하기 쉽고, 가장 효율적이고 전세계적인 매체에 의존하는 매체를 심하게 망칠 수 있습니다.
그러나이 시나리오는 기계가 우리를 켜고, 우리를 물리 치고, 우리를 노예로 만들거나, 우리를 근절하기로 결정한 것과는 완전히 다릅니다. 이와 관련하여 우리는 의심의 여지없이 안전합니다. 슬픈 메모에서 우리는 언젠가 우리와 친구가되거나 그렇게하도록 지시받지 않고 사랑을 보여줄 로봇을 언젠가는 가질 수 없습니다.
AI가 그러한 의도적 인 행동을하는 것은 의심 할 여지없이 마음을 요구하기 때문입니다. 의도적 인 것은 무언가가 자신의 신념과 욕망과 동기를 소유 할 때만 발생할 수 있기 때문입니다. 이러한 기능을 포함하는 인공 지능의 유형은 과학 공동체 사이에서 "강력한 인공 지능"으로 알려져 있습니다. 정의에 따르면, 강력한 인공 지능은 모든 인간인지 능력을 소유해야합니다. 이것은 인간 인식의 모든 특징이기 때문에 자각, 지각 및 의식을 포함합니다.
반면에 "약한 인공 지능"은 비 지각 AI를 의미합니다. 약한 AI 가설에서는 디지털 컴퓨터 프로그램에서 실행되는 로봇은 의식 상태, 정신, 주관적 인식 및 선택의 여지가 없음을 명시합니다. 그러한 인공 지능은 세계를 질적으로 경험할 수 없으며, 지능적인 행동을 보이는 것처럼 보일지라도, 마음의 결여로 영원히 제한됩니다.
이 강약 / 약한 구별의 중요성을 인식하지 못하면 Hawking과 Musk의 실존 적 걱정에 기여할 수 있습니다. 우리 모두는 이미 강력한 인공 지능 (인공 AI)을 개발하는 방향으로 나아가고 있다고 믿습니다. 그들에게 그것은 "if"의 문제가 아니라 "when"의 문제입니다.
그러나 현재의 모든 AI는 근본적으로 약한 AI이며, 이것은 오늘날 컴퓨터의 의도적 인 행동이 전혀없는 것으로 반영됩니다. 좀 더 복잡하고 상대적으로 설득력있는 로봇이 살아있는 것처럼 보일지라도, 면밀한 검토를 통해 공통 포켓 계산기처럼 동기가없는 것으로 드러납니다.
두뇌와 컴퓨터가 매우 다르게 작동하기 때문입니다. 둘 다 계산하지만 단 하나만 이해합니다. 그리고 이것이 변하지 않을 것이라고 믿을만한 몇 가지 이유가 있습니다. 강력한 인공 지능이 현실화되는 과정에서 기술적 인 장애물이있는 것으로 보입니다.
튜링 머신은 사고 기계가 아닙니다.
모든 디지털 컴퓨터는 바이너리 시스템입니다. 이는 서로 다른 기호 (이 경우 1과 0)로 표현되는 두 가지 상태로 정보를 독점적으로 저장하고 처리한다는 것을 의미합니다. 자연의 흥미로운 사실은 이진수를 사용하여 대부분의 것을 표현할 수 있다는 것입니다. 글자, 색깔, 모양, 이미지, 심지어는 거의 완벽한 정확성을 갖춘 오디오까지도 포함 할 수 있습니다.
이 두 기호 시스템은 모든 디지털 컴퓨팅이 기반이라는 기본 원칙입니다. 컴퓨터가하는 모든 일에는 두 가지 기호를 어떤 방식으로 조작하는 것이 포함됩니다. 따라서, 이들은 실제적인 유형의 튜링 기계, 즉 기호를 조작하여 계산되는 추상적이고 가상의 기계로 생각할 수 있습니다.
튜링 머신의 연산은 "구문 론적"이라고 말합니다. 즉, 기호를 인식하고 기호의 의미가 아닌 의미를 의미합니다. "인식"이라는 단어조차도 주관적인 경험을 암시하기 때문에 오해의 소지가 있습니다. 따라서 컴퓨터가 기호에 민감한 반면 뇌는 의미 이해가 가능하다고 단순히 말하면됩니다.
컴퓨터의 속도, 메모리의 양 또는 프로그래밍 언어가 얼마나 복잡하고 높은지는 중요하지 않습니다. Jeopardy와 Chess playing champions Watson과 Deep Blue는 근본적으로 전자 레인지와 동일하게 작동합니다. 간단히 말해서 엄격한 기호 처리 기계는 절대로 기호 이해 기계가 될 수 없습니다. 영향력있는 철학자 존 서울 (John Searle)은 1980 년에 출판 된 이래로 "구문론은 구문론이 구문에 충분하지 않다"는 생각을 품고있는 그의 유명하고 논쟁의 여지가 많은 "중국 방 논쟁"에서 유추하여이 사실을 똑똑하게 묘사 해 왔습니다. 그리고 일부 밀교 적 반박 가장 많이 쓰이는 것은 시스템 응답이다. 아무도 성공적으로 구문과 의미 사이의 간격을 좁히지 않는다. 그러나 중국의 방 논쟁만을 토대로 완전히 확신하지 못한다하더라도 Turing 기계가 기계 조작을 상징하는 기호이며 기계를 생각하지 않는다는 사실은 변하지 않습니다. 십 년 넘게 위대한 물리학자인 Richard Feynman이 취한 입장입니다.
Feynman은 맹목적으로 지침 (소프트웨어 프로그램)을 따르는 무한히 바보 같은 파일 담당자 (중앙 처리 장치)가 관리하는 컴퓨터를 "영광스럽고 수준 높은 매우 빠르고 그러나 어리석은 파일 시스템"이라고 설명했습니다. 여기 사무원은 단일 문자 또는 숫자조차 전혀 개념이 없습니다. 컴퓨터 휴리스틱에 관한 유명한 강연에서 Feynman은 진정으로 지능적인 기계의 가능성에 관해 심각한 의구심을 나타 냈습니다. "우리가하는 일이나 생각과 같은 추상적 인 단계에 대한 일련의 단계를 정의하는 방법을 아는 사람은 아무도 없습니다."
이러한 점들은 우리가 결코 강력한 AI, 즉 진정한 지능 인공 조공을 성취 할 수 없다고 믿을 수 밖에없는 강력한 이유를 제시합니다. 아마도 가장 정확한 뇌 시뮬레이션이 마음을 열지는 못하며, 소프트웨어 프로그램도 의식을 생산하지 못합니다. 엄격한 이진 프로세서의 경우 카드에 없을 수도 있습니다. 질적 인 감각과 같은 주관적인 경험이나 심리적 현상을 만들어내는 기호 나 계산을 처리하는 것에 대해서는 아무 것도 없습니다.
이 말을 듣고 "컴퓨터가 의식적 일 수 없다면 뇌는 어떻게 될 수 있는가?"라고 물어볼 수도 있습니다. 결국 물리 법칙에 따라 작동하는 순전히 물리적 인 물체입니다. 심지어 컴퓨터처럼 정보를 처리하기 위해 전기적 활동을 사용합니다. 그러나 어떻게 든 우리는 주관적으로 세상을 경험합니다. 그것은 우리에게만 접근 할 수있는 내적, 질적, 감각적 인 감각이 발생하는 1 인칭 관점에서입니다. 예를 들어 예쁜 소녀를 보거나 맥주를 마시거나 못을 밟거나 변덕스러운 오케스트라를들을 때의 느낌을 생각해보십시오.
사실, 과학자들은 여전히이 모든 것을 파악하려고 노력하고 있습니다. 생화학 및 전기 과정과 같은 물리적 현상이 감각과 통일 된 경험을 만드는 방식은 "의식의 어려운 문제"로 알려져 있으며 신경 과학자와 철학자들에 의해 널리 알려져 있습니다. Musk의 로봇 반란에 관한 신경 과학자 인 Sam Harris조차도 기계를 의식 할 수 있는지 여부는 "열린 질문"이라고 지적하면서 어려운 문제를 시사합니다. 불행히도 그는 기계가 자신의 이익을 이유로 존재하는 위협을 제기하기 위해서는 의식이 필요하다는 것을 완전히 인식하지 못하는 것 같습니다.
그러나 의식의 문제는 분명히 어렵지만 과학에 의해 해결 될 수 없다고 믿을만한 이유가 없습니다. 그래서 지금까지 어떤 진전이 있었습니까?
의식은 생물학적 현상이다.
컴퓨터와 마찬가지로 뉴런은 전기적 신호를 이진 방식으로 교환하여 서로 통신합니다. 뉴런이 발생하거나 그렇지 않은 경우, 그리고 이것이 신경 계산이 수행되는 방법입니다. 그러나 디지털 컴퓨터와 달리 두뇌는 아날로그 세포 및 분자 과정, 생화학 반응, 정전기력, 특정 주파수에서 글로벌 동기화 된 신경 세포 발사, 무수한 피드백 고리를 가진 독특한 구조 및 기능 연결을 포함합니다.
컴퓨터가 이러한 모든 기능의 디지털 표현을 정확하게 만들 수 있더라도 그 자체로 많은 심각한 장애물이 포함되어 있어도 뇌의 시뮬레이션은 여전히 물리적 인 두뇌가 아닙니다. 물리적 공정의 시뮬레이션과 물리적 공정 자체에는 근본적인 차이점이 있습니다. 이것은 많은 기계 학습 연구자들에게 문제가되는 것처럼 보일지 모르지만, 길이를 고려할 때 사소한 것처럼 보입니다.
시뮬레이션이 복제와 같지 않음
약한 AI 가설에 따르면 컴퓨터는 뇌를 시뮬레이션 할 수 있으며, 강하고 약한 AI라는 용어를 만든 John Searle과 같이 의식 시스템의 시뮬레이션은 실제와 매우 다릅니다. 즉, "기계"의 하드웨어가 중요하며 생물학적 메커니즘의 단순한 디지털 표현은 현실 세계에서 어떤 일이 일어나도록 할 힘이 없습니다.
광합성과 같은 또 다른 생물학적 현상을 생각해 봅시다. 포토 합성은 식물이 빛을 에너지로 전환시키는 과정을 말합니다. 이 과정은 특정 분자 및 원자 성질을 갖는 물질이 주어진 경우에만 생화학 반응을 수행 할 수 있어야합니다. 광합성의 에뮬레이션 인 완벽한 컴퓨터 시뮬레이션은 컴퓨터를 제공하는 하드웨어의 유형에 상관없이 빛을 에너지로 정확하게 변환 할 수 없습니다. 그러나 실제로 인공 광합성 기계가 있습니다. 이 기계는 단지 식물에서 광합성을 근간으로하는 물리적 메커니즘을 시뮬레이션하는 것이 아니라 광촉매 물 분해를 수행하는 광전기 화학 전지를 사용하여 생화학 적 및 전기 화학적 힘을 복제합니다.
비슷한 방식으로, 물의 시뮬레이션은 전기 화학 결합에 의해 함께 결합 된 수소와 산소 원자의 매우 특정한 분자 형성의 산물 인 '젖음'의 품질을 가지지 못할 것이다. 유동성은 어느 한 분자에 의해서만 표현 된 것과는 질적으로 다른 물리적 상태로 나타난다.
신경 과학의 새로운 새로운 의식 이론 인 통합 정보 이론 (Integrated Information Theory)은 블랙홀의 시뮬레이션이 컴퓨터와 공간을 유발하지 않는 것처럼 뇌의 완벽하게 정확한 컴퓨터 시뮬레이션이 실제 뇌와 같은 의식을 갖지 않을 것이라는 것을 분명히합니다 함몰하기. 이 이론을 수립 한 신경 과학자 줄리오 토노 니 (Giulio Tononi)와 크리스토프 코흐 (Christof Koch)는 그 주제에 대해 말하지 않는다 :
"IIT는 디지털 컴퓨터가 비록 우리의 행동이 우리와 기능적으로 동일하다 할지라도, 인간의 두뇌에 대한 충실한 시뮬레이션을 실행한다고 할지라도 아무 것도 시도하지 않을 것임을 의미합니다."
이를 염두에두고 우리는 의식을지지하는 비 생물학적 기계가 존재할 수 있는지에 대해 여전히 추측 할 수 있지만, 의식하는 동안 뇌에서 발생하는 필수적인 전기 화학적 과정을 반복 할 필요가 있음을 깨달아야합니다 상태. 고유 한 분자 및 원자 성질을 가진 유기 물질이 없으면 이것이 가능한 것으로 밝혀지면 순전히 구문 프로세서 (기호 조작자) 인 튜링 기계와 필요한 물리적 메커니즘이 부족한 디지털 시뮬레이션이 필요할 것입니다.
Strong AI를 달성하기위한 가장 좋은 방법은 먼저 뇌가 어떻게 작용 하는지를 알아내는 것이며, 기계 학습 연구자가 가장 큰 실수를 저지르는 방법은 주변에서 지름길을 취할 수 있다고 생각하는 것입니다. 과학자와 인간으로서 우리는 성취 할 수있는 것에 대해 낙관적이어야합니다. 동시에 우리는 잘못된 방향으로 우리를 조종하고 실제 진전을 가로 막는 방법에 지나치게 자신감을 보여서는 안됩니다.
강한 AI의 신화
1960 년대 초부터 인공 지능 연구원들은 강력한 인공 지능이 곧 등장 할 것이라고 주장 해 왔습니다. 그러나 컴퓨터 메모리, 속도 및 처리 능력의 엄청난 증가에도 불구하고 이전보다 훨씬 가까이에 있습니다. 그래서 지금은 묵시적 AI 시나리오를 묘사하는 과거의 공상 과학 영화처럼 내면의 의식적 경험을 지닌 진정한 지능형 로봇은 여전히 공상적인 환상으로 남아 있습니다.
