감각적 인 기계의 부상은 공상 과학 소설 속의 오래된 트로피이다. 그리고 그것은 결코 인류에게 좋지 않습니다. Terminator , The Matrix 및 I, Robot 은 지능형 기계가 의식을 얻은 다음 인간 크리에이터를 파괴하거나 종속시키는 영화의 예입니다.
할리우드 블록버스터는 현실의 정확한 초상화가 거의 없습니다. 그렇다면 지능형 기계를 두려워 할만한 요소가 있습니까? 일부 과학자들은 인공 지능을 두려워하는 것이 합리적이라고 생각합니다.
스티븐 호킹 (Steven Hawking)과 그의 동료들은 2014 년 초에 박스 오피스 플랍 초월 (Transcendence)이 초연 될 때 영국의 주요 신문 인 The Independent에 대한 논평을했습니다. 인공 지능이 인간의 지능을 크게 증폭시키는 방식을 지적하면서, "AI를 만드는 성공은 인류 역사상 가장 큰 사건이 될 것입니다."그러나 경고가옵니다. "불행히도, 위험을 피하십시오. "
새로운 기술과 마찬가지로 위험에 대비하여 잠재적 인 이점을 신중히 검토하고이를 완화 할 수있는 방법을 찾아야합니다. 호킹 박사와 그의 동료들은 AI가 길을 잃고 의도하지 않은 결과를 초래할 수있는 방법을 지적합니다. 그것은 또한 의도가없는 인간에 의해 사악한 목적으로 설정 될 수 있습니다. 그러나 저자들은 고의적으로 인류를 파괴하는 지각 기계에 대해 덜 우려하는 듯하다.
노르웨이의 생물 학자 비요른 그린 데 (Bjørn Grinde) 는 그의 새로운 저서 '의식의 진화 (Evolution of Consciousness)' 에서 지능은 의식을 의미하지 않는다고 지적합니다. "자연은 의식의 암시없이 지적인 솔루션으로 가득차 있습니다."라고 그는 씁니다 (61 쪽). 우리의 기계에 대해서도 마찬가지입니다.
모두가 동의하는 정보의 단일 정의는 없지만, 경험에서 배우고, 변화하는 환경에 적응하고, 의사 결정을 내리고, 자기 자신의 이익을 위해 행동 할 수있는 능력을 포함한다는 일반적인 합의가 있습니다.
생명체는 지구상에서 30 억년 이상 동안 존재 해 왔으며, 대부분 단일 세포 생물체 형태로 존재합니다. 6 억 년 전에 지능이 태어났다는 것은 신경 세포와 신경계의 진화가 아닐 때까지는 아닙니다.
미생물이 독소로부터 영양분으로 이동하는 능력은 신경계가없는 지능의 증거라고 주장 할 수 있습니다. 그러나 Grinde는 이러한 움직임이 화학적 과정의 관점에서 설명 될 수 있다고 주장한다.
우리는 식물의 일부분에 대한 정보를 추측 할 이유가 없습니다. 그들의 성장은 중력과 빛의 물리학에 의해 인도되며, 그들이 번성하든 멸망하든 상관없이 장님 행운이 있습니다. 풍부한 토양과 햇빛에서 자라는 씨앗은 번성하며, 가난한 토양과 그늘에 떨어지는 씨앗은 시들지 않습니다. 그리고 조건이 바뀌면 식물이 더 좋은 위치로 이동할 수 없습니다.
동물 만이 기회에 접근하고 위협을 피할 수 있으며, 신경계를 가지고 있기 때문에 가능합니다. 신경계의 모든 목적은 유기체가 환경과 상호 작용하여 궁극적 인 유전자를 차세대 목표로 삼는 것입니다.
움직이지 않으면 두뇌가 필요하지 않습니다. 그냥 바다 물총을 부탁드립니다. 어린 시절에는 올챙이로 수영하지만, 성인기에는 남은 인생을 보내는 암석에 붙습니다. 그것의 첫 번째 행동은 자신의 뇌를 삼키기위한 것입니다.
동물은 신경계가있어 지능적인 행동을 보입니다. 302 마리의 뉴런으로 구성된 선천적 인 선충조차도 먹기 좋은 박테리아와 아프게 만든 박테리아를 구별하는 법을 배울 수 있습니다. 꿀벌은 약 백만 개의 세포로 구성된 작은 두뇌를 가지고 있으며, 나쁜 음식을 배울뿐만 아니라 음식 소스의 위치를 두드러기로 전달할 수 있습니다. 꿀벌 두뇌에 꽤 놀라워!
문어는 꿀벌의 크기보다 수백 배나 큰 뇌를 가지고있어 수중 세계의 진정한 천재가됩니다. 이 두족류는 복잡한 미로를 탐색하고, 도구를 사용하며, 다른 사람들이하는 일을 관찰함으로써 배울 수도 있습니다. 문어는 분명히 지능이 있지만 의식이 있습니까? 일부 신경 생물 학자들은 "아마도"라고 말합니다. 그러나 Grinde는 "그렇지 않을 수도 있습니다."라고 더 많이 말합니다.
Grinde는 종 착취 주의자가되는 것이 아닙니다. 오히려, 그의 직감은 그에게 꿀벌에게 말하고 문어는 의식이 없다. 당신은이 사실을 모르는 것 같지만, 실제로는 두 번째 "뇌"가 위장에 있습니다. 엄밀히 말하면, 위장관의 활동을 조절하는 입에서 항문으로 연결되는 뉴런의 네트워크입니다. 당신의 해골 안의 그 거대한 신경 모양과 비교하면 아주 작지만, 5 억 개의 뉴런은 문어 두뇌의 5 배에 이릅니다.
"창자"두뇌는 큰 두뇌에서 위층에 입력이 거의없이 작업을 수행합니다. 실제로, 창자는 단지 무언가가 끔찍하게 잘못되었을 때 주로 필요에 따라 두뇌와 의사 소통합니다. 당신은 현재 급속하게 증가하고 당신의 위 안대기에 멀리 먹는 유독 한 박테리아를 인식하지 못하고 있습니다. 그러나 순간적으로 당신의 "내장"두뇌는 경보를 울릴 것이고, 그것이 당신의 주뇌에 도달 할 때만 당신이 당신이 곧 아프다는 것을 알게 될 것입니다. (가장 가까운 욕실로 이동할 수있는 주요 뇌이기도합니다.)
뉴런의 수가 지능의 거친 척도라면, 당신의 내장은 문어만큼 지능이 5 배나됩니다. 그리고 당신의 직감이 의식이 없다면, 왜 우리는 두꺼운 두족류의 부분에서 그것을 취해야합니까? 즉, 지능만으로는 의식을 생산하기에 충분하지 않습니다.
Grinde는 의식은 행동에 대한 동기 부여와 빠른 학습으로 이어지는 고통과 즐거움의 기본적인 감정에서 비롯된 것이라고 주장한다. 감정적 인 상태는 대뇌 피질과 변연계와 같은 특정 뇌뇌 구조에 의해 생성됩니다. 이러한 구조는 포유류에서 잘 발달되어 있으며, 조류와 파충류에서는 더 원시적 인 형태로 존재하지만 다른 동물에서는 그렇지 않습니다. 즉, 의식은 지능이 아니라 감정에 기반합니다.
과학 픽션 트로피에서 기계는 갑자기 의식이 갑자기 드러나는 어떤 문지방을 지나기까지 점점 더 지능화됩니다. 그러나 그 문턱은 정확히 어디에 있습니까? 기계가 인간보다 지능적으로 될 때, 그것이 의미하는 것이 무엇이든, 그것은 아마도 소위 특이성 (singularity)에있을 것입니다.
초월 영화에서 시나리오 작가들은 의식의 한계점 문제를 퍼지합니다. 특히 지능형 시스템의 발명가는 어떻게 든 자신의 의식을 컴퓨터에 업로드합니다. 기계가 사람과 같이되는 대신, 사람은 기계 안에 들어갑니다.
그러나 그 이야기는 AI가 인간을 의도적으로 파괴하는 것이 아닙니다. 대신, 그것은 그의 동료 인간에 대해 AI를 사용하는 약 1 명의 사람입니다. 그리고 그것은 스티븐 호킹이 우리에게 경고하는 AI의 위험입니다.
