스티븐 호킹 (Stephen Hawking)과 엘론 머스크 (Elon Musk)는 최근 인공 지능을 인류에 대한 주요 위협으로 묘사했습니다. 그들의 우려는 컴퓨터의 지능적인 성능이 급속하게 향상되어 사람들을 인간만큼 지능적으로 만들 수 있다는 것입니다. 인간 수준의 기계 지능은 우리보다 훨씬 지능적인 컴퓨터로 빠르게 이어질 수 있습니다. 컴퓨터가 처리, 저장, 막대한 양의 정보에 대한 액세스 및 컴퓨터 간 전송의 용이성과 관련하여 우리보다 유리한 이점을 가지고 있기 때문에 그러한 도약은 그럴듯합니다. 일단 이러한 종류의 지능이 존재하게되면, 그것은 인간의 것과 상반되는 관심과 행동, 우리의 손해 및 심지어는 우리의 죽음까지도 초래할 수 있습니다. 사람들이이 문제에 대해 얼마나 염려해야 하는가?
저는 현재 기계, 인간 및 다른 동물의 지능을 체계적으로 비교하는 과정을 가르치고 있습니다. 인간의 경우, 나는 현재 지능의 최선의 이론이라고 생각하는 것을 사용하고 있습니다 : Chris Eliasmith의 의미 론적 포인터 아키텍처. 기계의 경우이 수업은 IBM의 Watson, Google의 무인 자동차, CYC, Apple의 Siri 및 Google 번역을 비롯한 현재의 인공 지능 프로그램의 주요 사례를 검토하고 있습니다.
이 비교는 인간 지능과 인공 지능 사이에 여전히 큰 차이가 있음을 보여줍니다. IBM의 Watson은 TV 게임 Jeopardy에서 우수한 인간 선수를 이기기에 충분한 질문에 답하는 데 매우 인상적입니다. 그리고 Chef Watson이 새로운 요리법을 생성 할 때 창조적 인 문제 해결 능력을 보여주기 시작합니다. 또한 왓슨 (Watson)은 비즈니스 및 의학과 같은 많은 분야에서 중요한 기여를 할 것으로 보인다. 그럼에도 불구하고 가까운 미래에 왓슨은 지각 적 표현, 이미지, 감정, 의식, 학습, 언어 및 인간이 성취 할 수있는 창의적인 문제 해결의 모든 범위를 다루는 인간의 능력보다 훨씬 열등합니다. 다른 현재 인공 지능 프로그램도 비슷한 한계점을 공유합니다.
그러므로 인간 수준 인공 지능은 많은 사람들이 생각하는 것보다 미래에 더 멀다고 생각합니다. 기계 지능이 단순히 컴퓨터에 사람의 신경 연결을 다운로드하여 발생할 수 있다는 생각은 전기 연결뿐 아니라 신경 전달 물질, 호르몬 및 신경 교세포와 관련된 광범위한 화학적 과정을 포함하는 인간 두뇌의 복잡성에 대해 매우 순진합니다. 인공 지능은 지난 60 년 동안 인상적인 발전을 이루었고 체스 게임을하고 화성 표면을 항해 할 수있는 기계를 생산합니다. 그러나 인공 지능이 지구 온난화, 전염병 및 사회적 갈등으로 이어지는 불평등을 해소하는 것보다 인류에게 훨씬 덜 위험한 위협이되기 때문에 기계 지능이 인간 지능에 근접하기 시작하기까지 적어도 60 ~ 100 년은 더 걸릴 것이라고 확신합니다.
인공 지능에 대한보다 즉각적인 우려는 미군, 구글, 페이스 북과 같은 단체들이 채택한 인공 지능이 인간에게 이익이되도록 보장하는 것입니다. Hawking, Musk 및 선도적 인공 지능 연구원이 서명 한 최근 공개 서한은 인위적인 인공 지능을 인간의 이익을 위해 사용할 수 있다는 강렬하고 합리적인 탄원을 제시합니다.
가까운 장래에 인류를 대체 할 기계에 대해 염려하지 않지만, 인간 수준의 인공 지능이 인류에게 위협이 될 수있는 초 지능을 신속하게 생산할 수 있다는 주장에 대한 많은 타당성이 있습니다. 인간 수준에서 초능력으로의 도약은 인간 지능보다 훨씬 빠른 속도로 확장 할 가능성이 높기 때문에 빠르게 일어날 수 있습니다. 컴퓨터는 처리 속도, 학습 속도 및 정보의 전달성에 관한 우리의 한계를 피할 수 있습니다. 수퍼 인텔리전스는 인간의 윤리적 원칙에 따라 작동 할 것이라고 믿을만한 이유가 전혀 없기 때문에 실제로 무서운 것입니다.
윤리적 원칙을 컴퓨터에 프로그래밍 할 수 있다고 생각할 수도 있지만 스마트 프로그램은 자체 프로그램을 다시 프로그래밍하여 제공되는 규칙을 제거 할 수 있습니다. 나는이 슈퍼 인텔리전스가 서로를 돌보는 감정적 인 능력을 통해 거의 모든 인간에게 오는 윤리적 사고를 유도 할 수 있을지는 의문입니다. 가장 영향력있는 철학은 윤리를 이데올로기의 문제로 만들려고 시도합니다. 예를 들어 칸트 니안의 권리와 의무 또는 가장 큰 이익을위한 실용적인 계산을 통해. 나는 흄과 몇몇 페미니스트 윤리 학자들의 관점에서 감정과 보살핌이 우리의 윤리적 인 판단의 기초라고 생각할 수있다. 감정은 부분적으로 상황의인지 적 평가가 아니라 생리의 결과이기 때문에 기계 지능은 동일한 윤리적 기초를 가질 것으로 기대할 수 없습니다. 존 호글 랜드 (John Hoagland)는 컴퓨터에 관한 문제는 단지 저주를주지 않는다고 말한 적이 있습니다. 인류에 대한 인공 지능의 장기적인 관점의 관점에서 볼 때, 문제는 단지 우리에게 지독한 기분을 제공하지 않을 것이라는 것입니다.
