컴퓨터 부족 사회 판단
최근에 펜더 벤더 (fender bender)가 구글 셀프 드라이빙 카를 앞에서 합류 시키려 할 때 버스를 쳤다. 사고로 인한 사기의 예를 들자면 Google 임원은이 퇴보로 밝혀진 문제를 해결하는 데 30 년이 걸릴 것이라고 말했습니다. 문제는 자동차의 컴퓨터가 버스가 합류 차가 앞에 오도록 멈추고 버스 운전 기사가 예상대로 행동하지 않는다고 예측했다는 것입니다. Google은 사고에 대한 책임을 맡았으며, 운전자가 (제 말) 불쾌감을 유발하여 사고에 기여했다고 말했습니다. Google 사고와 그 여파에 대한 설명은 theverge.com 링크를 참조하십시오.
최근 자기 주도형 자동차 애호가와 함께이 이야기를 토론 할 때, 그는 실제 문제는 대중의 반응이라고 말했다. 그는 인간에 의해 작동되는 자동차의 펜더 벤더가 많은 관심을 불러 일으키지 않고 극도의 빈도로 발생하고, 대부분의 사람들이 깨닫는 것보다 완전히 자율적 인 자동차의 목표가 현실에 더 가깝다는 점을 지적했습니다. 홍보 문제는 분명히 문제이지만 사고 회피 퀘스트에서 완벽을 얻는 키메라와 밀접하게 관련되어 있음을 알 수 있습니다. 최근의 AAA 조사에서 운전자의 75 %는 자신의 운전에 대한 완전한 통제권을 자신의 차로 넘겨 줄 것을 매우 꺼리는 것으로 나타났습니다. 아마도자가 운전 차량이 절대적으로 안전하다면 회의론자의 수가 크게 줄어들 것입니다. 몇 가지 치명적이거나 치명적인 사고가 내 생각에 오랫동안 영원히 오랫동안 선반에자가 운전 차 발의를 가져다 줄 수 있습니다. 소프트웨어 비전을 가진 사람이 아닌 사람이 실제로 그러한 안전성이 완벽하다는 것을 실제로 믿을 수 있습니까? 아니면 거의 완벽하지 않을 때 대중의 수용이 널리 퍼질 가능성이 있습니까? 에테르 나 다른 수많은 혁신의 시위를 비웃는 회의론자들과 같은 범주에 빠질 위험에 처해 자율 운전 기업가에 대한 나의 반응은 "꿈꾸다".
자가 운전용 자동차가 Tesla 모델 -S 완전 전기 자동차를 가리키는 부동산에 가깝다고 믿는 사람들은 운전자가 활성화 할 수있는자가 운전 ( "자동 조종") 모드가 있습니다. 내 친구에 따르면. 오늘날 신문을 읽는 것과 같은 산만 한 일을하면서자가 운전 테슬라에서 주간 고속도로에서 수백 마일을 운전할 수 있습니다. 놀랍게도, 나는 그 주장을 조사해 조금 과장된 것으로 판명되었습니다. 테슬라의 설립자이자 CEO 인 엘론 머스크 (Elon Musk)에 따르면, 자기가 운전하는 옵션 (베타 버전이 불완전하다고 묘사 한)은 언제나 바퀴 달린 손으로 사용해야하며, 이는 분명히 신문 읽기를 배제 할 것이다. 사향은 최근 몇 차례의 격변 적 사건을 인정했지만 그는이 경고를 무시한 운전자에게 손을 떼어 내고 있다고 비난했다. 이 사건은 주로 비 사회적 (즉, 지형 판독) 오류라고 불리는 것을 포함하지만 대부분의 운전 결정은 특히 다른 차량이 지형의 일부인 경우 운전자가 어떤 사회적 판단을 요구하는지 판단합니다 인간 또는 컴퓨터. (일부 Tesla-S near misses에 대한 설명은 technologyreview.com을 참조하십시오).
오늘 Tesla 자동 조종 장치에서 수백 마일을 운전할 수 있다는 주장에 대한지지는 기록적인 시간에 여행을 떠난 Tesla-S에서 찍은 선전 된 크로스 컨트리 여행에서 찾을 수 있습니다. 그러나 일반적으로 알려지지 않은 것은 심각한 사고가 협소하게 회피 된 여행 중에 3 건의 사건이 발생했다는 것입니다. 이 사고 중 하나에서, 차는 시간당 90 마일 (속도 제한보다 훨씬 높음)의 커브로 들어갔고, 사람이 빨리 넘겨주지 않으면 차가 제어력을 잃어 버렸을 것입니다. 문제는 자동차의 컴퓨터 알고리즘이 표준 거리에서 차선 또는 중심선 마커를 따라야한다는 것 인 것처럼 보였습니다. 그러나 숙련 된 운전자는 속도를 늦추지 않고 고속을 보정해야합니다. 곡선을 안전하게 협상하는 데 필요한 바퀴 회전 정도를 줄이기 위해 도로의 정점에 평소와 다름 없습니다. 결론은 차가 아직 안전하게 자율적으로 고속으로 작동 할 수 없다는 것입니다. 또 다른 가까운 사고는 차가 다른 차의 행동으로 혼란스러워 졌을 때 발생했으며, 도로 중간 선을 넘어서 테슬라 -S를 다가오는 교통량으로 이끌고 치명적인 정면 충돌이 될 수있는 상황이 발생했을 때 발생했습니다.
흥미롭게도 구글이 버스 운전사의 사고를 부분적으로 비난했지만, 테슬라는 고객에게 오토 파일럿 모드에서 사고가 났을 때 운전자에게 완전히 금전적 책임을 물을 것이라고 경고했다. "나는 운이 많이 난다. 엘론, 판사에게 심각한 부상을 입은 고객이나 죽은 주인의 가족이 당신을 고소 할 때 판사에게 알린다."사실, 일부 논평가들은 테슬라가 불완전한 자동 조종 장치를 이용할 수 있도록 윤리적 및 법적 근거를 다뤄야한다고 주장했다. 장치가 많은 소유자가 완전히 조작 가능하고 따라서 완전히 안전하다고 생각할 때 예측할 수있을 때 자동 운전 차량입니다. 테슬라가 분명히 생산되지 않은 제품을 생산에 몰두하기위한 동기? 가장 가능성이 큰 자존심 (그가 머지 않아 구글과 AI 경쟁에서 다른 경쟁자보다 앞섰다고 주장하는)과 금전적 인 (사람들이 회사의 값 비싼 제품을 사게).
애매한, 혼란 스럽거나 혼란 스럽거나 불완전하게 디자인 된 센터 라인이나 온 – 램프와 같은 비 사회적인 상황이 스스로 운전하는 자동차 업계가 해독하기에 매우 어려운 견해로 남아있는 것처럼 보이지만 궁극적 인 성공에 대한 주요 장애물은 사회적인 영역에서. 예시 된 버스 사고와 같이자가 운전의 결정은 다른 자동차의 운전자가 할 일이 무엇인지에 대한 예측에 부분적으로 기반을두고 있지만 인간의 행동에 대해 알면 예측할 수없고 합리적이거나 정중하지는 않습니다 그 중동의 최근 정치 발전이나 미국의 정치 발전을 살펴볼 필요가 있습니다. 또한 자율 주행 차량과 도로를 공유하는 운전자는 시력 문제가 있거나 장애가 있거나 부주의하거나 불안정한 상태에 있거나 운전 능력이 부족하여 갑자기 위험한 움직임을 유발할 수 있으며 세계에서 가장 큰 컴퓨터 수퍼 컴퓨터는 충분히 빠르게 적응할 수 있습니다. 사실 경험 있고 유능한 운전자는 다른 운전자의 행동과 의도를 항상 "읽고"있고, 순간 추측과 인식에 기초하여 2 분의 1 초 응답을합니다.
많은 사고에 대한 사회적 판단 기준을 제시 한 그림은 부모가 매우 높은 보험료를 지불하는 사춘기 운전자의 경험에서 찾을 수 있습니다. 내 머리 빠듯한 아가씨가 최근에 면허를 취득한 후 처음 5 일 이내에 두 번 (다행스럽게도) 사소한 사고를당한 18 세 아들의 이야기를 들려주었습니다. 그들 중 누구도 기술적으로 그의 잘못은 아니었지만, 그가 1, 2 년이나 더 오래되었을 가능성이 없다는 사실은 여전히 남아 있습니다. 사고 중 하나에서, 청년은 차가 오른쪽 차도에서 도로로 들어서 신생아 운전자의 조수석 문으로 찔 렀을 때 함께 운전하고있었습니다. 청년의 설명은 앞서가는 길에 집중하고 있었고 그런 일이 일어날 가능성을 고려하지 않았다는 것입니다. 거의 확실하게, 다른 차가 길을 뚫고 들어가는 것처럼 보이는 미묘한 단서가있었습니다. 또한 다른 자동차가 진행될 수 있다는 신호로 보이는 것처럼 자신이 무의식 중에 문제에 기여했을 가능성이 큽니다. 숙련되고 신중한 운전자는 그러한 (본질적으로 사회적 인) 미묘한 단서에 조율되며, 위험 평가 계산의 지속적인 흐름에 참여할 필요성을 인식하고 있습니다. 이 젊은이와 같이 경험이 부족한 운전자는 주행 할 때 자신의 관점 만 고려할 때, 그리고 다른 많은 일을 할 때도 매우 자기 중심적입니다. 내 생각에, 컴퓨터 구동 자동차가 미묘한 사회적 단서를 읽고 방출하는 초보자 운전자보다 더 나은 방법이 무엇인지는 분명하지 않습니다.
소프트웨어 엔지니어는 신체적 문제를 해결하는 데 능숙하지만 사회 판단 문제를 아직 해결하지 못했으며 많은 관심을 기울이지도 못했습니다. 이 현실에 대한 인식은 몇 년 전 콜로라도에서 개최 된 연례 학회에서인지 장애가있는 사람들에게 기술을 적용하는 문제를 제기했습니다. 에우디테 프레젠테이션은 모두 이동성 문제와 같은 물리적 문제에 대한 소프트웨어 및 하드웨어의 적용을 다루었습니다. 내 차례가 밝혀 지자 청중은 방금 뉴욕의 아파트 건물에서 계속 생활 할 수있게 해주는 친절한 이웃의지지를받는 지적 장애인에 대해 지켜 보았습니다. 건물에 계속 살고있는 자신을 곤경에 빠뜨린 모든 도전 중 하나는 거리 아파트 사람들에게 그의 아파트에 열쇠를 빌려주는 등의 극단적 인 속임수 (나의 특별한 관심)와 같은 사회적인 것이 었습니다 (이웃을 위협하고, 여러 가지 방법으로 건물을 손상 시켰습니다). 컨퍼런스에서 수집 된 컴퓨팅 당국 (전설적 인 일부)이 기술이 그러한 사회적 판단 (및 외로움)에 기반한 행동을 어떻게 해결할 수 있는지에 대해 이야기 할 때 응답은 침묵의 하나였습니다.
자기 주도 운동은 자동차 현상뿐만 아니라 인공 지능 (AI) 분야에서의 발전을 보여주는 사례로서 흥미 롭습니다. 구글은 AI를 통해 인간의 기능을 향상시키기 위해 칩 소형화의 진보를 통해 컴퓨터 과학자들의 능력에 대해 매우 낙관적 인 회사의 한 예입니다. 아마도 그러한 태도의 대표적인 사례는 레이몬드 커즈와일 (Raymond Kurzweil)인데, 현재 많은 사람들이 컴퓨터 장비 (현대의 토마스 에디슨으로 여겨지는 사람)를 창안 한 천재의 발명가인데, 지금은 전임으로서 미래 학자로서 일하고 있습니다. 커즈와일 (Kurzweil)은 여러 권의 책을 저술했으며 "트랜스 휴머니즘"(사람의 지능을 향상시키는 점점 더 정교한 기술의 사용)과 "특이성"(인간의 생물학을 변화시키기위한 기술의 사용 질병 및 인간의 수명 연장). 이러한 개념의 핵심은 Kurzweil이 지능의 본질이 패턴 인식 (컴퓨터가 잘하는 것)이며 따라서 컴퓨터 과학자가 결국 인간의 두뇌의 개선 된 버전을 구성 할 수 있다는 다소 논쟁의 여지가있는 신념이다. 패턴 인식에 크게 의존하는 유능한 자동차 주행은 AI 개념의 명백한 확장 인 것처럼 보일 것입니다. 훌륭한 천재들 (Kurzweil과 같은)과 훌륭한 회사 (예 : Google)의 문제는 그들이 "너무 멀리있는 문제"를 겪었을 때를 아는 것이 종종 어려워한다는 것입니다. 내 자신의 믿음은 A 지점에서 B 지점까지 안전하게 도착하는데 수반되는 수백 가지 사회적, 신체적 판단 문제를 성공적으로 인식하고 이에 대응하는 것은 Kurzweil의 생화학 과정을 성공적으로 끝내더라도 해결할 수없는 문제가 될 것입니다 (그는 150 [200의 최고에서 아래로] 알약 하루에) 그리고 또 다른 100 년 동안 산다.
저작권 Stephen Greenspan