알고리즘은 엄청난 양의 정보를 정확하게 처리 할 때 매우 영리합니다. 그러나 최근 은행 대출 문제는 커튼 뒤에있는 불안한 표정입니다.
지난 주 개인 대출을 신청했습니다. 은행에서 온라인 대출 신청을 할 수 있다고 말했습니다. 그래서 나는 그들의 웹 사이트를 통해했다.
나는 정보를 채우고 개인 정보를 주었고 제출을 눌러 주었다.
다음날 아침에 일어 났을 때 은행은 대출을 승인했고 돈을 내 계좌로 이체 할 것이라고 알려주었습니다. 만세.
단, 비율은 7.9 %입니다. 기대했던 것보다 약 5 % 더 높았습니다. 은행은 자신의 웹 사이트에 광고 된대로 3 %까지 낮을 수 있다고 말했습니다. 이것은 물론 신용 조사를 기반으로했습니다. 제 지식으로는 제 신용이 좋습니다. 왜 7.9 %입니까?
나는 이것이 내 신용에 관한 문제라고 의심했다. 그래서 은행에 전화로 알렸다.
나는 신청서가 단순히 양식에 양식을 제출하고 속도를 되찾았다 고 들었다.
“왜 그런 비율인지 아십니까?”
“미안하다. 나는 그렇지 않다.”
“내 신용인가?”
“우리는 귀하의 신용 정보를 얻지 못했습니다.”
“너 볼 수있어?”
“아니, 우리는 그 정보에 접근 할 수 없다. 그것은 모두 알고리즘에 있습니다. ”
“따라서 알고리즘에 정보를 제출하면 속도는 어떻게됩니까?”
“예.”
나는 그들에게 대출을 취소하라고 요청했다.
그런 다음 다른 웹 사이트로 이동하여 다른 응용 프로그램을 제출했습니다. 웹 사이트는 즉시 승인을 받았고 요금은 10.9 %라고했습니다. Yikes.
나는 원래 은행으로 돌아가 예상치 못한 높은 금리를 인정하기 위해 사임했다.
나는 내 은행에 전화를 걸어 취소 된 대출금을 취소 할 수 있는지 물어 보았다.
“아니,하지만 너는 나와 함께 전화로 다시 신청할 수있다.”
“좋아.”나는 말했다. “하자.”
그녀는 나의 정보를 다시 가져 갔다. “제목이 뭐니?”그녀가 말했다. “온라인 신청서에는 ‘교수’를 넣으십시오. 그러나 귀하의 은행 계좌에는 ‘박사’라고 표시되어 있습니다.이 은행의 모든 은행 카드에는 다른 이름이 있으므로주의해야합니다.
“상관 없다.”
“음, 하나 골라야 해.”
“박사님, 아무 것도 혼동하지 않을 것입니다.”
그녀는 내 정보의 나머지 부분을 가져 왔고 온라인에서했던 것과 동일하게 알고리즘에 응용 프로그램을 제출했습니다. 두 번째 나중에 그녀는 말했다, “그것은 3 %로 승인되었습니다. 우편으로 서류를 보내 드리겠습니다. ”
명백한 오류는 매우 간단합니다. 은행 알고리즘은 저를 은행원으로 인식하지 못했기 때문에 은행 원가를받지 못했습니다. 내가 다른 제목을 사용했기 때문에 나를 알아보지 못했습니다.
내가 ‘Professor’를 온라인으로 선택했기 때문에 그것이 내 것이었지만, 은행 계좌에 ‘Dr.’라고 쓰여있었습니다. 더 구체적으로 말하면, Dr.는 제가 은행에 가입했을 때의 모습이었습니다. 당신이 저라면, 제목의 차이는 무엇이든간에 전혀 관련이 없습니다. 은행이 하나를 요구하지 않으면, 나는 넣지 않을 것이다.
단어가 의미하는 바를 이해하는 데 도움이되는 의미 체계가없는 알고리즘은 제목의 중요성을 알 수 없습니다. 나는 알고리즘이 그것을 다루는 정보에 대해 어떤 종류의 이해를 가지고 있다고 가정했을 것이다. “이 신청자가 말하는 모든 것의 99.9 %는 우리와 같은 계좌를 가진이 개인과 동일합니다. 가장 중요하게이 개인은 우리와 함께 계좌를 가지고 있고 계좌 번호가 있다고 주장합니다. 실제로, 그들은 다른 사람의 은행 계좌로 돈을 보내길 원합니다. 어쩌면 그들은 같은 녀석 일거야! ”
그러나 알고리즘은 이것을하지 않았습니다. 완전한 차이로서의 타이틀 차이를 동일시했습니다. 내 부양 가족의 수가 바뀌어도 똑같은 일을 할 수 있을까요? 아니면 내 파트너가 바뀌 었습니까? 성, 성별을 변경하거나 때로는 주니어와 같은 접미사를 항상 포함하지는 않습니까? 최근에 주소를 잘못 옮겼거나 입력 한 경우 어떻게해야합니까? 오타가 미치는 잠재적 영향은 무엇입니까? 이 경우 오류는 1000 달러당 약 100 달러 상당의 가치가있었습니다.
이 알고리즘은 실수를 전화로 말한 사람에게 노출시키지 않음으로써, 내가 누군지 이미 알았음에도 불구하고 나를 잘못 판단 할 수있는 제목을달라고 강요함으로써 그 사람을 더 어지럽게 만들었다.
그것은 내 실수라고 쉽게 말할 수 있습니다. 분명히, 그건 내 실수 였어. 그것의 얼굴에, 나는 결과를 바꾸기 위해 다르게 행동 할 수 있었던 유일한 사람이다.
어떤 알고리즘을 사용하여 알고리즘을 작성한 사람이라면 누구나 쉽게 볼 수있는 알고리즘을 볼 수 없도록 만들 수 있습니다. 그러나 이것은 알고리즘에서 너무 많은 것을 기대하고 있습니다. 알고리즘이 잠재적으로 다른 두 사람이 같은지에 대한 주관적인 판단을 내릴 수 있어야합니까? 그들이 그렇지 않다면?
아마도 알고리즘은 어떤 것이 물고기처럼 냄새를 맡을 수 있어야하고 더 많은 질문을 할 수 있어야합니다. 분명히, 우리는 아직 거기에 없다.
문제는 실제로 누가 잘못한 것이 아닙니다. 진짜 문제는 알고리즘의 단점에 대해 어떻게 가르 칠 것인가입니다. 이전 기사에서 알고리즘의 정신 건강에 관해 썼습니다. 이 은행 대출 알고리즘의 익살은 그 기사에 유머러스 한 각주를 추가합니다.
그것은 Luria의 저서 “She is the mannist of a manemonist”에서 Shereshevsky라는 사람을 생각 나게합니다. 셰레 스키 스키는 완벽한 기억에 거의 가깝습니다. 그는 수와 이름과 그의 생애의 특정 날에 일어난 일을 기억할 수있었습니다. 그러나 그의 기억 때문에 그는 또한 사람들을 식별하는 데 어려움을 겪었다. 그는 모든 것을 아주 잘 기억하고있어서 다른 표현을 가진 사람을 만난다면 그들은 새로운 사람이되었습니다. Shereshevsky를 없애기 위해 간단한 표현 변경만으로 충분했습니다. 셰레 스키 스키는 일반화 할 수 없었다.
은행 알고리즘 또한 일반화 할 수 없었습니다. 대부분의 사람들이 분명한 것으로 생각하는 것은 눈이 멀었습니다. 그러나이 알고리즘은 다른 경우에 일반화 될 수 있습니다. 알고리즘은 내 정보를 가져 와서 나와 같은 다른 개인의 대출 상환으로 정보를 일반화하도록 명시 적으로 프로그래밍되어 있으므로 은행이 저와 같은 다른 사람들에게 가져간 위험에 따라 위험 수준을 파악할 수 있습니다.
알고리즘이 내 신원을 다른 신원 인스턴스로 일반화 할 수 없기 때문에 두 명의 다른 사람들처럼 나를 효과적으로 대했습니다. 그것은 미소 짓고 나중에 다른 개인으로 눈살을 찌푸린 남자를 대우하는 전산 Shereshevsky였습니다.
내 상황은 꽤 양심적이지만, 나는 그것이 항상 사실인지 의심 스럽다. 알고리즘은 보험, 치료 및 사인이 정지 신호인지 50mph 사인인지 판단합니다. 군 로봇이 목표물과의 친선을 오디션 할 가능성이 거의 확실합니다. 알고리즘은 점점 더 중요한 역할에 배치되고 있으며, 돈뿐만 아니라 생명과 건강도 중요합니다.
많은 경우 알고리즘은 인간보다 오류가 발생하기 쉽습니다. 그러나 오류는 그다지 많지 않으며 다르다. 그리고 그것은 그것들을 사용함으로써 기대해야 할 부수적 인 손상의 종류를 변화시킬 것입니다. 더 나쁜 것은 알고리즘으로 무엇을하고 있는지 정확히 아는 사람이 거의 없으므로 알고리즘으로 논쟁하기가 극히 어렵습니다. 어쩌면 적어도 알고리즘 자체 일 수도 있습니다! 어떤 경우에는 알고리즘의 모든 기능을 이해하는 한 명의 개인이 없을 수도 있습니다. 그런 다음 변경, 개선 및 정확한 위치를 정확히 감지하기가 어려워집니다.
Thomas Hills on Twitter
