어린이와 알고리즘에 관한 세 가지 통념
YouTube Kids와 ClassDojo는 공통점이 무엇입니까?
점점 더 많은 개발자가 학습 분석, 교실 관리 시스템 및 개인화 된 읽기 권장 사항을 완성함에 따라 현재 알고리즘 설계의 기본이되는 더 넓은 가정에 대해 비판적으로 생각해 봅시다.
알고리즘이 인터넷의 기능에 필수적이라는 것은 의심의 여지가 없습니다. 기계 학습을 통해 알고리즘은 검색을 자동화하고 큰 데이터를 활용하여 아동의 학습 효과를 높일 수있는 개인화 된 권장 사항을 제공 할 수 있습니다. 그러나 “BIBO 알고리즘”(Bias In 및 Bias Out)은 FANG 그룹 (Facebook, Amazon, Netflix 및 Google)이 개발 한 가장 강력한 알고리즘조차 편견과 오류가 없음을 적절하게 설명합니다.
아이들을 교육시키고 편견을 없애려는 업계의 욕구가 있지만 문제는 너무 커서 밤새 고칠 수는 없습니다. 성인을위한 시스템에서 인공 지능에 의해 전파되는 무의식적이고 심지어 의도적 인 편견의 증거는 알고리즘 교육에 돌입하기 전에 경고해야합니다. 다음은 어른이 제기 할 수있는 몇 가지 질문과 오해입니다. 어린이 학습에서 알고리즘의 중요성을 평가하는 데 도움이됩니다.
1. 클래스 / 패밀리에 알고리즘을 도입하면 아이들의 학습 능력이 향상됩니다.
맞춤식 권장 사항의 문제점은 온라인 필터 거품과 관련하여 완전히 노출되었습니다. 알고리즘은 비슷한 내용을 모으기 위해 설계되었으므로 소셜 미디어 및 뉴스 피드에 에코 챔버를 만듭니다. 학습을위한 동일한 디자인을 채택한다는 것은 아이들이인지상의 어려움과 그들이 좋아하지 않는 것에 덜 노출된다는 것을 의미합니다. 이것은 동기 부여와 참여에 도움이 될 수 있지만, 계속 배우기 위해서는 아이들의 마음을 펴고 항상 선호도와 일치하는 개념을 제공해야합니다.
일부 제공 업체는 이러한 제한 사항을 인식하고 콘텐츠를 개인화하는 대신 해당 알고리즘이 다른 속도 또는 다른 순서로 동일한 주제를 추천합니다. 보다 진보 된 알고리즘은 점차 어려움이 증가하는 내용을 추천하면서 아동의 시야를 넓히기 시작합니다. 그러나 이것은 최고 및 최저 성취도를 수용 할 수있는 확실한 데이터베이스가있는 적절한 학습 환경에서만 작동 할 수 있습니다. 이 단계에서 가짜 뉴스의 문제에 부딪 치지 않고 전체 교육 시스템을위한 정교한 알고리즘을 기대하는 것은 너무 야심적입니다.
2. 맞춤 권고는 아이들의 학습을 민주화시킨다.
우리가 인터넷에 접속할 때, 우리는 모두 알고리즘을 사용하고 있으며, 우리는 그것들을 지속적으로 사용함으로써 더 똑똑 해집니다. 특히, 현재 사용자 기반은 개발자의 알고리즘 기반보다 불균형 적으로 더 큽니다. 전 세계적으로 수십억 명의 사람들에게 영향을 미치는 많은 의사 결정은 단지 수천 명의 사람들이 만듭니다. 결과적으로, 기술 거인은 알고리즘의 작동 방식에 대한 일반 대중의 인식보다 앞선 방법입니다. Mark Zuckerberg의 상원위원회 청문회에서 시연 된 바와 같이 일부 미국 상원 의원조차도 알고리즘 경제가 어떻게 작동 하는지를 알 수없는 것처럼 보입니다.
디지틀 : 어린이와 알고리즘
출처 : Natalia Kucirkova, DigiLitEY
간단히 말해, 현재의 알고리즘 설계는 민주적이지 않고 실용 주의적입니다. 교육에 적용하면 초기 이점이있는 사람, 즉 사전 지식이있는 사람들이 유익을 얻고 그 지식을 더 발전시킬 수 있음을 의미합니다. 이것은 알고리즘이 아동에게 적응하기 때문에 아동에게 지시하지 않기 때문입니다. 알고리즘은 우선 민주주의 원칙으로 설계 되었다면, 디자인에 의해 투명 해지고 더 커뮤니티 지향적이었을 것입니다. 누구나 무엇이 추천되고 왜 볼 수 있습니다. 누구나 메커니즘을 바꿀 수 있으며, 그 힘은 공정하고 균등하게 분배됩니다.
3. 알고리즘은 아이들의 온라인 안전을 보장합니다.
어린이를 대상으로하는 방해 동영상의 확산을 막기 위해 Google과 Facebook은 많은 운영자와 휴먼 컨텐츠 체커에 투자했습니다. 그러나 YouTube for Kids의 관리자조차도 ‘필터가 100 % 정확하지 않음’을 올바르게 인정합니다. YouTube의 “제한 모드”에 대한 전적인 의존은 귀하의 자녀가 방해가되는 Peppa Pig 비디오를 보지 않는다고 보장하지 않습니다. 나쁜 의도를 가진 많은 콘텐츠 제작자가 있으며, 유감스럽게도 동영상을 남용하는 사람들보다 유감스럽게도 삶의 사실입니다. 국내 및 국제 규제 기관의 금지 및 검열은 완전한 해결책이 아닙니다. 탐색의 자유를 희생하여 어린이 안전을 보장하는 모델을 장려하는 것은 뒤로 물러날 것입니다. 창의적인 기여와 취약한 사용자 보호 사이의 균형을 유지하기 위해 알고리즘, 품질 검사 및 커뮤니티 규정의 새로운 제품군을 개발해야합니다.
우리는 종종 ‘AI는 미래’라고 말하지만 ‘소수의 기술 회사가 수백만 명의 마음을 제어합니다’라고 종종 말합니다. 인공 지능 알고리즘이 모든 어린이의 미래를 향상 시키길 원한다면 알고리즘 적 유년기의 일시 중지 버튼을 탭하고 아이들의주의를 끄는 것에 대해 비판적으로 생각해야합니다. 우리는 어린이들의 선호와 필요에 맞는 엄선 된 내용을 넓은 지역 사회의 요구와 일치시키는 투명한 알고리즘이 필요합니다. 이것은 몇몇 학자에 대한 이상적이고 기술적 인 견해가 아닙니다. 개인화 된 교육이 상업화 된 교육으로 전환되지 않도록하는 필수 조건입니다.
참고 문헌
아동 위원장 (2018). 누가 나를 알지? 어린이 데이터 수집 및 공유에 대한 아동 위원장 보고서, https://www.childrenscommissioner.gov.uk/wp-content/uploads/2018/11/who-knows-what-about-me.pdf
Kucirkova, N., Fails, J., Pera, S. Huibers, T. (2018) 아동을위한 알고리즘 : 부모와 교사가 알아야 할 사항, DigiLitEY, 영국 : http://digilitey.eu/publications/digilitey-publications
Manolev, J., Sullivan, A. & Slee, R. (2018) 학문의 데이터화 : ClassDojo, 감시 및 공연 교실 문화, 학습, 미디어 및 기술, DOI : 10.1080 / 17439884.2018.1558237
