인공 신경망은 우리의 두뇌를 구성하는 생물학적 신경망을 모델로합니다. 그들은 우리의 두뇌가 배우는 것과 비슷하게 컴퓨터가 배우는 것을 가능하게하는데 사용됩니다. 예를 들어, 우리는 반복적으로 개념을 차별화하는 법을 배웁니다. 많은 종류의 나무와 꽃을보고, 나무의 틀이 무엇인지를 배우고, 새로운 품종이라 할지라도 장래에 나무를 인식 할 수 있습니다. 나무의 특정 기능 – 가지 – 잎 – 줄기 -는 연결되어있는 것으로 알려져 있으며, 함께 활성화되면 우리는 나무라고 인식합니다. 인공 신경망도 비슷한 방식으로 작용합니다. 인공 뉴런 사이의 연결은 종종 “헤브 비안”학습이라고하는 용어로 함께 자주 활성화되면 시간이 지남에 따라 강화됩니다.
그러나이 모델은 간단하지는 않습니다. 왜냐하면이 간단한 학습 방식은 창의적 학습을 방해하는 과도한 연결로 빠르게 이어질 수 있기 때문입니다. 예를 들어, branch-leaves-trunk-Tree 간의 연결이 너무 강력하면 네 잎 클로버의 잎과 같은 관련 입력이 트리 네트워크에 의해 도용 될 수 있으며 다른 가능한 경로는 무시됩니다. 하나의 연결 집합이 다른 연결을 형성하는 것을 제한하고 본질적으로 반복적으로 자신을 강화하기 때문에이를 ‘제한적인 피드백 루프’라고합니다.
최근 논문 (Thiele, Diehl, & Cook, 2017)은이 문제를 해결하기 위해 인공 신경망 모델에 ‘깨어 난 수면 (wake-sleep)’알고리즘을 구현할 것을 제안했습니다. 수면 단계는 본질적으로 Hebbian 학습 모드를 일시적으로 해제합니다. 즉, 연결 강도를 끄고 무작위 입력이 네트워크를 통해 침입하지 못하도록합니다. 이것은 인간을 꿈꾸는 과정에 비유됩니다.
한편, 인간의 꿈 연구 분야에서 REM 수면 / 꿈 상태의 ‘학습 기능 상실’기능을 설명하는 유사한 모델이 제안되었습니다. 최근의 이론 논문 두 곳에서 저자 인 Malinowski와 Horton (2015)은 기억을 소멸시키는 과정을 제안한다.이 과정은 기억을 작은 조각으로 분해하여 수많은 다른 기억 흔적과 연관 시키며 자서전 적 기억 네트워크를 통해 새로운 연결을 형성한다. 깨어있는 동안 형성되지 않을 것이다. 이 과정은 부분적으로는 꿈꾸는 국가의 ‘초 협동성’에 의존한다.
Hyperassociativity는 잠에서 깨어날 때 느슨하게 연관되어지는 추억들 사이의 증가 된 연결을 가리킨다. 많은 연구자들이 꿈꾸며 REM 수면은 hyperassociativity로 특징 지어진다는 것에 동의하지만, Malinowski와 Horton은 이러한 느슨한 연관성이 수면으로 인한 통찰력과 창의성 뒤에있을 수 있다고 제안합니다.
저자는 꿈의 기이 한 몇 가지 예를 통해 꿈의 초 협상 성을 보여줍니다. 꿈은 기억의 특이한 요소를 결합합니다. 친구는 고양이에 의해 의인화 될 수 있습니다. 꿈의 이야기가 갑자기 바뀔 수 있습니다. 집이 갑자기 직장으로 변합니다. 꿈은 최근 과거 또는 예상되는 미래와 함께 원격 과거의 요소를 모으는 것입니다. 예전의 고등학교에서 곧 발표 할 연설을 할 수 있습니다.
실험적 연구는 또한인지가 렘 수면에서 깨어 난 후에 과교 적이라는 것을 보여주었습니다. 피험자는 단어 연관 작업에 흔하지 않은 반응을 보이고 강하게 관련된 의미 론적 단어 쌍과는 달리 약한 단어를 선호합니다. 그 증거는 깨어있는 생각의 ‘헤비 안’고속도로를 일시적으로 들어 올리는 수면 상태의 제안과 일치합니다.
Hartmann (1996)은 깨어있는 생각에서 정보가 선형 방식으로 흐르고있는 반면, 꿈속에서는 정보의 흐름에 방향이 없으며, 뒤로 또는 옆으로 앞으로 느슨하게 연결된 개념으로 자유롭게 움직일 수 있다고 제안했다. 이는 전체적인 네트워크에 더 잘 통합 될 수있는 조각을 만들기 위해 메모리를 파기하는 데 필수적 일 수 있습니다. 이 함수는 아마도 실패 할 때 어떤 일이 일어나는지에 가장 잘 나타납니다. 예를 들어, 외상 후 스트레스 장애에서 외상을 재연하는 반복 악몽은 충격적인 경험을 한 후 수십 년 동안 지속될 수 있습니다. 이것은 너무 강력하고 지배적 인 ‘제한적인 피드백 루프’를 연상시키고 모든 관련 입력은 전체 회로가 작동하도록 트리거합니다. 따라서 시스템은 외상을 ‘해독 할 수 없으며, 그것을 파괴 할 수없고 그 곳에서 새로운 연결을 형성 할 수 없습니다.
꿈에서의 ‘hyperassociativity’는 정서적 기억을 통합하고 창조성을 자극하는 데 일정한 이점을 가질 수 있지만,이 ‘학습 능력’이이 구경의 신경 네트워크가 유지하기위한보다 기본적인 수준의 기계적 필요성에 있다고 주장 할 수 있습니다. ‘제한적인 피드백 루프’를 피하십시오. 사실, 이전에 설명한 인공 신경망에서 실험자들은 Hebbian 학습이 해제 된 ‘꿈꾸기’단계를 추가하면 학습 속도를 최대 10 배까지 높이고 제한적인 피드백 루프를 피할 수 있음을 발견했습니다. 모두는 인공 신경망에 예기치 않은 즐거움을 선사했습니다.
참고 문헌
Carr, M., & Nielsen, T. (2015). 아침 REM 수면 중뇌는 감정적 인 의미 네트워크에 대한 광범위한 접근을 용이하게합니다. Sleep, 38 (3), 433-443.
Hartmann, E. (1996). 꿈의 본질과 기능에 관한 이론을위한 개요. 꿈꾸며, 6 (2), 147.
Horton, CL, & Malinowski, JE (2015). 꿈꾸는 두뇌에서 자서전 적 기억과 과교 동성 : 수면에서의 기억 병합에 대한 함의. 심리학의 국경, 6.
Malinowski, JE, & Horton, CL (2015). 은 유와 hyperassociativity : 잠 및 꿈에서 감정 동화 뒤에 상상의 메커니즘. 심리학의 국경, 6.
Thiele, J., Diehl, P., & Cook, M. (2017). 반복적 인 스파이 킹 신경망에 대한 웨이크 – 슬립 알고리즘. arXiv preprint arXiv : 1703.06290.
