개발자 일기: 이제 우리는 모두 베이지안 추론 기계다

“The Sound of Stories” 프로젝트에서 내가 특히 기대하는 것 중 하나는, 사용자가 자신만의 독특한 드럼 소리를 만들고, 그 소리들을 모두 임베딩 공간에 넣은 뒤, 현장에서 다른 사람과 함께 ERAE Touch 같은 인터랙티브 장치를 사용해 자기 소리를 찾아가는 아이디어다. 손을 밀고, 노브를 돌리는 등의 동작이 잠재 공간과 값에 매핑되어, 임베딩 공간 안에서 자기 소리의 “좌표”를 찾는 것이다. 그리고 일단 찾고 나면, 현장에 있는 거대한 디스플레이가 그 소리를 만들어낸 이야기를 투사할 수도 있을 것이다. A.I. 설명 가능성 관점에서 꽤 흥미로운 방식이라고 생각했고, 어느 정도 이 글과 이 영상에서 영감을 받았다. 물론 재미있는 반전은 잠재 공간이 직접적으로 해석 가능하지 않을 수도 있다는 점이다. 그래도 이런 서로 다른 기술들을 현장에서 엮어내는 재미있고 의미 있는 방식이 될 수 있다고 생각한다.

이 설정은 이쯤 해두고, 내가 이 팟캐스트를 듣다가 문득 든 생각이 있다. 만약 우리가 뇌와 세계의 관계를 제1원리에서 재구성한다면, 그리고 현실의 진정한 본질이 근본적으로 알 수 없는 것이라는 점을 받아들인다면(Plato와 Kant가 시사했듯), 논리는 결국 삶 전체가 확률적이라는 결론으로 이어지는 것 같다. 그렇다면 그런 시스템이 결정론적이기를 기대하는 것은 비합리적일 뿐 아니라, A.I. 설명 가능성 자체도 약간은 본질을 흐리는 문제 아닐까? 확률과 통계의 관점에서 볼 때, A.I.가 대부분 좋은 예측을 한다면 왜 우리는 거기서 더 많은 설명이나 이유를 기대해야 할까? 거의 불공평하게 느껴진다. 이 정도로 추가적인 설명 가능성의 부담을 지는 다른 영역이 있다면, 아마 의식 자체의 본성 정도일 것이다.

만약 뇌가 하향식으로 작동하고, 우리가 현실이라고 부르는 것이 사실은 우리가 세계에서 보는 것과 문화, 환경, 믿음 등으로 형성된 사전 가정에 기반한 베이지안 추론을 통해 대부분이 합의한 통제된 환각에 불과하다면 어떨까. 이제 우리가 모두 베이지안 추론 기계라면, 의식의 문제를 잠시 제쳐두었을 때 어떤 지능 시스템의 근본적인 테스트는 그 예측의 정확성일 수 있다. 혹은 한 걸음 더 나아가, 원하는 목표를 달성하기 위해 행동 목록 안에서 관련 행동을 얼마나 잘 활용할 수 있는지일 수도 있다. 다시 말해 성공은 그 자체로 설명이다. 과학 이론의 행진과 진보가 예측을 얼마나 잘하는지, 혹은 이론이 얼마나 오류를 최소화하는지로 측정되는 것과 마찬가지다.

우리 뇌의 근본적인 미스터리, 즉 계층적 예측 처리와 세계에서 가져온 정보가 전기화학적 신호로 변환되는 방식은, 지금의 A.I.라는 “블랙박스”와 그리 다르지 않다. 하지만 그것은 우리에게 완전히 불투명한 블랙박스는 아니다. 신경과학, 확률, 통계를 적당히 갖추면 이런 예측 기계를 있는 그대로 받아들이고 그 한계를 이해하기 위한 토대를 꽤 멀리까지 마련할 수 있기 때문이다.

그러니 어쩌면 A.I. 설명 가능성의 책임은 정말로 교육 시스템에 있는 것일지도 모른다.

원래 PubPub에 erniesg.pubpub.org/pub/6p2l328i로 게시되었습니다.