스펜서-브라운 산법의 의의

스펜서-브라운 산법의 의의에 대해서

https://www.facebook.com/textlab/posts/996597280385423?fref=nf

- 사실 텀블러의 제목이 [스펜서-브라운과 차이의 세계]임에도 스펜서-브라운을 소개하는데 게으르기만 했다. 아마도 한 참 열을 올렸던 스펜서-브라운 [형식의 법칙]과 스펜서-브라운을 기반으로 지시의 산법이 어떤 의미를 지니는가에 대해 정리하고, 그를 사회학적, 인류학적 영역으로 확장했던 오오사와 마사치의 [행위의 대수학]에 대해 초벌 번역을 마치고 나서, 에너지가 과잉 소모되었기 때문일 지도 모르겠다. (이 책들을 출판하려 하는 출판사가 없었던 게 더 실망스러운 일이었기는 하지만)

- 다행스럽게도 국내 루만 연구자들 사이에서도 이제 조금씩 스펜서-브라운에 대한 논의가 시작되고, 학술 저널에도 스펜서-브라운에 대한 논문이 등장하기 시작했다. 아쉬운 것은 여기서는 스펜서-브라운의 풍요로운 잠재성에 대해서 이야기되지 않을 뿐만 아니라, 스펜서-브라운의 독해가 일면적이라는 점.

- 그런 점에서는 스펜서-브라운의 산법에 기반해서 사회를 이해하려던 오오사와 마사치의 작업은 산법의 가능성과 깊이에 대해 좋은 시사를 보여주지 않을까 싶다. 그런 의미에서 예전에 아내와 함게 초벌 번역했던 오오사와 마사치의 [행위의 대수학]의 서문을.

———————-

행위의 대수학

스펜서-브라운에서 사회적 시스템론으로

오오사와 마사치 지음

박상우, 조은하 번역

0. 시원

존재가 행위와 함께 나타나는 양상을 관찰해보자. 스펜서-브라운(G. Spencer-Brown)이 구축한 ‘지시의 산법(calculus of indication)’이 얼마나 유효한 지 경험하게 될 것이다.

스펜서-브라운의 저서 [형식의 법칙(Laws of Form)](1969=1987)을 보면, 서문과 본문 사이의 여백에 “무명천지지시(無名天地之始)”라는 한자를 인용하고 있다. 따라서 이 문장과 같은 정신을 공유한다고 생각되는 고대 중국의 잘 알려진 우화로부터 논의를 개시해보자. 이 우화는 [장자(莊子)] 내편의 끝에 실려 있다.

“남해의 왕을 숙(儵)이라 하고, 북해의 왕을 홀(忽)이라 하며, 중앙의 왕을 혼돈(渾沌)이라 한다. 숙과 홀은 혼돈의 거처로 가서 진심어린 환대를 받는다. 이에 감격한 숙과 홀은 혼돈의 정성에 보답하자고 상의를 한다. ‘사람의 신체는 모두 눈, 코, 귀, 입의 일곱 개 구멍이 있고, 이에 따라 명석하게 분별한다. 하지만 혼돈은 구멍이 없으니, 구멍을 뚫어주면 어떨까.’ 이에 숙과 홀은 매일 한 개씩 혼돈의 신체에 구멍을 뚫었으니, 칠일 째 되는 날, 혼돈은 죽어버렸다.”

장자의 철학에 관련지어 보면, 이 우화는 ‘자연에 대한 표상으로서의 혼돈’에서 질서를 만드는 우주 창조의 이야기라고 볼 수 있는데, 시사하는 몇 가지의 우의가 흥미를 끈다.

① 여기서는 우주의 ‘소재=질료’는 하나의 신체이고, 우주의 창조는 그 신체에 차이(구멍)를 만드는(뚫는) 것이다. 게다가 차이를 만드는 것은 그 자신, 대상에 차이(분별)를 구축하는 기관―지각ㆍ감각기관―을 우주라는 신체에 나누어 주는 것이기도 하다. 때문에 우주는 ‘차이를 구성하는 것’이라는 사태와 함께 성립하게 된다.

② 혼돈의 신체에 구멍을 뚫은 두 왕의 이름에 주목할 필요가 있다. 숙과 홀은 모두 빠른 것, 즉 속도를 나타내는 명사로서, 은유적으로 ‘우주의 존재’와 ‘시간의 차원’의 등근원성(等根源性)을 암시한다.

③ 우주 창조의 사건은 모두 증여와 보은의 맥락 속에서 생겨난다. 즉 혼돈의 신체에 차이를 나누어 주는 것은 두 왕이 혼돈에게 행한 증여이자, 혼돈의 환대에 대한 보답이다. 존재와 시간의 확립은 증여 관계의 수립과 연관된다.

④ 왕권에 관한 이야기로도 볼 수 있다. 그 근거로 장자의 응제왕편(応帝王篇)―왕의 이상적인 모습에 대해 서술한 부분―에도 이 우화가 수록되어 있다. 장자에 있어서 이상적인 왕이란 아무것도 하지 않는 왕, 왕으로서의 존재가 부정되는 왕이다. 혼돈은 이러한 이상적 왕의 위상에 대응하는, 일종의 왕의 부정이나 부재를 대변하는 존재이다. 그에 대해 증여하는 자로서의 두 왕은 왕권의 적극적인 상태에 대응하는 것이라 할 수 있다.

이러한 다양한 우의의 공존은 흥미롭게도 우연은 아니다.

다음을 유의해보면 좋을 것이다. 오오무로 미키오(大室幹雄, 1974)에 의하면, 노장사상에 있어서 우주의 기본적인 이미지는 우로보로스(ουροβóρος)―스스로의 꼬리를 물고 있는 뱀, 혹은 서로 상대편의 꼬리를 물고 있는 두 마리의 뱀―다. 우로보로스는 행위의 주체이면서 동시에 행위의 대상이 되는 자기준거적 순환을 표상한다. 그렇다면 우화에서 혼돈에게 구멍을 뚫어 우주를 구성하는 두 왕은 혼돈 자신의 투사된 모습으로 볼 수도 있다.

결국 이야기는 혼돈의 죽음으로 끝난다. 이것은 우주의 구성으로 향하는 인간 정신의 숙명적 비극을 암시한다.

이 책은 스펜서-브라운이 [형식의 법칙]에서 구성한 수학에 대한 해제다. 즉 그의 수학에 내재된 가능성을 남김없이 전개하는 동시에, 행위와 존재의 실태에 대한 탐구를 수행하고자 한다. 나아가 사고를 확장하여 행위의 시스템으로서의 사회의 존립 기제와 사회가 사회로서 유지될 때 생겨날 수 밖에 없는 다양한 현상들을 지탱하는 여러 기제를 해명하고자 한다.

즉 수학의 필연적 전개와 그 해석을 통해 존재, 시간, 행위, 주체, 언어 등을 둘러싼 여러 사조들을 있을 만한 위치에 자리매김하고자 한다. 이 책에서는 수학을 둘러싼 사상을 문제 삼는 것이 아니라, 수학 그 자체를 하나의 사상으로 검토하고자 한다.

예를 들어 독자는 이 수학의 전개에서 ‘헤겔적’이라고도 표현할 수 있는 움직임을 발견할 것이다. 그러나 동시에 헤겔적인 체계에 대한 초극은 그 해당 체계의 내부에 깃들여 있는 가능성으로부터 시작된다는 점도 알아야만 한다. 실제로 이러한 형태의 초극을 바따이유의 사고에서 발견할 수 있다. 바따이유는 철저하게 헤겔의 체계에 내재해서―예를 들면 바따이유가 말하는 ‘지고성(souveraineté)’은 헤겔이 말하는 ‘지배(Herrshaft)’의 번역이다―그에 따라 독특한 사회학을 구축하고 헤겔이 보지 못했던 것을 발견하게 된다. 스펜서-브라운의 산법에 의해 예시되는 전개는 헤겔보다는 바따이유의 행보에 가깝다고 말할 수 있다. 그런 의미에서 사실 이 책은 바따이유의 사회학에서 중심적인 과제인 ‘증여’ 현상에 관한 문제들의 재발견이라고도 할 수 있다.

‘지시’의 조작에 관한 스펜서-브라운의 산법을 통해서 발견하는 것은 존재와 의미의 가능성(존재와 의미는 어떻게 해서 가능한가)에 대한 고찰이다. 이 고찰은 ‘차이와 동일성’을 둘러싼 현대철학의 사고와도 연결된다. 동일성이나 의미를 ‘차이의 체계’로 해소하는 수법은, 구조주의를 그 일부로 포함하고 있는 ‘언어론적 전개’에서는 상투적인 것이다. 그러나 언어론적 전개에서는 질문되지 않은 것이 있다. 차이의 체계의 체계성, 체계로서의 동일성이다. 차이의 본원성, 일차성을 주장한다면, 체계의 동일성에까지 그것을 적용해야만 한다. 스펜서-브라운의 산법과 사상적인 연관성을 지니고 있는 것은 언어론적 전개에서 유행하는 여러 사조보다는 오히려 하이데거의 철학이나 그것에 의해 촉발되어 전개된 여러 철학―말하자면 ‘구조주의’적 틀을 ‘탈구축’하는 데리다의 그것―이다. 마찬가지의 논의는 사회학의 기초이론 특히 니클라스 루만의 이론에서도 발견된다. 스펜서-브라운의 산법은 ‘차이’의 본원성, 일차성이라는 전제와 그 귀결에 대해 그 이상은 있을 수 없을 정도로 철저하게 탐구하고 있기 때문이다.

탐구의 첫걸음은 어느 정도 현상학적이라고 말할 수 있다. 탐구는 현상학에서 ‘지평’이라고 불리는 경우―그것은 여기서는 ‘씌어지지 않은 울타리’라고 불린다―를 발견한다. 동시에 ‘씌어지지 않은 울타리’라는 설정은 현상학적 틀로부터 이탈하는 돌파구이기도 하다.

여기서 자기준거적 인지와 행위의 구조에 수학적 표현을 부여하는 작업이 또 다른 포인트이다. 수학적 결론을―수학 자체를 그 일부로 포함하는―인지와 행위의 영역으로 일반화함으로써 다양한 사고실험을 통해서만 직관적으로 포착 가능한 어떤 현상에 대해 엄밀하게 개념적으로 파악할 수 있게 된다. 예를 들면, 스펜서-브라운의 산법은 이른바 ‘해석학적 순환’―하이데거에 의하면 그것은 단순한 텍스트의 독해를 순환하는 형식이 아니라, ‘현존재’의 수행 양식을 전체로서 덮고 있는 기제다―에 걸맞은 수학적 표현을 발견한다.

독특한 산법에서 촉발된 탐구는 나아가 자기준거적 인지나 행위를 가능하게 하는 여러 계기의 해석을 지향하지만, 거기에서 신체의 본원적인 사회성과 조우하게 된다. 예를 들면 비트겐슈타인이 ‘수학’의 가능성 문제와 언어 게임의 문제―즉 사회성에 대한 문제―를 구별할 수밖에 없었다는 점을 상기해야 할 것이다. 탐구의 이 단계는 메를로-퐁티가 만년에 확립했던 ‘신체론’을 기초로 한다.

논의는 시간에 대한 물음과 자연스럽게 이어진다. 우선 일반적으로 놓치기 쉬운 시간에 대한 패러독스, 특히 맥타거트(J. McTaggart)에 의해 철저하게 파헤쳐졌던 시간이라는 현상의 패러독스에 대해, 이 패러독스를 거쳐 왔던 ‘분석철학’의 여러 논의를 검토하면서 함께 제시하고자 한다. 산법에 대한 우리의 해석은 시간에 대한 패러독스와 자기준거적 형식에 대한 논리적 패러독스의 관련성을 발견하게 한다. 결론은 베르그송적이며 또한 하이데거적이다. 특히 하이데거의 철학은 시간을 증여라는 현상(Es gibt)과 관계 짓는다는 점에서 우리의 이어지는 논의와 긴밀한 연대를 형성한다. 또한 시간과 자기준거적인 인지가 실제로 통합적으로 등장하는 문제 영역으로서 양자역학에서 이야기하는 ‘관측문제’를 다루어본다.

최초에 장자의 사상으로부터 논의를 시작했던 것에서도 암시되었던 것처럼, 동양의 여러 사조도 지금부터 확립하고자 하는 이론과 무관하지는 않다. 즉 존재의 실질을 ‘차이’로 해소하려하는 철저성에 있어서 스펜서-브라운의 수학은 나가르주나(Nāgārjuna, 龍樹)의 철학을 상기시킨다. 실제로 스펜서-브라운의 대수는 결론에 있어 나가르주나의 논리와 매우 유사한 구성을 지닌다.

또한 동시에 스펜서-브라운의 산법을 행위나 체험으로서 사회에 관한 구체적인 여러 현상을 해명하는 데 이용하는 것이 가능하다.

앞에서 언급한 것처럼 우리는 행위와 인지의 자기준거성의 실질을 신체의 사회성에서 구하고자 한다. 이로부터 자기준거성에 수학적인 표현을 부여하는 스펜서-브라운의 산법을 사회현상의 해명에 직접적으로 응용하는 것의 정당성이 주어진다. 특히 산법은 ‘자기조직성 self-organizing’이라고 총칭되는 ‘사회적 시스템’의 특성을 귀결하는, 기초적 미시적 과정을 표현하고 분석하는 강력한 무기다. 사회적 시스템의 자기조직성은 시스템의 구성요소인 행위의 특수한 재귀적 관여의 양식으로부터 나온다. 이러한 행위의 양식을 표현하는 수학을 여기서 제기하고자 한다. 행위의 이러한 계기에 대해 최근 강한 관심을 기울이는 연구자는 니클라스 루만(Niklaus Luhmann)이다. 그래서 우리는 루만의 이론을 자주 언급하게 될 것이다. (무엇보다 루만 자신은 ‘자기조직성’이라는 말을 사용하지 않는다. 그는 ‘자기창출(autopoiesis)’이라는 개념을 사용한다.)

그래서 당연하게 여기서 제기하는 이론은 사회라고 불리는 행위의 질서에 대한 존립의 기제(틀) 그 자체에 초점을 맞추게 된다. 이 때 몇 가지의 선구적인 작업과의 연계가 그려진다. 예를 들면 쟈끄 라깡의 정신분석학에 대해 스펜서-브라운의 산법을 사용한 우리의 논의는 명확한 관점을 제공할 것이다.

이렇게 해서 제기된 사회형성의 기본적인 기제에 대한 이론은 구체적인 사회현상에 대한 기술(記述)을 통해 증거를 제시할 수 있다. 그런데 유감스럽게도 이러한 작업을 철저하게 수행하기에는 충분한 여유가 없는 만큼, 별도의 작업을 통해 기대할 수밖에 없다. 다만 약간의 구체적인 민족학적 사례를 통해 이론에 대한 방증을 제공할 것이다. 예를 들면 특별히 단순한 사회에서 발견되는, 일견 필요성이 의심되는 의례의 의의, 그리고 그러한 사회에서 특히 넓게 분포되어 있는 상징 질서의 움직임에 대해 극히 짧지만 해명을 위한 시사를 제시하고자 한다.

우리가 여기서 제기하는 이론을 통해 오리구치 시노부(折口信夫)의 ‘외래인론(まれびと論)’을 대체할 수 있다고 한다면 의외일까. 즉 우리가 스펜서-브라운의 독특한 수학을 해설하면서 제기한 이론은 오리구치 시노부가 ‘외래인’이라는 구체적 역사적 개념을 사용하면서 구축했던 이론의 보편적 원질을 설명해 줄 수도 있다. ‘국문학의 발생’ 등의 논고에서 오리구치가 탐구했던 ‘표현’에 대한 원리는 실은 동시에 사회라고 불리는 질서를 가져오는 원리(사회형성의 기제)이기도 하다. 오리구치의 논의에 있어서 ‘외래인’라는 설정은 ‘사실’에 대한 탐구와 ‘논리’적인 탐구가 직접적으로 융합하는 것이다.

뿐만 아니라 여기서 전개하는 산법은 ‘사회 형성’에 부수적이라고 인정되는 다양한 사회 현상의 설명에도 이용될 수 있다. 레비-스트로스는 일찍이 ‘근친상간의 금지’를, ‘언어’와 함께, ‘문화’를 자연으로부터 이탈시키는 경계축으로 이해했다. 이를 통해 근친상간의 금지의 이면에 있는 ‘여성의 교환’에 대한 분명한 대수적 모델을 제출한다. 그러나 레비-스트로스는 근친상간의 금지가 이처럼 일반적인 사회현상일 수 있는 이유를 설명하지는 않는다. 이에 비해 우리의 이론은 ‘다른 공동체에 대한 여성의 증여’를 사회가 가장 기초적인 ‘자기조직성’을 발휘하는 과정에서 얻어지는 일정한 효과로서 일관되게 이해했다고 자부하고 싶다. 그것은 산법이 기술하는 ‘전달 현상’의 일종으로 볼 수 있다.

마찬가지로 다양한 유형의 ‘증여’를 이해할 수 있게 된다. ‘증여’는 증여하는 ‘주체’에 위치할 때, 그것을 수행해야만 하는 동기가 없는 것처럼 보이지만 (그것은 증여하는 ‘주체’에게 순수한 손실을 강제하는 것이기 때문에), 그럼에도 불구하고 모든 사회에서 발견되는 현상이다. 그것은 대개 여성의 증여(혼자의 이동)와 의미 있는 상관성을 가진다. 증여는 특히 사회가 단순해서 원초적인 단계에 있는 경우(potlatch)에는 중요한 의의를 담당한다. 증여의 파격적인 중요성에 대해서는 확실히 이전부터 주목받았지만, 때로는 자기파괴에까지 이르는 증여의 존재 이유는 사실 설명되어지지 않은 것과 마찬가지다. 오직 바따이유만이 직관을 통해 증여를 지탱하는 특수한 기제에 주목했다.

증여에 관한 산법의 설명을 행위의 접속적 연쇄 일반으로 확장할 수도 있다. 특히 베이츠슨이 민족학적 연구에서 얻었던 ‘분열 생성’의 관계는 가장 단순한 전달관계의 두 가지 전개 형태로 이해할 수 있다.

또한 산법은 ‘권력’ 같은 현상의 설명에도 이용될 수 있다. 즉 산법은 사회 속의 여러 개체가 특권적 초월성(초월적 타자)에 종속하는데 이르는 기제를 가시적으로 만든다.

예를 들면 그것은 ‘왕권’ 같은 집권적인 권력의 존립 기반을 해명하기 위한 단서를 제공한다. 일본의 ‘천황제’도 (무엇보다 천황제는 불완전한, 혹은 미완성의 왕권이지만) 왕권의 일종이다. 오리구치의 ‘외래인론’에서 외래인’이 천황의 원형을 제공하기 위해 도입된 개념이라는 주장에 새삼 주목하게 된다.

통상 발달한 왕권에서는 ‘법’이 뒤따르고, ‘법’에 의해서 왕의 권력은 보강된다. ‘법’이 성립하는 것은 사회가 어떤 종류의 조건을 충족시킬 때다. 스펜서-브라운의 지시에 대한 대수에서 등장하는 고차방정식(3차 이상의 방정식)은 이 조건을 표현하고 있다고 생각된다. 문제의 ‘조건’은 3차 미만의 방정식과 3차 이상의 방정식의 운동 편차로부터 미루어 생각된다.

‘왕’과 같은 초월성은 우리 시대인 ‘근대’에 이르면 완전히 극복되거나 그렇지 않으면 기간적인 중요성을 잃어버린 것으로 보인다. 확실히 어떤 면에서는 그러한 인정이 마땅하지만, 다른 면에서는 ‘왕’으로 대표되는 초월성은 근대에도 보존(지양)되어, 근대라는 사회를 총체로서 가능하게 하는 조건이 된다. 근대를 움직이는 원리를 알기 위해서도, 근대가 스스로 파괴되어 가는 운동을 이해하기 위해서도 이런 종류의 초월성을 지탱하는 기제를 보다 잘 해명할 필요가 있다.

끝으로 산법의 논리학적 해석을 제시하고자 한다. 우선 이른바 ‘전칭 명제’와 ‘특수 명제’의 기묘한 비대칭성이 고찰의 중심 대상이 된다. 그런데 이 문제는 논리학에 있어서 기술적인 문제를 넘어선다. 전칭 명제와 특수 명제의 비대칭성는 우주와 존재에 대한 우리의 일정한 태도를 반영하는 것으로 이해할 수 있다. 이를 통해 존재의 실질을 차이(구별)에서 구하는 우리의 전제가 다시 보강될 것이며, 이에 따라 고찰은 여기서 전개된 이론의 뼈대가 되는 구상 자체로 회귀하게 된다.

이 책을 읽어나가는 데에는 몇 가지 주의사항이 있다.

독자 중에는 수학에 강한 거부감을 지닌 분도 있을 것이다. 그러나 여기에서 사용되는 수학은 결코 어렵지 않다. 물론 처음에는 어느 정도 난관이 있겠지만, 다른 것에 구애되지 말고, 연산에 기계적으로 익숙해지는 것이 가장 빠른 길이다. 또한 수학적인 설명이 잘 이해되지 않는다면 그 부분을 일단 읽고 진도를 나아가는 것도 크게 상관은 없다. 수학이 말하고자 하는 본질을 이해하는 것과 수학적 기술에 익숙해지는 것은 별개이기 때문이다. 처음에는 잘 이해되지 않던 것도 뒤에서 반복하다 보면 이해가 된다.

수학적인 증명에서 까다로운 부분은 책의 맨 뒤 ‘증명’에 따로 수록했다. 본문에서 대응하는 정리가 나올 때 참조하기를 바란다. 증명이 필요한 대부분의 정리는 2장에 나온다. 급한 독자는 정리의 내용만 살피고, 우선은 증명을 읽고 본문을 통독한 다음, 증명을 다시 살펴봐도 좋을 것이다. 어쨌든 증명의 내용을 정확하게 하기 위해서라도 스스로 증명을 따라 해보기를 바란다.

‘부록’은 상당히 기술적인 부분으로 본문의 내용을 발전시키고자 상술했다. 부록 1절은 본문 2장을, 2절은 4장의 발전ㆍ확장이다. 2절은 1절을 전제로 한다. 3절은 8장의 설명에 사용되는 함수의 해설이다. 3절은 1절, 2절과 독립해서 읽을 수 있다. 부록은 각각 본문의 해당 부분을 읽은 뒤 참조해도 좋고, 본문 전체를 우선 읽은 후에 읽어도 좋다. 부록을 읽지 않아도 본문을 읽는 데 큰 지장이 없고, 부록만 따로 읽을 수 있도록 썼다.

인덱스에서는 중요하고 특수한 용어에 대해 그것의 정의가 나온 페이지나 또한 특히 그것을 이용한 논의가 진행되는 부분의 페이지를 적었다.

문헌 목록의 방법은 ‘소시오로고스’ 방식을 사용했다. 예를 들면 Luhmann[1984]이라고 한다면, Luhmann이 1984년에 발표한 저서 또는 논문이라는 뜻이다. 권말의 문헌표의 해당 부분을 보면, 그 저서나 논문의 제목 등에 대한 정보가 있다. 또한 Dummett[1978=1986:45] 등이 있는 경우는 [=]에 따른 숫자(1986)는 번역의 발표년도, [:] 뒤의 숫자(45)는 번역의 참조 페이지다.

또한 { }안의 숫자는 [형식의 법칙]의 번역(Spencer-Brown[1969=1987])의 페이지수다.

주석의 양이 많기 때문에 독자 입장에서는 대단히 불편한 것이다. 다만 변명하자면, 나에게 ‘주’란 대단히 편리한 방법이다. 문장으로 사고 표현을 하게 되면 아무래도 선형적으로 전개할 수밖에 없다. 이렇게 되면 하나의 선처럼 하나의 사고만이 존재하게 된다. 그러나 현실의 사고는 자주 불가항력적으로 외부의 별개의 사고와 조우한다. 그렇다고 해서 그것을 직접적으로 본문에 반영하게 되면 누구도 이해할 수 없는 어지러운 문장이 될 것이다. 주석은 이처럼 외부로부터 다가온 사고를 어떻게든 표현하고자 하는 고육책이다.

비로소 우리는 탐구의 첫걸음을 시작할 때가 되었다.