데이터인 모든 것은 공기 속으로 녹아든다

“The Three-Body Problem”의 도입부에서 우주로 보낸 하나의 메시지는 인류를 실종된 과학자들, 사회적 갈등, 정치적 음모가 이어지는 사건의 연쇄로 밀어 넣는다. 외계 종과의 조우 속에서 인간의 삶과 존엄은 위태로운 균형 위에 놓인다. A.I.도 같은 일을 할 수 있을까라는 질문은 우리에게 전혀 새롭지 않다. 어쩌면 우리가 약하고 취약한 존재들을 어떻게 대하는지 알고 있고, 그 모습이 아름답지 않기 때문일지도 모른다. 나는 의식과 그에 따르는 자아 감각을 창의성과 지능과는 별개의 것으로 다루는 쪽에 기운다. 그러면 우리가 생명이 비생명에서 어떻게 생겨났는지를 더 잘 이해하려 애쓰는 동안 시간을 벌 수 있기를 바란다.

Stable Diffusion WebUI로 생성.

최근 Vision Transformer와 Stable Diffusion으로 아주 다양한 스타일의 노래와 이미지를 생성하며 놀아본 뒤, 나는 이제 내가 평생 할 수 있을 것보다 더 빠르고 더 잘 “그릴” 수 있게 되었다는 사실에 매우 만족한다. 동시에 이 모든 것이 얼마나 경험적 연습이 되었는지에 불안과 묘한 동요도 느낀다. 내가 계속 붙잡고 씨름해온 생각은 이것이다. 우리 인간이 자랑스러워하는 많은 것들, 우리의 창의성, 우리의 지능이 어쩌면 그저 계산 가능한 데이터와 통계적 현상일 뿐인가? 그리고 그 면에서 우리는 기계의 상대가 되지 못한다. 어떤 의미에서는 이것이 완전히 참이고 해방적이지만, 다른 차원에서는 중요한 세부가 많이 사라진다. 인간의 행위 대부분을 이렇게 생각하는 것은 섬뜩하고 불안을 유발한다.

Stable Diffusion WebUI로 생성.

Stable Diffusion을 쓰면 그림에 전혀 관심도 없고 완전히 못 그리는 나도 3070 GPU에서 30초도 안 되어 스타일을 자유롭게 바꾸고 4개의 변형을 생성할 수 있다. 일부 결과는 여기 보이는 것과 같다. 분명 A.I.는 현실의 매우 특정한 단면만 포착한다는 점에서 이상하다. 그렇게 하지 않으면 모델이 말도 안 되게 왜곡된 여성 인물을 계속 출력하기 때문에 나는 꾸준히 “large breasts”와 관련 표현을 negative 프롬프트에 넣게 된다. 이 모든 것은 이 podcast에서 논의된 것처럼 매우 이상하고, 그 안에서 던져진 강력한 질문은 내가 계속 머릿속에서 씹고 있던 바로 그 문제다.

EZRA KLEIN: 잠깐 맥루한식으로 말해보자면, 그의 유명한 말처럼 “미디어가 메시지”라면, 미디어가 그것을 쓰는 사람들을 바꾸는 특정한 존재 방식과 사고 방식을 인코딩한다면, A.I. 챗봇이라는 미디어의 메시지는 무엇이라고 보시나요? 이것이 어떤 기술 위에 세워진 미디어라는 점도 짚을 만합니다. 챗봇은 수많은 응용 중 하나일 뿐이고, 하필 그것이 가장 먼저 뜨고 있다는 사실도 기술의 모양을 그렇지 않았을 때와 다르게 빚어갈 겁니다. 그래서, 이 미디어의 메시지는 무엇일까요?

Stable Diffusion WebUI로 생성.

인간의 창의성과 지능을 모델링하고 예측 기계로 만드는 일이 이렇게 잘 된다는 사실은 우리 개인에게 무엇을 의미하며, 우리는 어떻게 대응해야 할까? 이 생각 쪽으로 몸을 기울인 나의 예비적 답은, 신비의 상실과 경이의 감각이 같은 동전의 양면처럼 느껴진다는 것이다. 이런 방식으로 우리의 지능과 창의성을 작게 만들면, 긍정적 결과로는 인간이라는 것이 무엇을 뜻하는지, 그리고 각 개인의 지능이나 창의성 수준과 관계없이 우리가 서로에게 무엇을 빚지고 있는지에 대한 진정한 재평가가 가능할 수 있다. 하지만 더 어두운 쪽에서는, A.I.를 신중하게 다루지 않으면 무역과 소셜 미디어의 효과를 합친 것보다 더 깊은 균열을 글로벌 사회에 만들까 걱정된다.

데이터셋 편향과 효과적인 프롬프트 설계

내가 프로덕션으로 만들고 싶은 일반적 사용 사례는 자동 콘텐츠 생성이다. A.I.가 원하는 콘텐츠 주제에 대해 다양한 형식과 언어로 영상 스크립트와 이미지를 만들고, 내가 여러 플랫폼에 자동으로 게시할 수 있게 하는 것이다. 불행히도 이 글은 아직 수작업이다. 그 과정에서 A.I.의 모든 편향이 내게 되돌아오는 것을 보는 일은 흥미롭다. “large breasts”를 돌려주지 말라고 명시하기 전까지 생성되는 모든 여성 인물이 기본적으로 과장된 몸매로 나왔기 때문이다. 이것은 훈련에 쓰인 데이터셋과, 우리가 미디어에서 보는 것 중 얼마나 많은 것이 현실을 매끈하게 보정한 버전인지 생각하게 만든다. 그러면 대체 누구를 탓해야 할까?

인터넷에서 그냥 다운로드할 수 있는 여러 모델을 실험한 뒤, 나는 그래픽 노블에 가까운 스타일을 선택했다. 놀랍지 않게도 성인 콘텐츠 제작에 특화된 모델이 많다. 거기에 textual inversion을 통해 자신의 Stable Diffusion 모델을 맞춤화하고 훈련하는 일이 얼마나 쉬운지까지 더하면… 다시 말해, 평균적인 게임 PC만 가진 누구나 딥페이크 성인 콘텐츠를 생성할 수 있다.

정부, 학교, 부모들이 A.I.를 제대로 챙기고 있기를 바란다. 그런 희망을 가져도 될까?

A.I.가 다른 이유

잠시 부정적인 이야기를 내려놓으면, 나는 A.I.에 매료되어 있다. 1956년 Dartmouth Conference의 “Nativity according to the flesh” 같은 순간에서 출발해, 최초의 단층 신경망인 퍼셉트론에서 현대 딥러닝까지 짧은 시간에 엄청나게 멀리 왔기 때문이다. 그리고 현재 우리 주변을 조금만 둘러보면 A.I.가 이미 무엇을 할 수 있는지 보이고, 기존 증거에 기반해 앞으로를 예측할 수 있다. 다른 많은 기술은 현재에서 발판을 찾으려는 미래 비전이라고 불리지만, 대개 처참히 실패한다. 그러나 A.I.는 이 점에서 독특한 종이다. 그래서 나는 이것을 증기기관과 같은 급으로 보게 되었고, 아마 어떤 사람들이 이것을 불이나 전기에 비유하는 이유도 그 때문일 것이다.

“나는 언제나 AI를 인류가 연구하고 있는 가장 심오한 기술이라고 생각해왔다. 불이나 전기, 또는 우리가 과거에 해온 그 어떤 것보다도 더 심오하다.” - 순다르 피차이, Google CEO

스미스소니언 박물관에 전시된 Mark I Perceptron. (출처: https://ronkowitz.blogspot.com/2017/11/perceptron.html)

1958년에 단층 퍼셉트론은 실제 전선과 거대한 기계로 이루어져 있었다. 내가 2022년에 다중 레이블 분류를 하기 위해 합성곱 신경망 모델을 가지고 놀았을 때만 해도, ResNet-512 같은 모델은 512층 깊이로 내 거실의 아주 평범한 게임 PC에서 잘 돌아가고 있었다.

A.I.는 기계에 생각할 능력을 주려는 인간의 관심을 끝내 식히지 못한 수많은 겨울의 이야기다. A.I. 겨울의 긴 밤, 통계적 전환, 데이터와 GPU가 오래된 모델 위에서 만난 덕분에 가능해진 캄브리아기적 폭발, 그리고 신경망의 궁극적 귀환은 모두 다음에 파고들고 싶은 것들이다!

원래 PubPub에 erniesg.pubpub.org/pub/33ietk6v로 게시되었습니다.