Logo Ernie.SG
박물관을 위한 MLOps

박물관을 위한 MLOps

2022년 11월 24일
5분 읽기
사용 가능한 태그가 없습니다
Table of Contents

A.I.에 대한 우리의 가장 큰 두려움은, 역설적으로 자원이 빠듯한 분야에서 A.I.를 받아들이게 만드는 가장 큰 이유가 될 수도 있다. A.I.는 인간의 노동을 대체하기보다는 증강해서 더 적은 자원으로 더 많은 일을 하게 만들 수 있고, 그 덕분에 박물관 직원들은 더 흥미로운 문제에 시간을 쓸 수 있다. MLOps는 딥러닝 커뮤니티 안에서도 아직 첨단에 속하고, 박물관에서는 말 그대로 거의 들어본 적 없는 기술 스택이다. 그래도 나는 박물관이라는 업무 환경의 고유한 조건 때문에, 오히려 이 스택이 도입했을 때 가장 큰 보람을 주는 선택이 될 수 있다고 본다. 오픈소스 커뮤니티와 연결하면 내부 기술 역량 부족도 메울 수 있고, 동시에 박물관이 사회에서 맡는 독특한 역할, 즉 우리가 쓰는 도구를 두고 대화하고 비판적으로 개입하는 공간이라는 역할도 더 잘 드러낼 수 있다. 그래서 이 글은 기술 배경이 없는 독자를 위해 아래 내용을 다룬다.

  1. 박물관 기술 생태계의 핵심 과제

  2. 기회 - 왜 박물관에 MLOps인가

  3. 사례 연구

  4. MLOps가 실제로 어떻게 보이는지

  5. xOps(DevOps, DataOps, MLOps) 개요

  6. 아키텍처 원칙, 도구, 모범 사례

  7. 권고

나는 소장품 관리와 관련 사용 사례를 중심으로 살펴보겠지만, 여기서 논의하는 원칙과 프로세스의 큰 결은 기관의 기술 생태계 안에 있는 다른 시스템에도 적용될 수 있다.

박물관 기술 생태계의 핵심 과제

박물관 기술 담당자들이 자주 언급하는 문제 중 하나는 박물관 기술 프로젝트에 필요한 시간과 노력에 대한 오해다 [1]. 박물관 부문의 디지털 역량 격차가 특히 심각할 수 있다는 점을 생각하면 그리 놀랍지도 않다. Arts Council England 소속 기관의 37%가 “역량과 지식 부족이 디지털 목표 달성의 주요 장벽”이라고 답했다 [2]. 기술 이해가 부족해 프로젝트 범위를 제대로 잡지 못하거나 산정이 엉망이 되면 결국 모두가 지친다. 이것은 박물관만의 문제가 아니다. IT 안에서도 기술 지형은 지나치게 넓고 빠르게 변한다. 블록체인, 네이티브 앱 개발, 웹 개발, 클라우드 기술, 서버리스, 혼합현실, 데이터 과학, 머신러닝, 알고리즘 등은 모두 IT와 디지털이라는 큰 우산 아래 있지만, 실제로는 서로 매우 다른 고도로 전문화된 기술이다.

조달 절차가 폭포수식 개발을 강제하고 내부 개발자가 없는 기관은 대개 서로 말을 걸지 못하는 단절된 시스템 묶음으로 끝난다. 물려받은 레거시 시스템 때문일 수도 있고, 벤더가 자기 업무 방식 안에 상호운용성을 넣을 동기가 없기 때문일 수도 있다. 그 결과 후속 단계에서는 온갖 혼선이 생긴다. 같은 일을 여러 번 반복하고(한 곳에서 업데이트한 내용이 다른 곳으로 자동 동기화되지 않음), 사람들이 서로 다른 문서 원본을 참고하면서 혼란이 커진다.

마치 자기 금고의 열쇠를 갖고 있지 않은 것과 같다. 무언가를 찾으러 갈 때마다 자기 자산에 들어가려고 입장료를 내야 한다. 더 나쁘면, 그 자산이 정확히 어디 있는지도 모를 수 있다. 문서가 잘 정리되어 있어도 벤더 A, B, C가 각각 다른 시스템을 만들고 지원한다면 서로 협력할 동기가 없다. 함께 일해야 하는 순간에도 서로에게 책임을 떠넘길 수 있다. 박물관이 기술 회사가 되어야 한다는 말은 아니다1. 오히려 내재된 제약을 제대로 이해하고, 이상적인 도착점을 그린 뒤, 그 조건을 염두에 두고 최적의 경로를 설계해야 한다는 뜻이다.

MLOps란 무엇인가?

MLOps는 “실험실” 조건에서 모델을 만드는 과학적 연구의 반대편에 있는 엔지니어링 작업에 가깝다. 컴퓨터 비전 PoC [3]를 실제 서비스로 옮기는 데 빠져 있던 재료다.

“AI 전체에는 개념증명에서 실제 운영으로 넘어가는 간극이 있다. 머신러닝 프로젝트의 전체 사이클은 모델링만이 아니다. 알맞은 데이터를 찾고, 배포하고, 모니터링하고, 데이터를 [모델에] 다시 넣고, 안전성을 보여주는 일, 즉 [모델이] 배포되기 위해 필요한 모든 일을 하는 것이다. [그것은] 테스트 세트에서 좋은 성능을 내는 것을 넘어선다. 다행인지 불행인지, 머신러닝에서 우리가 잘하는 것은 바로 그 테스트 세트 성능이다.” — Andrew Ng

기회 - 왜 박물관에 MLOps인가

무엇보다 박물관에서 MLOps를 해야 하는 중요한 이유는 아래 그림 1 [4]처럼 가장 큰 투자수익률을 낼 수 있는 A.I. 기술을 실제 운영으로 옮기기 위해서다.

그림 1. 박물관 관련성과 노력/비용 축에 따라 배치한 주요 AI 하위 분야.

블록체인이나 메타버스처럼 과하게 주목받은 기술은 가능한 사용 사례보다 설계 공간이 훨씬 넓어서 시간표가 더 멀리 있다. 반면 A.I.는 이미 MATANA2 기업군 전반에 대규모로 배치되었고, 주류화될 준비가 되어 있다. 아래 그림 2를 보면 박물관 부문과 특히 맞닿아 있는 A.I. 혁신 중 상당수가 그림 3의 NFT나 Web3 같은 다른 신흥 기술과 달리 이제 “Slope of Enlightenment” 단계에 들어와 있음을 볼 수 있다.

그림 2. … “2년에서 5년 안에 주류 채택에 이를 것으로 예상되는 혁신… 이러한 혁신을 일찍 도입하면 상당한 경쟁 우위와 비즈니스 가치를 만들고 AI 모델의 취약성과 관련된 문제를 완화할 수 있다.”

그림 3. 2022년 신흥 기술은 세 가지 큰 흐름으로 묶인다. 진화하고 확장되는 몰입형 경험, 가속화되는 인공지능 자동화, 최적화된 기술 제공 방식.

도입 장벽과 PoC에서 쌓인 학습이 지금의 순간을 만들었다. 예전에는 연구팀 전체가 필요했던 일을 이제는 작은 팀도 해낼 수 있다. 특히 박물관은 데이터와 애플리케이션의 특성 때문에 MLOps를 통해 이런 혁신을 활용하기 좋은 위치에 있다. 콜드스타트 문제, 담론의 필요성, 그리고 마지막으로 내부 인력과 기술 역량의 부족 때문이다.

박물관에서는 콜드스타트 문제가 특히 날카롭다. 애초에 데이터가 없는 경우가 많고, 학습에 쓸 기존 데이터나 잘 돌아가는 파이프라인이 풍부하지 않다. 이럴 때 데이터셋 구축과 라벨링부터 배포, 그리고 시스템으로 되돌아오는 실제 데이터 확보까지 이어지는 파이프라인을 운영으로 묶어내는 MLOps의 역할이 중요해진다. 이 과정을 가능한 한 끝에서 끝까지 자동화해야 더 적은 자원으로 더 많은 일을 할 수 있다.

MLOps는 어떤 모습인가

이론상으로는 몇 명의 사람과 게임용 PC 몇 대만 있어도 작품 자동 주석을 위한 A.I. 모델을 만들 수 있다. 그리고 그 모델을 MLOps로 실제 운영에 올리면, 박물관 소장품을 훨씬 더 접근 가능하고 발견하기 쉽게 만드는 견고한 시스템을 만들기 위한 추가 미세조정 데이터를 얻을 수 있다.

아래는 색상을 자동으로 추출해 조회할 수 있도록 데이터베이스에 추가하는 데모다.

Art API 업데이트: 색상 추출 및 컬렉션 추가 19.11.2022

아키텍처 원칙, 도구, 모범 사례

  • 클라우드 기반

  • 개방형 API

  • 연합형 접근

    그림 4. DevOps와 MLOps 도구 개요.


원래 PubPub의 erniesg.pubpub.org/pub/gcdzise9에 게시됨.