모씨 서비스 구성에 대해


2016년 새해가 벌써 한 달이 지났습니다. 2014년 11월 1일에 오픈한 모씨 서비스도 하루가 다르게 바뀌고, 성장하고 있습니다. 오늘은 그 동안 미루어 두었던 모씨 서비스를 구성하는 시스템에 대해 이야기를 해볼까 합니다. 실제로 많은 분들께서 모씨 시스템 구성에 대해 궁금해 하시고, 몇몇 분들은 직접 사무실에 오셔서 문의를 주신 적도 있었습니다. 지난 1년 3개월동안 발전해 온 시스템 구성에 대해 알아보도록 하겠습니다.

Hosting

모씨는 AWS EC2 를 사용합니다. 저희가 상주하는 곳은 도쿄 리전이며, 여러 사정으로 인하여 서울 리전으로 이주할 계획은 현재 없습니다. AWS 에서는 굉장히 많은 종류의 서비스를 제공하는데요, 가급적 AWS 에 지나치게 의존성이 발생하는 것을 최소화 하고자 EC2 서비스 이외에는 아주 일부분에 한하여 AWS 서비스를 이용하고 있습니다.

서비스 초기에 EC2 에 대한 이해가 높지 않은 상태로 시스템을 구성 하였다가 EC2 의 CPU creditEBS 의 IOPS limit 에 부딪혀 낭패를 겪은 적이 몇 번 있었습니다. 특히 메인 데이터베이스의 EBS IOPS limit 문제가 터졌을 때는 정말 멘붕(?) 이었었는데요, 상용 서비스를 구축할 때는 반드시 관련 문서들을 참고 하여 저희와 같은 삽을 뜨지 않기를 바랍니다.

저희가 실질적으로 보유하고 있는 하드웨어 장비는 사내에 있는 맥 미니 서버 한 대 입니다. iOS/Android 클라이언트의 자동 빌드를 위해 보유하고 있습니다.

OS

맥 미니 서버에 설치된 OSX 을 제외하고는 모든 서버에서 Ubuntu 14.04 LTS 를 이용하고 있습니다. 모씨 개발 팀은 4명의 개발자로 구성되어 있으며, 상대적으로 설정과 관리가 편한 Ubuntu는 소규모 개발팀에게는 축복과도 같은 운영체제라고 할 만합니다. 1년이 넘는 시간 동안 250만명 이상의 회원이 만들어 내는 트래픽을 수 십대의 Ubuntu 14.04 로 운영해 왔습니다만, Ubuntu 서버는 별 다른 문제를 일으킨 적이 없습니다.

EC2 에서 사용 가능한 Ubuntu 14.04 에는 ixgbevf 모듈이 2.11.3-k 가 설치되어 있습니다. 관련 문서 에 따르면 2.14.2 를 설치할 경우 최적의 성능을 발휘할 수 있다고 명시되어 있습니다만, 커널과의 충돌이 발생하여 설치가 되지 않습니다. 현재 Canonical 사와 함께 커널 패치를 진행 중이라고 하니 Ubuntu 16.04 LTS 에서 최신 ixgbevf 모듈이 번들링 되기를 기대해 봅니다.

Database

모씨는 다양한 데이터베이스가 유기적으로 연결되어 동작하고 있습니다. 하나씩 살펴보도록 하겠습니다.

PostgreSQL

모씨 서비스는 메인 데이터베이스로 PostgreSQL 9.4 를 이용하고 있습니다. 이곳에 사실상 서비스와 관련된 모든 데이터들이 저장되고 있습니다. PostgreSQL 은 그 특성상 다른 데이터베이스에 비해 부하가 있을 경우에 체크해야 할 튜닝 포인트가 좀 여러군데입니다. 아마 데몬이 멀티 스레드가 아닌 멀티 프로세스 형태로 동작하기 때문이 아닐까 합니다. 실제 모씨 서비스를 구축하며 원하는 성능을 맞추기 위해 오토 배큠, 커넥션 풀링, 커널 리소스등등 다양한 부분에 대한 설정 및 성능 튜닝이 이루어졌습니다.

PostgreSQL 을 최적화 하고 튜닝하는 과정에서 공식 문서 및 데이터베이스 사랑넷, 페이스북 PostgreSQL Korea 그룹 등을 많이 참고 하였고, 조언을 얻을 수 있었습니다.

PostgreSQL 의 경우 멀티 프로세스 형태로 동작하는 만큼 커넥션 풀링은 굉장히 중요한 요소입니다. 데이터베이스 커넥터나 ORM 라이브러리 수준에서 커넥션 풀링을 지원하기도 합니다만, 모씨의 경우 PgBouncer 를 통한 커넥션 풀링을 설정하여 사용하고 있습니다.

어떤 파일이 OS 캐시에 올라와 있는지를 확인해 주는 vmtouch 라는 툴이 있습니다. 필요에 따라 PostgreSQL 의 데이터 파일이 어느정도 touching 되어 있는지를 확인하고 필요에 따라 touching 해줄 경우 데이터베이스 warm-up 과 지속적인 성능 유지에 큰 도움이 됩니다.

MariaDB

모씨에 등록된 수 억장의 카드에 포함되어 있는 해시 태그들은 중복 제거되어 별도 저장된 것만 600만개에 이릅니다. 이 데이터들에 대해 메인 데이터베이스에서 like 검색을 시도 할 경우 상황에 따라 심각한 퍼포먼스 저하를 일으키곤 하였습니다. 이 문제를 해결하고자 우리는 검색엔진부터 시작해서 다양한 데이터베이스들을 테스트 해 보았고, 최종적으로 MySQL 을 포크한 MariaDB 를 이용하여 해시 태그 검색을 구현하기로 결정 하였습니다. 그리고 MariaDB 는 우리가 필요로 하는 성능을 충분히 내 주었습니다.

다만 MariaDB(MySQL 포함) 의 경우 몇 가지 단점을 가지고 있는데요, 그 중 가장 큰 문제는 utf-8 관련일 겁니다. MariaDB 의 경우 utf-8 설정은 3 바이트 utf-8 문자 데이터만을 구현하기 때문에 4 바이트 이상(스마트폰의 emoji 아이콘들이 대표적인 예입니다.)의 utf-8 문자를 기록하려 할 경우 오류가 발생하는 문제가 있습니다. 이 경우 utf-8 mb4 라는 별도의 옵션을 설정해야 하며 대소문자를 구분하는 검색을 하기 위해서는 별도의 collate 문을 추가해야 합니다. 또한 InnoDB 기준 varchar 타입의 경우 767 byte 까지만 허용하기 때문에 utf-8 mb4 기준으로는 약 190자만 저장 가능하게 됩니다. 이래저래 특이한 제약조건이 많은 데이터베이스이긴 합니다만, 제한된 상황과 통제된 모델링을 통해서 충분히 극복할 수 있는 부분이라 생각합니다.

MariaDB 및 MySQL 을 처음 접하시는 분들이 이런 MariaDB 만의 특성을 RDBMS 의 전체적인 특성으로 오해하는 일은 없으면 좋을 듯 합니다.

MongoDB

NoSQL 계에서 가장 유명한 MongoDB 를 여러 군데에서 사용하고 있습니다. 주로 사용하는 곳은 BSon 형태로 데이터를 쉽게 쓰고, 읽을 수 있는 곳입니다. 예를 들어 어떤 카드의 순 조회수를 기록하고자 할 때, 순 조회수 자체는 RDBMS 에 기록 됩니다만, 해당 카드를 조회한 사용자들 의 로그는 MongoDB 에 기록되도록 하여 순 조회수를 정확하게 기록함과 동시에 메인 데이터베이스의 부하를 분산하는 용도 등으로 사용하고 있습니다. MongoDB 는 3.0 때 도입된 WiredTiger 스토리지 엔진으로 데이터 저장 효율이 비약적으로 향상 되었습니다.

MongoDB 를 사용할 때 유의해야 할 점이 있습니다. aggregation 쿼리나 index 를 사용할 때인데요, TPS 가 급증할 경우 MongoDB 를 이용할 때 모씨 팀은 다음과 같은 문제를 겪은 경험이 있습니다.

  • 메인 데이터베이스로 사용하기 위해 기본적인 스키마를 설정한다.
  • 모델링에 맞추어 데이터를 저장한다.
  • 서비스가 발달하며 쿼리가 복잡해지거나, 데이터가 늘어나기 시작한다.
  • 쿼리의 성능이 떨어지는 것을 확인한다.(특히 find)
  • 인덱스를 생성한다.
  • 인덱싱 작업 때문에 insert/update 가 더 느려진다.
  • 다 느려진다.

MongoDB 자체는 Schemaless 한 데이터베이스인만큼 RDBMS 만큼의 인덱스 성능이 나오지는 않습니다. 또한 ORM 레이어를 기반으로 MongoDB 를 사용할 경우 데이터를 막(?) 때려넣고 막(?) 조회할 수 있는 장점을 포기한다고 볼 수도 있을 것 같습니다. 또한 aggregation 쿼리 역시 RDBMS 만큼 뛰어난 성능을 발휘하는 것 역시 아닙니다. 개인적으로 MongoDB 는 RDBMS 를 완전히 대체한다기 보다는 최대한 단순하게 이용할 때 자유롭고 편하게 쓸 수 있는 좋은 저장소의 역할을 해 준다는 느낌을 받았습니다. 아무쪼록 주의깊게 사용할 필요가 있다고 생각합니다.

DynamoDB

AWS 에서 제공하는 NoSQL 류의 데이터베이스입니다. 쉽게 구축 이 가능하고, Read/Write Capacity 에 따라 가격이 책정되는 구조라 손쉽게 Scale In/Out 을 할 수 있습니다. 다만 인덱스가 제한적이고, 쿼리 역시 매우 제한적입니다. 별도의 서버 구축 없이 간단한 데이터를 쌓는 용도에 추천할 만한 서비스입니다.

모씨 서비스의 경우 초기 일부분에 한하여 DynamoDB 가 사용되었으며, 대부분의 로그성 데이터는 MongoDB 에 저장되도록 코드가 수정 되었습니다. 앞으로 DynamoDB 는 모두 걷어내려 생각 중입니다.

Storage

이용자들이 생성하는 수 억장의 카드 이미지는 AWS S3 에 저장됩니다. 실제로 이런 단순 데이터 스토리지는 직접 구축하는 것 보다 S3 를 이용하는 것이 어떤 식으로든 이득입니다. 개인적으로는 AWS 의 수 많은 서비스들 중 가장 빛나는 서비스라 생각하며, AWS 를 사용하지 않더라도 스토리지가 필요할 때는 S3 를 사용하라고 추천하고 싶습니다.

S3 에 업로드 된 수백 테라 바이트의 이미지는 AWS CloudFront CDN 으로 배포 됩니다. CloudFront 는 외부 CDN 에 비해 특별히 뛰어난 점이 있는 것도 아니며, 자세히 요금을 따져 보면 S3 에서 직접 서빙하는 것 보다 비싼 경우도 있을 수 있습니다. 그럼에도 불구하고 CloudFront 에는 두 가지 장점이 있는데요,

  • S3 에서 CloudFront 로의 서빙 비용이 무료라는 점과
  • 예약 요금을 사용하게 될 경우 기간/트래픽 등의 약정 조건을 통해 추가 가격할인이 가능 하다는 점입니다.

CloudFront 의 경우 서비스하는 서비스 특성에 따라 많은 경우의 수가 있을 수 있으므로 주의 깊은 고려 후 예약 약정을 사용하는 것을 추천합니다.

Cache

주력 캐시 서버로 redis 를 이용 합니다. Ubuntu ppa 에 등록된 chris lea 의 redis 패키지는 jemalloc 과 함께 빌드 되어 있어 추가적인 성능 향상을 기대해 볼 수 있습니다. 또한 모씨 서버 어플리케이션 내부에 자체적인 샤딩 루틴이 포함되어 있어 여러 대의 redis 서버 인스턴스에 다양한 데이터가 분산 저장되며, 히트가 되지 않을 경우 자동으로 데이터베이스로부터 당겨 오도록 되어 있습니다.

모씨의 주요 데이터들은 RDBMS 에 바로 기록되지 않도록 설계하였습니다. 직접 RDBMS 에 데이터를 업데이트 할 경우 예상할 수 있는 트랜잭션 스트레스 때문인데요, redis 서버에 먼저 데이터를 set 하고, 일정한 딜레이 후에 캐시 서버에서 데이터베이스 로 데이터를 저장하도록 하는 루틴들이 포함되어 있습니다.

이때 redis 서버에 있는 동일한 데이터에 여러 커넥션이 동시에 데이터를 set 하여 데이터 정합성 문제를 일으키지 않도록 하기 위해 여러 큐 형태의 파이프 라인 코드가 동작하고 있습니다.

검색 엔진으로는 AWS CloudSearch 와 ElasticSearch 를 사용하고 있으며, 현재 AWS CloudSearch 를 모두 덜어내고 ElasticSearch 로 마이그레이션을 지속적으로 진행 하였습니다. 지리 정보 관련한 데이터 질의 역시 초기엔 MongoDB 의 Geolocation 쿼리를 이용하였으나, 현재는 ElasticSearch 기반으로 변경한 상태입니다.

Application Server

서버에서 동작하는 모든 어플리케이션은 Python 으로 작성 되었습니다. 크게 메인 시스템과 관리 시스템으로 구성되어 있습니다.

먼저 메인 어플리케이션은 Flask 기반으로 구현 되었습니다. PostgreSQL 데이터베이스는 SQLAlchemy 와 Alembic 을 통해 연결, 관리 되고 있습니다. 저의 경우 Django 를 사용해 오다가 이번에 처음으로 SQLAlchemy 를 사용하였는데, 처음엔 SQLAlchemy 의 ORM 코드를 작성하는게 정말 익숙치 않았는데 1년 정도 꾸준히 쓰면서 이제야 적응이 되어 가는 것 같네요. 관리 시스템 서버의 경우 Django 로 구현되어 있습니다.

메인 시스템의 경우 경량 프레임워크 + 라이브러리의 조합으로 구성되어 있고, 관리 시스템은 최대한 높은 생산성을 보장해 주는 풀 스택 프레임워크를 도입한 셈입니다.

WSGI 구현체로는 uWSGI 를 이용합니다. uWSGI 는 WSGI 구현체 중 가장 앞선 성능을 가진 것으로 알려져 있습니다. 실제로 Gunicorn 역시 사용해 본 적이 있었는데요, 성능 상으로 uWSGI 가 더 앞서는 것 같습니다. 모씨 서비스의 특수성인지는 잘 모르겠는데 uWSGI 설정 시 thread 를 비활성화 시키고 process 를 늘리는 것이 성능 향상에 큰 도움이 되었습니다. 그 외에 process 별 수행 성능 편차를 최대한 막기 위해서 gevent loop engine 을 적용하였습니다.

다양한 비동기 작업 및 지연 작업, 캐시-데이터베이스 간 동기화 작업을 위해 Celery 가 많은 곳에서 사용되고 있습니다. Celery 역시 concurrency pool 로 gevent 를 적용하여 운용 중입니다.

모든 uWSGI 는 Nginx 로 reverse proxying 되어 최종적으로 서비스 됩니다.

RabbitMQ

Celery 의 Broker 로 최초에 redis 를 이용하였으나, 트래픽 급증과 함께 안정성 문제가 몇 번 발생하여 RabbitMQ 클러스터를 구성 하였습니다. 실제로 redis 는 트래픽이 적을 경우 Celery 의 Broker 로써 충분한 성능을 냅니다만, 트래픽이 커질 때에는 redis 의 in-memory database 특성이 오히려 불안함으로 느껴지곤 합니다. RabbitMQ 클러스터는 초당 수백 메가바이트의 트래픽을 안정적으로 소화하며 단 한 번의 장애 없이 안정적으로 Brokering 을 해 주고 있습니다.

LoadBalancing/AutoScale

어플리케이션 서버는 AWS ELB 로 트래픽을 분산 처리 합니다. ELB 의 큰 장점 중 하나는 ELB 에 물려있는 서버들의 부하를 체크하여 AutoScale 옵션을 연동할 수 있다는 점입니다. 이런 기능 덕분에 어플리케이션 서버 인스턴스 수를 항상 부하에 맞게 조절할 수 있습니다.

다만 ELB 의 경우 idle timeout 을 3600 초까지만 설정할 수 있다는 단점이 있습니다. 이 점이 모씨 서비스에 큰 영향을 일으키진 않았습니다만, RabbitMQ 클러스터에 접속하는 Celery worker 들의 경우 문제를 발생 시켰습니다. 바로 .pidbox 프로세스 들인데요, 이 프로세스들은 대부분의 시간동안 idle 상태를 유지하는 관계로 ELB 를 통해 Worker - Broker 가 연결되어 있을 경우 1시간이 지나면 연결이 끊어지며 .pidbox 프로세스들이 종료되는 문제가 발생하게 됩니다. 이에 RabbitMQ 클러스터의 경우 ELB 가 아닌 HaProxy 를 이용하여 로드밸런싱을 하도록 설정 하였습니다. HaProxy 는 사실 상 무제한의 idle timeout 을 설정할 수 있기 때문에 이런 상황에서 유용한 해결책이 될 수 있습니다.

Monitor

여러 모니터링 툴을 사용하고 있습니다. RabbitMQ, HaProxy, ElasticSearch 등에서 자체적으로 제공하는 모니터링 툴 이외에도 Newrelic 을 이용한 서버, 어플리케이션 성능 분석을 수행하고 있으며, Google Analytics 를 이용한 데이터 분석 역시 진행하고 있습니다.

And…

우리는 지난 1년이 넘는 시간동안 모씨 서비스를 안정적으로 운영하기 위해 많은 시간과 노력을 투자했습니다. 4명의 개발팀원 중 2명이 서버 개발을 담당하고 있기 때문에 힘에 부치는 일도 많았고, 장애 역시 적지 않았습니다. 외부 팀의 컨설팅을 받은 적도 있고 밤새도록 공부하며 문제점을 돌파한 적도 한 두번이 아니었던 것 같네요. 과거에도 그랬고, 지금도 마찬가지이며, 앞으로도 안정적인 서비스 제공은 모씨 개발팀의최우선 순위라는 사실을 알려드리고 싶습니다.

모씨 시스템에 대해 흥미가 있거나, 모씨 시스템에 해주고 싶으신 이야기가 있다면 언제든지 이야기 해 주세요. 경청하겠습니다.

긴 글 읽어주셔서 감사합니다.