[2020 상반기 인기상품]고객만족-로그프레소/통합로그 관리솔루션/로그프레소 3.0

[PASCON 2020] 양봉열 로그프레소 대표 “단일 빅데이터 플랫폼만이 안정적 보안 운영 담보”

데일리시큐 주최 하반기 최대 정보보안&개인정보보호 컨퍼런스 PASCON 2020이 11월 10일 더케이호텔서울 가야금홀에서 방역수칙 준수하에 성황리에 개최됐다. 이 자리에서 양봉열 로그프레소 대표는 ‘보안관제를 지탱하는 기술’이란 주제로 강연을 진행했다. 양봉열 대표는 2005년 인젠의 시큐플랫ESM으로 통합보안관제 시스템 개발을 시작한 이래, 15년 간 관제 기술을 연구해왔다. 초기 관제 시스템들은 관계형 데이터베이스와 ISAM 파일을 기반으로 설계되었다. 로그는 정규화해 ISAM 파일에 쓰고, 이벤트는 데이터베이스에 저장했다. 그러나 이런 데이터 시스템은 스키마가 고정되어 있어서 원본 로그를 저장하기 어려웠다. B-TREE 기반 스토리지 엔진은 잠금으로 인해 고속 쓰기에 불리했고, 트리 노드에 항상 여유 공간이 존재하기 때문에 디스크를 낭비하게 되고 압축하기에도 어려운 구조적 문제가 있었다. 엘라스틱과 하둡 양쪽으로 데이터 저장하는 땜질 처방…지금도 계속 당시에 부상하던 인메모리 DB를 비롯해 여러가지 대안들이 실험되었지만, 근본적으로 보안 로그의 특성을 염두에 두지 않은 OLTP 위주의 데이터 시스템은 성능 문제를 해결하기에 역부족이었다. 2010년 이전의 시스템은 성능 문제로 로그 수집, 저장부터 누수되는 경우가 빈번했고, 로그를 조회하거나 검색하면 저장 속도가 급격하게 떨어질 뿐 아니라 수 시간을 대기해야 겨우 결과를 보거나 시스템 자체가 다운되는 경우도 흔했다. 이러한 상황에서 단순 조회 이상의 연관 분석은 최근 수 분 정도의 최근 데이터에 대해 인메모리에서만 가능한 일이었기 때문에, 대규모 데이터를 연관 분석하는 일은 상상하기도 어려웠다. 많은 아키텍트들은 관계형 데이터베이스에 데이터마트를 정의해서 TOP N 통계를 미리 생성하고, 텍스트 로그 자체는 일 단위로 압축하는 설계를 했는데, 이는 주어진 여건에서 최소한의 통계 보고서라도 빠르게 조회하고자 하는 땜질 처방에 불과했다. 미리 정의되지 않은 통계는 조회 자체가 불가능했기 때문에, 가능한 많은 조합의 데이터마트를 정의해야 했고 이는 다시 많은 디스크 공간 소모로 이어졌다. 압축된 텍스트 파일은 전체를 압축 해제해 조회 및 검색해야 했기 때문에 디스크 공간은 덜 사용했지만 사실상 조회 검색이 불가능한 상황을 야기했다. 2010년 대 이후 루씬, 하둡과 같은 오픈소스 빅데이터 기술이 등장하자 많은 사람들이 기존의 성능 문제가 해결되지 않을까 기대했으나, 풀텍스트 고속 검색과 대규모 통계 및 연관 분석을 모두 지원하는 시스템은 존재하지 않는다는 사실을 깨닫게 되었다. 엘라스틱은 조인을 지원하지 않고, 하둡은 실시간 검색을 지원하지 않는다. 이에 엘라스틱과 하둡 양쪽으로 데이터를 저장하는 땜질 처방이 2020년인 지금도 계속되고 있다. “로그프레소, 자체 기술로 단일 빅데이터 플랫폼 개발…기존 기술들 문제 해결” 로그프레소는 이 문제를 근본적으로 해결하려면 직접 밑바닥부터 빅데이터 플랫폼을 설계해야 한다고 믿었고, 결국 실시간 스트리밍 분석, 실시간 인덱싱과 고속 풀텍스트 검색, 드릴다운을 포함한 실시간 통계 분석, 대규모 분산 통계와 조인, AI 머신러닝까지 완전하게 자체 기술로 구현한 단일 빅데이터 플랫폼을 만들어냈다. 많은 시스템들이 유행에 따라 아키텍처 스타일이 변화하는데, 빅데이터의 성능에 초점을 맞추지 않으면 근본적으로 해결하기 어려운 성능 병목을 맞게 된다. 로그프레소는 I/O를 극단적으로 줄이기 위하여 머신별 단일 프로세스, 인코딩과 압축 효율 극대화, 데이터 파이프라인의 병렬화를 모든 영역에서 구현했다. 빅데이터의 핵심은 로직이 있는 곳으로 데이터를 옮기는게 아니라, 데이터가 있는 곳으로 로직을 옮기는 것이다. 예를 들어 분산 통계나 조인을 수행한다면, 전송해야 하는 데이터량을 최소화하도록 쿼리 플래너가 자동으로 쿼리를 재작성해 데이터 노드로 내려보낸다. 검색 고속화에는 역인덱스(inverted index)와 블룸필터(bloom filter)가 활용된다. 특히 블룸필터는 최소의 용량으로 키워드가 존재하지 않는 블록을 완전히 건너뛸 수 있도록 지원함으로써 장기간 데이터 검색에서 최적의 성능을 도출한다. 통계 분석은 스키마리스 컬럼스토리지 엔진이 실시간 분석을 가능하게 한다. 대규모 분석 쿼리를 실행할 때 필요한 컬럼은 일부분이므로, 기존의 OLTP 시스템이 사용하는 행 단위 레코드 레이아웃을 열 단위로 바꾸게 되면 반드시 필요한 데이터 영역만 읽고 처리할 수 있게 되므로 성능이 수십 배 향상된다. 여기에 벡터 단위의 쿼리 실행은 단일 인스트럭션으로 여러 개의 데이터를 동시에 연산하는 SIMD를 활성화하기 때문에 기존 시스템 대비 100배 이상의 성능을 낼 수 있게 된다. 이는 예전에 불가능하던 자유로운 데이터 통계와 연관 분석을 가능하게 한다. 암호화된 데이터에서 컬럼스토리지는 더욱 빛을 발하는데, 특허 등록된 로그프레소 기술은 분석 쿼리에서 요구하는 컬럼만 복호화를 수행함으로써 암호화 된 데이터에 대해서도 최상의 분석 성능을 도출한다. 로그프레소는 여기에 그치지 않고 쿼리 실행 시점에 비정형 데이터의 타입을 추론해 쿼리를 실행 시간에 컴파일한다. 이는 인터프리터 방식의 쿼리 엔진에서 발생하는 모든 오버헤드를 제거한 머신 코드를 런타임에 생성해 대규모 분석 쿼리 실행의 성능을 최적화한다. 이러한 근본적인 데이터 처리 기술의 발전은 매일 수백 기가에서 테라바이트 단위의 데이터가 유입되는 상황에서도 이전에 불가능하던 검색과 분석을 사용자가 원하는대로 수행할 수 있도록 지원하게 되었다. 양봉열 대표는 “오픈소스 기반의 빅데이터 플랫폼이 여러 컴포넌트의 조합으로 높은 복잡도, 낮은 성능, 많은 장애 포인트, 장기적 데이터 호환성 문제를 가진다”는 점을 지적하며 “완전하게 구현된 단일 빅데이터 플랫폼만이 안정적 보안 운영을 담보한다”고 강조했다. 로그프레소 양봉열 대표의 PASCON 2020 발표자료는 데일리시큐 자료실에서 다운로드 가능하다. [https://www.dailysecu.com/news/articleView.html?idxno=116401](https://www.dailysecu.com/news/articleView.html?idxno=116401)

2020-11-12

로그프레소, 'AI 위협헌팅 기술' 특허 취득… AI 보안관제 시장 입지 강화

빅데이터 전문 기업 로그프레소가 인공지능(AI) 위협헌팅 기술을 확보하며 AI 보안관제 시장에서 입지를 강화하고 있다. 로그프레소(대표 양봉열)는 웹 방화벽 솔루션이 탐지 못하는 공격패턴을 AI 엔진으로 탐지하는 '행위확률 기반 웹서버 공격탐지방법' 기술로 특허를 등록했다고 22일 밝혔다. 사이버 위협 진화와 함께 알려지지 않은 공격을 자동 탐지하는 AI 위협헌팅 기술 중요성이 날로 커지고 있다. 전통적 보안관제 체계가 단위 보안시스템 탐지에 의존하고 있으나 단위 보안시스템의 탐지를 우회하는 침해 사례가 빈발하고 있기 때문이다. 이에 기업들은 보안관제 플랫폼이 애플리케이션 로그를 직접 분석해 위협헌팅을 탐지하는 능력을 중요하게 생각하고 있다. 과거 웹 공격 탐지 기술은 개별 HTTP 통신에 대한 패턴 매칭이나 AI 탐지에 한정됐다. 반면 로그프레소 특허 기술은 정상 사용자의 연속적인 HTTP 요청 패턴을 학습해 공격자의 이상행위를 탐지한다. HTTP 전체 트래픽을 분석하는 대신 통상적인 웹 로그만으로도 위협 헌팅 행위를 자동 감지해 기존 환경에 손쉽게 적용할 수 있다. 로그프레소는 실제 고객사가 처한 전산 환경에서 기존 웹 방화벽과 AI 위협헌팅 엔진을 비교 테스트했다. 그 결과 웹 방화벽이 탐지하지 못한 20% 이상 공격자와 1만건 이상 공격 시도를 탐지한 것으로 드러났다. 양봉열 로그프레소 대표는 “이번 특허 기술을 적용해 AI 보안관제의 실질적인 효과를 체감할 것으로 기대한다”면서 “지속적인 AI 위협탐지와 자동대응 기술개발을 통해 보안운영 효율을 극대화하겠다”고 말했다. 로그프레소는 2013년 빅데이터 플랫폼 '로그프레소 엔터프라이즈'를 출시한 이래 100여개 고객사에 저장된 모든 데이터의 호환성을 유지하며 엔진 성능과 기능을 향상시켰다. 2017년 보안관제 플랫폼 '로그프레소 소나(Sonar)'를 선보였다. 로그프레소는 AI 위협헌팅 특허기술을 보안관제 플랫폼 '로그프레소 소나'에 적용할 계획이다. 양 대표는 “독자적인 빅데이터 분석 기술에 AI 위협헌팅 기술을 접목해 다양한 사이버 위협에 대응할 수 있을 것”이라면서 “기존 온프레미스 보안운영센터에 멀티 클라우드 관제까지 통합해 완전한 정보보호관리체계를 구현하겠다”고 전했다. 이준희기자 jhlee@etnews.com [https://www.etnews.com/20200422000154](https://www.etnews.com/20200422000154)

2020-04-22

엑셈-로그프레소 제휴...AI옵스 사업 협력

데이터베이스, 애플리케이션 성능 관리 및 인공지능, 빅데이터 전문 기업 엑셈(대표 조종암)은 지난 5일 빅데이터 플랫폼 기술 전문 기업 로그프레소(대표 양봉열, 이디엄에서 사명 변경)와 AI옵스(AIOps) 솔루션 개발 협력과 사업 공동 추진을 위한 업무 협약을 체결했다고 22일 밝혔다. AIOps(Artificial Intelligence for IT Operations)는 IT 운영에 AI를 도입해 운영을 지능화 및 효율화한 것으로, 엑셈은 '싸이옵스(XAIOps)'라는 AI옵스 솔루션을 2019년 개발해 선보였다. '싸이옵스'는 딥러닝 기반 인공지능 기술 탑재 통합 IT 운영 관리 솔루션으로, 기업의 다양한 인프라와 애플리케이션 데이터를 실시간으로 수집해 부하 특성과 패턴을 학습하고, 장애 상황을 예측, IT 운영자의 선제적 대응을 지능적으로 지원한다. 엑셈은 로그프레소와 이번 전략적 제휴를 통해 '싸이옵스'에 대용량, 실시간 데이터 분석이 가능한 로그프레소의 빅데이터 플랫폼 '로그프레소 엔터프라이즈(Logpresso Enterprise)'를 탑재한다. 엑셈의 '싸이옵스'는 국내 DBPM 시장 1위 솔루션인 '맥스게이지(MaxGauge)'와 APM 시장을 선도하고 있는 E2E(End-To-End) 거래 추적 솔루션 '인터맥스(InterMax)' 기술을 집대성, 2019년 출시한 딥러닝 기반 인공지능 기술을 탑재한 지능형 IT 운영 관리 솔루션이다. '싸이옵스'는 기업의 다양한 인프라와 애플리케이션 데이터를 실시간으로 수집해 부하 특성과 패턴을 학습하고, 장애 상황을 예측해 IT 운영자의 선제적 대응을 지원한다. 또 '싸이옵스'는 △시스템 부하와 장애를 빠르고 정확히 예측 △부하 패턴 분석과 비정상 탐지를 통한 종합적 근본 원인 분석 △ 지능적 미래 예측으로 선제적 장애 대응 △ 예측된 비정상 및 장애에 대한 지능적 스마트 알람으로 신속하고 능동적인 문제 해결을 가능하게 한다. 뿐만 아니라 '싸이옵스'는 실시간 메트릭 데이터를 기반으로 분석하기 때문에 '장애 발생 후 수 분 이내 근본 원인 도출’이 가능할 만큼 강력한 성능을 보유하고 있다고 엑셈은 설명했다. 운영에 문제가 되는 장애들을 해결하는 데 보통 짧으면 수십 분, 치명적인 경우 2~3시간이 소요되는 현실에 비추어 볼 때, 실무자들의 부담을 크게 덜어줄 것으로 예상한다고 엑셈은 덧붙였다. '싸이옵스' 구축을 통해 빠른 장애 탐지(Negative MTTD, Mean Time to Discovery)와 빠른 장애 조치(Negative MTTR, Mean Time to Repair)가 가능하고, 부하 예측이나 이상 탐지를 통해 장애를 선제적으로 대응, 서비스 중단 손실 비용을 최소화할 수 있는 지능형 IT 운영이 가능하다. ‘싸이옵스’는 최근 고객사 커스터마이징 최소화를 위해 다양한 설정 편의 기능을 추가하는 한편 통합 대시보드 고도화 및 다양한 분석 화면을 추가, 제품 경쟁력을 지속적으로 강화하면서 시장과 고객 요구에 신속히 대응하고 있다. 로그프레소는 10년 이상 빅데이터 플랫폼 기술 연구개발에 투자해 확보한 원천 기술을 바탕으로 기업의 IT 인프라에서 발생한 데이터를 실시간으로 수집하고 분석, 비즈니스 인사이트를 제공해왔다. 로그프레소가 자체 개발한 ‘로그프레소 엔터프라이즈’는 2013년 최초 출시 이후 다양한 산업 분야에서 100곳이 넘는 고객사를 확보했다. ‘로그프레소 엔터프라이즈’는 특히 데이터 입수, 저장, 탐색, 처리 기능 부문에서 탁월한 평가를 받고 있다. 엑셈과 로그프레소 두 회사는 2018년 6월 인공지능 솔루션 개발을 위한 전략적 업무 협약을 시작으로 현재까지 약 2년가량 공동 개발 연구를 진행했다. 두 회사는 '싸이옵스’에 실시간 데이터와 배치 데이터를 하나의 엔진에서 처리하는 빅데이터 엔진뿐 아니라 선행 사건과 후행 사건을 연관 지어 실시간으로 분석 가능한 실시간 이벤트 프로세싱 기술과 더불어 데이터를 저장하고 이를 빠르게 처리 가능한 스토리지 및 고속 인덱스 기술을 적용했다. 이를 통해 대량의 다양한 데이터에 대해 신속하고 다각적인 통합 분석 능력을 향상, 이상 징후와 장애의 사전 인지 능력과 사후 분석 능력을 동시에 제고할 수 있는 완성도 높은 기술 기반을 마련했다. 엑셈은 빅데이터 분석력이 더해진 ‘싸이옵스’를 통해 고객들에게 IT 운영 데이터 분석의 활용성과 효용성을 극대화하고 가장 앞선 예측과 학습 능력을 제공, AIOps 시장에서 빠르게 경쟁력을 확보하고 선두주자로 발돋움할 계획이다. 또 두 회사는 ‘로그프레소 엔터프라이즈’의 아키텍처, 개발 가이드 등의 기술 지원을 포함한 유기적 협업 체계를 통해 ‘싸이옵스’의 서비스 경쟁력과 안정성을 함께 강화할 예정이다. 해외 시장 조사 업체에 따르면 글로벌 AIOps 시장은 연간 27% 이상의 고속 성장이 예상된다. 국내 AIOps 시장도 제1금융권을 중심으로 급속히 성장하고 있다. 엑셈은 수년간 인공지능과 빅데이터 관련 사업을 진행해 온 전문성과 더불어 국내 시장에서의 풍부한 IT 모니터링 경험을 기반으로, 제1금융권, 대형 유통사를 비롯한 다수 기업과 기관에서 성공적으로 AIOps PoC를 수행한 사례를 보유, 가시적 성과를 앞두고 있다. 여기에 로그프레소가 IT 운영 관리, 이상 금융 거래 탐지, 통합 보안 관제 등의 사업을 수행하며 다양한 기업 시스템 및 통합관제 시스템에서 수집한 IT 운영 데이터에 대한 폭넓은 이해를 더함으로써, 국내 AIOps 시장 수요에 필요한 독보적인 도메인 지식을 바탕으로 다수의 사업 기회를 창출할 수 있을 것으로 기대했다. 조종암 엑셈 대표는 "엑셈이 자체 개발한 AIOps 솔루션 ‘싸이옵스’의 인공지능(AI) 기반 IT 운영 지능화 기술과 로그프레소가 보유한 대용량, 실시간 데이터 처리가 가능한 빅데이터 분석 기술을 결합, 각 분야 최고의 전문성을 발휘한 혁신적인 제품과 서비스를 제공할 예정"이라며 "디지털 전환이 기업의 생존과 연계되고 IT 운영 관리에 많은 변화가 요구되는 뉴노멀’(New Normal) 시대를 맞아 AIOps가 새로운 이정표를 세울 것"이라고 강조했다. 방은주 기자ejbang@zdnet.co.kr [https://zdnet.co.kr/view/?no=20200622144025](https://zdnet.co.kr/view/?no=20200622144025)

2020-06-22