외산보다 10배 빠른 국산 빅데이터 검색엔진 나왔다

외산 빅데이터 검색엔진보다 10배 빠른 국산 제품이 등장했다.

스플렁크, 루씬 등 외산이 선점한 글로벌 빅데이터 시장에서 국산 엔진이 새로운 대안으로 부상할지 주목된다.

이디엄(대표 양봉열)은 빅데이터 검색엔진 '로그프레소'를 자체 기술로 개발해 출시했다고 20일 밝혔다.

로그프레소는 멀티코어 아키텍처 활용을 극대화한 제품으로, 인덱싱과 동시에 로그를 압축·저장하는 방식을 활용한다. 운영에 필요한 서버 수를 크게 줄일 수 있어 가격 경쟁력이 높다.

로그프레소는 스플렁크, 루씬 등 종전에 출시된 외산 솔루션보다 5~10배 빠른 속도로 로그를 읽고 인덱싱 할 수 있다. 초당 30만건(로그 300바이트 기준)의 로그를 실시간으로 인덱싱하며, 1테라바이트(TB)의 데이터가 쌓인 경우 특정 단어를 검색하는데 10~30초밖에 걸리지 않는다는 게 회사 측 설명이다.

외산 A 제품과 로그프레소를 자체 비교 실험한 결과 199만9194건의 로그(160바이트 기준)를 입력했을 때 A 제품은 평균 초당 8만9562건, 로그프레소는 48만492건의 인덱싱이 가능해 5배 이상 차이가 나는 것으로 나타났다.

이디엄은 다량의 로그가 쌓이는 통합 보안관제 시스템과 공장 제조라인 등을 중심으로 제품 보급이 이뤄질 것으로 기대했다. 로그프레소는 실시간 데이터 처리가 가능해 지속적인 관리가 요구되는 보안과 제조 분야에 우선 적용될 것이라는 설명이다. 우수한 기술을 인정받아 이미 국내 보안, 통합관제 업체 시스템에 적용이 늘어나는 추세다.

이디엄은 29세의 서울대학교 컴퓨터공학과 출신 양봉열 대표가 동료 2명과 함께 지난 3월 공동 창업한 스타트업 기업이다. 3명은 과거 보안 솔루션을 제공하는 벤처기업 '엔초비'를 설립해 운영한 경험을 바탕으로 이디엄을 새롭게 창업했다.

공개소프트웨어(SW) 기반 빅데이터 검색엔진은 성능에 한계가 있다고 판단해 4년여에 걸쳐 자체 기술로 로그프레소를 개발했고 관련 특허도 획득했다.

양봉열 대표는 “늘어나는 로그와 비정형 데이터 처리를 원하는 보안관제 시스템 및 네트워크 관제 업계와 생산라인 불량 원인을 분석하려는 제조업계에 로그프레소는 최고의 해결책이 될 것”이라며 “앞으로 확대될 빅데이터 산업에서 핵심 인프라 역할을 수행하겠다”고 말했다.

로그 인덱싱 속도 비교(단위:logs/sec)

(자료:이디엄)

둘러보기

더보기

빅데이터 기술, 보안시장에서 '각광'

보안 영역이 빅데이터 기업의 '기회의 장'으로 부상하고 있다. 사이버 공격 고도화로 기존 보안 솔루션으로 대응이 어려워지면서 '빅데이터 기술'이 대안으로 떠오르고 있다. 26일 업계에 따르면 기업·공공기관의 빅데이터 기술 적용 보안사업 발주가 이어지면서 빅데이터 기업들이 보안시장 공략에 박차를 가하고 있다. 특히 정부통합전센산터가 발주한 '빅데이터를 활용한 통합자료분석시스템 구축사업'과 같이 보안 사업에 직간접적으로 빅데이터 기술 적용을 요구하는 사례가 늘면서 기업들 움직임이 빨라졌다. 보안 시장에서 빅데이터 기술이 주목 받는 것은 전통적인 시그니처(알려진 위협) 방식 보안 솔루션으로는 지능형지속위협(ATP)과 같은 새로운 형태의 공격을 방어할 수 없기 때문이다. 빅데이터 기술을 활용하면 과거에는 몰랐던 공격 패턴을 분석해 대응할 수 있다. 가트너는 최근 보고서에서 “빅데이터를 활용한 보안 분석으로 종전 볼 수 없었던 패턴을 발견하고 경영을 위한 통찰력을 얻을 수 있다”고 평가했다. 국내 기업 중에는 KT넥스알이 가장 활발하다. 기업의 보안 솔루션 로그 데이터를 빅데이터 플랫폼에 통합·수집·저장·분석해 새로운 공격에 대응하는 'NDAP 포 시큐리티(NDAP for Security)'를 출시했으며 최근 한 대기업에 구축을 완료했다. 관계형 데이터베이스 관리시스템(RDMBS) 기반 통합보안관리(ESM) 시스템을 운용하던 이 대기업은 제품을 도입해 기존 파악이 어려웠던 새로운 보안 취약점을 분석하고 사고를 예방할 수 있게 됐다. KT넥스알 관계자는 “보안 시장에서 빅데이터 기술 도입이 필요하다는 공감대가 형성되는 상황”이라며 “여러 기업과 제품 보급을 위한 논의를 하고 있다”고 말했다. 더존정보보호서비스·KCC시큐리티·SGA·이디엄 등도 빅데이터 보안 사업에 박차를 가하고 있다. 더존정보보호서비스는 스플렁크의 빅데이터 엔진을 적용한 '아르고스 센티넬'을 출시했다. KCC시큐리티는 빅데이터를 이용한 보안관제 기술 특허를 획득했다. 대용량 데이터를 효율적으로 분석해 분산서비스거부(DDoS), APT 등의 공격을 효과적으로 탐지하는 기술이다. SGA는 국가과제로 빅데이터 기반 APT 공격 탐지 기술을 개발 중이다. 연내 출시 예정인 빅데이터 기반 통합보안관제솔루션에 기술을 적용할 방침이다. 이디엄은 빅데이터 엔진 로그프레소를 출시해 통합보안관제시스템 시장을 공략하고 있다. 해외 기업 중에는 스플렁크, 블루코트 등이 관련 사업에 박차를 가하고 있다. 양봉열 이디엄 대표는 “정부통합전산센터, 교육청 등 통합관제사업 발주 시 빅데이터 기술 도입을 요구하는 기관이 늘고 있다”며 “보안 부문은 특히 실시간 대응이 중요한 만큼 빅데이터 기술이 유용하게 활용될 수 있을 것”이라고 말했다. [전자신문 - 빅데이터 기술, 보안시장에서 '각광'](https://www.etnews.com/201308260565)

2013-08-26

토종 빅데이터 검색솔루션 외산 제쳐

빅데이터에 대한 관심이 고조되는 가운데 국내 통신사가 처음 추진한 실시간 빅데이터 사업에 토종 스타트업 검색솔루션이 선정됐다. 외산 일색인 국내 빅데이터 검색솔루션 시장에 변화를 몰고 올 전망이다. 이디엄(대표 양봉열 www.eediom.com)은 국내 대형 통신업체 L사가 발주한 실시간 서비스품질·모니터링 시스템 구축사업에 자사 검색엔진 ‘로그프레소’가 선정됐다고 6일 밝혔다. ‘로그프레소’는 비정형 빅데이터를 실시간으로 분석하는 SW로 이디엄은 이달까지 솔루션 구축작업을 마칠 예정이다. 이 프로젝트는 국내 통신사가 추진한 최초 빅데이터 프로젝트다. L사는 실시간 서비스 품질 모니터링 용도로 ‘로그프레소’를 도입·사용할 계획이다. 통신부야 빅데이터 솔루션시장 확대를 예고하는 사업 수주전에는 글로벌 검색엔진 업체도 뛰어들었다. 구동언 이디엄 운영이사는 “기존 출시된 외산 솔루션에 비해 다섯 배 정도 빠른 속도로 데이터를 읽고 분류하는 게 로그프레소의 강점”이라며 “이번 사업 수주로 대량 정보가 쌓이는 통신 분야 추가 프로젝트 수주도 기대된다”고 말했다. 로그프레소의 우수한 성능은 정평이 나 있다. 빅데이터 솔루션에서 하루 이상 걸리던 빅데이터 분석을 수분내로 단축시켰다. 초당 수십만건이 쏟아지는 환경에서도 이상 징후나 특정 이벤트를 찾는 등 다양한 이벤트 실시간 분석이 가능하다. 특히 지난해 3월 설립한 신생 스타트업 이디엄이 글로벌 솔루션을 제치고 프로젝트를 수주해 주목된다. 이디엄은 불과 1년 새 정부통합전산센터, 경찰청, 병무청 등 공공기관을 비롯해 SK텔레콤, 농협생명 등 20곳에 자사 솔루션을 공급하며 시장을 선도하고 있다. 이디엄은 최근 기능과 성능을 대폭 개선한 빅데이터 분석SW ‘로그프레소 엔터프라이즈 2’를 발표했다. 널리 쓰이는 빅데이터 플랫폼 하둡과의 연동을 강화한 제품이다. 양봉열 대표는 “많은 기업들이 빅데이터 분석 용도로 하둡을 도입했고 다양한 분야에서 실시간 빅데이터 분석을 요구한다”며 “하둡 플랫폼에 ‘로그프레소’만 추가하면 실시간과 배치 처리를 동시에 만족시킨다”고 설명했다. 이디엄은 서울대학교 컴퓨터공학과 출신 양봉열 대표가 동료 2명과 함께 2013년 3월에 설립한 빅데이터 처리 전문 스타트업이다. 이디엄 임직원 수는 13명이며 올해 매출 30억원을 목표로 하고 있다. [https://www.etnews.com/20140404000083](https://www.etnews.com/20140404000083)

2014-04-07

“스플렁크 게 섯거라”…청년 벤처의 도전

어느 날 우연히 국내 벤처 업체 중 하나가 스플렁크에 대적할 솔루션을 개발했다는 이야기를 들었다. ‘이디엄’이라는 회사명과 ‘로그프레소’라는 제품명 모두 낯설었다. 전 세계 빅데이터 시장에서 각광을 받고 있는 스플렁크에 대적할 소프트웨어를 국내 벤처기업이 개발했다는 것은 궁금증을 자아내기에 충분했다. 수소문 해서 이디엄 양봉열 대표에게 연락을 취했다. 그런데 그는 이미 기자가 알고 있던 인물이었다. 4년 전 ‘벤처스토리’라는 기획 시리즈를 진행할 때 ‘엔초비’라는 보안관제 회사를 설립해 인터뷰를 했던 인물이었다. 그러나 20대 청년에게 보안 시장은 녹록치 않았나보다. 야심차게 시작했지만 많은 쓴 맛을 봐야 했다. 결국 보안관제 사업은 계획대로 성장하지 못했고, 퓨처시스템에 인수됐다. 양 대표는 그러다 올해 초 다시 독립했다. 보안관제를 위해 개발해 왔던 로그분석 기술을 발전시키면 빅데이터 시대에 괜찮은 솔루션을 개발할 수 있을 것이라는 생각 때문이었다. 로그를 다루는 기술은 엔초비 시절부터 개발해 온 것이었다. 보안 관제를 위해서는 보안로그를 분석해 위협을 파악해야 하기 때문이다. 하지만 당시에는 로그를 단순히 저장하고, 가져오는 기술만 보유하고 있었다. 여기에 인덱싱과 검색, 리포팅 등의 기능을 추가해 스플렁크와 같은 솔루션을 개발했다. 양 대표는 “처음에는 보안 장비에서 나오는 로그를 분석하기 위해 기술을 개발했는데, 빅데이터 시대가 도래하면서 센서네트워크를 비롯해 웹로그, 사용자행동로그 등 다양한 로그를 다 처리할 수 있도록 했다”고 설명했다. 양 대표는 ‘로그프레소’의 강점으로 보안성을 들었다. 처음에 보안업체로 시작했기 때문에 보안에 중점을 두고 개발했다는 설명이다. 그는 “스플렁크는 암호화를 내장해서 지원하지 않는다”면서 “로그프레소는 모든 데이터가 암화화 돼 저장되는 등 보안에 뛰어나다”고 강조했다. 또 하둡 등 외부 빅데이터 플랫폼과의 연동성도 뛰어나다고 설명했다. 양 대표는 “로그프레소는 자바로 개발된 플랫폼으로 하둡과 궁합이 잘 맞는다”면서 “실시간 분석은 로그프레스로, 배치 처리는 하둡으로 통합해 고도 분석을 할 수 있다”고 말했다. 하둡뿐 아니라 기존 관계형 DB의 데이터와도 연동할 수 있다고 그는 덧붙였다. 물론 그렇다고 당장 스플렁크보다 우수한 솔루션을 개발했다고 자신할 수는 없다. 현재로서는 분산처리가 지원되지 않고, 스플렁크의 가장 큰 장점으로 꼽히는 이용자 편의성도 부족한 편이다. 양 대표는 “당장 스플렁크를 대체할 수는 없다고 하더라도 스플렁크까지 도입할 필요가 없는 기업이나, 스플렁크가 지나치게 고가여서 도입하기 어려운 기업들도 많기 때문에 일단 이 시장을 공략할 예정”이라면서 “그러나 내년 초 현재 중비 중인 기능과 기술이 완성되면 정면대결도 가능할 것으로 보고 있다”고 말했다. [디지털데일리 심재석기자] [https://www.ddaily.co.kr/news/article/?no=111116](https://www.ddaily.co.kr/news/article/?no=111116)

2013-11-19