[2020 상반기 인기상품]고객만족-로그프레소/통합로그 관리솔루션/로그프레소 3.0

엑셈-로그프레소 제휴...AI옵스 사업 협력

데이터베이스, 애플리케이션 성능 관리 및 인공지능, 빅데이터 전문 기업 엑셈(대표 조종암)은 지난 5일 빅데이터 플랫폼 기술 전문 기업 로그프레소(대표 양봉열, 이디엄에서 사명 변경)와 AI옵스(AIOps) 솔루션 개발 협력과 사업 공동 추진을 위한 업무 협약을 체결했다고 22일 밝혔다. AIOps(Artificial Intelligence for IT Operations)는 IT 운영에 AI를 도입해 운영을 지능화 및 효율화한 것으로, 엑셈은 '싸이옵스(XAIOps)'라는 AI옵스 솔루션을 2019년 개발해 선보였다. '싸이옵스'는 딥러닝 기반 인공지능 기술 탑재 통합 IT 운영 관리 솔루션으로, 기업의 다양한 인프라와 애플리케이션 데이터를 실시간으로 수집해 부하 특성과 패턴을 학습하고, 장애 상황을 예측, IT 운영자의 선제적 대응을 지능적으로 지원한다. 엑셈은 로그프레소와 이번 전략적 제휴를 통해 '싸이옵스'에 대용량, 실시간 데이터 분석이 가능한 로그프레소의 빅데이터 플랫폼 '로그프레소 엔터프라이즈(Logpresso Enterprise)'를 탑재한다. 엑셈의 '싸이옵스'는 국내 DBPM 시장 1위 솔루션인 '맥스게이지(MaxGauge)'와 APM 시장을 선도하고 있는 E2E(End-To-End) 거래 추적 솔루션 '인터맥스(InterMax)' 기술을 집대성, 2019년 출시한 딥러닝 기반 인공지능 기술을 탑재한 지능형 IT 운영 관리 솔루션이다. '싸이옵스'는 기업의 다양한 인프라와 애플리케이션 데이터를 실시간으로 수집해 부하 특성과 패턴을 학습하고, 장애 상황을 예측해 IT 운영자의 선제적 대응을 지원한다. 또 '싸이옵스'는 △시스템 부하와 장애를 빠르고 정확히 예측 △부하 패턴 분석과 비정상 탐지를 통한 종합적 근본 원인 분석 △ 지능적 미래 예측으로 선제적 장애 대응 △ 예측된 비정상 및 장애에 대한 지능적 스마트 알람으로 신속하고 능동적인 문제 해결을 가능하게 한다. 뿐만 아니라 '싸이옵스'는 실시간 메트릭 데이터를 기반으로 분석하기 때문에 '장애 발생 후 수 분 이내 근본 원인 도출’이 가능할 만큼 강력한 성능을 보유하고 있다고 엑셈은 설명했다. 운영에 문제가 되는 장애들을 해결하는 데 보통 짧으면 수십 분, 치명적인 경우 2~3시간이 소요되는 현실에 비추어 볼 때, 실무자들의 부담을 크게 덜어줄 것으로 예상한다고 엑셈은 덧붙였다. '싸이옵스' 구축을 통해 빠른 장애 탐지(Negative MTTD, Mean Time to Discovery)와 빠른 장애 조치(Negative MTTR, Mean Time to Repair)가 가능하고, 부하 예측이나 이상 탐지를 통해 장애를 선제적으로 대응, 서비스 중단 손실 비용을 최소화할 수 있는 지능형 IT 운영이 가능하다. ‘싸이옵스’는 최근 고객사 커스터마이징 최소화를 위해 다양한 설정 편의 기능을 추가하는 한편 통합 대시보드 고도화 및 다양한 분석 화면을 추가, 제품 경쟁력을 지속적으로 강화하면서 시장과 고객 요구에 신속히 대응하고 있다. 로그프레소는 10년 이상 빅데이터 플랫폼 기술 연구개발에 투자해 확보한 원천 기술을 바탕으로 기업의 IT 인프라에서 발생한 데이터를 실시간으로 수집하고 분석, 비즈니스 인사이트를 제공해왔다. 로그프레소가 자체 개발한 ‘로그프레소 엔터프라이즈’는 2013년 최초 출시 이후 다양한 산업 분야에서 100곳이 넘는 고객사를 확보했다. ‘로그프레소 엔터프라이즈’는 특히 데이터 입수, 저장, 탐색, 처리 기능 부문에서 탁월한 평가를 받고 있다. 엑셈과 로그프레소 두 회사는 2018년 6월 인공지능 솔루션 개발을 위한 전략적 업무 협약을 시작으로 현재까지 약 2년가량 공동 개발 연구를 진행했다. 두 회사는 '싸이옵스’에 실시간 데이터와 배치 데이터를 하나의 엔진에서 처리하는 빅데이터 엔진뿐 아니라 선행 사건과 후행 사건을 연관 지어 실시간으로 분석 가능한 실시간 이벤트 프로세싱 기술과 더불어 데이터를 저장하고 이를 빠르게 처리 가능한 스토리지 및 고속 인덱스 기술을 적용했다. 이를 통해 대량의 다양한 데이터에 대해 신속하고 다각적인 통합 분석 능력을 향상, 이상 징후와 장애의 사전 인지 능력과 사후 분석 능력을 동시에 제고할 수 있는 완성도 높은 기술 기반을 마련했다. 엑셈은 빅데이터 분석력이 더해진 ‘싸이옵스’를 통해 고객들에게 IT 운영 데이터 분석의 활용성과 효용성을 극대화하고 가장 앞선 예측과 학습 능력을 제공, AIOps 시장에서 빠르게 경쟁력을 확보하고 선두주자로 발돋움할 계획이다. 또 두 회사는 ‘로그프레소 엔터프라이즈’의 아키텍처, 개발 가이드 등의 기술 지원을 포함한 유기적 협업 체계를 통해 ‘싸이옵스’의 서비스 경쟁력과 안정성을 함께 강화할 예정이다. 해외 시장 조사 업체에 따르면 글로벌 AIOps 시장은 연간 27% 이상의 고속 성장이 예상된다. 국내 AIOps 시장도 제1금융권을 중심으로 급속히 성장하고 있다. 엑셈은 수년간 인공지능과 빅데이터 관련 사업을 진행해 온 전문성과 더불어 국내 시장에서의 풍부한 IT 모니터링 경험을 기반으로, 제1금융권, 대형 유통사를 비롯한 다수 기업과 기관에서 성공적으로 AIOps PoC를 수행한 사례를 보유, 가시적 성과를 앞두고 있다. 여기에 로그프레소가 IT 운영 관리, 이상 금융 거래 탐지, 통합 보안 관제 등의 사업을 수행하며 다양한 기업 시스템 및 통합관제 시스템에서 수집한 IT 운영 데이터에 대한 폭넓은 이해를 더함으로써, 국내 AIOps 시장 수요에 필요한 독보적인 도메인 지식을 바탕으로 다수의 사업 기회를 창출할 수 있을 것으로 기대했다. 조종암 엑셈 대표는 "엑셈이 자체 개발한 AIOps 솔루션 ‘싸이옵스’의 인공지능(AI) 기반 IT 운영 지능화 기술과 로그프레소가 보유한 대용량, 실시간 데이터 처리가 가능한 빅데이터 분석 기술을 결합, 각 분야 최고의 전문성을 발휘한 혁신적인 제품과 서비스를 제공할 예정"이라며 "디지털 전환이 기업의 생존과 연계되고 IT 운영 관리에 많은 변화가 요구되는 뉴노멀’(New Normal) 시대를 맞아 AIOps가 새로운 이정표를 세울 것"이라고 강조했다. 방은주 기자ejbang@zdnet.co.kr [https://zdnet.co.kr/view/?no=20200622144025](https://zdnet.co.kr/view/?no=20200622144025)

2020-06-22

[차세대 보안관제②] 모든 환경서 위협 가시성 제공해야

[데이터넷] 보안관제조직은 증가하는 보안 시스템에서 발생하는 이벤트를 관리하기위해 ESM, RMS, TMS 등을 사용해왔으며, 2010년 경부터 SIEM 도입에 속도를 내기 시작했다. SIEM은 보안 시스템에서 발생한 로그를 수집·분석해 위협을 탐지한다. 방대한 로그를 분석해야 하기 때문에 비정형 데이터에 대한 고속 분석 성능이 요구됐으며, 빅데이터 처리에 강점이 있는 솔루션도 SIEM 시장에 뛰어들었다. 초기 SIEM은 실시간 위협 탐지가 아니라 발생한 위협을 조사하는데 필요한 증거를 수집하기 위해 사용됐다. 그래서 빅데이터 기반 검색 기술이 뛰어난 기업들 도 주목을 받아왔는데, 실시간 탐지와 대응, 사이버 보안에 대한 노하우가 부족하다는 한계를 갖고 있다. 공격 유형과 방어 방법에 대한 상세한 시나리오와 탐지 경보를 울리는데 있어 필요한 임계치 설정, 위협 우선 순위를 매기고 관리자에게 경보를 울리는 수준을 정하 는 등의 위협 대응 기능이 충분하지 않았다. 황원섭 마이크로포커스코리아 부장은 “현재 관제조직에서 사용하는 SIEM은 대부분 SIM 수준을 넘지 못하고 있다. 로그를 디스크에 저장한 후 분석하는 방식으로, 실시간 경보를 스케줄 쿼리로 구현해 실시간 보안위협을 효과적으로 탐지·분석·대응하지 못한다”고 지적했다. 단일 플랫폼서 완벽한 보안 가시성 제공 기존 보안관제의 한계를 해결하는 방법으로 통합, 지능형 분석, 위협 인텔리전스가 제안된다. 발생하는 모든 이벤트를 통합 플랫폼을 통해 연계분석하며, 발생한 모든 행위에서 정밀하게 이상행위를 찾아내고, 위협 인텔리전스 연동, SOAR를 통한 자동화된 대응까지 가능해야 한다. 토종 솔루션 중 ‘로그프레소’가 SIEM과 사용자 행위 분석(UBA)을 통합시킨데 이어 SOAR와 포렌식까지 통합시키면서 발전해나가고 있다. 올해 하반기에는 위지윅(WYSIWYG) 방식의 플레이북 편집기와 워크플로우 엔진을 통합시킬 예정이다. 로그프레소는 통합 로그관리 솔루션 ‘로그프레소 스탠다드’, 미션 크리티컬 환경을 위한 ‘로그프레소 엔터프라이즈’, 정보보호 통합 플랫폼 ‘소나(SONAR)’로 구성되며, 국민은행, 부산은행을 비롯한 금융 시장에서 호평을 받고 있다. 이외에도 공공·엔터프라이즈 등 다양한 산업군에 공급돼 시장 점유율을 높이고 있다. 로그프레소는 분석과 고속 배치 분석을 유기적으로 통합했으며, 통합로그, 외부침해관제, 이상징후탐지, 이상금융거래 등을 단일 플랫폼으로 지원해 완전한 가시성과 위협 분석, 운영과 유지보수의 편의성을 제공 한다. 클라우드, 애플리케이션, 사용자 행위 분석 등 모든 영역으로 확대된 통합 분석체계를 제공하며, 하루 1TB, 수십종, 수백대의 시스템을 실시간 통합분석 한다.  또한 현장에서 적용 가능한 SOAR 기능을 지원, 위협·장애 탐지 시 티켓이 자동으로 등록돼 관제요원의 분석 대응을 원활하게 한다. 기업·기관에서 사용하는 다양한 앱을 지원하며, AI·머신러닝 알고리즘을 자체 개발해 쿼리로 내장해 실제 관제 현장에서 효과가 검증 된 위협 헌팅 기술을 제공한다. 구동언 로그프레소 상무는 “전통적인 SIEM은 자산, 취약점, 위협 인텔리전스를 수작업으로 관리하거나 자사 인텔리전스·취약점 스캐너만 연동돼 활용이 제한적이다. 클라우드 전환으로 IT 복잡도가 크게 증가하는 상황에서 기존의 SIEM은 맞지 않으며, 온프레미스·클라우드 전반에서 로그 수집과 저장, 분석, 탐지, 대응 까지 완전히 통합돼야 한다”며 “로그프레소 플랫폼은 강력한 빅데이터 원천 기술과 앱 확장성으로 최고의 단 위 보안시스템을 효과적으로 오케스트레이션하는 보 안 운영의 기반이 될 것”이라고 말했다. 로그관리 시장에서는 와치텍이 ‘IT 관리자를 위 한 자율운영 관리시스템’을 표방하며 시장 개척에 나서 주목된다. 와치텍은 로그 관리를 위한 ‘와치로그 (WatchLog)’, 인프라 관리를 위한 ‘와치올(Watch All)’로 구성된다. 관리자가 전문 지식이 없어도 자율 적으로 운영하며, 로그 데이터에 대한 높은 수준의 시 각화를 제공해 관리 용이성을 높인다. 임주형 와치텍 이사는 “와치텍은 자율운영 시나리오 분석 외 다양한 자율운영 기능을 선보이고 있으며, 빠르고 안정적인 빅데이터 기술로 고객의 대규모 인 프라를 관리할 수 있다는 장점을 적극 살리고 있다”며 “관리자의 업무를 줄이고 중대한 위협 이벤트를 놓치 지 않도록 지원하는 자율운영 로그 분석 기술을 통해 보안관리 시스템을 업그레이드 할 것을 제안한다”고 밝혔다. [http://www.datanet.co.kr/news/articleView.html?idxno=147815](http://www.datanet.co.kr/news/articleView.html?idxno=147815)

2020-07-03

[PASCON 2020] 양봉열 로그프레소 대표 “단일 빅데이터 플랫폼만이 안정적 보안 운영 담보”

데일리시큐 주최 하반기 최대 정보보안&개인정보보호 컨퍼런스 PASCON 2020이 11월 10일 더케이호텔서울 가야금홀에서 방역수칙 준수하에 성황리에 개최됐다. 이 자리에서 양봉열 로그프레소 대표는 ‘보안관제를 지탱하는 기술’이란 주제로 강연을 진행했다. 양봉열 대표는 2005년 인젠의 시큐플랫ESM으로 통합보안관제 시스템 개발을 시작한 이래, 15년 간 관제 기술을 연구해왔다. 초기 관제 시스템들은 관계형 데이터베이스와 ISAM 파일을 기반으로 설계되었다. 로그는 정규화해 ISAM 파일에 쓰고, 이벤트는 데이터베이스에 저장했다. 그러나 이런 데이터 시스템은 스키마가 고정되어 있어서 원본 로그를 저장하기 어려웠다. B-TREE 기반 스토리지 엔진은 잠금으로 인해 고속 쓰기에 불리했고, 트리 노드에 항상 여유 공간이 존재하기 때문에 디스크를 낭비하게 되고 압축하기에도 어려운 구조적 문제가 있었다. 엘라스틱과 하둡 양쪽으로 데이터 저장하는 땜질 처방…지금도 계속 당시에 부상하던 인메모리 DB를 비롯해 여러가지 대안들이 실험되었지만, 근본적으로 보안 로그의 특성을 염두에 두지 않은 OLTP 위주의 데이터 시스템은 성능 문제를 해결하기에 역부족이었다. 2010년 이전의 시스템은 성능 문제로 로그 수집, 저장부터 누수되는 경우가 빈번했고, 로그를 조회하거나 검색하면 저장 속도가 급격하게 떨어질 뿐 아니라 수 시간을 대기해야 겨우 결과를 보거나 시스템 자체가 다운되는 경우도 흔했다. 이러한 상황에서 단순 조회 이상의 연관 분석은 최근 수 분 정도의 최근 데이터에 대해 인메모리에서만 가능한 일이었기 때문에, 대규모 데이터를 연관 분석하는 일은 상상하기도 어려웠다. 많은 아키텍트들은 관계형 데이터베이스에 데이터마트를 정의해서 TOP N 통계를 미리 생성하고, 텍스트 로그 자체는 일 단위로 압축하는 설계를 했는데, 이는 주어진 여건에서 최소한의 통계 보고서라도 빠르게 조회하고자 하는 땜질 처방에 불과했다. 미리 정의되지 않은 통계는 조회 자체가 불가능했기 때문에, 가능한 많은 조합의 데이터마트를 정의해야 했고 이는 다시 많은 디스크 공간 소모로 이어졌다. 압축된 텍스트 파일은 전체를 압축 해제해 조회 및 검색해야 했기 때문에 디스크 공간은 덜 사용했지만 사실상 조회 검색이 불가능한 상황을 야기했다. 2010년 대 이후 루씬, 하둡과 같은 오픈소스 빅데이터 기술이 등장하자 많은 사람들이 기존의 성능 문제가 해결되지 않을까 기대했으나, 풀텍스트 고속 검색과 대규모 통계 및 연관 분석을 모두 지원하는 시스템은 존재하지 않는다는 사실을 깨닫게 되었다. 엘라스틱은 조인을 지원하지 않고, 하둡은 실시간 검색을 지원하지 않는다. 이에 엘라스틱과 하둡 양쪽으로 데이터를 저장하는 땜질 처방이 2020년인 지금도 계속되고 있다. “로그프레소, 자체 기술로 단일 빅데이터 플랫폼 개발…기존 기술들 문제 해결” 로그프레소는 이 문제를 근본적으로 해결하려면 직접 밑바닥부터 빅데이터 플랫폼을 설계해야 한다고 믿었고, 결국 실시간 스트리밍 분석, 실시간 인덱싱과 고속 풀텍스트 검색, 드릴다운을 포함한 실시간 통계 분석, 대규모 분산 통계와 조인, AI 머신러닝까지 완전하게 자체 기술로 구현한 단일 빅데이터 플랫폼을 만들어냈다. 많은 시스템들이 유행에 따라 아키텍처 스타일이 변화하는데, 빅데이터의 성능에 초점을 맞추지 않으면 근본적으로 해결하기 어려운 성능 병목을 맞게 된다. 로그프레소는 I/O를 극단적으로 줄이기 위하여 머신별 단일 프로세스, 인코딩과 압축 효율 극대화, 데이터 파이프라인의 병렬화를 모든 영역에서 구현했다. 빅데이터의 핵심은 로직이 있는 곳으로 데이터를 옮기는게 아니라, 데이터가 있는 곳으로 로직을 옮기는 것이다. 예를 들어 분산 통계나 조인을 수행한다면, 전송해야 하는 데이터량을 최소화하도록 쿼리 플래너가 자동으로 쿼리를 재작성해 데이터 노드로 내려보낸다. 검색 고속화에는 역인덱스(inverted index)와 블룸필터(bloom filter)가 활용된다. 특히 블룸필터는 최소의 용량으로 키워드가 존재하지 않는 블록을 완전히 건너뛸 수 있도록 지원함으로써 장기간 데이터 검색에서 최적의 성능을 도출한다. 통계 분석은 스키마리스 컬럼스토리지 엔진이 실시간 분석을 가능하게 한다. 대규모 분석 쿼리를 실행할 때 필요한 컬럼은 일부분이므로, 기존의 OLTP 시스템이 사용하는 행 단위 레코드 레이아웃을 열 단위로 바꾸게 되면 반드시 필요한 데이터 영역만 읽고 처리할 수 있게 되므로 성능이 수십 배 향상된다. 여기에 벡터 단위의 쿼리 실행은 단일 인스트럭션으로 여러 개의 데이터를 동시에 연산하는 SIMD를 활성화하기 때문에 기존 시스템 대비 100배 이상의 성능을 낼 수 있게 된다. 이는 예전에 불가능하던 자유로운 데이터 통계와 연관 분석을 가능하게 한다. 암호화된 데이터에서 컬럼스토리지는 더욱 빛을 발하는데, 특허 등록된 로그프레소 기술은 분석 쿼리에서 요구하는 컬럼만 복호화를 수행함으로써 암호화 된 데이터에 대해서도 최상의 분석 성능을 도출한다. 로그프레소는 여기에 그치지 않고 쿼리 실행 시점에 비정형 데이터의 타입을 추론해 쿼리를 실행 시간에 컴파일한다. 이는 인터프리터 방식의 쿼리 엔진에서 발생하는 모든 오버헤드를 제거한 머신 코드를 런타임에 생성해 대규모 분석 쿼리 실행의 성능을 최적화한다. 이러한 근본적인 데이터 처리 기술의 발전은 매일 수백 기가에서 테라바이트 단위의 데이터가 유입되는 상황에서도 이전에 불가능하던 검색과 분석을 사용자가 원하는대로 수행할 수 있도록 지원하게 되었다. 양봉열 대표는 “오픈소스 기반의 빅데이터 플랫폼이 여러 컴포넌트의 조합으로 높은 복잡도, 낮은 성능, 많은 장애 포인트, 장기적 데이터 호환성 문제를 가진다”는 점을 지적하며 “완전하게 구현된 단일 빅데이터 플랫폼만이 안정적 보안 운영을 담보한다”고 강조했다. 로그프레소 양봉열 대표의 PASCON 2020 발표자료는 데일리시큐 자료실에서 다운로드 가능하다. [https://www.dailysecu.com/news/articleView.html?idxno=116401](https://www.dailysecu.com/news/articleView.html?idxno=116401)

2020-11-12