Telegraf influxDB Grafana

2-3년 전쯤부터 Opensource를 활용한 Devops 가 팀내에서 화두였다.

올해도 역시 Opensource를 이용한 모니터링 시스템 구성이 KPI에 포함되었다.

 

단순 KPI를 위해 구성하는게 아니라, 실질적으로 업무에 활용할 수 있는 것을 찾다보니

상대적으로 모니터링이 약한 (라이센스 비용문제) 가상화시스템쪽을 타겟으로 잡았다.

 

ELK, Prometheus 등 다양한 Opensource들이 있지만, 몇 가지 조건들이 있었다.

1. Vsphere (VMware)에 적용하기 위해 Client Agentless 방식일 것.

2. Scale UP/ Out (없겠지..) 를 대비해 확장성을 고려할 것.

 

이 조건에 부합하고, 화면 구성이 맘에 드는 것을 찾다보니

Telegraf(Agent) - influxDB(DB) - grafana (Visualization) 의 구성으로 정하게 되었다.

 

 

 

# Telegraf

influxDB에서 제작한 Agent로 Go로 작성되었고, plugin config 파일을 보면 확장성이 어마어마하다.

Plugin driven server agent로 push 방식이 아닌 pull 방식으로 데이터를 수집하는 방식이다.

현존하는 거의 모든 종류의 데이터를 수집할 수 있다.

• Database: Connect to datasources like MongoDB, MySQL, Redis, and others to collect and send metrics.
• Systems: Collect metrics from your modern stack of cloud platforms, containers, and orchestrators.

telegraf-influxDB의 구성 출처 : https://www.influxdata.com/time-series-platform/telegraf/

 

#influxDB

telegraf와 마찬가지로 Go로 작성되었고 시계열 Database라고 한다.

(21년 7월 기준 Ranking of Time Series DBMS 1위!!)

확장성과 간편한 관리로 마켓 점유율이 높다.

 

- 간편하고 쉬운 설치

- Plugin 설계로 타사 제품과 연동 용이함

 

* Time Series Database (시계열 데이터베이스 / TSDB)

다양한 포맷의 대량 데이터들이 폭발적으로 발생하면서,

시간 흐름에 따른 데이터 관리를 위해 등장한 Database다.

-  시간처리에 최적화 된 데이터베이스

-  SQL 기반의 query

- 빠른 데이터 입력

이러한 특징을 바탕으로 기록 추세, 실시간 알림 또는 예측 모델링을 위해 분석되며

과거의 사건을 이해하여 미래 값을 예측하는데 사용된다.

 

DB 주제에 이런 GUI를 지원한다. (2.0 부터 인거 같은데, 난 1.8로 설치)

 

#Grafana

TSDB를 지원하는 Open Source 데이터 시각화 도구

Grafana 내부에 데이터를 저장하지 않고, 외부에 저장된 데이터를 쿼리를 통해 시각화한다.

사용자가 원하는대로 Customizing이 가능하다.

 

 

TIG 를 설치하고 vsphere와 연동은 성공했다.

# 남은 과제들

1. 기타 시스템과 추가 연동 (2개의 VDI시스템)

 - 각 시스템별로 별도의 DB에 저장할 지

 - telegraf Agent를 여러개 띄울지

 - multi plugin으로 찾아보니 되는거 같긴한데.. 자료가 없다..

2. 환경에 맞는 Grafana 화면 Customizing

 - Alert List 구성필요

 - 메신저 / Telegram 등을 이용한 알람발송 확인(외부 통신이 필요해서 안되겠지..)

 

# 느낀점

Telegraf, InfluxDB, Grafana를 어떻게 구성해서 어떻게 연동하나 걱정이었는데

오히려 구성보다 Customizing에 시간이 더 투자된다.

관련 자료들 찾아보며 시행착오가 필요할 것 같다.

 

기술의 변화속도가 생각보다 더 빨라지고 있다.

ELK가 뜨거운 감자였는데, 불과 1-2년 만에 트렌드가 또 바뀐 것 같다.

TSDB라는 것도 새로 접하게 되었는데.. 한창 DBA를 준비하고 있을때 (벌써 6-7년 전이네)만해도

RDB밖에 없었는데 이제는 TSDB(시계열 DB)가 뜨나보다.

 

IT만큼 계속 공부가 필요한 직군이 있을까.

공부가 너무나 하기 싫지만,

도태되지 않고 고이지 않기 위해서는 공부를 해야한다는 사실을 조금씩 받아들이려고 하는 중이다.

그럼 뭐해 공부를 해야지