Open Project Season 2 중간 발표 - KubeRCA 문의

Ask a Question
1
  • AI 성능의 고도화에 대한 구체적인 방안이 궁금합니다.
  • 기존 APM(incl. Datadog, Instana, Whatap 등)도 RCA 기능과 AI 기능을 제공할 것같습니다. 이들과의 차이점이 있는 기능 개발을 고민하고 계신지요?

UI 개발 지원은 CloudBro의 Bro분들 대상으로 모집을 해보겠습니다. 구체적인 기술 역량 정보를 contact@cloudbro.ai 에게 전달부탁드립니다.

| This is a space where knowledge is not merely consumed, but respected, sovereign, and connected—shared together with cloud industry professionals (Bros).|
| 지식이 소비되지 않고 존중·주권보장·연결되는 공간으로 클라우드 현업 전문가(Bro)와 함께 공유하고 있습니다. |

1 Like
3

질문에 대한 답변 공유드립니다.

  1. AI 성능의 고도화에 대한 구체적인 방안이 궁금합니다.
# LLM Token 사용량 최적화
LLM에게 전달될 Context에 실제 분석에 도움이 될 내용만 포함시킬 수 있도록 고도화를 계획중입니다.

# 보안과 마스킹 관련
Regex를 Helm Chart의 Values에 리스트 형태로 사용자가 직접 지정하게 하고, 제공된 Regex에 대한 문자열은 마스킹처리를 해서 LLM에게 전달할 수 있도록 예정입니다.

# LLM 분석 정확도 개선 
Agent가 LLM에게 전달할 Context에 노이즈를 줄이고 Agent에게 좀 더 많은 툴을 제공해 Agent가 수집할 수 있는 리소스의 범위를 늘리고, 사용자가 Metrics 조회나 Trace 조회에 대한 Endpoint를 제공하면, Agent가 직접 Prometheus나 Tempo를 통해 조회할 수 있도록 개선할 예정입니다.
  1. 기존 APM(incl. Datadog, Instana, Whatap 등)도 RCA 기능과 AI 기능을 제공할 것같습니다. 이들과의 차이점이 있는 기능 개발을 고민하고 계신지요?
# 자유도
현재 이미 Datadog, AWS 등의 서비스에서 비슷한 솔루션을 출시하고 있는데, 이와 비교해서 KubeRCA는 자유도가 높다는 이점이 있습니다. KubeRCA는 특정 솔루션에 구애받지 않고, 사용자의 취향에 맞게 어떤 Cluster 환경에서 LLM Model을 사용할 건지에 대한 자유도가 높다는 것을 차별점으로 두고 개발을 진행하고 있습니다.
3 Likes