아래 Github에 있는 OpenTelemetry 와 OpenLLMetry에 대한 비교 자료를 AI가 알려줬는데요.
| 구분 | OpenTelemetry (OTel) | OpenLLMetry |
|---|---|---|
| 정의 | 클라우드 네이티브 소프트웨어의 관측성(Observability) 표준 프레임워크 | OpenTelemetry 기반의 LLM 전용 관측성 확장 도구 |
| 주요 대상 | 데이터베이스 호출, HTTP 요청, 마이크로서비스 간 통신 | 프롬프트, 답변 생성, 토큰 사용량, 벡터 DB 검색 |
| 추적 데이터 | 지연 시간(Latency), 상태 코드, 에러율 등 일반 지표 | 모델명, 온도(Temperature), 토큰 비용, 프롬프트 내용 |
| 지원 라이브러리 | Flask, gRPC, PostgreSQL, Redis 등 | OpenAI, Anthropic, LangChain, LlamaIndex, Pinecone 등 |
| 운영 주체 | CNCF (업계 표준 재단) | Traceloop (오픈소스 커뮤니티 및 기업) |
제가 궁금한거는 실제로 국내에서 OpenLLMetry 사용하는 곳이 얼마나 있을지? 그리고 대기업 또는 AI 스타트업에서만 사용하는지도 궁금해서 문의드립니다.
참고로, 각 오픈소스 Github 정보도 공유해봐요.
| This is a space where knowledge is not merely consumed, but respected, sovereign, and connected—shared together with cloud industry professionals (Bros).|
| 지식이 소비되지 않고 존중·주권보장·연결되는 공간으로 클라우드 현업 전문가(Bro)와 함께 공유하고 있습니다. |