어텐션랩, NIPA 오픈소스 AI 과제 참여… 산업 운영 데이터 추론 엔진 개발 나서

노형석 기자

작성일 2026-07-07 08:23

인공지능(AI) 시스템 기업 어텐션랩이 정보통신산업진흥원(NIPA)이 주관하는 ‘2026년 오픈소스 AI·SW 개발·활용 지원사업’에 참여한다고 6일 밝혔다. 이번 사업은 ‘LLM 서비스 성능-비용 최적화를 위한 오픈소스 AI 게이트웨이(LoxiLB) 고도화’를 목표로 하며, 어텐션랩은 이 과제에서 자연어 기반 AI 게이트웨이 운영 인터페이스인 Agentic TUI와 SCADA 데이터를 활용한 산업 운영 추론 엔진 개발을 담당한다.

본 과제는 오는 12월 31일까지 진행되며, 대규모 언어모델(LLM) 서비스 운영 시 발생하는 응답 지연, 반복 컨텍스트 처리, GPU 자원 사용 최적화 등의 문제를 해결하기 위한 오픈소스 AI 인프라 고도화에 초점을 맞춘다. 특히 산업 설비, 통신망, 에너지 인프라 등 운영 환경에서 SCADA와 같은 현장 데이터를 AI가 해석 가능한 형태로 전환하고, 이를 실제 운영 판단으로 연결하는 기술의 중요성이 부각되고 있다.

어텐션랩이 개발할 Agentic TUI는 운영자가 자연어 명령을 통해 AI 게이트웨이의 상태를 확인하고, 설정, 모니터링, 장애 대응 등의 절차를 직관적으로 처리할 수 있도록 지원하는 인터페이스다. 이를 통해 복잡한 API 호출이나 설정 절차의 부담을 줄이고, GPU 상태, 요청 큐, 응답 지연 등 주요 지표를 쉽게 파악할 수 있는 운영 환경을 구현하는 것을 목표로 한다.

또한, 어텐션랩은 SCADA 데이터를 활용한 추론 엔진 개발을 통해 설비 이벤트, 상태 변화, 장애 징후 등 산업 운영 데이터를 구조화하고, 운영자가 이해할 수 있는 원인 분석과 대응 판단을 지원할 계획이다. 이는 현장 운영 데이터를 단순 조회하거나 시각화하는 수준을 넘어, 이상 상황을 해석하고 의사결정을 지원하는 AI 운영 계층으로 발전시키는 데 기여할 것으로 기대된다.

이번 과제의 기술 목표에는 LLM 추론 응답 지연 감소를 위한 Prefix-aware Routing, GPU Resource-aware Scheduling, KV Cache-aware Inference Optimization 등이 포함되며, TTFT(Time-to-First-Token) P99 기준 20% 이상 감소, Prefix Cache hit rate 25% 이상 향상 등의 성과 지표가 제시되었다. 어텐션랩은 운영자 인터페이스와 산업 운영 데이터 기반 추론 계층을 담당하며 AI 게이트웨이 기술의 실제 산업 현장 적용을 위한 운영 경험과 판단 구조 구현에 기여할 방침이다.

어텐션랩은 이번 과제를 통해 LLM 기반 리즈닝 엔진, Multi-LLM 오케스트레이션, 데이터 구조화 기술을 산업 인프라 운영 영역으로 확장하고, 제조, 인프라, 공공 운영 환경에서 활용 가능한 AI 리즈닝 엔진 기술 기반을 강화할 계획이다.