2026-09-25 Radar

← Back to archive

C/C++로 실행하는 경량 LLM 추론 엔진

LLM inference in C/C++

Hot 69.9 ★★★☆☆
무엇을 해결하나

로컬이나 제한된 하드웨어에서 LLM을 실행하기 위해 의존성을 최소화하고 성능을 최적화합니다. 양자화와 다양한 하드웨어 백엔드를 통해 메모리와 연산 요구를 줄여 실사용이 가능하게 합니다.

누가 쓰면 좋나

로컬 추론을 도입하려는 개발자와 모델 엔지니어, 비용·지연을 줄여야 하는 시스템 엔지니어가 사용하기에 적합합니다.

왜 지금 뜨나

로컬/온프레미스 LLM 수요와 양자화·하드웨어 가속 지원이 늘어나며 주목받고 있습니다.

이 리포의 한 방

의존성이 거의 없는 C/C++ 구현으로 광범위한 하드웨어와 양자화를 지원해 고성능 로컬 추론을 제공합니다.

설치 난이도
실무 적용
평점9/10
  • inference
  • quantization
  • ggml
  • multiplatform
  • on-device
발견 경로 Reddit워치리스트Watchlist 1 devs
#2 trycua/cua AI Agent

AI 에이전트용 데스크톱 자동화 플랫폼

Scale computer-use 2.0 with open-source drivers, cross-OS fleets, and benchmarks for training, evaluation, and data generation.

Hot 74.4 ★★★★☆
무엇을 해결하나

에이전트가 macOS·Windows·Linux의 GUI와 안전하게 상호작용하고, 로컬·클라우드 샌드박스와 VM에서 대규모로 실행·평가될 수 있도록 돕는다. 드라이버, 샌드박스 SDK, 소형 결정 모델과 벤치마크를 제공해 실험과 배포를 단순화한다.

누가 쓰면 좋나

GUI 상호작용 에이전트 개발자와 연구자, 그리고 샌드박스화된 데스크톱을 클라우드나 로컬에서 운영해야 하는 팀이 사용하면 좋다.

왜 지금 뜨나

실제 앱·OS를 제어하는 에이전트 수요가 늘면서 크로스플랫폼 드라이버와 안전한 샌드박스, 표준화된 벤치마크가 필요해졌다.

이 리포의 한 방

드라이버·샌드박스·벤치마크를 포함한 종단간 오픈 스택을 제공한다.

설치 난이도
실무 적용
평점8/10
  • desktop-automation
  • sandbox
  • drivers
  • fleets
  • benchmarks
발견 경로 워치리스트Watchlist 3 devs
#3 tt-a1i/archify Coding

텍스트로 만드는 인터랙티브 구조도

Agent skill for beautiful, verifiable architecture, workflow, sequence, data-flow, and lifecycle diagrams—self-contained HTML with motion and crisp export.

Hot 72.3 ★★★★☆
  • JavaScript
  • MIT
  • ★ 71,161 +5444 (7d)
  • Forks 4,785
  • 홈페이지
무엇을 해결하나

텍스트나 에이전트 프롬프트에서 시스템 설명을 받아 상호작용 가능한 구조도, 시퀀스, 데이터 흐름도를 생성합니다. 결과는 모션과 검증 메타데이터를 포함한 단일 HTML 파일로 내보낼 수 있어 공유와 재현이 쉽습니다.

누가 쓰면 좋나

시스템 아키텍트, 개발 문서 담당자, 그리고 설계 회의에서 빠른 시각화가 필요한 개발자가 사용하면 좋습니다.

왜 지금 뜨나

에이전트 통합과 아키텍처-애즈-코드 수요가 커지면서 주목받고 있습니다.

이 리포의 한 방

프롬프트나 코드에서 바로 생성되는 모션 있는 단일 HTML 다이어그램을 만든다는 점입니다.

설치 난이도
실무 적용
평점8/10
  • architecture-diagram
  • diagrams-as-code
  • agent-skill
  • visualization
발견 경로 워치리스트Watchlist 2 devs
#4 stablyai/orca AI Agent

병렬 에이전트를 관리하는 데스크탑·모바일 IDE

Orca is the place for working with a fleet of agents (e.g. Grok Bot, Claude Code). Run any coding agent with your own subscription. Available on desktop, mobile and remote runtime.

Hot 69.9 ★★★☆☆
  • TypeScript
  • MIT
  • ★ 77,439 +5613 (7d)
  • Forks 5,073
  • 홈페이지
무엇을 해결하나

여러 코딩 에이전트를 동시에 실행·비교하고 git 워크트리와 연동해 결과를 검토·병합하는 수고를 줄입니다.

누가 쓰면 좋나

LLM으로 코드를 작성하거나 검토하는 개발자와 팀, 원격 실행과 깃 통합이 필요한 프로젝트에 적합합니다.

왜 지금 뜨나

에이전트 기반 개발과 멀티모델 비교 수요가 급증해서입니다.

이 리포의 한 방

각 에이전트를 격리된 git 워크트리로 실행해 결과를 비교하고 바로 병합할 수 있습니다.

설치 난이도
실무 적용
평점8/10
  • agent-ide
  • parallel-agents
  • worktrees
  • remote-dev
  • mobile-companion
발견 경로 트렌딩

앱에 넣는 오피스 SDK - 시트·문서·슬라이드

The Office Harness for AI Agents — Spreadsheets, Docs, Slides, Canvas, Relational Tables, and PDF in one runtime.

Hot 67.3 ★★★☆☆
  • TypeScript
  • Apache-2.0
  • ★ 17,445 +2182 (7d)
  • Forks 1,510
  • 홈페이지
무엇을 해결하나

호스팅 서비스에 의존하거나 편집기와 런타임을 새로 구축해야 하는 문제를, 브라우저와 Node에서 동일하게 동작하는 런타임·수식 엔진·플러그인으로 해결합니다.

누가 쓰면 좋나

SaaS·BI·내부 도구 개발자와 에이전트가 문서·스프레드시트·프레젠테이션을 다뤄야 하는 팀이 주 사용층입니다.

왜 지금 뜨나

에이전트 기반 문서 작업과 제품 내 임베디드 편집 수요가 늘어나며 SDK형 솔루션 수요가 커졌습니다.

이 리포의 한 방

브라우저와 서버에서 동일한 API로 동작하는 통합 오피스 런타임과 플러그인 구조입니다.

설치 난이도
실무 적용
평점8/10
  • office-sdk
  • spreadsheet
  • documents
  • collaboration
  • plugin
발견 경로 트렌딩

비동기 중심 에이전트 하니스

Async-first agent harness

Hot 66.8 ★★★☆☆
무엇을 해결하나

툴 호출을 검증·직렬화·영구화하고 세션 단위 중복 제거와 포크 가능한 이력을 제공해 재개와 감사가 가능한 에이전트 실행을 만든다.

누가 쓰면 좋나

LLM 에이전트와 외부 툴 연동을 만드는 백엔드·플랫폼 개발자들이 사용하면 좋다. 재개 가능하고 기록되는 작업 조율이 필요한 팀에 적합하다.

왜 지금 뜨나

실무에서 에이전트의 내구성·복구 요구가 늘어나며 비동기·버전화된 실행 모델에 수요가 생겼다.

이 리포의 한 방

세션과 연산을 버전 관리 가능한 직렬화로 처리해 중단 복구와 감사가 가능하도록 설계했다.

설치 난이도
실무 적용
평점7/10
  • agent
  • async
  • go
  • orchestration
  • operations
발견 경로 GeekNewsHN워치리스트Watchlist 1 devs

휴대폰 화면을 읽어 답장 후보를 제안하는 Android 도우미

装在手机上的对话副驾:在 QQ / X / 飞书里读懂对方、给出候选回复、一键填入输入框,发不发由你。非侵入,只读屏幕,不 hook 不改包。

Hot 66.0 ★★★☆☆
  • Kotlin
  • MIT
  • ★ 5,997 +2359 (7d)
  • Forks 1,093
무엇을 해결하나

채팅 앱을 패치하지 않고 화면을 읽어 의도 판단과 후보 답장을 만들어 주며, 지식베이스와 연락처 정보를 분석에 함께 써 프라이버시를 유지합니다.

누가 쓰면 좋나

안드로이드 개발자와 개인정보에 민감한 파워유저, 접근성·OCR과 LLM 결합 사례를 실험하려는 엔지니어가 쓰기 적합합니다.

왜 지금 뜨나

온디바이스 보안·프라이버시 요구와 LLM 기반 보조 기능 수요가 동시에 커지고 있기 때문입니다.

이 리포의 한 방

앱을 수정하지 않고 화면을 읽어 후보 답장 세 개를 채워 주며 절대 자동 전송하지 않습니다.

설치 난이도
실무 적용
평점8/10
  • android
  • accessibility-service
  • chat-assistant
  • llm
  • ocr
발견 경로 워치리스트Watchlist 1 devs

모델 무관 프로덕션 에이전트 SDK

Build an agent harness and control it end-to-end. Open-source SDK for production AI agents in Python & TypeScript - any model, any cloud.

Hot 64.8 ★★★☆☆
  • Python
  • Apache-2.0
  • ★ 8,197 +875 (7d)
  • Forks 1,231
  • 홈페이지
무엇을 해결하나

직접 만든 에이전트 루프는 토큰·턴 제한, 툴 연동, 추적, 멀티에이전트로 복잡해지면 유지보수와 이식성이 떨어진다. 이 SDK는 라이프사이클 제어, 툴, 메모리, 추적, 가드레일을 제공해 어떤 모델과 클라우드에서도 에이전트를 실행할 수 있게 한다.

누가 쓰면 좋나

프로덕션 에이전트와 멀티에이전트 시스템을 배포하는 백엔드·ML·플랫폼 엔지니어에게 적합하다. 자체 호스팅과 모델 이식성이 필요할 때 유용하다.

왜 지금 뜨나

에이전트화와 멀티 모델 배포 수요가 늘면서 프로덕션급 에이전트 도구에 대한 관심이 커졌다.

이 리포의 한 방

프로세스 내에서 동작하는 모델 무관의 완전한 에이전트 허브로 라이프사이클, 추적, 가드레일을 제공한다.

설치 난이도
실무 적용
평점8/10
  • agents
  • sdk
  • mcp
  • model-agnostic
  • observability
발견 경로 트렌딩

핸즈온 AI 엔지니어링 완전 교재

Learn AI Engineering! Learn it. Build it. Ship it for others.

Hot 64.2 ★★★☆☆
무엇을 해결하나

기초 수학부터 에이전트·LLM·배포 아티팩트까지 실습 중심으로 연결해 실무에 바로 적용 가능한 역량을 만든다. 각 레슨은 실행 가능한 코드와 재사용 가능한 산출물을 제공한다.

누가 쓰면 좋나

엔드투엔드 AI 시스템을 직접 설계·구현·배포하려는 개발자와 팀. 파이썬 기반 실무 역량을 키우려는 학습자에게 적합하다.

왜 지금 뜨나

에이전트·LLM·MCP 같은 실무 주제를 폭넓게 다루고 활성 커뮤니티와 잦은 업데이트가 있어 주목받는다.

이 리포의 한 방

실행 가능한 산출물(프롬프트, 스킬, 에이전트, MCP 서버)이 포함된 523개의 단계별 레슨이 가장 인상적이다.

설치 난이도
실무 적용
평점8/10
  • llm
  • agents
  • curriculum
  • mcp
  • tutorial
발견 경로 트렌딩

클로드 코드용 에이전트·템플릿 설치 CLI

CLI tool for configuring and monitoring Claude Code

Hot 63.8 ★★★☆☆
무엇을 해결하나

클로드 코드용 에이전트, 명령어, MCP, 훅과 설정을 재사용 가능한 템플릿으로 제공해 수작업 설정과 중복 코드를 줄입니다. 또한 CLI 설치와 실시간 분석으로 배포와 모니터링을 단순화합니다.

누가 쓰면 좋나

클로드 코드를 사용하는 개발팀과 에이전트 구성 자동화가 필요한 플랫폼 개발자들이 사용하면 좋습니다.

왜 지금 뜨나

클로드 채택 확대와 에이전트 워크플로우 수요 증가로 간편 설치 가능한 템플릿 카탈로그가 주목받고 있습니다.

이 리포의 한 방

100개 이상 즉시 설치 가능한 에이전트·MCP·명령어와 런타임 분석을 단일 CLI로 제공합니다.

설치 난이도
실무 적용
평점8/10
  • claude
  • templates
  • cli
  • integrations
  • analytics
발견 경로 트렌딩