2026-08-04 Radar

← Back to archive

NVMe에서 가중치를 스트리밍하는 임베디드 C 추론 엔진

Run the full 2.78-trillion-parameter Kimi K3 model beyond available RAM by streaming activated weights directly from NVMe. A dependency-free, embeddable C inference engine.

Hot 69.4 ★★★☆☆
무엇을 해결하나

RAM으로는 불가능한 초대형 MoE 모델을 SSD 스트리밍과 캐시로 로컬에서 실행할 수 있게 한다.

누가 쓰면 좋나

Researchers and engineers who need to run very large MoE models locally or on resource-limited servers with fast NVMe storage. Teams experimenting with model architecture, quantization, or local multimodal inference who can provide large SSD capacity and ~64 GB of RAM.

왜 지금 뜨나

고속 NVMe와 대형 모델 공개로 디스크 기반 스트리밍이 현실적 해법이 되었기 때문이다.

이 리포의 한 방

Streams and overlaps disk reads of expert shards so the full 2.78T-parameter Kimi K3 can run on a 64 GB laptop.

설치 난이도
실무 적용
평점8/10
  • C
  • inference-engine
  • moe
  • nvme-streaming
  • quantization
발견 경로 HNReddit워치리스트Watchlist 1 devs
#2 yc-software/qm AI Agent

멀티플레이어 에이전트 허브 및 샌드박스

Multiplayer agent harness for work

Hot 71.7 ★★★★☆
무엇을 해결하나

조직용 AI 에이전트를 사용자별 격리 공간과 중앙 제어로 안전하게 운영할 수 있게 합니다.

누가 쓰면 좋나

Startups and engineering teams that want internal AI assistants tied to real credentials and workflows should use it. Operators who need scoped permissions, auditability, and the ability to swap model harnesses will benefit most.

왜 지금 뜨나

내부 AI 자동화 수요와 보안·통제 요구 증가로 주목받습니다.

이 리포의 한 방

Combines per-scope durable sandboxes, scoped memory, and interchangeable model harnesses for safe multi-user deployments.

설치 난이도
실무 적용
평점7/10
  • agent-platform
  • multitenant
  • typescript
  • slack
  • sandbox
발견 경로 HN워치리스트Watchlist 1 devs

코드·문서 전체를 쿼리 가능한 그래프로 변환

Turn any codebase, with its docs, SQL schemas, configs, and PDFs, into a queryable knowledge graph. A /graphify skill for Claude Code, Cursor, Codex, and Gemini CLI: local deterministic AST parsing, every edge explained, no vector store.

Hot 68.9 ★★★☆☆
무엇을 해결하나

코드, 문서, 설정 파일, PDF를 AST 기반으로 로컬 파싱해 관계를 그래프로 만들어 grep 대신 질의하고 연결의 근거를 제공한다.

누가 쓰면 좋나

Developers and maintainers of medium-to-large codebases who need explainable code search, dependency tracing, or impact analysis. Teams that are privacy- or compliance-conscious and prefer local parsing over sending code to embedding/vector services.

왜 지금 뜨나

로컬·설명 가능한 코드 이해 도구에 대한 수요와 AI 어시스턴트 통합 증가로 주목받는다.

이 리포의 한 방

Local deterministic AST parsing with every edge labeled EXTRACTED or INFERRED and no vector store, enabling auditable, explainable queries across code and docs.

설치 난이도
실무 적용
평점8/10
  • knowledge-graph
  • code-analysis
  • tree-sitter
  • developer-tools
발견 경로 트렌딩

지속 학습하는 에이전트와 통합 도구

The agent that grows with you

Hot 67.3 ★★★☆☆
무엇을 해결하나

세션 간 문맥을 유지하고 경험에서 스킬을 생성·개선해 자동화 파이프라인을 간소화합니다.

누가 쓰면 좋나

Developers, SREs, and AI researchers who need a persistent assistant to automate multi-step tasks, maintain cross-session memory, or experiment with autonomous agent behaviors. Also useful to teams wanting a single gateway to many LLM providers and chat backends with built-in scheduling and tooling.

왜 지금 뜨나

서버리스·지속성 에이전트 수요 증가와 다양한 모델·백엔드 통합으로 주목받고 있습니다.

이 리포의 한 방

A built-in closed learning loop that auto-creates and self-improves reusable skills from the agent's experience.

설치 난이도
실무 적용
평점8/10
  • ai-agent
  • self-improving
  • automation
  • multi-platform
  • tooling
발견 경로 트렌딩

리버스·침투 테스팅용 AI 기반 작업 라우터

Reverse Engineering / Authorized Penetration Testing / Security Research Skill Router Pack AI-powered routing + On-demand toolchain bootstrapping + Self-evolving knowledge base Supports Claude Code, Kiro, Cursor, Cline, and other AI coding clients 逆向/渗透/安全技能路由包 - AI 自动路由 + 按需自举工具链 + 自动进化经验库 | 支持 Claude Code / Kiro / Cursor / Cline 等代码 AI 客户端

Hot 64.9 ★★★☆☆
  • PowerShell
  • MIT
  • ★ 15,489 +4953 (7d)
  • Forks 2,194
무엇을 해결하나

작업에 맞는 방법론을 자동으로 선택하고 도구를 점검해 온디맨드로 부트스트랩하여 반복 가능한 워크플로를 만든다.

누가 쓰면 좋나

Security researchers, red-teamers, and CTF competitors who run repeated reverse or pentest tasks and want consistency. Teams using code-focused AI assistants to automate analysis will find it useful for orchestration and tool management.

왜 지금 뜨나

코드형 AI 도구 보급으로 에이전트의 잘못된 도구 선택 문제를 해결하려는 수요가 커졌다.

이 리포의 한 방

Combines AI-aware routing with on-demand toolchain bootstrapping and an evolving experience repository to make reverse/pentest tasks repeatable.

설치 난이도
실무 적용
평점8/10
  • security
  • reverse-engineering
  • automation
  • ai-integration
  • tooling
발견 경로 트렌딩

터미널용 지속 상태 AI 코딩 에이전트

DeepSeek-native AI coding agent for your terminal. Engineered around prefix-cache stability — leave it running.

Hot 64.8 ★★★☆☆
무엇을 해결하나

긴 인터랙티브 세션 동안 토큰 비용과 문맥 손실을 줄이고, 플러그인 기반 도구 통합을 통해 안정적인 에이전트를 제공합니다.

누가 쓰면 좋나

Developers who want a local, low-friction AI coding assistant in the terminal, especially teams or individuals concerned about token costs, privacy, or offline-first workflows. Also useful for tool authors who need a stable plugin surface for agent tooling.

왜 지금 뜨나

로컬 우선 AI와 비용·프라이버시 제어 수요 증가로 DeepSeek 기반 캐시 설계가 주목받고 있습니다.

이 리포의 한 방

A single static Go binary engineered around DeepSeek's prefix cache to keep token costs low across long interactive sessions.

설치 난이도
실무 적용
평점8/10
  • ai-agent
  • cli
  • prompt-caching
  • plugin
  • go
발견 경로 트렌딩

4GB GPU로 70B 이상 LLM 실행

AirLLM 2.8T LLM inference with single 4GB GPU

Hot 64.4 ★★★☆☆
  • Jupyter Notebook
  • Apache-2.0
  • ★ 26,869 +1332 (7d)
  • Forks 2,953
무엇을 해결하나

모델 가중치를 필요할 때만 스트리밍해 GPU VRAM 요구량을 크게 줄여 저사양 GPU로 대형 모델 추론을 가능하게 합니다.

누가 쓰면 좋나

ML engineers, researchers, and hobbyists who need to run or demo large open models locally on constrained hardware for inference, experimentation, or lightweight deployments. It's useful when multi-GPU servers or full quantization pipelines are unavailable or undesirable.

왜 지금 뜨나

대형 오픈모델 확산으로 로컬에서 실행하려는 수요가 늘었고, 하드웨어 장벽을 낮춰 주기 때문입니다.

이 리포의 한 방

Streams layer/expert weights on demand to run 70B+ (and even 405B) models on single 4-8GB GPUs without full quantization.

설치 난이도
실무 적용
평점8/10
  • llm
  • model-inference
  • memory-optimization
  • single-gpu
  • compression
발견 경로 HN트렌딩

에이전트 팀용 장기 메모리 허브

TencentDB Agent Memory is a team-level memory hub for AI Agents — turning conversations, docs, and code into four reusable memory assets (Chat Memory, Skill, LLM-Wiki, Code-Graph) that are governed, shared, and equipped across agents and frameworks.

Hot 63.7 ★★★☆☆
  • TypeScript
  • NOASSERTION
  • ★ 11,950 +2130 (7d)
  • Forks 1,131
  • 홈페이지
무엇을 해결하나

대화·문서·코드를 재사용 가능한 메모리 자산으로 추출해 에이전트의 반복 작업과 콜드 스타트를 줄입니다.

누가 쓰면 좋나

Teams building or operating multiple AI agents, toolchains, or agent orchestration platforms that need persistent context and reusable procedures. Developers who want a portable, governed memory layer layered on top of LLMs and vector search.

왜 지금 뜨나

에이전트 기반 워크플로 확산과 장기 메모리 수요 증가로 주목받고 있습니다.

이 리포의 한 방

Automatically turns conversations, docs, and code into four governed, shareable memory assets (Chat Memory, Skill, LLM-Wiki, CodeGraph) that work across agents and frameworks.

설치 난이도
실무 적용
평점8/10
  • agent
  • memory
  • embeddings
  • vector-search
  • local-first
발견 경로 트렌딩

에이전트용 158개 과학 스킬 모음

Turn any AI agent into an AI Scientist. The #1 Agent Skills library for science, used by 250,000+ scientists worldwide. 177 ready-to-use validated skills plus 100+ scientific databases covering biology, chemistry, medicine, and drug discovery. Compatible with Cursor, Claude Code, Codex, Pi, Antigravity, and the open Agent Skills standard.

Hot 62.9 ★★★☆☆
무엇을 해결하나

에이전트가 생물·화학·임상 작업과 전문 데이터베이스 조회를 안정적으로 수행하도록 미리 만든 스킬과 예제를 제공해 수작업 스크립트 필요성을 줄입니다.

누가 쓰면 좋나

Computational biologists, cheminformaticians, data scientists, and engineering teams who want to add reproducible scientific workflows to an agent without rebuilding connectors and pipelines. Also useful for labs that need standardized, agent-driven access to multiple scientific databases.

왜 지금 뜨나

오픈 Agent Skills 표준과 주요 에이전트 호환성 확대, 방대한 스킬·DB 연결로 빠르게 채택되고 있습니다.

이 리포의 한 방

A curated, test-covered set of 158 domain-specific skills and connectors to 100+ scientific databases packaged to the Agent Skills standard.

설치 난이도
실무 적용
평점8/10
  • agent-skills
  • bioinformatics
  • chemoinformatics
  • scientific-workflows
  • agent-compatibility
발견 경로 트렌딩
#10 can1357/oh-my-pi Coding

터미널에서 IDE급 편집을 하는 AI 코딩 에이전트

⌥ Coding agent with the IDE wired in. Built by Stencil Labs.

Hot 61.3 ★★★☆☆
  • TypeScript
  • MIT
  • ★ 21,548 +297 (7d)
  • Forks 2,051
  • 홈페이지
무엇을 해결하나

LLM이 만든 수정이 프로젝트 맥락을 잃거나 깨지는 문제를 해결한다. LSP와 실행 커널, 툴을 통합해 안전하고 재현 가능한 편집을 제공한다.

누가 쓰면 좋나

Developers who prefer working in the terminal and need safe, workspace-aware code edits from LLMs. Teams that want a single agentable CLI with LSP/DAP hooks, multiple model providers, and tooling for running and testing code during agent runs.

왜 지금 뜨나

모델과 툴 통합 수요가 증가하고 실무에서 안정적인 에이전트가 필요해졌기 때문이다.

이 리포의 한 방

Wires a real IDE LSP into a terminal agent so edits are workspace-aware, atomic, and apply correctly across the project.

설치 난이도
실무 적용
평점8/10
  • ai-agent
  • cli
  • coding-assistant
  • lsp
  • rust
발견 경로 트렌딩