NVMe에서 가중치를 스트리밍하는 임베디드 C 추론 엔진
Run the full 2.78-trillion-parameter Kimi K3 model beyond available RAM by streaming activated weights directly from NVMe. A dependency-free, embeddable C inference engine.
Hot
69.4
★★★☆☆
무엇을 해결하나RAM으로는 불가능한 초대형 MoE 모델을 SSD 스트리밍과 캐시로 로컬에서 실행할 수 있게 한다.
누가 쓰면 좋나Researchers and engineers who need to run very large MoE models locally or on resource-limited servers with fast NVMe storage. Teams experimenting with model architecture, quantization, or local multimodal inference who can provide large SSD capacity and ~64 GB of RAM.
왜 지금 뜨나고속 NVMe와 대형 모델 공개로 디스크 기반 스트리밍이 현실적 해법이 되었기 때문이다.
이 리포의 한 방Streams and overlaps disk reads of expert shards so the full 2.78T-parameter Kimi K3 can run on a 64 GB laptop.
발견 경로
HNReddit워치리스트Watchlist 1 devs
멀티플레이어 에이전트 허브 및 샌드박스
Multiplayer agent harness for work
Hot
71.7
★★★★☆
무엇을 해결하나조직용 AI 에이전트를 사용자별 격리 공간과 중앙 제어로 안전하게 운영할 수 있게 합니다.
누가 쓰면 좋나Startups and engineering teams that want internal AI assistants tied to real credentials and workflows should use it. Operators who need scoped permissions, auditability, and the ability to swap model harnesses will benefit most.
왜 지금 뜨나내부 AI 자동화 수요와 보안·통제 요구 증가로 주목받습니다.
이 리포의 한 방Combines per-scope durable sandboxes, scoped memory, and interchangeable model harnesses for safe multi-user deployments.
발견 경로
HN워치리스트Watchlist 1 devs
코드·문서 전체를 쿼리 가능한 그래프로 변환
Turn any codebase, with its docs, SQL schemas, configs, and PDFs, into a queryable knowledge graph. A /graphify skill for Claude Code, Cursor, Codex, and Gemini CLI: local deterministic AST parsing, every edge explained, no vector store.
Hot
68.9
★★★☆☆
무엇을 해결하나코드, 문서, 설정 파일, PDF를 AST 기반으로 로컬 파싱해 관계를 그래프로 만들어 grep 대신 질의하고 연결의 근거를 제공한다.
누가 쓰면 좋나Developers and maintainers of medium-to-large codebases who need explainable code search, dependency tracing, or impact analysis. Teams that are privacy- or compliance-conscious and prefer local parsing over sending code to embedding/vector services.
왜 지금 뜨나로컬·설명 가능한 코드 이해 도구에 대한 수요와 AI 어시스턴트 통합 증가로 주목받는다.
이 리포의 한 방Local deterministic AST parsing with every edge labeled EXTRACTED or INFERRED and no vector store, enabling auditable, explainable queries across code and docs.
발견 경로
트렌딩
지속 학습하는 에이전트와 통합 도구
The agent that grows with you
Hot
67.3
★★★☆☆
무엇을 해결하나세션 간 문맥을 유지하고 경험에서 스킬을 생성·개선해 자동화 파이프라인을 간소화합니다.
누가 쓰면 좋나Developers, SREs, and AI researchers who need a persistent assistant to automate multi-step tasks, maintain cross-session memory, or experiment with autonomous agent behaviors. Also useful to teams wanting a single gateway to many LLM providers and chat backends with built-in scheduling and tooling.
왜 지금 뜨나서버리스·지속성 에이전트 수요 증가와 다양한 모델·백엔드 통합으로 주목받고 있습니다.
이 리포의 한 방A built-in closed learning loop that auto-creates and self-improves reusable skills from the agent's experience.
발견 경로
트렌딩
리버스·침투 테스팅용 AI 기반 작업 라우터
Reverse Engineering / Authorized Penetration Testing / Security Research Skill Router Pack AI-powered routing + On-demand toolchain bootstrapping + Self-evolving knowledge base Supports Claude Code, Kiro, Cursor, Cline, and other AI coding clients 逆向/渗透/安全技能路由包 - AI 自动路由 + 按需自举工具链 + 自动进化经验库 | 支持 Claude Code / Kiro / Cursor / Cline 等代码 AI 客户端
Hot
64.9
★★★☆☆
무엇을 해결하나작업에 맞는 방법론을 자동으로 선택하고 도구를 점검해 온디맨드로 부트스트랩하여 반복 가능한 워크플로를 만든다.
누가 쓰면 좋나Security researchers, red-teamers, and CTF competitors who run repeated reverse or pentest tasks and want consistency. Teams using code-focused AI assistants to automate analysis will find it useful for orchestration and tool management.
왜 지금 뜨나코드형 AI 도구 보급으로 에이전트의 잘못된 도구 선택 문제를 해결하려는 수요가 커졌다.
이 리포의 한 방Combines AI-aware routing with on-demand toolchain bootstrapping and an evolving experience repository to make reverse/pentest tasks repeatable.
발견 경로
트렌딩
터미널용 지속 상태 AI 코딩 에이전트
DeepSeek-native AI coding agent for your terminal. Engineered around prefix-cache stability — leave it running.
Hot
64.8
★★★☆☆
무엇을 해결하나긴 인터랙티브 세션 동안 토큰 비용과 문맥 손실을 줄이고, 플러그인 기반 도구 통합을 통해 안정적인 에이전트를 제공합니다.
누가 쓰면 좋나Developers who want a local, low-friction AI coding assistant in the terminal, especially teams or individuals concerned about token costs, privacy, or offline-first workflows. Also useful for tool authors who need a stable plugin surface for agent tooling.
왜 지금 뜨나로컬 우선 AI와 비용·프라이버시 제어 수요 증가로 DeepSeek 기반 캐시 설계가 주목받고 있습니다.
이 리포의 한 방A single static Go binary engineered around DeepSeek's prefix cache to keep token costs low across long interactive sessions.
발견 경로
트렌딩
4GB GPU로 70B 이상 LLM 실행
AirLLM 2.8T LLM inference with single 4GB GPU
Hot
64.4
★★★☆☆
무엇을 해결하나모델 가중치를 필요할 때만 스트리밍해 GPU VRAM 요구량을 크게 줄여 저사양 GPU로 대형 모델 추론을 가능하게 합니다.
누가 쓰면 좋나ML engineers, researchers, and hobbyists who need to run or demo large open models locally on constrained hardware for inference, experimentation, or lightweight deployments. It's useful when multi-GPU servers or full quantization pipelines are unavailable or undesirable.
왜 지금 뜨나대형 오픈모델 확산으로 로컬에서 실행하려는 수요가 늘었고, 하드웨어 장벽을 낮춰 주기 때문입니다.
이 리포의 한 방Streams layer/expert weights on demand to run 70B+ (and even 405B) models on single 4-8GB GPUs without full quantization.
발견 경로
HN트렌딩
에이전트 팀용 장기 메모리 허브
TencentDB Agent Memory is a team-level memory hub for AI Agents — turning conversations, docs, and code into four reusable memory assets (Chat Memory, Skill, LLM-Wiki, Code-Graph) that are governed, shared, and equipped across agents and frameworks.
Hot
63.7
★★★☆☆
무엇을 해결하나대화·문서·코드를 재사용 가능한 메모리 자산으로 추출해 에이전트의 반복 작업과 콜드 스타트를 줄입니다.
누가 쓰면 좋나Teams building or operating multiple AI agents, toolchains, or agent orchestration platforms that need persistent context and reusable procedures. Developers who want a portable, governed memory layer layered on top of LLMs and vector search.
왜 지금 뜨나에이전트 기반 워크플로 확산과 장기 메모리 수요 증가로 주목받고 있습니다.
이 리포의 한 방Automatically turns conversations, docs, and code into four governed, shareable memory assets (Chat Memory, Skill, LLM-Wiki, CodeGraph) that work across agents and frameworks.
발견 경로
트렌딩
에이전트용 158개 과학 스킬 모음
Turn any AI agent into an AI Scientist. The #1 Agent Skills library for science, used by 250,000+ scientists worldwide. 177 ready-to-use validated skills plus 100+ scientific databases covering biology, chemistry, medicine, and drug discovery. Compatible with Cursor, Claude Code, Codex, Pi, Antigravity, and the open Agent Skills standard.
Hot
62.9
★★★☆☆
무엇을 해결하나에이전트가 생물·화학·임상 작업과 전문 데이터베이스 조회를 안정적으로 수행하도록 미리 만든 스킬과 예제를 제공해 수작업 스크립트 필요성을 줄입니다.
누가 쓰면 좋나Computational biologists, cheminformaticians, data scientists, and engineering teams who want to add reproducible scientific workflows to an agent without rebuilding connectors and pipelines. Also useful for labs that need standardized, agent-driven access to multiple scientific databases.
왜 지금 뜨나오픈 Agent Skills 표준과 주요 에이전트 호환성 확대, 방대한 스킬·DB 연결로 빠르게 채택되고 있습니다.
이 리포의 한 방A curated, test-covered set of 158 domain-specific skills and connectors to 100+ scientific databases packaged to the Agent Skills standard.
발견 경로
트렌딩
터미널에서 IDE급 편집을 하는 AI 코딩 에이전트
⌥ Coding agent with the IDE wired in. Built by Stencil Labs.
Hot
61.3
★★★☆☆
무엇을 해결하나LLM이 만든 수정이 프로젝트 맥락을 잃거나 깨지는 문제를 해결한다. LSP와 실행 커널, 툴을 통합해 안전하고 재현 가능한 편집을 제공한다.
누가 쓰면 좋나Developers who prefer working in the terminal and need safe, workspace-aware code edits from LLMs. Teams that want a single agentable CLI with LSP/DAP hooks, multiple model providers, and tooling for running and testing code during agent runs.
왜 지금 뜨나모델과 툴 통합 수요가 증가하고 실무에서 안정적인 에이전트가 필요해졌기 때문이다.
이 리포의 한 방Wires a real IDE LSP into a terminal agent so edits are workspace-aware, atomic, and apply correctly across the project.
발견 경로
트렌딩
Nothing matches those filters.