우리 회사 안에
구축하는 업무 AI

도입 즉시 활용하는 사내형 AI 어플라이언스. AI 장비 · 업무 특화 멀티모달 LLM · RAG 지식검색 · RPA 자동화를 하나로 묶은 올인원 패키지로, 중소 · 중견기업과 대기업의 부서 단위 도입에 맞췄습니다. 장비는 DGX Spark와 RTX Spark 중 업무 환경에 맞게 선택합니다.

01업무별 특화 오픈소스 멀티모달 LLM + RAG + RPA
02업무 데이터는 사내 인프라 안에서만 처리
03DGX Spark · RTX Spark 중 업무 환경에 맞게 선택
NVIDIA DGX Spark
GB10 Grace Blackwell SuperchipNVIDIA DGX Spark서버형 · Linux 기반 상시 운영
128GB
통합 메모리
1 PFLOP
FP4 AI 연산
200B
지원 모델 규모
최대 3대
멀티 노드 확장
1대AI 추론 장비로 시작
128GB통합 메모리
2종장비 선택 · DGX / RTX
0외부 데이터 전송
Why On-Premise

외부 AI에 보내지 않고, 우리 회사 안에 AI를 둡니다

기업 데이터가 사내 인프라 안에서만 처리되고, 외부로 전송되지 않는 구조입니다. 데이터 주권과 운영 자율성을 모두 확보하는 방식입니다.

사내 인프라
업무 데이터AI Appliance사내 시스템
외부 클라우드 AI전송 없음
01

데이터가 사내에 머문다

업무 데이터는 외부 클라우드로 전송되지 않고, 회사 인프라 안에서만 처리됩니다.

02

보안 · 컴플라이언스 충족

규제 산업의 데이터 통제 요구와 사내 정보보호 정책을 그대로 만족합니다.

03

생성형 AI를 자체 보유

최신 AI 언어모델을 사내에 직접 설치 · 운영하여 언제든 활용할 수 있습니다.

Solution Overview

AI 장비 · 언어모델 · RAG를 통합한 올인원 어플라이언스

장비를 들여와 설치하면 바로 쓸 수 있도록 하드웨어부터 언어모델, 지식검색, 에이전트까지 미리 통합해 공급합니다. 데스크톱급 폼팩터로 사무실에 그대로 설치합니다.

AI 추론 장비 × 1

NVIDIA DGX Spark 또는 RTX Spark

128GB 통합 메모리 · 데스크톱급 폼팩터 · 사무실에 그대로 설치

+
AI Model

업무 특화 멀티모달 LLM

검증된 오픈소스 모델을 업무에 맞게 선정 — 텍스트 · 이미지 · 문서를 함께 이해

+
RAG · Agent

지식검색 · 업무 에이전트

임베딩 · 벡터 DB · RAG · AI Agent 통합, RPA 연계

적용 모델

업무별 특화 오픈소스 멀티모달 LLM

업무 유형에 맞춰 검증된 오픈소스 멀티모달 LLM을 선정 · 최적화해 탑재합니다. 텍스트 · 이미지 · 문서를 한 번에 맥락으로 이해하고, 스캔 문서의 글자를 직접 읽으며(OCR), 긴 문서도 한 번에 다룹니다.

오픈소스라이선스 부담 낮은 모델
멀티모달텍스트 · 이미지 · 문서
OCR문서 글자 인식
Core Features

찾고, 읽고, 실행까지 하는 사내 AI

세 가지 핵심 기능이 하나의 화면에서 이어집니다. 문서를 찾아 답하고, 이미지를 읽어 정리하고, 확인을 거쳐 실제 업무를 자동으로 실행합니다.

말로 지시하면, 확인을 거쳐 자동화 Bot이 실행합니다

AI가 지시를 이해해 처리 대상을 찾고, 담당자 확인을 받은 뒤 기존 RPA 자동화 Bot을 실행하고 결과를 보고합니다.

  1. 01자연어 지시
  2. 02처리 대상 확인
  3. 03담당자 확인
  4. 04자동화 Bot 실행
  5. 05결과 보고
Open WebUI · 예시 화면
이번 달 미발행 세금계산서 일괄 발행해 줘
AI

발행 대상 목록을 정리했습니다. 대상과 금액을 확인해 주시면 승인 후 발행 Bot을 실행합니다.

승인 대기 · 승인자 확인 필요
회계 · 세무
  • 세금계산서 일괄 발행
  • 미수금 현황 정리·안내
  • 증빙 누락 건 확인
인사 · 총무
  • 입사자 계정·비품 신청
  • 근태 이상 건 정리
  • 사내 공지 발송
영업 · 구매
  • 견적서·발주서 생성
  • 재고 부족 품목 발주
  • 거래처 정보 갱신
보고 · 정산
  • 주간 실적 보고서 취합
  • 경비 정산 대상 정리
  • 정기 자료 배포
Choose Your Hardware

DGX Spark와 RTX Spark, 업무 환경에 맞게 고르세요

두 장비 모두 128GB 통합 메모리와 FP4 기준 1 PFLOP급 AI 연산 성능을 갖춰 업무 특화 멀티모달 LLM을 사내에서 구동합니다. 부서 공용 서버로 둘지, Windows 업무 환경에서 함께 쓸지에 따라 선택합니다.

NVIDIA DGX Spark
GB10 Grace Blackwell Superchip

NVIDIA DGX Spark

서버형 · Linux 기반 상시 운영

부서 공용 AI 서버로 두고 여러 사용자가 동시에 접속하는 구성. 듀얼 구성으로 처리량과 가용성을 함께 확보합니다.

NVIDIA RTX Spark
RTX Spark N1X Superchip

NVIDIA RTX Spark

데스크톱형 · Windows 11 업무 환경

Windows 업무 환경을 그대로 쓰면서 책상 위 컴팩트 데스크톱에서 AI 에이전트를 24시간 운영하는 구성. 소규모 팀·부서 단위 도입에 적합합니다.

DGX SparkRTX Spark
슈퍼칩GB10 Grace BlackwellRTX Spark N1X
GPUNVIDIA Blackwell GPU6,144코어 Blackwell RTX GPU
CPU20코어 ARM CPU20코어 NVIDIA Grace CPU
메모리128GB 통합 · 273GB/s최대 128GB LPDDR5X 통합
AI 연산1,000 TOPS (FP4)1 PFLOP (FP4)
지원 모델최대 200B 파라미터최대 120B 파라미터 · 1M 컨텍스트
OSDGX OS (Linux)Windows 11
폼팩터데스크톱 크기 · 서버실 불필요컴팩트 데스크톱 · 140W
확장최대 3대 멀티 노드단일 장비
* RTX Spark는 데스크톱 구성 기준 NVIDIA 공개 사양(2026.10). 실제 사양은 제조사 모델에 따라 다를 수 있습니다.
구성 옵션 · NVIDIA DGX Spark

1대로 시작해 듀얼로 확장

부서 단위 시작에 적합

장비 1대에 업무 특화 멀티모달 LLM을 올려 동시 요청 약 3~5건을 처리합니다. 시범운영과 부서 단위 도입의 기본 구성입니다.

DGX Spark ×2
Architecture · Tech Stack

검증된 오픈소스로 세 개 층을 구성합니다

사용자 · AI 에이전트 · 데이터의 3계층 구조입니다. 모든 구성 요소가 오픈소스 기반이라 라이선스 비용 부담이 낮고, 기존 RPA나 사내 시스템과 연계할 수 있습니다.

Layer 01사용자
Open WebUI웹 브라우저
Layer 02AI 에이전트
멀티모달 LLMvLLMLangGraph
Layer 03데이터
PostgreSQLpgvector
NVIDIA DGX Spark · DGX OS (Linux)
사용자 인터페이스

Open WebUI

웹 브라우저로 바로 접속하는 대화형 화면

추론 엔진

vLLM

언어모델을 빠르게 서빙하는 고성능 추론 서버

AI 에이전트

LangGraph

질의 분석 · 도구 호출 · 업무 흐름 제어

검색 엔진 · 벡터 DB

PostgreSQL · pgvector

문서 임베딩 저장과 유사도 검색

Performance

업무 유형별 목표 응답 시간

128GB 통합 메모리 기반 멀티모달 LLM 단일 구성 기준의 목표 응답 시간입니다. 실제 응답 시간은 질문 길이, 문서 분량, 동시 사용자 수에 따라 달라집니다.

0s30s60s90s120s150s180s
일반 질의
5~15초
RAG 문서 검색
5~20초
이미지 1장
8~30초
텍스트 PDF (1~30p)
8~60초
스캔 PDF (3~15p)
30~180초
Governance & Control

역할을 나누고, 중요한 실행은 승인 후에

AI가 실제 업무를 실행하는 만큼 통제 장치를 함께 제공합니다. 4단계 역할 분리, 실행 전 승인, 전체 실행 이력 기록으로 누가 · 언제 · 무엇을 했는지 남깁니다.

ROLE 01

일반 사용자

질문 · 검색

ROLE 02

업무 실행자

업무 지시 · 실행

ROLE 03

승인자

중요 업무 실행 전 대상 · 금액 승인

ROLE 04

관리자

문서 · 권한 · 이력 관리 및 감사

실행 전 확인대상 목록과 금액을 실행 전에 확인
승인 단계 필수중요 업무는 승인자 승인 후 실행 · 승인자 로그 기록
전체 이력 보관모든 실행 이력을 누가 · 언제 · 무엇을 기준으로 기록
Expected Effects

장비 1대로 시작하는 사내 AI 전환

데모 상담으로 우리 업무에 맞는지 확인하고, 시범운영으로 효과를 검증한 뒤 전사로 확대합니다.

01

데이터 보안 · 컴플라이언스 충족

업무 데이터가 외부 클라우드로 나가지 않아 규제 산업의 통제 요구와 사내 정보보호 정책을 그대로 만족합니다.

02

낮은 도입 부담

장비 1대로 시작해 필요한 만큼 확장합니다. 서버실 없이 사무실에 설치합니다.

03

생산성 향상

검색 · 문서 처리 · 반복 업무 실행을 AI가 맡아 업무 리드타임을 줄입니다.

04

사용량 제약 없는 상시 운영

토큰 과금이나 호출 한도 없이 사내 AI를 24시간 사용합니다.

STEP 1데모 상담

실제 업무 예시로 시연하고 적용 범위를 함께 정합니다.

STEP 2시범운영 설계

부서 · 업무를 정해 장비 1대로 시범운영하고 효과를 측정합니다.

STEP 3전사 확대 운영

검증된 업무부터 부서와 장비를 단계적으로 늘려갑니다.

우리 회사 안의 업무 AI, 데모로 먼저 확인하세요

데모 상담부터 시범운영, 전사 확대까지 DTNOW가 함께합니다. 제품문의 annette@dtnow.co.kr