Series 23 — AI Server Setup

뭘 만들
것인가

이 서버는 개발팀의 장비가 아니다. 당신의 도구다.

Part I — Role Models

이미 해낸 회사들

이론보다 증거가 먼저다. GPU 서버 한 대, 작은 팀, 좁은 시장. 그걸로 성과를 낸 회사가 이미 있다.

Case 01
아크릴 (Acrylic)
공공기관 직접 수주 / 자체 플랫폼
AI 에이전트 플랫폼 '조나단'(Jonathan)을 자체 개발했다. 2025년 공공기관 12건을 직접 수주했다. 대기업 하도급이 아니라 자체 브랜드로 공공시장에 진입한 사례다. 핵심은 "자체 플랫폼"이다. 남의 API를 감싸는 래퍼가 아니라, 자기 서버에서 돌아가는 제품을 가져갔다.
Case 02
제논 (Xenon)
GS인증 1등급 / 에너지 버티컬
AI 에이전트 'OneAgent'로 GS인증 1등급을 받았다. 한국가스공사에 하이브리드 LLM을 납품했고, 한국중부발전에서는 직원 81%가 활용 중이다. "에너지"라는 한 분야에만 집중했다. 범용이 아니라 에너지 도메인 전문가를 만든 것이다.
Case 03
뤼이드 (Riiid)
1개 버티컬 집중 / 매출 161% 성장
AI 어학시험 준비 플랫폼 '산타'(Santa) 하나에 집중했다. 결과는 매출 201억 원, 전년 대비 161% 성장이다. 여러 분야에 손 벌리지 않았다. TOEIC 하나, 산타 하나. 그게 전략의 전부다.

세 회사의 공통점은 하나다.

01

좁은 버티컬

범용이 아니라 특정 산업에 집중한다. 공공행정, 에너지, 어학. 좁을수록 경쟁이 적다.

02

인증으로 문 열기

GS인증, 혁신제품 지정, AI바우처 공급기업 등록. 인증 하나가 영업사원 열 명 역할을 한다.

03

레퍼런스로 확장

첫 번째 고객이 가장 어렵다. 한 곳의 성공 사례가 다음 다섯 곳의 문을 연다.

범용으로 넓게 펼치면 진다.
좁게 파야 이긴다.

Part II — The Blind Spot

ChatGPT가 못 하는 것

GPU 서버가 오면 가장 먼저 떠오르는 아이디어가 있다. "AI 챗봇을 만들자." 회사 소개를 학습시키고, 고객 문의에 자동 응답하는 범용 챗봇.

문제는 ChatGPT가 무료라는 것이다. Claude도, Gemini도 무료 티어가 있다. 범용 질의응답에서 이들을 이기려면 수십억 원의 학습 비용이 필요하다. 삼성SDS(매출 13.9조)는 72만 공무원에게 Brity Copilot을 공급한다. KT는 AICC 시장을 69%로 독점 중이다. 범용 시장은 이미 끝났다.

하지만 ChatGPT가 절대 못 하는 것이 있다.

01

내부 문서를 읽는 것

회사의 내부 규정, 고객사의 업무 매뉴얼, 연구기관의 과제 보고서. ChatGPT는 이 문서를 모른다. 우리 서버에서 RAG로 돌리면 된다.

02

폐쇄망에서 돌아가는 것

공공기관, 연구소, 군사 시설은 외부 인터넷이 차단된다. 클라우드 AI를 쓸 수 없다. 온프레미스 서버가 유일한 선택지다.

03

한국 공공기관 양식을 아는 것

HWP 파싱, 연구과제 정산, 나라장터 규격서. 글로벌 AI가 학습하지 않은 한국 고유의 도메인이다.

대기업도 이 영역에는 관심이 없다. 매출 13.9조인 삼성SDS가 기관당 3,000만 원짜리 프로젝트를 할 이유가 없다. LG CNS도 KT도 마찬가지다. 수천만 원 규모의 소규모 계약은 그들의 레이더 밖이다.

ChatGPT가 못 하고, 대기업이 안 하는 곳. 그게 우리 서버가 가야 할 곳이다.

Part III — 10 Experiments

이 서버로 만들 수 있는 10가지

이 서버는 개발팀 서버실에 잠겨 있을 장비가 아니다. 영업이 제안서를 뽑고, 사업팀이 공고를 모니터링하고, QA가 테스트를 자동화한다. 모든 부서가 쓸 수 있어야 서버의 가치가 나온다.

전부 만들 필요 없다. 10개 중 3개만 돌아가면 성공이다. 7개가 실패해도 괜찮다. 실패한 프로젝트에서 나온 데이터가 다음 성공의 밑거름이 된다.

#만들어볼 것담당난이도소요
01 회사 내부 문서 검색 챗봇 개발팀 1주
02 고객 제안서 초안 자동 생성기 영업팀 + 개발 2주
03 정부 사업 공고 모니터링 봇 사업팀 3일
04 코드 리뷰 자동화 (내부 코드 기준) 개발팀 1주
05 회의록 자동 요약 전 직원 3일
06 기술 문서 번역기 개발팀 2일
07 QA 테스트 시나리오 자동 생성 QA팀 1주
08 연구과제 정산 항목 검증기 사업팀 3주
09 AI 챗봇 응답 품질 대시보드 개발팀 1주
10 경쟁사 뉴스 일일 요약 리포트 기획팀 2일

표를 다시 보라. 개발팀 전용은 10개 중 4개뿐이다. 나머지 6개는 영업, 사업, QA, 기획, 전 직원이 쓰는 도구다. 서버가 가치를 만드는 방식은 개발팀이 혼자 뭔가를 만드는 게 아니라, 모든 부서가 각자의 반복 업무를 자동화하는 것이다.

"완벽한 한 개"보다
"60점짜리 열 개"
서버의 존재 이유를 증명한다.

Part IV — The Market

시장은 열려 있다

10.1조
2026년 정부 AI 예산
(2025년 3.3조 대비 3배)
839억
2026년 혁신제품 예산
(AI 비중 24.5%)
23개
NST 산하 출연연
AI 전면 도입 추진

2026년 과기정통부는 "모든 출연연 R&D 전 주기에 AI 도입"을 방침으로 내세웠다. NST 산하 23개 출연연이 동시에 AI를 도입한다. 공공기관 408개 중 55%가 이미 AI를 도입했고, 미도입 기관의 41.3%가 "2025년 도입 예정"이라 답했다(SPRi).

예산도 있다. AI바우처는 과제당 최대 2억 원. 혁신제품 지정을 받으면 3년간 수의계약이 가능하다. 기존 망분리 정책을 대체하는 N2SF(국가 사이버안보 기본 프레임워크)가 C/S/O 3등급 차등 보안으로 전환됐다. 연구기관 대부분이 O등급(개방)이나 S등급(중간)에 해당하여, AI 도입 장벽이 대폭 하락했다.

이 기관들에는 AI로 해결할 수 있는 반복 업무가 산적해 있다.

  1. 과제 정산 — 수기 엑셀 정산, 항목별 적격 여부 판단, 증빙서류 매칭. 매 분기 반복되는 시간 블랙홀이다
  2. 성과 보고서 — 연구 성과를 표준 양식에 맞춰 작성하는 작업. 연구자 시간의 30% 이상이 행정에 소비된다
  3. 장비 예약·관리 — 공동장비 예약, 사용 이력, 유지보수 일정. 수기 관리가 대부분이다
  4. 연구윤리 — IRB 심의 서류, 데이터 관리 계획서, 이해충돌 신고. 양식 작성만으로 수일이 걸린다
  5. 특허·기술이전 — 선행기술 조사, 청구항 초안, 기술이전 계약서 검토. 전문 인력 없이 연구자가 직접 하는 경우가 많다

한국어 + 한국 공공기관 양식 + 폐쇄망. 이 조합은 ChatGPT로 해결할 수 없고, 대기업은 관심 없는 영역이다. 우리 서버가 할 수 있는 영역이다.

이 서버는 서버실에 있는 게 아니다.
당신의 책상 위에 있다.

개발팀만의 장비가 아니다. 영업이, 사업이, QA가, 기획이 쓰는 도구다. ChatGPT가 못 하는 것을 만들어라.