엔비디아의 Auto Ontology 는 데이터베이스 위에 «이 컬럼이 무슨 뜻인지»를 얹는 온톨로지(의미 계층)를 반자동으로 만들어 주는 Apache-2.0 오픈소스입니다. AI 에이전트가 SQL 을 잘 짜도 '매출'의 정의를 모르면 틀린 답을 낸다는 문제를 정면으로 다룹니다.

이 글은 그 개념을 정리한 기록입니다. 먼저 밝혀 둘 것이 있습니다. 저는 아직 Auto Ontology 를 직접 돌려 보지 않았습니다. 아래의 내용은 GitHub README 와 엔비디아의 공식 페이지를 읽은 범위이고, 수치는 2026년 11월 5일에 확인한 것입니다. 써 본 사람의 후기가 아니라, 문서를 읽으며 «왜 이런 것이 필요한가»를 곱씹어 본 글로 읽어 주시면 좋겠습니다.

"open ontology" 가 아니라 Auto Ontology 입니다

처음에는 «엔비디아 open ontology» 라는 이름으로 이 프로젝트를 찾았습니다. 그런데 엔비디아에 그런 이름의 별도 프로젝트는 없었고, 정식 이름은 NVIDIA/auto-ontology 저장소의 Auto Ontology 였습니다. 저장소 설명은 이렇습니다.

Python framework for building semantic, graph-based reasoning layers over data. It enables deterministic query generation, better context retrieval, and more explainable AI for LLM and agent workflows.

다만 «열린(open) 온톨로지»라는 말이 아주 틀린 것은 아니라는 생각이 들었습니다. 두 가지 뜻으로 풀 수 있기 때문입니다. 하나는 Apache-2.0 라이선스의 오픈소스라는 뜻이고, 다른 하나는 개방 표준인 Apache Ossie 와 호환된다는 뜻입니다. Ossie 는 예전 이름이 Open Semantic Interchange 이고, 지금은 아파치 소프트웨어 재단(ASF)에서 인큐베이팅 중인 시맨틱 모델 스펙입니다. Auto Ontology 는 이 Ossie 형식의 YAML 로 온톨로지를 가져오고 내보낼 수 있습니다.

공개 시점은 단정하지 않겠습니다. 2026년 가을 무렵 널리 소개되었지만, 발표일은 보도마다 다르게 적혀 있었습니다. 확인할 수 있었던 것은 저장소가 2026년 4월 27일에 만들어졌고, 11월 5일 기준으로 별이 4,980개이며, 아직 릴리스 태그는 없다는 정도입니다. NGC 에 올라온 백엔드 컨테이너는 1.1.0 이고 2026년 10월 13일에 마지막으로 갱신되었습니다.

빠른 답보다 맞는 답 — text-to-SQL 이 틀리는 지점

README 에서 가장 오래 붙잡고 있었던 문장은 이것입니다.

a revenue metric answered faster is worth nothing if the number is wrong.

매출 지표를 빨리 답해도 숫자가 틀리면 아무 가치가 없다는 말입니다. 당연한 이야기처럼 들리지만, 에이전트에게 자연어 질문을 SQL 로 바꾸게 하는 text-to-SQL 을 떠올려 보면 무게가 달라집니다. 요즘 모델은 SQL 문법을 꽤 잘 지킵니다. 조인도 하고 집계도 합니다. 그런데 «매출이 얼마냐»는 질문에서 어려운 것은 문법이 아니라 '매출'이 무엇이냐입니다.

예를 들어 한 회사의 데이터가 세 군데에 나뉘어 있다고 해 보겠습니다. 수익 원장에서 매출은 부가세를 포함해 받은 금액일 수 있습니다. 회계 장부에서 매출은 공급가액, 즉 부가세를 뺀 금액일 수 있습니다. 가계부처럼 통장 흐름을 보는 곳에서는 실제로 입금된 돈이 매출처럼 보일 수 있습니다.

세 테이블 모두에 amount 라는 컬럼이 있고, 모두 «매출»이라고 불립니다. 에이전트가 어느 쪽을 골라도 SQL 은 문법적으로 완벽하게 실행됩니다. 그리고 셋 중 둘은 질문한 사람이 원한 숫자가 아닙니다.

저도 여러 도메인이 한 백엔드와 여러 DB 를 나눠 쓰는 구조를 혼자 운영하고 있어서, 이 문장이 남의 이야기로 읽히지 않았습니다. 같은 낱말이 시스템마다 조금씩 다른 뜻으로 쓰이는 것은 사람이 오래 쌓아 온 데이터라면 거의 피할 수 없는 일입니다. 사람은 맥락으로 그 차이를 메웁니다. 에이전트에게는 그 맥락이 스키마 어디에도 적혀 있지 않습니다.

그래서 README 는 에이전트에게 필요한 것을 context layer 라고 부릅니다. 데이터가 어디에 있고, 그것이 무슨 뜻인지를 알려 주는 층입니다. 눈여겨볼 점은 이 층이 기존의 시맨틱 모델이나 온톨로지 플랫폼을 대체하려는 것이 아니라 보완(complements)한다고 스스로 적어 두었다는 것입니다.

온톨로지란 무엇인가 — 스키마는 '어디에', 온톨로지는 '무슨 뜻으로'

온톨로지라는 말이 낯설면 데이터 업계에서 쓰는 시맨틱 레이어(semantic layer) 를 떠올리면 가깝습니다. 물리적인 테이블과 컬럼 위에, 업무에서 쓰는 개념과 지표의 정의를 한 겹 얹는 것입니다. 넓게 보면 온톨로지는 이 시맨틱 레이어의 한 형태로, 데이터와 질문 사이에 놓이는 의미의 층이라고 볼 수 있습니다.

곰곰이 생각해 보니 둘의 차이는 질문의 차이였습니다. 스키마는 «amount 컬럼이 invoice_lines 테이블에 있다»는 위치를 알려 줍니다. 온톨로지는 «여기서 말하는 매출은 이 컬럼을 이 조건으로 합한 것이다»라는 뜻을 알려 줍니다.

Auto Ontology 는 이 의미 지도를 세 가지 재료로 만듭니다.

개념 무엇인가 예
Term(용어) 업무 개념. 설명·동의어·매핑된 컬럼을 가짐 Customer, Invoice Line
SQL attribute 용어 아래에 붙는, 검토된 SQL 식. 지표는 이 형태로 표현 마진, 누적 합계
Relationship 테이블 사이의 조인(브리지 테이블 포함). 키와 실데이터에서 추론 고객 ↔ 청구서

지표를 SQL attribute 라는 «검토된 SQL 식»으로 둔다는 점이 흥미로웠습니다. 에이전트가 매번 매출 계산식을 새로 지어내는 대신, 사람이 한 번 확인한 식을 꺼내 쓰게 하겠다는 뜻이기 때문입니다. 저장소 설명의 «deterministic query generation» 이 가리키는 것도 이 부분이라는 생각이 들었습니다.

README 는 목표를 네 가지로 정리합니다. 메타데이터에서 온톨로지를 만들고 기존 시맨틱 모델과 잇는 Discover, 지표·엔터티·관계에 업무 의미를 붙이고 충돌하는 정의를 조정하는 Ground, 생성한 쿼리를 인증된 정의와 계보로 검사하고 모든 답에 출처를 다는 Validate, 그리고 어떤 에이전트 하네스에든 내어 주고 인증된 수정과 사용 기록을 다시 반영하는 Expose and Learn 입니다.

Auto Ontology 의 세 단계 Generate → Certify → Answer — 초안은 기계가, 확정은 사람이

이름에 «Auto» 가 붙어 있어서 처음에는 온톨로지를 전부 자동으로 만들어 주는 도구라고 생각했습니다. 문서를 읽어 보니 그렇지 않았습니다. 파이프라인은 세 단계이고, 가운데 단계는 사람의 몫입니다.

plaintext
1. Generate  (ingestion service)
   ├─ 스키마 추출 · 컬럼 프로파일 · 샘플 값
   ├─ 용어 추출 · 컬럼 매핑
   ├─ 조인 · 브리지 테이블 추론, 쿼리 이력으로 SQL attribute 제안
   └─ Postgres 저장 + pgvector 임베딩

2. Certify   (사람 검토)
   ├─ Chat 또는 MCP check_answerable / ask_question 으로 실제 질문 테스트
   ├─ UI / API 에서 다듬기
   └─ 이름 · 설명 · SQL attribute 인증

3. Answer    (질문마다)
   ├─ 의도 분류 · 엔터티 추출
   ├─ 임베딩 검색으로 후보 용어 · 컬럼 · SQL attribute
   ├─ SQL 작성 → 필터 값 · 쿼리를 DB 에 검사 → 실패 시 SQL 수리
   └─ 실행 후 답 + SQL + 단계 반환

기계가 초안을 쓰고 사람이 확정하는 이 구조는 휴먼 인 더 루프(human-in-the-loop) 의 전형입니다. 온톨로지의 가치는 정의가 맞다는 데서 나오는데, 그 «맞다»를 판정할 수 있는 것은 결국 그 업무를 아는 사람뿐입니다. 앞의 매출 예로 돌아가면, 부가세를 포함할지 말지는 데이터를 아무리 프로파일링해도 나오지 않습니다. 그 회사가 매출을 그렇게 부르기로 정했느냐의 문제이기 때문입니다. 기계가 할 수 있는 것은 후보를 빠르게 늘어놓는 데까지이고, 그래서 Certify 단계가 가운데에 박혀 있다는 생각이 들었습니다.

Answer 단계에서도 눈에 띄는 것이 있었습니다. SQL 을 쓴 뒤 바로 실행하지 않고, 필터 값과 쿼리를 실제 DB 에 먼저 검사합니다. 실패하면 SQL 을 고칩니다. 그리고 답만 돌려주지 않고 실행한 SQL 과 거친 단계를 함께 돌려줍니다. 데이터 분야에서 출처 계보(provenance) 라고 부르는 것입니다. 숫자가 어디서 왔는지 보여 줄 수 있어야, 틀렸을 때 어디가 틀렸는지도 찾을 수 있습니다.

답할 수 없는 질문에는 답할 수 없다고 말합니다

개인적으로 가장 마음에 남은 대목은 이것이었습니다. 후보 용어와 컬럼으로 답할 수 없는 질문이 들어오면, Auto Ontology 는 «이 데이터로는 답할 수 없다»고 보고합니다. README 의 예에서는 광고비를 묻는 질문에 광고 데이터 소스가 없다고 답하고 되묻습니다.

머신러닝에서는 이런 태도를 기권(abstention), 혹은 선택적 예측(selective prediction)이라고 부르기도 합니다. 확신할 수 없을 때 답을 내지 않는 쪽을 고르는 것입니다. 언어 모델은 대개 그럴듯한 무언가를 만들어 내는 쪽으로 기울어 있어서, 광고비 컬럼이 없으면 비슷해 보이는 «마케팅» 테이블의 아무 숫자나 합해 버릴 수 있습니다. 돌이켜 생각해 보면 틀린 숫자보다 «모른다»가 훨씬 싼 답입니다. 앞의 README 문장이 말하던 것도 결국 이것이었다는 생각이 들었습니다.

에이전트는 이 온톨로지를 어떻게 쓰나 — MCP 와 REST

만들어진 온톨로지는 세 가지 길로 에이전트에게 열립니다. 가장 중심이 되는 것은 MCP 서버입니다. 도구는 9개이고 모두 읽기 전용이며, 사용자별 권한을 따릅니다. 이름을 기준으로 묶어 보면 이렇습니다.

묶음 MCP 도구
준비 상태 확인 check_readiness
온톨로지 탐색 search_terms, get_term, get_term_columns, get_term_sql_attributes, get_sql_attribute, describe_table
답할 수 있는지 확인 check_answerable
질문하기 ask_question

MCP 서버는 uvx 로 auto-ontology-mcp 를 실행하는 방식이고, README 에 Cursor 와 Claude Desktop 에 연결하는 설정 예시가 실려 있습니다. 설정 원문은 판마다 바뀔 수 있어 여기 옮기지 않고, 써 본다면 README 의 예시를 그대로 따르는 것이 안전하겠습니다.

MCP 를 쓰지 않는 쪽을 위해 REST 도 있습니다. POST /api/chat/completions 에 x-api-key 헤더로 인증하고, 응답은 SSE 로 흘러나옵니다. 그 밖에 온톨로지를 세우고, 관리하고, 질의하는 일을 나눈 에이전트 스킬 세 가지(nvidia-ontology-setup, -management, -query)도 함께 제공됩니다.

탐색 도구 묶음이 따로 있다는 점이 의미 있어 보였습니다. 에이전트가 ask_question 하나로 답만 받아 가는 것이 아니라, 용어와 SQL attribute 를 직접 들여다보고 자기 추론에 쓸 수 있다는 뜻이기 때문입니다.

Auto Ontology 의 구조와 지원 데이터베이스

구성은 다섯 덩어리입니다.

구성요소 기술 포트
Frontend Next.js · Better Auth · Prisma 3000
Backend FastAPI · LangChain 3001
Ingestion FastAPI 3002
MCP server FastMCP 3003
저장소 Postgres 17 + pgvector (선택: HashiCorp Vault) -

모델은 역할로 나뉩니다. REASONING, NON_REASONING, EMBED, RERANK 네 가지이고, 기본값은 NVIDIA NIM 엔드포인트지만 다른 모델로 바꿀 수 있습니다. 조건이 두 가지 있습니다. 구조화 출력을 지원하는 모델이어야 하고, 적재할 때와 질의할 때 같은 임베딩 모델을 써야 합니다. 뒤의 조건은 임베딩 검색을 써 본 분이라면 익숙할 것입니다. 벡터 공간이 다르면 거리를 잴 수 없기 때문입니다.

연결할 수 있는 데이터 소스는 PostgreSQL, MySQL, Databricks, Snowflake, ClickHouse, Trino, Apache Kyuubi, HeavyDB, DuckDB, SQLite 의 10종입니다.

더 큰 그림 — Agent Knowledge Foundation 의 '이해' 단계

Auto Ontology 는 혼자 놓인 프로젝트가 아니었습니다. 엔비디아는 오픈 모델과 CUDA-X 라이브러리를 묶어 Agent Knowledge Foundation 이라는 이름으로 소개하고 있고, 여기에는 Nemotron Retriever, 관계형·시계열 예측 파운데이션 모델인 Kumo, 그리고 cuDF, cuML, cuOpt, cuVS, cuGraph 가 들어 있습니다. 그 안에서 Auto Ontology 가 맡은 것은 '이해(Understanding)' 단계입니다.

검색 모델과 예측 모델, 각종 가속 라이브러리 사이에 «이해»를 따로 맡는 부품을 두었다는 점이 인상적이었습니다. 검색을 아무리 잘해도, 찾아온 컬럼이 무슨 뜻인지 모르면 그 위에 쌓는 일이 모두 흔들린다는 문제의식으로 읽혔습니다.

문서를 읽으며 짚어 둔 한계

좋아 보이는 점만큼 조심해서 읽어야 할 부분도 있었습니다.

  • «온톨로지 생성 시간 90% 단축»은 NVIDIA 자체 테스트의 수치입니다. 독립적으로 검증된 결과는 찾지 못했습니다.
  • README 에는 정확도 벤치마크 결과가 실려 있지 않습니다. BIRD 같은 text-to-SQL 벤치마크 평가는 ontology-sql-eval 이라는 별도 저장소에서 다룹니다. 빠르다는 수치는 있는데 맞는다는 수치는 이 문서에 없다는 것이, 앞의 README 문장과 나란히 놓고 보면 조금 아이러니하다는 생각이 들었습니다.
  • 외부 기여는 받지 않습니다. 이슈만 열 수 있습니다. 오픈소스이지만 개발 방향은 엔비디아가 쥐고 있다는 뜻입니다.
  • 신뢰 경계를 직접 그어야 합니다. FastAPI 백엔드는 프론트엔드가 넘긴 사용자 신원을 그대로 믿고, ingestion 엔드포인트에는 자체 인증이 없습니다. 그래서 3001·3002 포트는 사설망 안에 두어야 합니다.
  • 예측 질문은 데이터를 밖으로 보냅니다. 예측 기능은 KumoRFM 호스팅 서비스를 쓰는데, 이때 테이블이 그 서비스로 업로드됩니다. 조직의 데이터 정책을 먼저 확인한 뒤에 켜야 합니다.
  • Ossie 호환은 아직 움직이는 표준과의 호환입니다. Ossie 가 인큐베이팅 단계라, 다른 도구와 YAML 을 주고받을 때 변환 과정에서 일부 정의가 빠질 수 있습니다.

정리 — 에이전트의 병목은 모델보다 맥락으로 옮겨 가는 것 같습니다

문서를 다 읽고 나서 남은 것은 도구 자체보다 그 도구가 전제하는 문제의식이었습니다. 에이전트가 틀린 답을 낼 때, 우리는 대개 모델이 덜 똑똑하다고 생각합니다. 그런데 «매출이 얼마냐»에서 틀리는 이유는 모델이 SQL 을 못 짜서가 아니라, 그 회사가 매출을 무엇이라고 부르는지 어디에도 적혀 있지 않아서인 경우가 많을 것입니다. 그렇다면 더 큰 모델로는 풀리지 않고, 뜻을 적어 두는 일로 풀어야 합니다.

그래서 저는 에이전트 품질의 병목이 조금씩 모델에서 맥락, 그중에서도 의미로 옮겨 가고 있다는 생각이 들었습니다. 물론 이것은 문서 하나를 읽고 든 제 인상일 뿐이고, 단정할 만큼의 근거는 아직 없습니다. Auto Ontology 가 그 의미를 사람에게 인증받는 구조로 설계되었다는 점, 그리고 모를 때 모른다고 말하도록 만들었다는 점이 그 인상을 조금 더 짙게 했을 뿐입니다.

언젠가 직접 써 본다면, 생성 속도보다 Certify 단계에 사람이 얼마나 시간을 들여야 하는지, 그리고 «답할 수 없다»는 응답이 얼마나 자주 나오는지를 먼저 보고 싶습니다. 온톨로지의 값어치는 결국 그 두 곳에서 드러날 것 같기 때문입니다.

참고 자료