LLM의 환각을 잠재울 지식의 지도, ‘온톨로지(Ontology)’

문제LLM 의 환각은 벡터 기반 RAG 의 의미 유사도만으로는 통제하기 어렵고, 다단계 추론과 명시적 관계가 필요한 도메인에서는 정확도가 떨어진다.

접근교보DTS 가 온톨로지(클래스/인스턴스/속성/관계로 도메인 지식을 명세)와 지식 그래프 개념을 정리. 핵심 지식은 온톨로지로 명시적 관계 추론, 동적/비정형 데이터는 RAG 로 벡터 검색하는 Graph RAG 결합. AWS 에선 Amazon Neptune(그래프 DB) + OpenSearch(벡터) + Bedrock(LLM) 으로 구현.

결과다단계 추론 정확도 + 비정형 데이터 대응 + 초기 구축 비용 사이의 트레이드오프를 Graph RAG 가 절충. 온톨로지 단독은 비용/유연성 한계, RAG 단독은 명시 추론 한계라는 점을 인식하고 하이브리드를 권장.