[Spring AI] Vector Store와 RAG를 이용한 할루시네이션 방지
·
Spring
주의: 해당 포스팅 진행시, embedding된 데이터에 대한 질문을 OpenAI의 GPT-4 모델을 사용하여 처리할 때마다 약 0.01달러의 비용이 발생합니다. AI 할루시네이션(Hallucination)지난 포스팅([Spring AI] 챗봇 만들기 (Kotlin))에서 AI가 `이수재`라는 사람에 대한 정보를 보유하고 있지 않음에도 불구하고, 존재하지 않는 정보를 생성했다. 이는 할루시네이션이라고 불리며, AI가 학습한 데이터 내에서 명확한 답을 찾지 못하거나 관련 정보가 부족할 때, 추론을 통해 그럴듯한 답을 만들어내는 현상이다.  실제 프로젝트 진행 중, AI에서 할루시네이션이 발생하는 경우는 주로 AI가 정확한 정보에 접근하지 못하거나 불완전한 데이터를 기반으로 추론할 때 나타난다. 특히, 사내..
[Spring AI] 챗봇 만들기 (Kotlin)
·
Spring
이전 포스팅([Spring AI] 준비 (기본 개념, OpenAI API Key, 크레딧 충전))을 참고하여 비밀키와 크레딧 구입까지 완료했다면, 이제 본격적으로 OpenAI를 활용한 챗봇을 만들어보자. 전체 파일 구조build.gradle.ktsplugins { kotlin("jvm") version "1.9.25" kotlin("plugin.spring") version "1.9.25" id("org.springframework.boot") version "3.3.3" id("io.spring.dependency-management") version "1.1.6"}group = "org.example"version = "0.0.1-SNAPSHOT"java { toolchai..