[Spring AI] Vector Store와 RAG를 이용한 할루시네이션 방지
·
Spring
주의: 해당 포스팅 진행시, embedding된 데이터에 대한 질문을 OpenAI의 GPT-4 모델을 사용하여 처리할 때마다 약 0.01달러의 비용이 발생합니다. AI 할루시네이션(Hallucination)지난 포스팅([Spring AI] 챗봇 만들기 (Kotlin))에서 AI가 `이수재`라는 사람에 대한 정보를 보유하고 있지 않음에도 불구하고, 존재하지 않는 정보를 생성했다. 이는 할루시네이션이라고 불리며, AI가 학습한 데이터 내에서 명확한 답을 찾지 못하거나 관련 정보가 부족할 때, 추론을 통해 그럴듯한 답을 만들어내는 현상이다.  실제 프로젝트 진행 중, AI에서 할루시네이션이 발생하는 경우는 주로 AI가 정확한 정보에 접근하지 못하거나 불완전한 데이터를 기반으로 추론할 때 나타난다. 특히, 사내..
[Spring AI] 챗봇 만들기 (Kotlin)
·
Spring
이전 포스팅([Spring AI] 준비 (기본 개념, OpenAI API Key, 크레딧 충전))을 참고하여 비밀키와 크레딧 구입까지 완료했다면, 이제 본격적으로 OpenAI를 활용한 챗봇을 만들어보자. 전체 파일 구조build.gradle.ktsplugins { kotlin("jvm") version "1.9.25" kotlin("plugin.spring") version "1.9.25" id("org.springframework.boot") version "3.3.3" id("io.spring.dependency-management") version "1.1.6"}group = "org.example"version = "0.0.1-SNAPSHOT"java { toolchai..
[Spring AI] 준비 (기본 개념, OpenAI API Key, 크레딧 충전)
·
Spring
스프링 AI란?Spring AI는 인공지능(AI) 기능을 Spring 애플리케이션에 통합하기 위한 라이브러리이다. 기존에는 거의 파이썬으로만 AI를 활용했지만, 이제 Spring AI를 통해 Java에서도 AI를 활용할 수 있다. 기본 개념 (더보기를 눌러주세요)더보기모델AI 모델은 텍스트, 이미지, 오디오 등 다양한 입력을 처리하여 결과를 생성하는 알고리즘이다. Spring AI는 언어, 이미지, 오디오 입력과 출력을 지원하며, 임베딩(Embeddings)도 지원하여 더 고급 사용 사례를 처리할 수 있게 한다. GPT 같은 모델은 사전 훈련된 모델로, 일반적으로 사용자가 특별한 기계 학습 배경 없이도 활용할 수 있는 장점이 있다.프롬프트(Prompt)프롬프트는 AI 모델에 원하는 출력을 유도하기 위해 ..