반응형

Ai 3

RAG에 대하여, 벡터 데이터베이스

🚀 벡터 데이터베이스(Vector Database) 쉽게 이해하기🧐 벡터? 스칼라? 벡터 데이터베이스?처음 "벡터"라는 단어를 들으면 물리에서 배운 크기와 방향을 가진 물리량이 떠오를 수도 있다. 그렇다면 우리가 다루는 "벡터 데이터베이스"도 그런 개념일까? 처음엔 나도 그렇게 생각했다. 벡터와 스칼라를 떠올리며, 데이터에도 방향성이 존재하는 건가? 라는 생각을 했지만, 여기서 말하는 벡터는 그런 의미가 아니다.벡터 데이터베이스(Vector Database)는 데이터를 벡터(숫자의 집합)로 변환하여 저장하고 검색하는 새로운 방식의 데이터베이스다. 기존의 관계형 데이터베이스(RDB)나 NoSQL과는 다르게, 키워드가 아닌 의미 기반 검색(Semantic Search)을 가능하게 한다.하지만 이렇게 말하..

Study/기타 2025.02.01

RAG 기반 AI 서버 구축: 기초지식 다지기

RAG 기반 AI 서버 구축: 도구들과 기초지식 다지기앞서 포스팅한 내용을 생각하며 기초지식을 다져보도록 하자.🚀 1. 목표 앞서 이야기했듯이 AI 서버 구축을 진행할 것이다. 일반 서버 내부에 AI 서버를 함께 구축하면 의존성이 증가하고, 모듈화가 어렵고, 하나의 서버 장애가 모든 시스템에 영향을 미치는 문제가 발생할 가능성이 크다. 이를 방지하고 책임 분리를 명확히 하기 위해 별도의 AI 서버를 구축하는 방향을 선택했다.🏗️ 2. 구축할 아키텍처 (일반 서버: FastAPI) ───> (AI 서버: FastAPI + vLLM + RAG) ├── LLM ├── 벡터DB ├── ..

Study/기타 2025.02.01

새로운 AI DeepSeek에 대하여

안녕하세요! 설 연휴 잘 보내고 계시나요? 🙂설 연휴 동안 엄청난 핫 이슈, DeepSeek R1의 등장으로 꽤나 시끌시끌했는데요, 그 내용을 바탕으로 제가 알기 쉽게 정리해봤습니다!DeepSeek란? 새로운 AI 모델의 등장AI 챗봇 하면 가장 먼저 떠오르는 것은 아마도 OpenAI의 ChatGPT일 것입니다. 하지만 최근 DeepSeek이라는 새로운 AI 모델이 등장하며 많은 주목을 받고 있습니다. DeepSeek은 ChatGPT와 마찬가지로 대화를 할 수 있는 AI이지만, 학습 방식과 활용 방식에서 차이를 보입니다.DeepSeek이 화제가 된 이유 중 하나는 미국의 대중국 AI 제재에도 불구하고 높은 성능을 보여주었다는 점입니다. 미국은 AI 러닝에 필수적인 엔비디아(NVIDIA) GPU의 중국 ..

Study/기타 2025.01.30
반응형