Data Science/LLM & GenAI16 AI Agent LLM기반 로보어드바이저 챗봇 개발기 LLM 기반 로보어드바이저 챗봇 구축기 – 실전에서 고민하는건 무엇일까?안녕하세요. 이번 포스팅에서는 로보어드바이저 챗봇을 구축하며 마주한 현실적인 문제와 이를 해결해 나간 과정을 공유하고자 합니다. 단순한 기능 구현이 아닌 실제 금융 서비스 환경에서 안정적인 AI 챗봇을 운영하기 위한 전략과 기술적 난제들을 중심으로 다뤄보겠습니다.1. 로보어드바이저 챗봇, 왜 필요했을까?최근 금융권에서는 투자자들에게 실시간으로 정확한 투자 정보와 분석을 제공할 수 있는 AI 챗봇에 대한 수요가 급증하고 있습니다. 기존의 정보 검색형 챗봇과 달리, 로보어드바이저 챗봇은 데이터를 단순히 제공하는 것이 아니라, 사용자의 니즈를 분석하고 맞춤형 금융 조언을 제공하는 역할까지 수행해야 합니다. 이러한 요구 사항을 충족하기 위해.. 2025. 2. 28. LLM Fine-Tuning 기법 정리(feat. PEFT LoRA중심) LoRA 기법 중심으로 정리한 LLM 미세 조정(Fine-tuning) 기법 대형 언어 모델(LLM)의 성능을 특정 작업에 맞게 최적화하려면 미세 조정(Fine-tuning)이 필요합니다. 그러나 기존의 전체 가중치를 조정하는 방식은 연산 비용이 크고, 메모리 사용량이 높아 현실적으로 적용이 어렵습니다. 이에 따라, 최근에는 더 효율적인 PEFT(Parameterized Efficient Fine-Tuning) 기법들이 등장했습니다. 이 블로그에서는 전통적인 미세 조정 방식의 한계를 짚어보고, LoRA, LoRA-FA, VeRA, Delta-LoRA, LoRA+ 등 최신 미세 조정 기법 5가지를 비교 분석합니다. 각각의 방법이 어떻게 작동하는지, 어떤 장점이 있는지, 그리고 실제 사용 사례를 통해 최적의.. 2025. 2. 25. LLM Function Calling(펑션콜링) 완벽 가이드 ✅ LLM Function Calling이란? LLM(Function Calling, 함수 호출)**은 대형 언어 모델(LLM)이 외부 함수(API, 데이터베이스 쿼리 등)를 직접 호출하여 응답을 생성하는 방식입니다.이 기능을 활용하면 LLM이 단순한 텍스트 생성이 아니라, 코드 실행, API 요청, 데이터 검색 등 다양한 작업을 수행할 수 있습니다. 📌 기존 LLM의 한계일반적인 LLM은 정적 정보(사전 학습 데이터) 기반으로 답변을 생성합니다.실시간 데이터나 특정 기능(API 요청, DB 조회 등)을 수행할 수 없음.📌 Function Calling으로 해결 가능!LLM이 적절한 함수를 자동으로 선택하고 실행할 수 있음LLM이 직접 API를 호출하거나, 코드를 실행하여 최신 정보를 반영한 응답을 .. 2025. 2. 24. 가장 인기 있는 5가지 Agentic AI 디자인 패턴(feat. 개념부터 활용까지) Agentic AI란?Agentic AI는 자기 평가(Self-Evaluation), 계획(Planning), 협업(Collaboration)을 통해 LLM(Large Language Model)이 자신의 출력을 개선하는 방식입니다. 즉, 단순히 입력을 받아 출력을 생성하는 것이 아니라, 스스로 평가하고 학습하며 문제를 해결하는 인공지능을 의미합니다.이 글에서는 가장 인기 있는 5가지 Agentic AI 디자인 패턴을 소개하고, 각각의 개념과 활용 사례를 살펴보겠습니다.1. Reflection 패턴 (반영 패턴)🧐 개념Reflection 패턴은 AI가 자신의 출력을 검토하고 오류를 찾아 수정하는 방식을 의미합니다. 즉, **자기 평가(Self-Evaluation)**를 통해 점진적으로 더 나은 답변을 .. 2025. 2. 24. Document AI란? (문서 자동화 혁신 기술) Document AI란?Document AI(Document Artificial Intelligence)는 인공지능(AI) 기술을 활용하여 문서를 자동으로 분석하고, 이해하며, 처리하는 시스템을 의미합니다. 이는 OCR(광학 문자 인식), NLP(자연어 처리), 머신러닝 등의 기술을 결합하여 문서에서 중요한 정보를 추출하고 정리하는 자동화된 솔루션입니다. Document AI는 비정형 데이터(텍스트, 이미지, 스캔된 문서 등)에서 유용한 정보를 찾아내는 역할을 하며, 다양한 산업에서 효율성을 높이는 데 사용됩니다. 1. Document AI의 주요 기능🔍 1) OCR (Optical Character Recognition, 광학 문자 인식) 문서를 스캔하여 이미지 속 텍스트를 디지털 데이터로 변환손글씨.. 2025. 2. 24. LLM 학습을 위한 필수 데이터셋과 준비 과정 LLM(Large Language Model) 학습을 위한 데이터셋 준비는 모델의 성능과 품질을 결정짓는 중요한 과정입니다. 아래는 LLM 학습에 필수적인 데이터셋 유형, 준비 과정, 품질 관리 방법 등을 체계적으로정리한 내용입니다. 데이터셋의 중요성LLM은 대규모 데이터를 기반으로 언어의 패턴과 구조를 학습합니다. 데이터셋의 양과 질은 모델이 얼마나 효과적으로 언어를 이해하고 생성할 수 있는지를 결정하며, 지속적인 모델 개선에도 필수적입니다[1][4].필수 데이터셋 유형LLM 학습에 필요한 데이터셋은 다음과 같이 분류됩니다.텍스트 코퍼스: 위키피디아, 뉴스 기사, 소설 등 방대한 일반 텍스트 데이터[1][5].대화 데이터: 채팅 로그, Q&A 쌍, 상담 기록 등 대화형 언어 데이터를 포함[5].전문 분.. 2025. 2. 22. 이전 1 2 3 다음
