Data Science35 AI Agent LLM기반 로보어드바이저 챗봇 개발기 LLM 기반 로보어드바이저 챗봇 구축기 – 실전에서 고민하는건 무엇일까?안녕하세요. 이번 포스팅에서는 로보어드바이저 챗봇을 구축하며 마주한 현실적인 문제와 이를 해결해 나간 과정을 공유하고자 합니다. 단순한 기능 구현이 아닌 실제 금융 서비스 환경에서 안정적인 AI 챗봇을 운영하기 위한 전략과 기술적 난제들을 중심으로 다뤄보겠습니다.1. 로보어드바이저 챗봇, 왜 필요했을까?최근 금융권에서는 투자자들에게 실시간으로 정확한 투자 정보와 분석을 제공할 수 있는 AI 챗봇에 대한 수요가 급증하고 있습니다. 기존의 정보 검색형 챗봇과 달리, 로보어드바이저 챗봇은 데이터를 단순히 제공하는 것이 아니라, 사용자의 니즈를 분석하고 맞춤형 금융 조언을 제공하는 역할까지 수행해야 합니다. 이러한 요구 사항을 충족하기 위해.. 2025. 2. 28. 머신러닝 모델의 신뢰성을 높이는 최고의 해석 라이브러리 추천 머신러닝 모델을 해석하는 5가지 필수 라이브러리머신러닝 모델은 종종 블랙박스(Blackbox)처럼 작동하여 예측이 어떻게 이루어지는지 이해하기 어려울 때가 많습니다. 하지만 설명 가능성(Explainability)을 높이는 다양한 라이브러리를 활용하면 모델의 의사결정 과정을 해석하고, 신뢰성을 높일 수 있습니다.이번 글에서는 머신러닝 모델을 설명하는 데 유용한 5가지 라이브러리를 소개합니다. 1. SHAP (Shapley Additive Explanations)📌 개요SHAP은 가장 널리 사용되는 모델 해석 기법 중 하나로, 샤플리 값(Shapley Value)을 활용하여 각 특징(feature)이 모델 예측에 기여하는 정도를 분석합니다.✅ 주요 특징특징 중요도 계산: 각 입력 변수가 모델 예측에 미.. 2025. 2. 27. LLM Fine-Tuning 기법 정리(feat. PEFT LoRA중심) LoRA 기법 중심으로 정리한 LLM 미세 조정(Fine-tuning) 기법 대형 언어 모델(LLM)의 성능을 특정 작업에 맞게 최적화하려면 미세 조정(Fine-tuning)이 필요합니다. 그러나 기존의 전체 가중치를 조정하는 방식은 연산 비용이 크고, 메모리 사용량이 높아 현실적으로 적용이 어렵습니다. 이에 따라, 최근에는 더 효율적인 PEFT(Parameterized Efficient Fine-Tuning) 기법들이 등장했습니다. 이 블로그에서는 전통적인 미세 조정 방식의 한계를 짚어보고, LoRA, LoRA-FA, VeRA, Delta-LoRA, LoRA+ 등 최신 미세 조정 기법 5가지를 비교 분석합니다. 각각의 방법이 어떻게 작동하는지, 어떤 장점이 있는지, 그리고 실제 사용 사례를 통해 최적의.. 2025. 2. 25. 미세 조정과 전이 학습의 차이점은? 머신러닝 학습법 완벽 정리 머신러닝 기법 소개 대부분의 머신러닝(ML) 모델은 독립적으로 학습되지만, 여러 모델 간 상호작용을 활용하여 성능을 향상시키는 다양한 기법이 존재합니다. 이번 글에서는 전이 학습(Transfer Learning), 미세 조정(Fine-tuning), 다중 작업 학습(Multitask Learning), 연합 학습(Federated Learning) 네 가지 학습 방법을 설명합니다. 1. 전이 학습 (Transfer Learning)📌 정의전이 학습은 기존에 학습된 모델(예: 대규모 데이터셋에서 사전 학습된 모델)을 새로운 작업에 활용하는 학습 방법입니다.📌 특징✅ 기존 모델이 이미 학습한 패턴을 활용하여 새로운 작업에 적용✅ 새로운 모델을 처음부터 학습하는 것보다 더 적은 데이터와 짧은 훈련 시간으로.. 2025. 2. 25. LLM Function Calling(펑션콜링) 완벽 가이드 ✅ LLM Function Calling이란? LLM(Function Calling, 함수 호출)**은 대형 언어 모델(LLM)이 외부 함수(API, 데이터베이스 쿼리 등)를 직접 호출하여 응답을 생성하는 방식입니다.이 기능을 활용하면 LLM이 단순한 텍스트 생성이 아니라, 코드 실행, API 요청, 데이터 검색 등 다양한 작업을 수행할 수 있습니다. 📌 기존 LLM의 한계일반적인 LLM은 정적 정보(사전 학습 데이터) 기반으로 답변을 생성합니다.실시간 데이터나 특정 기능(API 요청, DB 조회 등)을 수행할 수 없음.📌 Function Calling으로 해결 가능!LLM이 적절한 함수를 자동으로 선택하고 실행할 수 있음LLM이 직접 API를 호출하거나, 코드를 실행하여 최신 정보를 반영한 응답을 .. 2025. 2. 24. Marimo 소개 (Jupyter Notebook의 강력한 업그레이드) Marimo란?Marimo는 Jupyter Notebook, Streamlit, ipywidgets 등의 기능을 결합한 100% 오픈소스 프로젝트로, 현재 10K 이상의 GitHub 스타를 보유한 인기 있는 개발 도구입니다. 🚀 Marimo의 주요 기능반응형 실행 (Reactive Execution) – 하나의 셀을 변경하면 관련된 셀이 자동으로 업데이트됨숨겨진 상태 없음 – 모든 실행이 결정론적이므로 디버깅이 용이함인터랙티브 UI 요소 – 콜백 없이 슬라이더, 테이블, 플롯 추가 가능Python 스크립트로 실행 가능 – CLI에서 파라미터화 가능하며 앱으로 배포 가능Git 친화적 – JSON 대신 .py 파일로 저장하여 코드 관리가 편리함💡 활용 예시Marimo는 데이터 과학, 머신러닝, AI 개.. 2025. 2. 24. 이전 1 2 3 4 ··· 6 다음