인공지능 기술의 급속한 발전으로 IT산업에서도 AI 관련 직종의 수요가 꾸준히 증가하고 있습니다. 2025년을 맞이하여 주목해야 할 AI 관련 직업들 중 엔지니어 기술을 이용한 직업과 직무를 알아보고 취업을 위한 준비 방법, 필요 역량 등을 살펴보겠습니다.
1. AI/ML 엔지니어
AI/ML 엔지니어는 인공지능과 머신러닝 모델을 개발하고 구현하는 전문가입니다. 이들은 데이터를 활용한 문제 해결과 AI 시스템 구축을 통해 업무 자동화와 효율성 향상을 이끌어냅니다. AI가 대두되기 전부터 데이터 분석을 통한 예측, 추천 등을 위해 ML 엔지니어에 대한 수요는 꾸준했습니다.
주로 비전, 텍스트(자연어처리), 시계열(금융, 유전자) 분야에서 ML 엔지니어를 필요로 했습니다. ML 기술이 다양한 분야의 예측과 분류에서 선도적 기술로 자리잡으면서 SI 업체들도 이러한 전문가를 적극적으로 채용하기 시작했습니다.
2020년 이후에는 BERT 모델의 대중화와 GPT의 혁신으로 LLM의 비즈니스 활용 가능성이 부각되면서, LLM 기술에 특화된 AI/ML 엔지니어가 AI 관련 직종 중 가장 주목받는 분야가 되었습니다.
AI/ML엔지니어 직종을 직무별로 세분화 하면 ‘프롬프트 엔지니어’와 ‘RAG 엔지니어’가 있습니다. 자세한 필요 스킬과 직무는 프롬프트 엔지니어와 RAG 엔지니어를 설명하며 설명하겠습니다.
2. 프롬프트 엔지니어
프롬프트 엔지니어(Prompt Engineer)는 대규모 언어 모델(LLM)의 성능을 극대화하기 위해 사용자 명령(프롬프트)을 설계하고 최적화하는 전문가입니다.
이들은 시스템이 요구하는 결과와 가장 근접한 답변을 도출할 수 있도록 프롬프트를 설계합니다. 다양한 질문셋과 다단계 프롬프트를 활용해 모델을 테스트하며, AI가 원하는 결과를 산출하도록 지속적으로 조율하는 작업을 수행합니다. 이러한 특성 때문에 "AI 아첨꾼" 또는 "AI의 노예"라는 재치 있는 별명으로도 불립니다.
주요 직무
- AI 모델과의 효과적인 상호작용을 위한 프롬프트 설계
- 프롬프트 최적화 및 성능 평가
- 프롬프트 패턴 및 템플릿 개발
- 사용자 의도에 맞는 프롬프트 전략 수립
필요 스킬
- 자연어 처리(NLP) 기본 지식
- 다양한 LLM 모델에 대한 이해
- 문제 해결 능력과 창의적 사고
- 프롬프트 엔지니어링 도구 활용 능력
3. RAG 엔지니어
RAG 엔지니어(Retrieval Augmented Generation Engineer)는 AI 언어 모델(예: GPT)과 외부 데이터 소스(예: 데이터베이스, 검색 엔진)를 통합하여 보다 정확하고 관련성 높은 결과를 생성하는 시스템을 설계하고 개발하는 전문가입니다.
이들은 LLM의 주요 문제점인 할루시네이션을 극복하기 위해 개발된 RAG 기술을 전문적으로 다루며, AI/ML/NLP 엔지니어의 여러 직무 중에서도 RAG에 특화된 업무를 수행합니다.
RAG는 비교적 최근에 도입된 기술이라 다소 생소할 수 있으나, 할루시네이션 문제를 해결하는 가장 효과적인 방법으로 인정받으면서 RAG 경험을 보유한 전문가에 대한 기업의 수요가 증가하고 있습니다.
기존 검색 최적화 기술과 관련이 높지만, 검색하는 방법이 다양해지면서 각 회사에서 보유한 시스템을 연동해 검색할 수 있는 역량을 필요로하는 곳이 많아지고 있습니다. 이말은 NLP 전문가가 시스템 엔지니어 역량까지 고루 갖춰야 한다는 말도 되겠죠?
주요 직무
- RAG 아키텍처 설계 및 구현
- 검색 시스템 최적화
- 데이터 인덱싱 및 벡터 데이터베이스 관리
- RAG 파이프라인 성능 모니터링 및 개선
필요 스킬
- 벡터 데이터베이스 활용 능력
- 정보 검색 시스템에 대한 이해
- Python, SQL 프로그래밍 능력
- 임베딩 모델 및 LLM 활용 능력
AI/ML 엔지니어가 되기 위한 준비 방법
AI/ML 엔지니어가 되기 위해서는 관련된 전공지식과 기술 구현 능력이 핵심입니다. 기업의 환경에 따라 상용 LLM이나 오픈소스 LLM을 자유롭게 다루고 원하는 결과를 도출하기 위해서는 LLM과 GenAI의 구조와 작동 원리를 이해해야 합니다. 또한 API 환경과 DB 연동 등 필수 도구들에 대한 기술도 반드시 선행되어야 합니다.
복합적인 기술 스펙이 필요하기 때문에 대부분 경력자나 관련 학위 소지자 중심으로 채용이 이루어지고 있습니다. 학원에서는 이러한 점을 고려하여 기술 중심의 커리큘럼으로 AI/ML 엔지니어 인재를 양성하고 있습니다.
- 학위 중심 플로우
- 컴퓨터공학 외 유사 학사 전공 >> AI, 자연어 처리 관련 석사 전공
- 기술 중심 플로우
- NLP(자연어처리), LLM 개념 정립 >> Python, Langchain, PyTorch 등 언어, AI 프레임워크 기술 습득 >> RAG 구현 프로젝트 실습(경험)
AI/ML 엔지니어 채용 시장의 변화, LLM 엔지니어 중심으로
현재 구인·구직 시장에서는 AI 엔지니어가 곧 LLM 엔지니어를 의미하는 경우가 대부분입니다. GPT와 같은 LLM이 AI를 대표하는 모델이 되면서, 각 회사는 자사에 특화된 LLM을 개발하고자 하는 니즈가 있기 때문입니다.
이러한 상황에서 채용 시장은 신규 인재 양성보다는 즉시 실무 투입이 가능한 "경력자" 위주로 구성되어 있습니다. 규모가 작은 회사들조차 상대적으로 높은 연봉을 제시하면서 "경력자"를 찾는 이유는, AI/ML 엔지니어 한 명이 자신의 연봉을 상회하는 수익을 창출할 수 있는 인재이기 때문입니다.
추천 커리어 경로: 네이버, 카카오, 쿠팡과 같은 대형 IT 기업이나 AI 전문 스타트업에서 시작하여 경력을 쌓는 것이 좋습니다.
