llm을 활용한 실전 ai애플리케이션 개발
-
1.3 LLM 애플리케이션의 시대가 열리다LLM/LLM을 활용한 실전 AI 애플리케이션 개발 2025. 1. 12. 12:39
목차 ChatGPT 이후 많은 조직에서 LLM 을 활용한 애플리케이션을 개발하기 위해 노력하고 있다.sLLM(Small Large Language Model)효율적인 학습과 추론RAG (Retrieval Augmented Generation, 검색증강생성)에 대해 알아본다 1.3.1 지식 사용법을 획기적으로 바꾼 LLM기존에는NLU(Natural Language Understanding) 자연어 이해 ; gmail 의 spam filter 기능 등에 사용NLG(Natural Language Generating) 자연어 생성두 분야로 나눠 접근했다. 하지만 LLM의 경우 언어 이해와 언어 생성 능력 모두 뛰어나다.자연어 생생을 위한 모델이기에 언어 생성 능력이 뛰어나고,모델의 크기가 커지면서, 언어 추론 ..
-
1.2 언어 모델이 챗GPT가 되기까지LLM/LLM을 활용한 실전 AI 애플리케이션 개발 2025. 1. 9. 22:36
목차 2017년의 획기적인 사건이였던 트랜스포머 아키텍처 공개 1.2.1 RNN 에서 트랜스포머 아키텍처로텍스트는 단어가 연결된 문장 형태의 데이터 입니다. 작은 단위(단어)의 데이터가 연결되고, 그 길이가 다양한 데이터의 형태를 시퀀스 Sequence 라고 한다.예로, 텍스트, 오디오, 시계열과 같은 데이터가 시퀀스 데이터라고 할 수 있다 트랜스포머가 개발되기 전에는 RNN 을 활용해서 텍스트를 생성했다그림 1.12처럼 텍스트를 순차적으로 처리해서, 다음 단어를 예측한다RNN의 특징 : 모델이 하나의 잠재 상태(hidden state)에 지금까지의 입력 텍스트의 맥락을 압축한다는 점이다. 첫 번째 입력은 '검은'이 모델을 통과했을 때는 잠재 상태에 '검은'의 정보가 쌓이고,두 번째 입력인 '고양..