공부 기록장

LLMLM(Language Model) 이란?통계학 이론과 딥러닝을 활용하여 연속되는 단어의 집합으로 이루어진 문장 시퀀스의 각 단어에 확률을 할당해주는 확률 모델 (자연어의 확률 분포) LLM(Large Language Model)이란?방대한 양의 데이터를 기반으로 사전 학습된 초대형 딥러닝 모델  Prompt EngineeringPrompt 란?특정 작업을 수행하도록 LLM에 요청하는 자연어 텍스트 Prompt Engineering이란?생성형 인공지능 솔루션을 안내하여 원하는 결과를 생성하는 프로세스 AI에게 질문을 잘 하는 법: 구체적이고 명확하게 지시: 명령의 배경을 함께 설명: 원하는 결과에 대해 예시로 설명: 단계별 가이드 제시: 제약사항 설명: 결과의 작성 형식을 구체적으로 명시: 스스로 생..

PyTorchFacebook AI Research(FAIR)에서 개발한 오픈 소스 머신러닝 라이브러리동적 계산 그래프, 간단한 디버깅, 파이써닉한 코드 스타일이 특징 텐서(Tensor)PyTorch에서 사용되는 연산 대부분의 `기본 데이터 구조`다차원 배열, 행렬과 유사GPU를 활용한 고성능 연산이 가능함 Seq2Seq 모델입력 시퀀스를 출력 시퀀스로 변환하는 데 사용되는 딥러닝 모델기계 번역, 텍스트 요약, 대화 시스템 등에 사용인코더(Encoder)와 디코더(Decoder)로 구성인코더(Encoder)- 입력 시퀀스를 고정된 길이의 벡터로 변환- 보통 RNN, LSTM, GRU와 같은 순환 신경망으로 구성됨- 마지막 은닉 상태를 고정된 길이의 컨텍스트 벡터로 출력 디코더(Decoder)- 인코더에서 ..

NLPNLP(Natural Language Processing)란?컴퓨터가 인간의 언어, 자연어를 이해하고 생성할 수 있도록 하는 기술텍스트 혹은 음성 데이터를 처리하여 유의미한 정보를 추출하거나 인간과의 상호작용에 사용 자연어 처리의 주요 분야기계 번역 : 두 개 이상의 언어 사이의 번역을 수행하는 기술감성 분석 : 텍스트 데이터에서 감성(긍정, 부정, 중립)을 추출하는 기술 (ex. 영화 리뷰의 긍정/부정 분석)챗봇 : 사용자의 질문에 자동으로 응답하는 대화형 AI 시스템음성 인식 : 음성 데이터를 텍스트로 변환하는 기술 (ex. 음성 명령 인식을 통한 작업 수행)정보 검색 : 대규모 데이터베이스에서 사용자가 원하는 정보를 검색 (ex. 검색 엔진) 코퍼스(Corpus)자연어 처리 연구와 모델 학습을..

딥러닝이란?딥러닝은 인공신경망을 기반으로 한 기계학습의 한 분야인간의 두뇌를 모방한 구조로, 다층 신경망을 사용해 데이터로부터 특징을 학습하고 패턴을 인식하는 기술 딥러닝의 중요성복잡한 데이터 분석과 패턴 인식에 뛰어난 성능자율주행, 음성인식, 이미지 분류, 자연어 처리 등 다양한 분야에서 활용 머신러닝 vs 딥러닝딥러닝 ⊂ 머신러닝 모델의 복잡성머신러닝 : 비교적 단순한 알고리즘 사용(선형 회귀, 의사결정트리 등)딥러닝 : 복잡한 모델을 사용해 데이터의 깊은 패턴 학습 데이터 요구사항머신러닝 : 적은 양의 데이터로도 학습이 가능, but 데이터 품질 중요딥러닝 : 대량의 데이터 필요, 데이터 양 많을수록 성능 향상 특징 추출머신러닝 : 수동으로 특징 추출해야 하는 경우 많음딥러닝 : 자동으로 특징을 추..