공부 기록장

LLMLM(Language Model) 이란?통계학 이론과 딥러닝을 활용하여 연속되는 단어의 집합으로 이루어진 문장 시퀀스의 각 단어에 확률을 할당해주는 확률 모델 (자연어의 확률 분포) LLM(Large Language Model)이란?방대한 양의 데이터를 기반으로 사전 학습된 초대형 딥러닝 모델  Prompt EngineeringPrompt 란?특정 작업을 수행하도록 LLM에 요청하는 자연어 텍스트 Prompt Engineering이란?생성형 인공지능 솔루션을 안내하여 원하는 결과를 생성하는 프로세스 AI에게 질문을 잘 하는 법: 구체적이고 명확하게 지시: 명령의 배경을 함께 설명: 원하는 결과에 대해 예시로 설명: 단계별 가이드 제시: 제약사항 설명: 결과의 작성 형식을 구체적으로 명시: 스스로 생..

PyTorchFacebook AI Research(FAIR)에서 개발한 오픈 소스 머신러닝 라이브러리동적 계산 그래프, 간단한 디버깅, 파이써닉한 코드 스타일이 특징 텐서(Tensor)PyTorch에서 사용되는 연산 대부분의 `기본 데이터 구조`다차원 배열, 행렬과 유사GPU를 활용한 고성능 연산이 가능함 Seq2Seq 모델입력 시퀀스를 출력 시퀀스로 변환하는 데 사용되는 딥러닝 모델기계 번역, 텍스트 요약, 대화 시스템 등에 사용인코더(Encoder)와 디코더(Decoder)로 구성인코더(Encoder)- 입력 시퀀스를 고정된 길이의 벡터로 변환- 보통 RNN, LSTM, GRU와 같은 순환 신경망으로 구성됨- 마지막 은닉 상태를 고정된 길이의 컨텍스트 벡터로 출력 디코더(Decoder)- 인코더에서 ..

NLPNLP(Natural Language Processing)란?컴퓨터가 인간의 언어, 자연어를 이해하고 생성할 수 있도록 하는 기술텍스트 혹은 음성 데이터를 처리하여 유의미한 정보를 추출하거나 인간과의 상호작용에 사용 자연어 처리의 주요 분야기계 번역 : 두 개 이상의 언어 사이의 번역을 수행하는 기술감성 분석 : 텍스트 데이터에서 감성(긍정, 부정, 중립)을 추출하는 기술 (ex. 영화 리뷰의 긍정/부정 분석)챗봇 : 사용자의 질문에 자동으로 응답하는 대화형 AI 시스템음성 인식 : 음성 데이터를 텍스트로 변환하는 기술 (ex. 음성 명령 인식을 통한 작업 수행)정보 검색 : 대규모 데이터베이스에서 사용자가 원하는 정보를 검색 (ex. 검색 엔진) 코퍼스(Corpus)자연어 처리 연구와 모델 학습을..

네트워크란,노드(node)와 링크(link)가 서로 연결되어 있으며, 리소스를 공유하는 집합노드 : 서버, 라우터, 스위치 등의 네트워크 장치링크 : 유선 또는 무선  2.1.1 처리량과 지연 시간좋은 네트워크란,많은 처리량을 처리할 수 있으며, 지연 시간이 짧고, 장애 빈도가 적으며, 좋은 보안을 갖춘 네트워크이다 처리량 (throughput)처리량이란,링크 내에서 `성공적으로 전달된` 데이터의 양 처리량의 단위bps(bits per second), 초당 전송 또는 수신되는 비트 수 처리량에 영향을 미치는 요소- 사람들이 많이 접속할 떄마다 커지는 트래픽- 네트워크 장치 간의 대역폭- 네트워크 중간에 발생하는 에러- 장치의 하드웨어 스펙  처리량과 트래픽의 차이트래픽 : 네트워크를 통해 전송되는 총 데..