공부 기록장

LMM 모델의 종류와 평가언어 모델링 방법에 따른 언어 모델 종류자가회귀 모델(Autoregressive Model)- 이전의 단어들을 기반으로 `다음 단어를 순차적으로 예측`하는 모델- GPT 시리즈(GPT-1, GPT-2, GPT-3)- 텍스트 생성, 번역, 대화형 AI 등에 활용 마스크드 언어 모델(Masked Language Model)- 문장의 일부 단어를 `마스킹`하고, 마스킹된 단어를 예측하는 모델- BERT 모델- 텍스트 분류, 질문 응답, 자연어 추론 등에 활용 언어 모델의 평가퍼플렉시티(Perplexity)- 모델이 주어진 텍스트를 얼마나 잘 예측하는지를 나타내는 지표- 예측 확률의 역수의 기하평균으로 계산되며, 모델의 예측 불확실성을 나타낸다- 예측 확률이 높을수록 해당 값은 낮아진다..

객체문자열, 리스트도 객체다파이썬의 모든 코드는 객체를 만들고, 동작하게 만드는 내용이다 객체의 본질적인 특징은 보통 문자열의 문자, 리스트의 요소와 같은 상태뿐만 아니라해당 상태에서 동작하는 메서드를 가지고 있다는 것이다 메서드는 속성 연사자 `.`을 통해 객체에 연결된 함수처럼 호출된다 객체는 항상 연결된 타입이 있는데,연결된 타입은 type()을 사용해 확인 가능하다 객체는 해당 타입의 `인스턴스`라 부른다  class 문클래스는 보통 메서드를 만드는 함수의 모음으로 구성된다 인스턴스 메서드는 클래스의 인스턴스에서 동작하는 함수인데,첫 번째 인수로 클래스의 인스턴스가 전달되고, 관례적으로 self라고 쓴다(호출 시에 해당 인수는 생략된다) __init__()__repr__()위와 같이 언더바 2개를..

날짜 포매팅DATE_FORMAT(열 이름, '%Y-%m-%d)- 반환값은 varchar- 열 이름에 해당하는 부분 : DATE 포맷 포함하는 string이거나 날짜/시간 데이터 타입(DATE, TIMESTAMP, DATETIME)  특정 단어가 포함된 경우 찾기LIKE '2021%'↔ NOT LIKE ~cf. col_name LIKE '%\_%' ESCAPE '\';  날짜에서 년,월,일 추출하기YEAR(컬럼명), MONTH(컬럼명), DAYOFMONTH(컬럼명)  UNION과 UNION ALL 차이- UNION : 중복 데이터 제거- UNION ALL : 중복 포함 모두 반환cf. FULL JOIN은 중복 제거  그냥 JOIN은 INNER JOIN과 같다  FROM 절 뒤에 TB1, TB2로 표현 시 ..

LLMLM(Language Model) 이란?통계학 이론과 딥러닝을 활용하여 연속되는 단어의 집합으로 이루어진 문장 시퀀스의 각 단어에 확률을 할당해주는 확률 모델 (자연어의 확률 분포) LLM(Large Language Model)이란?방대한 양의 데이터를 기반으로 사전 학습된 초대형 딥러닝 모델  Prompt EngineeringPrompt 란?특정 작업을 수행하도록 LLM에 요청하는 자연어 텍스트 Prompt Engineering이란?생성형 인공지능 솔루션을 안내하여 원하는 결과를 생성하는 프로세스 AI에게 질문을 잘 하는 법: 구체적이고 명확하게 지시: 명령의 배경을 함께 설명: 원하는 결과에 대해 예시로 설명: 단계별 가이드 제시: 제약사항 설명: 결과의 작성 형식을 구체적으로 명시: 스스로 생..