GPT2 자연어 처리(Natural Language Processing) 1. 자연어 처리 1.1) 종류 규칙 기반 처리 : 미리 정해놓은 규칙을 가지고 if, else를 수행해서 모델링 확률 기반 처리 자연어 이해 : 입력에 적합한 답변이나 0 또는 1을 출력 자연어 생성 : 이전 문장의 맥락을 파악해서 다음 단어나 문장을 생성 1.2) 실제 가장 많이 사용되는 모델 BERT(Bidirectional Encoder Representations from Transformer) - 자연어 이해(분류, 군집 등)에 주로 사용되는데 입력 문장의 좌우 문맥을 모두 고려해서 단어의 임베딩 벡터를 생성 Fine Tuning(미세 조정) 단계에서 해당 과제의 데이터로 추가 학습하여 성능을 개선 GPT(Generative Pre-trained Transformer) - 단방향 언어 모델로 .. 2023. 9. 22. Python 기초 2023-07-06 Python 파이썬은 프로그래밍언어 작성 후, 컴파일이 아닌 인터프리터를 통해 실행된다. 1991년 Guido van Rossum에 의해 개발되었다. (사실은 java 보다 4년 일찍 출시되었다.) 객체 지향 언어이며 동적 타이핑 언어 - 클라우드는 Go 언어를 배우는 것을 추천 - IDE: Anaconda , Pycharm 등 1. 파이썬 프로그래밍의 구성요소 literal : 사용자가 직접 입력하는 데이터 variable : 데이터에 붙이는 이름 function : 독립된 메모리 공간을 할당받아서 한 번에 수행되는 코드 블럭 class & instance : 동일한 목적을 달성하기 위해 모인 데이터와 기능의 집합 module : 파이썬에서는 파일을 모듈이라고 한다. package .. 2023. 7. 6. 이전 1 다음
