[HCI & AI] HYOZ WIKI

오늘 읽을 주제들은 AI 분야, 특히 자연어 분야의 트렌드를 좀 쫓아보고자 몇 개 글을 읽고 가져와보았다.어떤 한 분야의 구체적인 내용 보다는 전반적인 트렌드를 이해하고자 노력하였고, 그 중 필요한 개념이 있다면 별도 포스팅으로 남겨보고자 한다. 그럼 진짜로 시작! Today's Column오늘은 다양한 매체에서 글을 가지고 와 보았다. 각각 LG AI연구원 Research BLOG, Google Research BLOG, 레터 웍스에서 작성된 글이다.1. [NeurIPS 2022] 학회 참석 후기 및 최신 연구 트렌드 (LG AI연구원 김근형님, 최성익님, 황다솔님/ 2023.02.07.)2. Unlocking Zero-Resource Machine Translation to Support New La..

Summary언어 모델(Language Model)은 언어 모델링을 하는 모델로, 통계 기법을 이용한 방법과 인공 신경망을 이용한 방법이 있다.거대 언어 모델(Large Language Model)은 데이터셋의 크기와 모델의 규모가 거대해져 정확도가 크게 향상된 언어 모델을 의미한다.거대 언어 모델은 대체적으로 Encoder-Decoder 구조를 사용하고 있으며, 각각 NLU와 NLG로 구분된다.ContentsWhat is the Language Model?당연하게도 언어 모델링(Language Modeling)을 하는 모델이다.언어 모델링이란 주어진 단어들로부터 아직 모르는 단어를 예측하는 작업을 의미한다.언어 모델을 만들기 위해서는 통계 기법을 이용한 방법과 인공 신경망을 이용한 방법이 있고,대표적인..