1. PPT 한 장 분량으로 자유롭게 논문 정리 뒤 이미지로 첨부

2. (슬랙으로 이미 토론을 했지만 그래도) 이해가 안 가는 부분, 이해가 안 가는 이유(논문 본문 복붙)

사실 이전에도 ELMO를 제대로 안 본 이유는 구조가 word2vec에서 그렇게 크게 진화하지는 않아서 (BERT같이) 였음.

LSTM layer output의 concat 을 사용하는 것으로..

3. 재밌었던 부분

tagging 이 따로 없어도 context에 따라 embedding이 달라지는 점 → BERT도 context 에 따라 token embedding이 달라지나?

BERT에 묻힌 비운의 paper

4. 논문 구현 시 주의해야할 것 같은 부분(논문 본문 복붙)

그림이 없어서 기준이 없으므로, 잘 잡고 해야 할 듯.

gamma에 대한 튜닝

5. 소개하고 싶은 개념 하나 (발표 5분 분량, 선택)

ELMo 가 사용될 수 있는 문제 설명 (실제 업무)

특정 타겟에 대한 뉴스 검색

실제 회사 이름: 남성, 이루다, 동방, 씨앗, 유니크, DB, 등등...

Word Sense Disambiguation 용도로 활용 (할 예정)

ELMo (대선조선, "남성"해운 컨테이너선 2척 수주) /

ELMo (40대 "남성" 실종된 인천 노래주점 내부 CCTV 하드디스크 사라져)