We-Co

안녕하세요. 위기의 코딩맨입니다. 저번에 BERT의 SQuAD Dataset에 대해서 알아보았습니다. SQuAD Dataset [We-Co] SQuAD Dataset - Tensorflow, NLP, Transformer 안녕하세요. 위기의 코딩맨입니다. 오늘은 BERT를 기반으로 사용하는 SQuAD Dataset에 대해서 간단하게 알아보고 구현해보도록 하겠습니다. BERT에 대해서 궁금하시면 BERT [We-Co] BERT - 자연어처리, NLP we-co.tistory.com SQuAD Data는 영어로된 데이터 셋을 갖고있지만 SQuAD Data의 한국어 버전인 KorQuAD 사용하여 질문에 대한 답변을 예측하는 모델을 작성해보도록 하겠습니다. [ KorQuAD ] KorQuAD를 사용하기 앞서서 ..

안녕하세요. 위기의 코딩맨입니다. 오늘은 BERT를 기반으로 사용하는 SQuAD Dataset에 대해서 간단하게 알아보고 구현해보도록 하겠습니다. BERT에 대해서 궁금하시면 BERT [We-Co] BERT - 자연어처리, NLP 안녕하세요. 위기의 코딩맨입니다. 오늘은 자연어 처리의 발전에 힘을 실어준 BERT 모델에 대해서 알아보도록 하겠습니다. [ BERT ] Bidirectional Encoder Representations from Transformers를 BERT로 간단하게.. we-co.tistory.com [ SQuAD Dataset ] Stanford Question Answering Dataset을 SQuAD로 요약하여 부르며 Wikipedia와 크라우드 워커의 질문으로 구성된 Data..

안녕하세요. 위기의 코딩맨입니다. 오늘은 자연어 처리의 발전에 힘을 실어준 BERT 모델에 대해서 알아보도록 하겠습니다. [ BERT ] Bidirectional Encoder Representations from Transformers를 BERT로 간단하게 부르고 있습니다. 2018년 Google에서 공개한 모델이며, 앞서 언급했듯이 NLP Task에서 최고의 성능을 보여주며 NLP의 발전에 많은 기여를 했습니다. BERT는 Transformer를 이용하여 모델을 구현했으며 대량의 단어 Corpus로 양방향(Bidirectional)으로 학습을 시킨 Pre-Trained 자연어 처리 모델이며, 위키피디아, BooksCorpus에 포함된 레이블이 없는 텍스트 데이터로 훈련된 모델입니다. BERT가 높은 ..

안녕하세요. 위기의코딩맨입니다. 오늘은 포르투갈어를 영어로 변역 Part.2 부분을 알아보도록 하겠습니다. Part.1 [We-Co] Transformer - 포르투갈어를 영어로 변역 Part.1 안녕하세요. 위기의 코딩맨입니다. 오늘은 Tensorflow의 공식 문서와 현재 듣고있는 강의를 토대로 포르투갈어를 영어로 변역하는 모델을 작성해보도록 하겠습니다. https://www.tensorflow.org/text/tutorial we-co.tistory.com 인코더 부분과 디코더 부분에서 실행되는 부분을 알아보도록 하겠습니다. 인코더 부분이 왼쪽, 디코더 부분이 오른쪽 부분으로 생각하시면 됩니다. 인코더레이어 부분 Multi-Head_Attenstion, 포인트 와이즈 피드포워드 네트워크의 흐름을 작..

안녕하세요. 위기의 코딩맨입니다. 오늘은 Transformer에 대해서 간단하게 알아보도록 하겠습니다 [ Transformer ] "Attention is all you need"의 제목으로 2017년 구글에서 발표한 모델입니다. 기존의 Seq2Seq의 구조 인코더 - 디코더를 기반으로 하지만, RNN모델을 사용하지 않고 Ateention의 기법을 사용하여 우수한 성능을 보여주는 모델입니다. Transformer의 장점은 - RNN은 순차적의 형태로 출력하지만, 병렬적으로 계산이 가능 - Rnn 스텝이나 Convolution을 켜지 않고 멀리 떨어진 텍스트의 정보들도 서로 영향을 주고 받으며 서로 연관관계를 학습이 가능 Seq2Seq와 같이 왼쪽은 Encoding부분, 오른쪽은 Decoding부분으로 나..

안녕하세요. 위기의 코딩맨입니다. 오늘은 word2vec에 대해서 간단하게 알아보도록 하겠습니다. [ word2vec ] 2013년도에 구글 직원인 토마스 미콜로프를 통해서 공개되었습니다. 단어 벡터간의 유사도를 반영할 수 있도록 단어의 의미를 수치화 하는 대표적인 방법의 모델이며 CBOW 방식과 Skpi-Gram의 2가지 방식으로 구현할 수 있습니다. 2가지 방식을 들어가기 앞서, http://w.elnn.kr/search/ 해당 홈페이지를 들어가보면 단어에 대한 벡터 연산을 진행해 볼 수 있는 사이트 입니다. 단어를 더하고 빼며 유사도를 계산하여 답변을 추출하는 사이트입니다. 예를들면 '미국 - 뉴욕 + 서울 = 한국' '한국 - 서울 + 도쿄 = 일본' 미국과 한국의 수도를 빼고 서울, 도쿄를 입력..

안녕하세요. 위기의 코딩맨입니다. 오늘은 NLP - Natural Language Processing의 사용분야와 간단하게 사용하는 용어를 정리해보도록 하겠습니다. NLP의 간단한 정리를 알고 싶으시면 다음 링크를 확인해주세요! NLP의 간단한 정리 [We-Co] NLP - 자연어 의미, 자연어 처리 안녕하세요. 위기의 코딩맨입니다. 오늘은 간단하게 머신러닝의 NLP에 대해서 간단하게 알아보도록 하겠습니다. 저도 NLP에 매력을 느껴서 머신러닝 독학을 시작했습니다. [ NLP ] 사람이 평소 사 we-co.tistory.com [ Machine Translation ] 하나의 언어를 다른 언어로 번역하는 영역을 의미합니다. 물론 지금도 번역하는 솔루션들은 많이 존재하고 있습니다. 그러나 Machine T..

안녕하세요. 위기의 코딩맨입니다. 오늘은 Tensorflow에서 Github로 제공하고 있는 Object Detection API를 사용해보려고 합니다. 기존에 학습시키는데 너무 오래걸리고 환경을 만드는데 너무 오래 걸려서 엄청 힘들었는데... 공부하다 보니 알게된 사실..! Google에서 Tensorflow github를 통해서 이미 학습된 모델을 제공하고 있었습니다.. 물론 다른 디테일 부분을 추가하기 위해서는 별도로 학습을 진행해야 하지만, 이만큼의 발견도 저는 감사합니다! 해당 방식으로 오늘은 Faster-R-CNN예제를 한번 풀어보도록 하겠습니다. 오늘 예제 소스는 https://github.com/JGH94/Tensorflow_Detection_Model_ZOO/blob/main/Tensor..