이번 주는 지금까지 만든 모델이 실제로 얼마나 잘 작동하는지 확인하는 방법부터 배웠다. 정해진 기준으로 자동으로 채점하는 방법, 사람 대신 다른 모델이 답변 품질을 평가하게 만드는 방법, 검색 기반 답변이 근거를 제대로 찾아서 답했는지 확인하는 방법까지 배웠는데, 모델을 잘 만드는 것 못지않게 잘 만들었는지 검증하는 것도 중요한 과정이라는 걸 다시 느꼈다.주 중반부터는 텍스트뿐 아니라 이미지와 영상까지 함께 다루는 내용으로 넘어갔다. 이미지와 텍스트를 같은 기준으로 비교하는 방법을 배우고, 이걸로 사진을 보고 설명 문장을 만들거나 질문에 답하는 실습을 했다. 이후에는 영상에서 프레임을 여러 장 뽑아내고, 각 장면을 설명하는 문장을 만들어서 저장해두고, 나중에 원하는 장면을 검색해서 찾아내는 실습까지 이어..

이번 주는 모델 전체를 다시 학습시키는 대신, 일부만 가볍게 학습시켜서 원하는 방향으로 바꾸는 방법을 배운 한 주였다. 개념을 먼저 정리하고, 파라미터 일부만 효율적으로 학습시키는 방식을 배운 뒤, 뉴스 데이터를 직접 준비해서 실제로 학습을 돌려보는 실습까지 진행했다. 이어서 모델을 더 가볍게 만든 상태에서 학습을 얹는 방식과, 아예 다른 방식으로 필요한 부분만 학습시키는 방법도 비교해서 배웠다. 방식마다 장단점이 달라서 언제 어떤 걸 써야 하는지 감을 잡는 데 시간이 좀 걸렸다.주 후반에는 이렇게 만든 모델을 로컬 환경에서 직접 돌려보고, API 서버처럼 사용하는 방법을 배웠다. 미리 준비된 모델뿐 아니라 이번 주에 직접 학습시킨 결과물을 변환해서 로컬로 서빙까지 이어 붙여봤는데, 처음부터 끝까지 한 ..

이번 주는 하나의 도우미가 아니라 여러 단계와 역할을 나눠서 움직이는 구조를 배운 한 주였다. 대화 흐름을 그림처럼 그려서 단계별로 제어하는 방법부터 시작해서, 도구를 호출하는 과정을 직접 만들어보고, 이전 대화를 기억하게 만들고, 중간에 사람이 개입해서 확인하고 넘어가는 방식까지 하나씩 배웠다. 처음엔 복잡하게 느껴졌는데, 작은 예제부터 하나씩 직접 만들어보니 흐름이 눈에 들어오기 시작했다.이후에는 역할을 하나가 아니라 여러 개로 나눠서 서로 협업하게 만드는 방법을 배웠다. 순서대로 일을 넘기는 방식, 한쪽이 다른 쪽을 관리하는 방식, 팀 단위로 묶어서 위계를 두는 방식까지 다양한 패턴을 배웠고, 이걸 실제 업무에 적용해서 보고서를 자동으로 만들어보는 실습도 했다. 배운 걸 실무에 가까운 형태로 써보니..

이번 주는 지난주에 이어서 여러 기능을 연결해 쓰는 프레임워크를 더 깊게 배운 한 주였다. 여러 단계를 하나로 이어 붙이는 방법과, 필요한 정보를 찾아서 답변에 활용하는 방법, 상황에 맞게 도구를 골라 쓰는 방법까지 순서대로 배웠다.중반에는 원하는 자료를 미리 저장해두고 질문이 들어오면 그 안에서 답을 찾아오는 방식을 배우고, 이걸로 와인을 추천해주는 도우미를 직접 만들어보는 실습을 했다. 처음부터 끝까지 직접 만들어보니 이론으로만 들었을 때보다 훨씬 이해가 잘 됐다. 이후에는 검색 결과를 더 정확하게 뽑아내는 여러 방법들을 배웠는데, 검색 방식을 조합하거나 순서를 재조정하거나 조건을 걸어 필터링하는 등 같은 목표를 다양한 방식으로 풀어내는 게 흥미로웠다.주 후반에는 표 형태가 아니라 관계로 연결된 데이..

이번 주는 지난주에 이어서 새로운 모델 구조들을 배우고, 이걸 실제로 활용하는 방법까지 배운 한 주였다. 번역 같은 문제를 푸는 모델부터 시작해서, 최근 많이 쓰이는 모델들의 핵심 원리가 되는 구조까지 순서대로 배웠다.중반부터는 이 구조를 기반으로 만들어진 모델을 실제로 가져다 쓰는 방법을 배웠는데, 이론만 배울 때보다 직접 써보니 훨씬 감이 잡히는 느낌이었다.주 후반에는 요즘 많이 쓰는 언어 모델을 실제로 다루는 법을 배웠다. 원하는 대로 답을 얻어내는 프롬프트 작성법부터 시작해서, 음성으로 변환하거나 음성을 텍스트로 바꾸는 기능, 필요한 정보를 검색하거나 위험한 내용을 걸러내는 기능까지 하나씩 실습해봤고, 이걸 다 엮어서 하나의 상담 도우미를 만들어보는 실습도 했다. 그리고 모델을 원하는 말투나 목적..

이번 주는 자연어처리(NLP)를 본격적으로 배운 한 주였다. 토큰화, 정제와 정규화, 어간·표제어 추출, 정규표현식, 정수 인코딩과 패딩, 원-핫 인코딩까지 텍스트를 모델에 넣기 전 다듬는 전처리 과정을 쭉 훑었고, 이어서 BoW·TF-IDF 같은 빈도 기반 벡터화부터 단어 간 의미 관계를 담는 Word2Vec, 미등록 단어 문제를 보완하는 FastText까지 벡터화 방법들을 배웠다.중반부터는 토큰 순서를 반영하지 못하는 벡터화의 한계를 넘어서기 위해 RNN을 배우고, 장기 의존성 문제를 해결하는 LSTM과 더 가벼운 구조인 GRU까지 이어서 배웠다. 배운 내용을 묶어서 한국어 감성 분류(NSMC) 파이프라인을 직접 구현해보는 실습도 했는데, 형태소 토큰화부터 정수 인코딩, BiGRU 모델까지 전체 흐름..

이번 주는 화요일과 수요일에 팀 프로젝트가 있어서 시간이 빨리 간 주간이었다. 첫 번째 프로젝트도 그렇고 이번 프로젝트도 과정과 결과 모두 마음에 들지는 않았다. 부족한 게 많았고 순조롭지 않았다. 3, 4차 프로젝트는 이어지는 프로젝트라 팀원이 그대로 유지된다고 들었는데, 그때는 1, 2차 때 부족했던 부분들을 생각해서 잘 해내볼 생각이다.이번 주부터는 스터디도 시작했다. 첫 스터디를 마치고 다른 주제의 스터디 두 개에 추가로 참여하기로 했다. 공부할 게 다양하고 많은 만큼, 여러 스터디에 참여하면서 추가적인 공부를 해볼 생각이다.슬슬 취업 관련 걱정도 들기 시작한다. 이제 두 달쯤 뒤면 파이널 프로젝트도 시작하는데, 지금까지 배운 내용으로 새로운 업무로 취업을 할 수 있을지 걱정이 된다. 배울 것도 ..

이번 주는 목요일 휴가, 금요일 공휴일로 3일만 교육장에 나왔고 지난주 금요일에 이어서 딥러닝 수업을 계속 들었다.월요일에는 드디어 2차 미니 프로젝트 팀원이 결정됐다. 딱히 불만 사항이 없을 만큼 다들 열심히 하는 사람들로 구성된 팀이라, 1차 때에 비해 별문제 없이 프로젝트를 진행할 수 있을 것 같다.수업을 들으면서는 이후에 복습할 시간이 좀 필요하겠다는 걸 느꼈다. 이전 수업들에 비해 처음 배우는 내용이나 까먹었던 내용이 많았고, 완벽하게 이해하고 사용할 수 있을지는 모르겠다는 느낌이 들었다. 그래서 다음 주부터는 시간 될 때마다 남아서 공부하고 복습하고, 같이 공부할 사람들을 모아 스터디도 진행해볼 예정이다.