[week6] 네부캠 ai tech 6주차 회고

2023.12.15. 금요일

네이버  부스트코스 ai tech 6기에 참여하고 6주가 흘렀다. 6주차 회고를 작성한다.

주차별 학습 내용 목차.

1주차 : 파이썬 기초 문법, 객체 지향 프로그래밍, 넘파이, 판다스, 기초 통계(MLE, 베이즈통계), 기초 선형대수학,

           AI기초(경사하강법, CNN, RNN)

 

2주차 : pytorch

 

3주차 : DL basic(~transformer, Genertive models)

 

4주차 : 기본 모델들(AlexNet ~EfficientNet, Semantic Segmentation, Object Detection )

 

5주차 : cnn visualization ~ 3D

 

6주차 : 대회

 

* 짧은 소감 

 

- 피어세션

 첫 번째 대회가 열렸다.  대회에 대한 얘기를 주로 나누었고, 중간중간 트랜스포머를 위한 attension부터 transformer까지의 내용을 팀 동료분의 발표를 들었다. 주말동안 복습 및 공부해야겠다. 

 

- 스페셜 세션(깃허브 특강3)

 이번주는 다른 팀의 멘토님이 깃헙 특강을 열어주셨다. 매우 빠른 속도로 강의가 진행되어서 따라가기 버거웠는데, 다행히 vod가 열려서 복습할 수 있다. git flow를 알려주셨고, issue 등을 어떻게 처리하는지 git으로 협업하는 방법에 대해 예시를 직접 보여주면서 가르쳐주셔서 좋았다. 해당 강의 컨텐츠는 나중에(아마 내년 2~3월?) 부스트코스에 정식 강의로 업로드 된다고 해서 그때 또 다시 보면 좋을 것 같다.

 

- 스페셜피어세션 진행.

이번주에 오프라인 모임도 있었고, 최종프로젝트를 같이 할 팀을 정하는 시기라서 다들 지쳐보였다. 조용조용하게 떠들다가 끝났다.

 

- 멘토링
이번주는 금요일에 멘토링을 진행했다. 대회에 관한 이야기를 주로 들려주셨다. eda, 전처리에 관해 집중적으로 이야기해주셨다.

 

* 새롭게 배운 점 

1. argparser분석
   • 대회에서 제공해준 베이스 코드를 분석하면서 argparser에 대해 공부할 수 있었다. 2주차때 강의에서 나온 건데 그때는 이해하지 못해서 넘어갔던 것을 다시 강의를 보면서 실습하니 이해할 수 있었다.
2. dataset 코드 분석
   • dataset을 구성하는 코드를 분석하는 게 여간 귀찮은 게 아니었다. 주소가 틀려서 계속 에러가 떠서, 이것저것 뜯어보면서 겨우 이해했다.
3. stratified k-fold 분석
   • k-fold를 공부하면서, stratified도 같이 공부했다. 훈련 시간이 너무 오래 걸려서 나중에는 결국 안 썼지만, stratified를 코드에 적용해보는 실습을 진행하면서 train 코드에 대해 더 잘 이해할 수 있었기 때문에 좋은 경험이었다.
4. @classmethod
   • 데코레이터에 대해 잘 이해하지 못했고, 클래스와 인스턴스에 대한 개념을 많이 잊고 있었다. 코드에서 데코레이터를 마주하고 겁부터 먹었는데, 첨부터 차근차근 찾아봤다. @classmethod는 method(클래스 내의 함수)를 클래스 변수처럼 사용할 수 있게 해준다. 함수밖에서 method를 호출해서 사용하려면 먼저 클래스를 인스턴스화해주고, 접근했어야 했는데, method위에 @classmethod를 붙여주면 호출 시 <클래스.method>로 접근할 수 있게 되어 편리하다.
5. multi-task 구현
   • stratified k-fold와 여러 다른 코드들과 섞이면서 계속된 오류로 실패하고 끝났지만, multi-task를 구현하려고 노력하면서 많은 걸 배울 수 있었다. multi-task는 soft, hard 두 가지 방법이 있다.
   • soft한 방법은 multi-label 방법인데, 하나의 모델을 이용하며 마지막 output layer에서 여러 개의 label을 한 번에 출력해서 loss를 합쳐서 계산하는 방식이다.
   • hard한 방법은 여러 모델로 각각 task를 학습시키고, loss를 합쳐서 계산하는 방식이다.
6. ensemble
   • voting에 대해 공부했다. hard voting은 여러 결과값 중 다수결로 정하는 것이고, soft voting은 확률의 평균으로 결정한다.

 

* 진행한 내용

classification 대회다. 강의에서 제공해준 베이스코드를 바탕으로 전체적인 프로세스를 공부할 수 있었다.

 

* 주말 계획

1. 6주차 ensemble 강의 복습 및 미션코드 분석.

2. argumentation 공부.

3. 프로젝트 주제 고민

4. 소프트맥스, 순환신경망, seq2seq 공부하기

 

* 다음주 계획

 

 

< 목표 >

1. 앞으로 어떤 산업분야, it 도메인 혹은 비it 도메인 어디로 나아가야할 지 많이 찾아보고, 물어보고 고민해보자. 

2. 멘토님이 추천해주신 자료를 보면서, 수학 기초를 쌓자. 책, 유튜브 -> 이번주에 진행 못함.
3. 프레임워크에 익숙해지자. 또한 수식과 코드를 연결하는 공부를 하자.(요건 잘 진행중)

 

 

* 공부 내용 링크 

2023.12.13 - [et al/AI Tech 6] - ubuntu20.04에서 OpenVPN client 설치 및 서버 연결

2023.12.13 - [et al/AI Tech 6] - 서버에 conda 가상환경 만들기

2023.12.17 - [et al/AI Tech 6] - [멘토링] 6주차 멘토링 정리