2024.10.12 TIL

 

오늘은 내가 방통대 학과 공부를 대부분 했다.

앞서 난 현재 4학년 2학기 재학 중으로 컴퓨터과학과에 있다.

학기때 전공 과목으로 딥러닝, 컴파일러구성, 클라우드컴퓨팅 이 3가지 과목을 공부 중이다.

특히 다음 주부터 머신러닝과 딥러닝에 대해 공부가 시작된다.

그래서 오늘 딥러닝 과목을 공부했던 도중 파이썬 라이브러리 때 강사님이 잠깐이나마 언급하셨던

단어와 내가 생각해낸 단어를 간추려 짧게 정리해 보고자 한다.

 

과적합

• 훈련 데이터에 알고리즘이 너무 정확하거나 또는 가깝게 맞아떨어질 때 발생
• 모델이 훈련 데이터 이외의 다른 실제 데이터에서 정확한 결론이나 예측을 내릴 수 없음
• 모델을 학습하는 동안에 드롭아웃을 이용하여 이 문제를 개선 가능

배치 정규화

• 더 안정적이고 빠른 훈련을 진행하기 위하여 데이터 집합의 분산과 평균을 조정하는 기술
• 내부 공변량 변화로 인한 심층망의 학습 효율 저하 문제를 개선하기 위한 기술
• 모델의 성능을 높이면서도 학습 속도를 빠르게 할 수 있음
• 가중치의 초기화에 대한 민감도를 낮출 수 있음