AI 대학원 면접 준비 - 전공 질문 리스트

본 질문들은 필자가 KAIST AI 대학원 면접을 준비하면서 만든 질문 리스트입니다.

 

머신러닝, 확률, 선형대수학과 관련된 질문들로 모두 답해야 하는 것은 아니며,

알고있는 지식의 정도를 확인하는데 도움이 될 것 같습니다.

Statistic / Probability 

• 🧐 Central Limit Theorem 이란 무엇인가?  
• 🧐 Central Limit Theorem은 어디에 쓸 수 있는가?
• 🧐 큰수의 법칙이란?
• 🧐 확률이랑 통계랑 다른 점은?
• 🧐 Marginal Distribution이란 무엇인가?
• 🧐 Conditional Distribution이란 무엇인가?  
• 🧐 Bias란 무엇인가?  [Answer Post]
• 🧐 Biased/Unbiased estimation의 차이는?  [Answer Post]
• 🧐 Bias, Variance, MSE란? 그리고 그들의 관계는 무엇인가?
• 🧐 Sample Variance란 무엇인가?
• 🧐 Variance를 구할 때, N대신에 N-1로 나눠주는 이유는 무엇인가?
• 🧐 Gaussian Distribution에서 MLE와 Sample Variance 중에 어떤 걸 사용해야 하는가?
• 🧐 Unbiased Estimation은 무조건 좋은가?
• 🧐 Unbiaed Estimation의 장점은 무엇인가?  

  ---

• 🧐 Binomial, Bernoulli, Multinomial, Multinoulli 란 무엇인가?
• 🧐 Beta Distribution과 Dirichlet Distribution이란 무엇인가?
• 🧐 Gamma Distribution은 어디에 쓰이는가?
• 🧐 Possion distribution은 어디에 쓰이는가?
• 🧐 Bias and Varaince Trade-Off 란 무엇인가? [Answer Post]
• 🧐 Conjugate Prior란?

  ---

• 🧐 Confidence Interval이란 무엇인가?
• 🧐 covariance/correlation 이란 무엇인가?
• 🧐 Total variation 이란 무엇인가?
• 🧐 Explained variation 이란 무엇인가?
• 🧐 Uexplained variation 이란 무엇인가
• 🧐 Coefficient of determination 이란? (결정계수)
• 🧐 Total variation distance이란 무엇인가?
• 🧐 P-value란 무엇인가?
• 🧐 likelihood-ratio test 이란 무엇인가?

---

Machine Learning 

• 🧐 Frequentist 와 Bayesian의 차이는 무엇인가?
• 🧐 Frequentist 와 Bayesian의 장점은 무엇인가?
• 🧐 차원의 저주란?
• 🧐 Train, Valid, Test를 나누는 이유는 무엇인가?
• 🧐 Cross Validation이란?
• 🧐 (Super-, Unsuper-, Semi-Super) vised learning이란 무엇인가?
  • Supervised Learning / Unsupervised Learning / Semi-Supervised Learning

    ---

• 🧐 Decision Theory란?
• 🧐 Receiver Operating Characteristic Curve란 무엇인가?
• 🧐 Precision Recall에 대해서 설명해보라
• 🧐 Precision Recall Curve란 무엇인가?
• 🧐 Type 1 Error 와 Type 2 Error는?

  ---

• 🧐 Entropy란 무엇인가?
• 🧐 KL-Divergence란 무엇인가?
• 🧐 Mutual Information이란 무엇인가?
• 🧐 Cross-Entropy란 무엇인가?
• 🧐 Cross-Entropy loss 란 무엇인가?

  ---

• 🧐 Generative Model이란 무엇인가?
• 🧐 Discriminative Model이란 무엇인가?
• 🧐 Discrinator function이란 무엇인가?

  ---

• 🧐 Overfitting 이란? [Answer Post]
• 🧐 Underfitting이란? [Answer Post]
• 🧐 Overfitting과 Underfitting은 어떤 문제가 있는가?
• 🧐 Overfitting과 Underfitting을 해결하는 방법은? [Answer Post]
• 🧐 Regularization이란?
  • Ridge / Lasso

    ---

• 🧐 Activation function이란 무엇인가?3가지 Activation function type이 있다.
  • Ridge activation Function / Radial activation Function  / Folding activation Function
• 🧐 CNN에 대해서 설명해보라
• 🧐 RNN에 대해서 설명해보라
• 🧐 Netwon's method란 무엇인가?
• 🧐 Gradient Descent란 무엇인가?
• 🧐 Stochastic Gradient Descent란 무엇인가?
• 🧐 Local optimum으로 빠지는데 성능이 좋은 이유는 무엇인가?
• 🧐 Internal Covariance Shift 란 무엇인가?
• 🧐 Batch Normalization은 무엇이고 왜 하는가?
• 🧐 Backpropagation이란 무엇인가?
• 🧐 Optimizer의 종류와 차이에 대해서 아는가?

  ---

• 🧐 Ensemble이란?
• 🧐 Stacking Ensemble이란?
• 🧐 Bagging이란?
• 🧐 Bootstrapping이란?
• 🧐 Boosting이란?
• 🧐 Bagging 과 Boosting의 차이는?
• 🧐 AdaBoost / Logit Boost / Gradient Boost

  ---

• 🧐 Support Vector Machine이란 무엇인가?
• 🧐 Margin을 최대화하면 어떤 장점이 있는가?

---

Linear Algebra 

• 🧐 Linearly Independent란?
• 🧐 Basis와 Dimension이란 무엇인가?
• 🧐 Null space란 무엇인가?
• 🧐 Symmetric Matrix란?
• 🧐 Possitive-definite란?
• 🧐 Rank 란 무엇인가?
• 🧐 Determinant가 의미하는 바는 무엇인가?
• 🧐 Eigen Vector는 무엇인가?
• 🧐 Eigen Vector는 왜 중요한가?
• 🧐 Eigen Value란?
• 🧐 SVD란 무엇인가?→ 중요한 이유는?
• 🧐 Jacobian Matrix란 무엇인가?

---

단순히 개념을 물어보는 질문도 있고, 조금더 Advanced된 질문들도 있습니다. 정답을 암기하는 것보다 각 개념들이 지니는 의미를 이해하고 정답을 찾아가면서 공부하시는 것을 추천드립니다. 🤗🤗

---

정답 

[1] Machine Learning에서 Bias란 무엇인가?

[2] Biased, Unbiased Estimator란 무엇인가?

[3] Bias-Variance Trade-off

[4] Machine Learning에서 Overfitting과 Underfitting은 뭘까..? 

[5] Overfitting을 해결하는 방법 3가지