에세이 썸네일형 리스트형 [2022년 AI Trend] 트랜스포머 구조가 더 넓은 분야에서 사용된다. 트랜스포머에 대한 강한 집착 딥러닝이 발달하는 속도가 워낙 빠르다보니, 새로운 모델 구조를 다양한 분야에 적용하는 것은 빈번이 일어나고 있다. 최근에는 트랜스포머가 NLP 를 넘어서 더 넓은 분야에서 사용 되고 있으며, 앞으로 더욱 자주 사용될 것으로 예상된다. 트랜스포머의 장점은 더 많은 정보를 모델이 담을 수 있다는 것이다. Local Receptive Field 와 Transition Equivariance 를 특징으로 하는 CNN 에 비해서 상대적으로 Inductive Bias 가 덜한데, 이는 바꿔말하면 모델이 가지는 자율성이 높다는 것이고 데이터의 구조에 대한 정보를 더 많이 담고 있을 확률이 높다는 것이다. 최근에 ViT(Vision Transformer, 2021 ICLR)와 DT(Deci.. 더보기 대학원 컨텍 메일 필독 사항 대학원 컨텍 메일 필독 사항 대학 vs 대학원 대학과 대학원의 가장 큰 차이는 연구실에 소속된다는 점입니다. 대학생 때, 과에서 소속감을 느꼈다면 대학원에서는 자기가 속한 연구실에 소속감이 생기죠. 친구들과 동료도 대부분 연구실 내의 사람들이기에 연구실과 혼연일체가 되어 생활하면 아주 좋습니다. 연구실 사람들이 무엇을 하는지가 본인에게도 굉장히 영향력을 끼치는데, 토론이나 토의를 진행할 때 많은 정보를 교류하게 됩니다. 물론 아싸처럼 내 갈길을 갈수도 있지만 필자는 그러다 적응하지 못하고 연구실에서 나가는 사람도 봤으니, 잘 적응할 수 있는 연구실을 골라야 합니다. 연구실에서 주도하는 연구나 교수님께서 흥미를 가지시는 분야에 대해서 본인도 연구를 하게 될 확률이 굉장히 높기에, 연구실을 고르는 것은 본인.. 더보기 2021년 생존한 대학원생 경험담 - 1 세상 모든 직업은 각기 다른 고충을 가지고 있기에 대학원생도 힘든 점을 가지고 있다. 나는 2020년 8월에 대학원 연구실에 컨택을 하고, 2020년 10월부터 인턴을 진행, 2021년 9월에 석사과정이 되었다. 약 1년 간의 연구생활을 하며, 힘든 점도 많고 보람찬 순간도 많았다. 2022년에 대학원생이 되고 싶은 사람이 있다면, 필자의 경험을 참조하면 좋을 것 같다. 대학원생이 되고 가장 좋았던 순간은? 논문을 발표하고 학회로 놀러 갔을 때가 가장 좋았다. 평소에는 연구실에 출근하고 연구하기 바쁘다. 그런데 학회를 가니, 내가 고생해서 만든 것에 대한 자부심을 느낄 수 있었고, 다른 연구 발표를 보는 것이 흥미로웠다. 사실 지원비 받고 놀러 가서 좋았던 것 같기도 하다. (노는 게 제일 좋아) 202.. 더보기 AI 대학원 면접 준비 - 전공 질문 리스트 본 질문들은 필자가 KAIST AI 대학원 면접을 준비하면서 만든 질문 리스트입니다. 머신러닝, 확률, 선형대수학과 관련된 질문들로 모두 답해야 하는 것은 아니며, 알고있는 지식의 정도를 확인하는데 도움이 될 것 같습니다. Statistic / Probability 🧐 Central Limit Theorem 이란 무엇인가? 🧐 Central Limit Theorem은 어디에 쓸 수 있는가? 🧐 큰수의 법칙이란? 🧐 확률이랑 통계랑 다른 점은? 🧐 Marginal Distribution이란 무엇인가? 🧐 Conditional Distribution이란 무엇인가? 🧐 Bias란 무엇인가? [Answer Post] 🧐 Biased/Unbiased estimation의 차이는? [Answer Post] 🧐 Bi.. 더보기 빠른 속도로 데이터를 처리하기 위한 두 종류 FPGA vs GPU 인공지능에 대해서 공부하면서 반도체와 관련된 지식을 보유하는 것은 꽤나 바람직히하다. 빅데이터라는 대용량의 데이터를 다루기 위해서 뿐만아니라, 실시간으로 데이터를 처리하기 위해서는 CPU 이외에 고성능 처리기가 필요하다. * FPGA(Field-Programmable gate array) 꽤나 귀엽게 생긴 이 칩은 내부를 들여다 보면 다음과 같은 구조를 띄고 있다. 이미지 출저 input과 output은 숫자들을 입력과 출력하는 부분이고 Logic Block은 계산을 하는 블럭이다. FPGA에서 특이한 점은 바로 Programmable interconnect 이다. CPU와 GPU의 경우, instruction을 수행하는 방식으로 처리가 된다. 따라서 논리회로는 고정되어 있으며, 계산의 효율성은 inst.. 더보기 넷플릭스 데이터 사이언티스트 인터뷰 해당 글은 아래 글을 번역한 것 입니다. 해당 본문의 작성일은 2020/02/25 월 입니다. 상당히 최근의 글 입니다. The Netflix Data Scientist Interview 넷플릭스는 캘리포니아 로스 가토스에 본사를 둔 스트리밍 미디어 회사로, 가장 큰 미디어 회사로 인식되고 있습니다. 1997년에 DVD 대여 서비스로 시작해서 향후 스트리밍 사업으로 확장했습니다. 현재 넷플릭스는 1억 5천만 명의 유료구독자와 6천만명의 US 사용자를 보유하고 있습니다. (거대 하다..거대 해) 수천 개의 기기에 대한 스트리밍 지원에 매월 전체 상영 시간은 30억 시간 정도 되고 1000억 개의 Event 가 매일 모아진다고 합니다. Netflix 에서 데이터 사이언스의 역할 넷플릭스에서 데이터 사이언티스.. 더보기 [IT상식] Microsoft의 블록체인 서비스를 활용하는 스타벅스 사용자들이 정보에 대한 신뢰성을 보장해주는 블록체인 기술은 4차산업 기술 중 대표적인 기술으로 인식되고 있습니다. 이 기술이 스타벅스(우리나라 커피소비의 대부분을 차지)와 어떤 관련이 있는지 살펴보겠습니다. Starbucks는 "팜에서 컵"까지 콩을 추적하는 블록 체인 시스템을 사용하여 소비자에게 커피 제품에 대한 추가 정보를 제공하기 위해 노력하고 있습니다. [1] 2019년 7월 기준으로 코스타리카, 콜롬비아, 르완다에있는 커피 농부들과 이 프로젝트가 어떤 해택을 줄 수 있을지 논의하고 있다고 합니다. 또한 Starbucks는 뉴욕 증권 거래소의 모회사 인 Intercontinental Exchange가 개발하고있는 Bakkt 디지털 자산 및 비트 코인 선물 플랫폼과 특히 협력하고 있습니다. 기업이 .. 더보기 [IT상식] Essential Phone PH-1 2020년 2월 안드로이드의 아버지 앤드 루빈의 프리미엄 스마트폰 개척이 막을 내렸다. PH-1이라는 기종으로 소프트웨어 코드 등을 개발자들을 위해 깃허브에 공개해 놓는다고 한다. (개발자들이 궁금해서 한 번쯤은 들어갈 것 같다. ) 제조, 게발, 마케팅 - 에센셜 프로덕츠 창업자 - 앤디 루빈(안드로이드 창업자) 2017년 당시 소프트뱅크로부터 1억 달러의 투자를 받을 계획이었으나 애플과의 관계에 의해서 무산되었다고 한다. 에센셜 폰은 수정이 없는 안드로이드를 구동한다. 언락된 부팅 기능이 있으므로 중요 개발자 커뮤니티가 잠재적으로 소프트웨어를 더 수정할 수 있게 허용한다. 더보기 이전 1 2 3 4 다음 목록 더보기
