컴공과 질문 받습니다.

취준 기간 어느정도이셨고
연봉은 얼마정도인가요?

포트폴리오 만든다고 1달정도 썼고 그 외에 취준을 딱히 하지는 않았습니다. 5500-6500 정도로 보면 됩니다.

신규 직원 많이 안 뽑나요

업계가 전체적으로 불황인 느낌이 있네요. 들어오고 나서도 아예 쌩신입은 팀에서 저 혼자였습니다.

입학 하기 전에도 그 쪽 분야 관심 있으셨나요?
어느 정도 알고 들어가신건가요?

저 가속기 분야요? 아예 모르고 들어갔습니다. 컴퓨터 관련 지식을 잘 몰랐어요.

컴공이 다른 공대에 비해서 지금 취업이 더 힘든게 맞죠? 기계랑 컴공 고민중인데 고르기 힘드네요

그거는 잘 모르겠는데 아마 그럴걸요?
질문자님께서 졸업하실 때는 그때 가봐야 알죠

저한테 맞는 과를 가는게 중요하겠네요. 답변 감사합니당

네 그게 좋을거같네요

포폴 준비 어떤식으로 하셨고, 공고는 어디서 찾으셨는지 여쭤봐도 될까요?

싱글 디바이스에서 대충 작은 크기 텐서연산들만 하는 workload training 하나 CUDA로 End-to-end 하나 구현했고. 그럼 Memory Bound니까 Kernel fusion이 효과가 크겠고. GEMM에선 Tiling이나 Coalesced access같은 거 적용해주면 되겠죠?
뭐 아무튼 워크로드 하나를 From scratch로 full training 구현해서, 프로파일러(마찬가지로 제가 만듦)로 각 커널 Device latency, E2E execution time 등 뽑아내서 bottleneck 파악하고 최적화하고. 이런거 했습니다.
Baseline은 PyTorch 상에서 Tensor shape부터 쓰는 함수, 데이터로더, optimizer까지 완전히 똑같이 짜되 너무 naively 안짠걸로 삼고 target인 제꺼랑 성능(실행시간), 정확도 둘 다 비교해서 압도적으로 제 꺼가 좋게 만드는게 목표인게 되겠네요.

공고는 GPU/NPU 쪽이나 ML Compiler, MLSys쪽 찾아보시면 될듯합니다...

감사합니다. 수험생은 아니고 건동홍라인 컴공4학년 재학생인데.. 어쩌다 수험생 커뮤니티에 와서 좋은 정보 얻고 가네요.

원래는 프론트엔드 개발쪽을 깊게 들어갔는데.. 요즘은 AI쪽을 관심 있게 보고 있습니다.
AI쪽 포폴은 학부수업 ML/DL 정도만 듣고 oss-120b 로컬에서 돌려본 정도만 준비해봤구요.

지금까지 준비했던 백엔드/프론트엔드 개발 경험 가지고 AI쪽 이력서 던져봤는데
서류는 좀 붙긴하더라구요. 그런데 면접에서 관련 논문 쓴거 없냐고 물어보고; 논문 없어서 면접 붙은적이 없습니다.

여튼 감사합니다.. 학부수준에서 저정도까지 깊게 경험하기는 힘들텐데. 대단하십니다.

정말 죄송하시만 추가로 몇 가지만 더 여쭤보겠습니다..

1. 혹시 학부연구생도 하셨나요? 저런 프로젝트 경험을 혼자서 하신거라면.. 리스펙합니다.
어떻게 저런 프로젝트를 접하게 됐는지 궁금합니다.
2. 학점 여쭤봐도 될까요? 3.8/4.5 정도인데, 학점때문에 서류컷나는지도 궁금합니다.
3. 석사 생각 없으신지 궁금합니다. 제가 AI쪽에 저정도 열정이 있었다면 석사를 했을것같아서요.
4. GPU/NPU, MLSys 쪽 지원 할 때 백/프 웹개발 경험도 함께 써도 괜찮을지.. 여쭤봐도 될까요

뭐 많이 물어보셔도 괜찮습니다... 아마 질문하실 분이 많이는 없을거같은데.

1. 졸업요건 맞추려고 AI랩실에서 하긴했는데 포폴 주제랑은 전혀 상관 없는 분야였습니다.
사실 포폴의 수준은 지금 현직자인 제 눈에서 그리 높진 않아요. "그냥 하면 될" 것들을 했기때문에. 다만 이걸 혼자서 기획 설계 구현 분석을 다 했다고? 왜 이걸 한거지? 눈길이 가네 정도는 됩니다. 딱 그 정도로 보입니다.
부연설명을 드리자면 AI랑 HPC를 한 달정도 개인적으로 공부하고 그 다음에 저 포폴을 만든거라서, 학부때 특별히 저걸 위해서 더 공부했던 부분은 없습니다.

2. 나쁘지 않은 학점이라 신경쓰지 않으셔도 될 것 같습니다. 운 나쁘면 떨어질 수도 있는데 그건 학점이 낮아서가 아니라 학사여서 스크리닝 당했다 일거라서?
어차피 당장 바꿀 수도 없는 것이니 해볼 수 있는 것에 집중해보는 게 좋겠습니다.
저도 학점은 비슷해요. 그냥 4.0 근방입니다. 편입 전 기계과에선 3.4였음.

3. 박사 생각은 조금 있습니다. 언제가 될 지는 모르겠으나... 사실 석사까지만 할거면 진학을 안할 거 같고 실제로도 카이 김재철 붙고 안갔구요.

4. 상관없는 분야라 적지 않는 게 좋겠습니다.
안해본것보다 해본게 더 낫기야한데, 그냥 경험으로 가지시고 면접볼때 웹도 해봤다 언급 정도 하시죠.

노파심에 말씀드리면.. 제가 가정하는 최소 기준치같은 것들은 뭐 python 레벨에서 Quantization 적용하고 vLLM 백엔드 붙여서 이런저런거 만져보는 수준 말고, MLSys중에서도 Device kernel을 직접 저수준 언어로 작성하고 컴파일러/하드웨어 친화적으로 작성하는 시스템 소프트웨어 엔지니어 직군을 타겟으로 합니다. 그냥 MLE나 AI를 Application으로 붙이는 직무랑은 얘기가 많이 다를 것 같고 저는 이 부분을 전혀 모르기때문에 참고차 말씀드립니다.

추가적으로, 저런 종류의 포트폴리오는 기술적으로만 봤을땐 아주 최소의 기준만 만족했다고 봐야합니다. 팀에 오시면 박사님들과 의사소통 하셔야 합니다. 저런 수준의 포트폴리오는 그냥 학부생의 재롱잔치 정도이니 "내가 머리가 좀 많이 똑똑한 편인가?"를 한번 고민해보시는 것도 좋을것같습니다. 어차피 처음부터 다시 엄청 빠르게 습득하셔야 일을 할수가 있어요.

답변 정말 감사합니다. 요 근래 받았던 조언 중 가장 좋은 조언이네요..

로우레벨단에서 작업하신것같네요 MLOps나 파인튜닝 정도로 생각했는데.
시스템쪽을 다뤄야 경쟁력이 생기겠군요.

댓글 보고 좀 더 찾아봤는데, 찾아볼수록 지금까지 해 왔던 서비스개발 쪽 경험이랑은 전혀 다른 분야라고 생각되네요. 그래도 관심가는 분야니까.. 공부해서 포폴 이쁘게 만들어보겠습니다.

혹시 어쩌다가 저쪽 분야를 공부하시게 됐는지 여쭤봐도 될까요? 단순 흥미 인가요?

사실 주변 동기들 보면 웹앱개발쪽으로 커리어 잡는친구들이 50% 아무생각없는애들이 40% 정도고 나머지가 그래픽스, VR, AR, 커널 등 수학 좀 많이쓰는쪽을 선택해서요.

저는 서비스만드는거 재밌어서 개발쪽을 하게 됐는데.. 요즘은 개발하면서 맨날 AI쓰니까 동작원리가 궁금해서 조금씩 공부해보고 있습니다.

이쪽 직무에 관심과 질문이 많으신 것 같은데 온라인으로 커피챗을 할까요? 구글밋같은 걸로해서

질문에만 답변드리면
1. MLOps랑도 많이 다른 분야입니다. 스텍이 python부터 어셈블리까지 수직적으로 뚫고 들어가고, 알고리즘을 설계하고 최적화하고 성능 잴 일이 많습니다.
2. 뭐 여러가지 이유가 있었는데 한줄로 요약하면 코딩하다가 자연스럽게 더 알게됐습니다. 예를 들어서 용어가 나왔는데 검색해보니 재밌을거같아서 더 검색해봐서 새로운 분야를 알게됐다든지?

수학은 막 많이 쓰진 않고 난수생성 커널 하나짤때 르벡적분으로 기댓값 유도했다거나 아니면 Lookup table로 몇 하드웨어 사이클단위로 도는 수치적으로 근사된 커널 짤때 Talyor series(아니면 뭐 어떤거라도 polyomial로 근사시킬 수 있는것들) 적용하는 정도?

수학지식을 요구하냐 물어보면 그건 모르겠고 수학적인 사고력을 요구하냐 물어보면 그건 매우 그렇다입니다.

답이 늦어 죄송합니다..!!!!
어우 커피챗 저는 너무 좋죠

쪽지로 calendly 주소나 구글미트 + 가능하신 시간 부탁드립니다.!!