막 오른 고대역폭메모리 ‘HBM’ 경쟁...“불량률 줄여야 시장 잡는다”

D랩 겹겹이 쌓은 HBM
효자 상품이지만 불량률도 높아
D램 3사 5세대 HBM 양산시기 비슷
본딩·TSV 공정 기술력이 관건

젠슨 황 엔비디아 최고경영자(CEO)가 지난해 5월 대만 타이베이에서 열린 '컴퓨텍스 타이베이 2023 전시회'에서 자사 신제품을 소개하고 있다. 타이베이=로이터 연합뉴스

인공지능(AI) 반도체 시장을 이끄는 미국 엔비디아의 새 그래픽처리장치(GPU) 출시를 앞두고 D램 반도체 3개사의 고대역폭메모리(HBM) 경쟁이 본격 시작됐다. 이전 엔비디아의 주력 GPU인 H100에는 4세대 제품(HBM3)이 쓰였는데 SK하이닉스가 경쟁사보다 양산 시점을 9개월가량 앞서며 주도권을 가져갔다. 엔비디아가 상반기에 내놓는 H200에는 5세대(HBM3E)가 들어가고 D램 3사가 비슷한 시기에 개발에 성공하면서 HBM의 수율(收率‧생산품에서 정상 제품 비율)이 승패를 가르는 승부처로 떠올랐다.

14일 반도체 업계에 따르면 18∼21일(현지시간) 엔비디아는 미국 캘리포니아주 새너제이 SAP 센터 등에서 'AI 개발자 콘퍼런스(GTC 2024)'를 연다. 고객사에 새로운 기술을 소개하는 이 자리에서 엔비디아는 AI용 최신형 GPU H200을 선보일 것으로 예상된다. 미국 반도체 업체 마이크론은 지난달 26일 HBM3E 양산 소식을 알리며 "H200에 쓰일 것"이라고 예고했다. 이어 "GTC 2024에 참석해 AI 메모리 솔루션과 로드맵을 알리겠다"고 강조했다.

연관기사

• 삼성전자·마이크론까지 5세대 HBM 만든다...한미 AI반도체 패권 경쟁 달아오른다

마이크론의 호기에도 업계는 D램 3사의 HBM3E 양산 시점을 거의 비슷한 시기로 보고 있다. 시장조사업체 트렌드포스는 올해 2분기에 SK하이닉스와 마이크론이, 3분기에 삼성전자가 HBM3E 양산에 들어갈 거라고 전망했다.

HBM, 일반 D램 6배 가격이지만 불량률도 높아

그래픽=신동준 기자

HBM은 D램을 수직으로 쌓아 저장 용량과 속도를 획기적으로 개선한 반도체다. 단순 계산을 대규모로 처리해 답을 내는 생성형 AI 특성상 병렬 연산에 안성맞춤인 GPU가 필요한데 HBM은 연산에 필요한 각종 정보를 GPU에 보내주고 결괏값을 받아 다시 저장하는 데 특화됐다. 일반 D램과 비교해 최대 여섯 배 비싸지만 기술 난도가 높아 수율이 낮다. 일반 D램 수율은 80~90% 선인 반면 HBM 수율은 최대 60% 선으로 알려져 있다. HBM 10개를 만들면 4개는 버려야 한다는 뜻이다.

HBM 수율이 일반 D램에 비해 낮은 건 크게 두 가지 과정을 거치면서다. D램을 얇게 깎아 하나로 붙이는 과정(본딩 공정)과 이 반도체들을 하나로 연결하는 구멍을 뚫는 과정(실리콘관통전극‧TSV 공정)이다. 반도체 업계에서는 특히 겹겹이 쌓은 D램 사이에서 발생하는 열을 빠져나갈 수 있게 하는 본딩 기술력을 HBM 수율을 높이는 핵심으로 보고 있다.

SK하이닉스는 액체 접착제를 D램 사이에 넣어 굳히는 방식인 '매스 리플로우 몰디드 언더필(MR-MUF)'을 택해 발열 문제를 잡았다. 반면 삼성전자는 여러 접착제를 합친 테이프를 만들어 D램에 붙여 녹이는 '열압착 비전도성 접착 필름(NCF)'을 택했다. 반도체 업계는 HBM 본딩 방식이 두 기업의 수율을 좌우했을 것으로 본다. 13일 로이터는 여러 증권사 애널리스트를 통해 "SK하이닉스의 HBM3 수율은 60~70%, 삼성전자의 HBM3 수율은 10~20%"라고 전했다. 로이터는 이 때문에 삼성전자가 최근 SK하이닉스의 본딩 방식을 택했고 관련 장비도 주문했다고 보도했지만 삼성전자는 곧바로 "도입할 계획이 없다"고 부인했다. 이어 "HBM3 관련 안정적 수율을 확보했다"고 반박했다.

"올 연말 D램 3사 HBM 점유율 격차 줄어들 것"

삼성전자가 업계 처음 개발한 HBM3E 12H D램 제품. 삼성전자 제공

반도체 업계는 삼성전자가 HBM에 NCF 기술을 그대로 적용하고 대신 또 다른 먹거리 '차세대 서버용 D램 모듈'에 MUF 기술을 적용하는 방안을 검토하고 있다고 본다. MR-MUF 소재 업체가 한정적인 데다 삼성전자의 HBM에 맞는 최적의 소재 배합 비율과 공정 방식을 찾으려면 2, 3년은 걸릴 것이라는 게 업계 추산이다. 당장 HBM 본딩 방식을 바꾸면 지금 수율도 내기 어렵다는 말이다.

이민희 BNK투자증권 연구원은 "HBM4(6세대)부터 경쟁사의 MR-MUF 기술 도입 가능성이 있다"며 "SK하이닉스가 핵심 소재 공급선을 독점 계약했기 때문에 한동안 진입은 쉽지 않을 전망"이라고 분석했다. 삼성전자 역시 지난달 세계 최초 12단 HBM3E 개발에 성공했을 때 "어드밴스드 TC NCF 기술을 적용하면 HBM 적층수가 증가하고 칩 두께가 얇아지면서 발생할 수 있는 '휘어짐 현상'을 최소화할 수 있는 장점이 있다"며 NCF 기술을 계속할 거라고 밝혔다.

삼성전자의 HBM 수율도 이전보다 개선됐을 것으로 추정된다. 트렌드포스는 "처음 HBM3를 SK하이닉스가 독점 공급했지만 삼성전자가 최근 (엔비디아 경쟁사인) AMD의 MI300 시리즈용 검증을 받은 후 빠르게 따라잡고 있다"며 "연말까지 SK하이닉스와의 시장 점유율 격차를 크게 줄여 HBM 시장 경쟁 구도를 재편할 것"이라고 전망했다.

이윤주 기자 misslee@hankookilbo.com