“반도체 강국 되찾자”···일본 후지쯔, 고성능 CPU 개발

한때 일본은 메모리 반도체 분야에서 세계 1위였으나 후발 주자인 한국에 그 자리를 내주고 현재는 반도체 산업의 변방 국가로 전락했습니다. 하지만 다시 한번 예전의 영광을 찾기 위해 일본 정부와 기업이 노력하면서 일본에 반도체 르네상스의 바람이 불고 있습니다.

그 첫 주자는 올해 가동을 시작한 TSMC의 구마모토 1공장입니다. TSMC 구마모토 1공장은 클린룸 4만 5000㎡ 규모로, 월 생산 능력은 12~28나노미터(㎚) 공정 웨이퍼 5만 5000장 수준입니다. 최신 공정은 아니지만, 기존 일본 내 최신 미세 공정이 40nm에 불과했던 것을 생각하면 상당한 진전입니다. 2027년 가동을 목표로 한 구마모토 2공장은 이보다 더 앞선 미세 공정을 적용합니다.

일본 내 팹리스 기업들의 행보도 빨라지고 있습니다. 한때 일본 반도체 업계는 CPU는 물론 콘솔 게임기에 들어가는 그래픽 칩까지 자체 개발한 적이 있었으나 이제는 거의 모든 것을 수입에 의존하고 있습니다. 예외가 있다면 종종 세계 1위를 차지하곤 하는 슈퍼컴퓨터입니다.

일본 IT 기업 중 하나인 후지쯔는 일본 정부의 지원을 받아 자체 CPU 기반 슈퍼컴퓨터를 개발해왔습니다. 가장 최근에 선보인 것은 2020년 선보인 후카쿠로 ARMv8.2-A 아키텍처 기반의 52코어 CPU인 A64FX를 사용했습니다. 후카쿠는 미국의 프런티어 같은 엑사스케일 컴퓨터가 등장하기 전까지 세계 1위 슈퍼컴퓨터 자리를 차지했습니다.



사실 당시에도 후지쯔는 일본 정부의 지원을 받아 개발한 A64FX CPU 탑재 서버를 시장에 출시했습니다. 하지만 범용 서버보단 연산에 특화된 제품으로 시장에서 수요는 미미했습니다. 이후 후지쯔는 보다 일반적인 용도로 사용할 수 있는 고성능 CPU인 모나카(Monaka) 개발에 나섰습니다.

모나카는 TSMC의 최신 2nm 공정을 사용하는 고성능 Arm 아키텍처 기반 프로세서로 최근 첫 샘플을 인도 받았으며 2026-20027년 출시를 목표로 개발이 진행 중입니다. 개발 파트너로 협업하고 있는 브로드컴에 따르면 이 프로세서는 4개의 컴퓨트 칩렛과 한 개의 I/O 칩렛을 이용한 프로세서입니다.

최근 추가적으로 공개된 내용에 따르면 각각의 컴퓨트 칩렛은 36개의 코어를 탑재하고 있어 모나카의 총 코어 숫자는 144개입니다. 한 가지 더 흥미로운 사실은 TSMC의 5nm 공정으로 만든 SRAM을 각 컴퓨트 칩렛에 탑재한다는 것입니다. 이는 AMD의 3D V 캐시와 동일한 방식으로 보입니다.

AMD는 게임 성능을 높이기 위해 3D V 캐시라는 별도의 메모리를 컴퓨트 칩렛에 붙인 X3D 제품군을 지니고 있습니다. 여기에 더해 서버 부분에서도 12개의 칩렛 위에 64MB L3 캐시를 올려 총 1.1GB의 캐시 메모리를 지닌 제노아-X 에픽 9004 CPU를 출시했습니다.

따라서 서버 CPU 중 최초는 아니지만, 모나카가 예정대로 출시되면 Arm 서버 프로세서 중 처음으로 3D 캐시를 탑재한 CPU가 될 것으로 보입니다. 구체적인 용량은 밝히지 않았으나 I/O 칩렛까지 합쳐 여러 개의 작은 반도체 칩이 모여 하나의 거대한 칩을 만드는 방식이 될 것으로 보입니다.

후지쯔는 모나카에 적용된 이런 3차원 패키징 기술을 3.5D eXtreme Dimension System이라고 명명했는데, 기본적으로 TSMC의 CoWoS system-in-package (SiP) 기술을 사용한 것으로 보입니다.

다만 모나카는 넓은 대역폭을 제공하는 HBM 대신 일반적으로 사용하는 DDR5 메모리를 사용합니다. 대신 MR/MCR - DIMM 같은 새로운 규격으로 대역폭을 넓히고 CXL 3.0 지원으로 용량을 더 크게 늘릴 수 있습니다.

하지만 여러 신기술에도 불구하고 모나카의 미래가 반드시 희망적이라고 하긴 어렵습니다. 2-3년 후가 되면 인텔과 AMD 모두 더 강력한 신형 프로세서를 출시할 것이기 때문입니다. 후지쯔는 전력 대 성능비로 이들과의 경쟁에서 이기겠다는 복안이지만, 기술적으로 확실한 우위를 차지한 적은 없기 일본 정부에서 발주하는 슈퍼컴퓨터 이외에 이를 사용할 회사가 많을지는 다소 의문입니다.

그러나 세계에서 이런 복잡한 고성능 프로세서를 설계하고 개발할 수 있는 국가가 몇 안 되는 게 사실이고 일본이 그중 하나이기 때문에 일본 정부가 후지쯔가 개발하는 고성능 프로세서를 쉽게 포기하지는 않을 것으로 보입니다. 만약 서버 시장에서 모나카가 약간이라도 성공한다면 반도체 르네상스를 꿈꾸는 일본에 큰 희망이 될 것으로 보입니다.

고든 정 과학 칼럼니스트 jjy0501@naver.com