JS 이야기/Open AI

AI, 토치TPU 토치뉴런 공개, 엔비디아 CUDA 해자는 흔들릴까

JS JEON 2026. 10. 22. 01:51

 

 

안녕하세요, JS입니다.

 

파이토치 컨퍼런스 2026이 열린 새너제이에서 구글의 토치TPU와 아마존의 토치뉴런이 나란히 주목받았습니다.

엔비디아 GPU에 맞춰 만든 AI 코드를 다른 칩으로 옮기는 문턱을 낮추겠다는 도구입니다.

"코드 몇 줄만 바꾸면 된다"는 말이 얼마나 사실에 가까운지, 엔비디아의 소프트웨어 해자에 어떤 의미인지 정리했습니다.

 

이 글은 제가 직접 열어 확인한 기사와 공식 게시물만 근거로 썼습니다.

열람이 안 되는 자료는 인용하지 않았고, 회사 측 주장은 주장으로 표시했습니다.

제 해석은 따로 구분했습니다.

 

이 글은 투자 권유가 아니며 특정 종목의 매수·매도를 권하지 않습니다.

✅ 핵심 요약 먼저 짚고 가겠습니다

  • 토치뉴런(아마존) : 아마존이 10월 19일 발표하고 20일 파이토치 컨퍼런스에서 오픈소스 공개. 트레이니엄2·3용 파이토치 백엔드, 아파치 2.0 라이선스
  • 토치TPU(구글) : 구글이 메타와 협력해 개발한 TPU용 파이토치 백엔드. 20~21일 컨퍼런스 세션에서 소개. 단, 처음 알려진 것은 지난해 12월 로이터 보도
  • "98% 호환, 몇 분~며칠" : 한국 매체 디일렉이 전한 구글 측 수치. 제가 연 공식 게시물에서는 확인하지 못함
  • 한계 : 토치뉴런 첫 버전은 동적 입력 크기 등 일부 기능이 빠져 있고, 약 2만 2,000개 테스트를 건너뛴 것으로 전해짐
  • 제 해석 : 이전부터 TPU에서 파이토치를 돌릴 방법이 있었던 만큼, 이번 소식은 "불가능에서 가능으로"보다 "번거로움을 줄이는 것"에 가깝습니다

1. 먼저 배경: 파이토치와 CUDA

파이토치는 2016년 메타의 AI 연구조직 FAIR가 중심이 되어 개발한 오픈소스 AI 프레임워크입니다. 디일렉은 전 세계 AI 개발자의 약 85%가 사용한다고 전했는데, 이 수치의 원천은 확인하지 못했고 보도 인용으로만 적습니다.

문제는 파이토치가 오랫동안 엔비디아의 CUDA 위에서 가장 잘 돌아가도록 발전해 왔다는 점입니다. 개발자가 AI 앱을 엔비디아 GPU용으로 만들면 다른 칩으로 옮기기 어렵고, 그 때문에 CUDA가 엔비디아의 "소프트웨어 해자"로 불려 왔습니다. 로이터 보도를 인용한 TechInformed 기사도 파이토치의 역사가 CUDA와 밀접하고, 엔비디아 엔지니어들이 엔비디아 칩에서 효율적으로 돌아가도록 도왔다고 전했습니다.

2. 토치뉴런: 아마존이 밝힌 것

아마존 발표와 TNW 보도로 확인되는 내용은 다음과 같습니다.

항목 내용

발표 10월 19일 발표, 10월 20일 파이토치 컨퍼런스 북미 행사에서 공개
대상 칩 트레이니엄2, 트레이니엄3
방식 파이토치가 새 하드웨어를 붙이도록 제공하는 기본 기능을 이용한 네이티브 백엔드
코드 변경 장치 설정만 바꾸면 된다고 설명
라이선스 아파치 2.0
초기 사용처 Cartesia, Deepgram, Lieber Institute for Brain Development 등. 허깅페이스도 트레이니엄을 지원

여기서 확인 수준이 갈리는 부분이 있습니다.

  • 디일렉은 "cuda를 neuron으로 몇 줄만 바꾸면 된다"고 적었습니다. TNW는 "장치 설정 하나를 바꾼다"고만 적고 구체적인 문자열 대응은 설명하지 않았습니다.
  • 깃허브 공개와 퍼블릭 베타라는 표현은 디일렉과 TNW(베타)에 있었고, 아마존 공식 글에는 베타인지 정식인지가 적혀 있지 않았습니다.
  • 아마존은 파이토치 본체에 코드를 기여해 특정 칩에 묶인 코드를 줄이고 있다고 밝혔습니다. 이 부분은 아마존 공식 글에서 확인했습니다.

TNW가 전한 한계도 중요합니다. 첫 버전에는 동적 입력 크기 같은 일부 파이토치 기능이 지원되지 않고, 파이토치 블로그에 따르면 약 2만 2,000개 테스트가 건너뛰어졌습니다. 또 같은 학습 속도를 냈다는 시연은 아마존이 보여준 것이고 독립 검증은 아닙니다.

3. 토치TPU: 이번에 처음 나온 게 아니다

토치TPU는 이번 컨퍼런스가 처음이 아닙니다. 제가 확인한 타임라인은 이렇습니다.

시기 내용 출처

2025년 12월 17~18일 구글이 파이토치를 TPU에서 매끄럽게 돌리기 위한 내부 프로젝트 "토치TPU"를 추진 중이며 메타와 긴밀히 협력, 일부 오픈소스화 검토 로이터 인용(TechInformed)
2026년 9월 4일 파이토치 공식 블로그가 컨퍼런스 일정을 소개하며 오픈소스 백엔드 torch_tpu 언급 pytorch.org
2026년 10월 20~21일 구글·메타 발표자들의 데모와 세션 진행 pytorch.org
2026년 10월 21일 디일렉이 "98% 이상 호환, 몇 분~며칠" 보도 디일렉

파이토치 공식 게시물은 SGLang과 vLLM 같은 추론 엔진이 기존 구조를 유지한 채 TPU에서 "최소한의 코드 변경"으로 돌아간다고 소개했습니다. 하지만 98%라는 호환율이나 "몇 분에서 며칠"이라는 수치는 이 게시물에 없었습니다. 그래서 이 수치는 "디일렉이 전한 구글 측 발표"로만 읽겠습니다.

또 이 글을 쓰며 확인한 TechInformed 기사에 따르면 파이토치는 이미 PyTorch/XLA를 통해 TPU에서 돌릴 수 있었고, 공식 문서도 "최소한의 변경"이면 된다고 설명한다고 합니다. 다만 이전 시도들은 상당한 추가 엔지니어링이 필요했다는 것이 로이터 보도였습니다. 토치TPU의 목표는 그 간극을 줄이는 것으로 읽힙니다.

4. "코드 몇 줄"이 의미하는 것과 한계

여기서부터는 제 해석입니다.

① 줄어드는 것은 이식 비용입니다 디일렉은 기존에 엔비디아용으로 만든 앱을 다른 칩으로 옮기는 데 며칠에서 수개월이 걸렸다고 전했습니다. 이 시간이 몇 분~며칠로 줄어든다는 것이 구글의 주장이고, 아마존도 "몇 달 걸리던 재작성이 필요 없다"고 설명합니다. 두 회사 모두 자사 주장이므로 실제 현장에서 모델별로 확인된 결과는 아직 없습니다.

② 옮길 수 있는 것과 같은 성능이 나오는 것은 다른 문제입니다 코드가 돌아가는 것과 같은 속도, 같은 비용으로 돌아가는 것은 별개입니다. 디일렉도 모델별 호환성과 성능·비용 검증에는 시간이 더 필요하다고 전망했습니다.

③ 호환성의 빈 곳이 있습니다 토치뉴런은 동적 입력 크기 같은 기능이 빠져 있다고 전해졌습니다. 이런 기능에 의존하는 모델은 쉽게 옮기기 어려울 수 있습니다.

④ 엔비디아의 강점은 파이토치 한 층만이 아닙니다 일반적으로 엔비디아의 강점은 칩 성능, 라이브러리, 통신 기술, 개발자 습관, 공급 능력 등 여러 층에 걸쳐 있다고 알려져 있습니다. 이번 도구들이 건드리는 것은 그중 파이토치와 칩을 잇는 층입니다. 이것이 해자 전체의 붕괴를 뜻하는지는 지금 자료로는 판단할 수 없습니다.

5. 시장 반응은 어땠나

뉴데일리에 따르면 10월 20일(현지) 미국 장에서 엔비디아는 −0.29%, AMD는 −0.62%로 초반 하락 후 대체로 보합권이었습니다. 메타는 −1.63%, 알파벳은 −1.11%였습니다. 다만 이 움직임이 토치TPU·토치뉴런 때문이라는 근거는 확인하지 못했습니다. 같은 날 시장은 AI 투자 부담과 유가 우려로 약했다고 설명됩니다. 하루치 등락을 이 소식과 연결하는 것은 무리입니다.

6. 확인하지 못한 것들

  • 98% 호환, 몇 분~며칠 수치의 원천 : 디일렉 보도 외 확인하지 못했습니다.
  • 파이토치 개발자 85% 사용 수치의 원천
  • 토치뉴런의 GA 여부와 정확한 베타 상태 : 매체마다 표현이 다릅니다.
  • 토치TPU의 지원 범위와 한계 : 공식 게시물에 상세 호환 목록이 없었습니다.
  • 실제 성능·비용 비교 : 독립 검증 결과를 보지 못했습니다.
  • 엔비디아의 공식 대응
  • 메타의 토치뉴런 참여 여부 : 제가 확인한 범위에서 메타는 토치TPU 협력사로만 확인됩니다.

7. 해자가 마르는 게 아니라 얕아지는 중일 수 있다

여기서부터는 제 개인 의견이고, 직접 경험한 내용이 아니라 자료를 읽고 정리한 분석입니다.

① "3사 동시 공세"라는 표현은 조심해야 합니다 구글과 아마존이 같은 날 도구를 내놓은 것은 맞습니다. 하지만 제가 확인한 범위에서 메타는 토치TPU 협력과 파이토치 후원자라는 위치에 있고, 토치뉴런은 아마존 단독입니다. 세 회사가 한 작전을 짜서 움직였다고 읽을 근거는 없습니다.

② 이식이 쉬워지면 협상력이 달라집니다 큰 고객이 "필요하면 다른 칩으로 옮길 수 있다"는 선택지를 갖게 되면, 가격이나 공급 협상에서 입장이 달라질 수 있습니다. 실제로 옮기지 않아도 선택지가 있다는 것만으로 효과가 있다는 해석입니다. 이는 제 추론이고, 이번 기사들에 이런 분석은 없었습니다.

③ 검증 전에는 속도를 조절해서 읽어야 합니다 회사 발표, 시연, 한국 매체 요약이 겹치면 확정된 성과처럼 보입니다. 하지만 현재 확인되는 것은 "도구가 공개됐다"까지이고, "엔비디아 독주가 끝났다"는 아닙니다.

④ 투자 판단과는 거리를 두세요 이 글은 기술 보도를 정리한 것이며 투자 권유가 아닙니다. 소프트웨어 이식 도구가 특정 기업의 실적에 미치는 영향은 이 자료로 계산할 수 없습니다.

8. ❓ 자주 묻는 질문

Q. 토치TPU와 토치뉴런은 같은 건가요? 아닙니다. 토치TPU는 구글 TPU용, 토치뉴런은 아마존 트레이니엄용 파이토치 백엔드입니다.

Q. 코드를 정말 한 줄만 바꾸면 되나요? 회사들은 장치 설정 변경 정도로 설명합니다. 하지만 일부 기능이 지원되지 않을 수 있어 모든 모델에서 그렇다고 단정할 수는 없습니다.

Q. 토치TPU는 이번에 처음 나온 건가요? 아닙니다. 지난해 12월 로이터 보도로 추진 사실이 알려졌고, 9월 파이토치 게시물에도 언급됐습니다.

Q. CUDA 독점이 끝난 건가요? 확인된 근거가 없습니다. 이식 문턱이 낮아질 수 있다는 단계의 소식입니다.

Q. 이 소식 때문에 엔비디아 주가가 떨어졌나요? 그렇게 볼 근거는 확인하지 못했습니다.

Q. 이 글을 보고 주식을 사도 되나요? 이 글은 투자 권유가 아닙니다. 본인의 판단과 최신 공시를 따르세요.

정리하면 아마존은 트레이니엄용 토치뉴런을 아파치 2.0 라이선스로 공개했고, 구글은 메타와 협력한 토치TPU를 컨퍼런스에서 소개했습니다.

이식 문턱을 낮추려는 방향은 분명하지만 98% 호환과 몇 분~며칠이라는 수치는 구글 측 주장이고, 토치뉴런 첫 버전에는 빠진 기능도 있습니다.

성능과 비용의 독립 검증이 나올 때까지는 소프트웨어 해자가 무너졌다는 결론보다 진행 중인 변화로 읽으시길 권합니다.

이 글이 도움이 되셨다면 AI 반도체에 관심 있는 분께 공유해 주세요.

정정할 내용이 있으면 댓글로 알려 주시면 확인해서 반영하겠습니다.

오늘도 끝까지 읽어주셔서 감사합니다.

📌 참고 링크 모음

반응형
저작자표시 비영리 변경금지 (새창열림)