아마존이 파이토치 코드를 자사 AI 칩 트레이니움에서 거의 수정 없이 실행할 수 있도록 지원하는 오픈소스 소프트웨어 '토치뉴런'을 공개했습니다. 아파치 2.0 라이선스 기반으로 제공되며, 기존 개발 환경을 유지하면서 다양한 하드웨어를 선택할 수 있도록 돕습니다.
토치뉴런이 뭐고, 왜 나왔나
토치뉴런은 파이토치로 작성한 AI 코드를 트레이니움 칩에서 실행하게 해주는 소프트웨어입니다. 핵심은 설정을 한 번 변경하는 것만으로 하드웨어를 전환할 수 있다는 점입니다. 기존에는 엔비디아 GPU에 맞춰 작성한 코드를 다른 업체 칩에서 실행하려면 상당한 코드 수정과 검증 작업을 거쳐야 했습니다.
개발자들이 새로운 하드웨어를 도입할 때마다 많은 개발 인력과 시간을 들여야 했던 만큼, 비용 부담이 컸습니다. 엔비디아는 자체 소프트웨어 플랫폼 '쿠다'를 통해 이 문제를 자신의 GPU에 유리하게 만들었고, 이것이 강력한 시장 지배력으로 작용했습니다. 토치뉴런은 이러한 구조를 바꾸겠다는 아마존의 전략입니다.
현재 AI 개발에서 파이토치가 얼마나 쓰이나
아마존이 밝힌 통계에 따르면 현재 AI 연구자와 개발자의 약 85%가 파이토치를 사용합니다. 파이토치는 무료 오픈소스 툴킷으로, 개발자가 AI 모델을 구축하고 학습시키고 실행하는 데 널리 쓰입니다. 페이스북이 원래 개발했으며, 2022년부터는 리눅스 재단이 관리하고 있습니다.
개발자들이 광범위하게 사용하는 이 플랫폼에서 트레이니움 칩을 쉽게 실행할 수 있다는 것은, 아마존 AI 칩의 접근성을 크게 높인다는 의미입니다. 이미 파이토치를 아는 개발자는 추가 학습 없이 토치뉴런을 사용할 수 있습니다.
토치뉴런으로 뭐가 달라지나
기존 파이토치 개발 도구를 트레이니움에서 그대로 쓸 수 있습니다. 별도의 새로운 도구를 배울 필요가 없다는 뜻입니다. 토치뉴런은 트레이니움2, 트레이니움3을 지원하며, 분산 학습 및 추론 최적화 기능도 함께 연동됩니다.
아마존은 학습과 추론을 하나의 플랫폼에서 처리해 하드웨어 효율과 작업 경제성을 높일 수 있다고 강조했습니다. AWS 클라우드 인프라와의 연계도 중요한 차별점입니다. 스타트업은 프로토타입 개발부터 서비스 확장까지 동일한 환경을 유지하면서 컴퓨팅 인프라 조합의 부담을 덜 수 있습니다.
실제 사용 사례는 어떻게 되나
토치뉴런의 초기 도입 기업은 음성 AI부터 로봇, 신약 개발까지 다양합니다. 이미 30곳 이상의 고객이 이를 활용하고 있습니다. 음성 AI 기업 딥그램은 트레이니움으로 전환한 뒤 달러당 처리하는 음성 데이터양을 70% 늘렸습니다.
아마존은 수십만 개 모델을 테스트해 품질을 확보하는 한편, AI 개발 도구 전반과의 연동을 넓혀가고 있습니다.
설정을 한 줄만 바꾸는 게 구체적으로 뭔가
파이토치로 작성한 코드는 기본적으로 설정 부분에만 변경이 필요합니다. 코드 로직 자체를 다시 쓸 필요가 없다는 의미입니다. 아마존의 설명에 따르면 한 줄의 설정 변경만으로 하드웨어를 전환할 수 있습니다.
이 접근 방식은 AMD GPU나 애플(Apple) 칩으로도 포팅할 수 있는 기존 방식과 유사합니다. 다만 아마존은 이것이 단순히 쉬운 것뿐 아니라, 스타트업이 AWS 클라우드 전체에 접근할 수 있다는 추가 가치가 있다고 주장합니다.
엔비디아의 쿠다와 어떻게 다른가
엔비디아의 쿠다는 파이토치 기반 AI 애플리케이션이 엔비디아 GPU에서 효율적으로 작동하도록 설계됐습니다. 수년간 엔비디아가 투자한 결과, 쿠다는 파이토치와 깊숙이 통합되어 개발자들이 엔비디아 하드웨어를 기본 선택지로 삼게 하는 핵심 요소가 되었습니다.
토치뉴런은 이 구조를 깨뜨리려는 의도입니다. 개발자가 특정 칩에 종속되지 않고 기존 개발 환경을 유지하면서 다양한 하드웨어를 선택할 수 있도록 지원합니다. 아마존 안나푸르나랩스의 소프트웨어 부문 부사장 콜린 브레이스는 고객이 이미 사용하고 있는 환경에서 출발할 수 있도록 하는 것이 목표였다고 설명했습니다.
토치뉴런을 쓸 때 주의할 점은
호환성과 실제 비용 절감 효과는 다양한 환경에서 검증이 필요한 상태입니다. 아마존은 수십만 개 모델 테스트로 품질을 확보하고 있지만, 모든 사용 사례에서 같은 수준의 성능과 비용 절감이 보장되는 것은 아닐 수 있습니다.
또한 아마존은 단순히 자체 칩 지원을 넘어 특정 하드웨어에 종속된 파이토치 코드를 제거하는 업스트림 기여도 추진하고 있습니다. 이는 장기적으로 개발자의 선택권을 넓히려는 전략으로 해석됩니다.
AWS 클라우드 외에 다른 곳에서도 쓸 수 있나
토치뉴런은 트레이니움 칩에서 실행하는 것이 기본이며, 아마존이 강조하는 가치는 AWS 클라우드 인프라와의 통합입니다. 프로토타입부터 프로덕션까지 동일한 환경에서 작업할 수 있다는 점이 경쟁 이점으로 제시되고 있습니다.
다만 토치뉴런 자체는 오픈소스이므로 기술적으로는 다른 환경에서의 사용도 가능할 수 있습니다. 다만 아마존의 주요 메시지는 AWS 클라우드와의 완전한 통합을 통해 스타트업이 단일 제공업체(예: 엔비디아 전용 클라우드)에 의존하지 않을 수 있다는 점입니다.
자주 묻는 질문
파이토치 코드를 정말 한 줄만 바꾸면 되나요?
네, 아마존의 설명에 따르면 설정을 한 번 변경하는 것만으로 하드웨어를 전환할 수 있습니다. 코드 로직 자체를 다시 쓸 필요가 없습니다. 다만 최적 성능을 위해서는 추가 튜닝이 필요할 수 있습니다.
지금 바로 사용할 수 있나요?
토치뉴런은 아파치 2.0 라이선스 기반의 오픈소스로 공개되었습니다. 다만 실제 프로덕션 환경에서의 사용을 계획한다면 아마존의 지원과 호환성 검증 상황을 확인하는 것이 좋습니다.
엔비디아 GPU 대신 트레이니움을 쓰면 정말 더 싼가요?
아마존은 학습과 추론을 하나의 칩에서 처리하고 AWS 인프라와 통합되어 있어 비용 효율이 높다고 주장합니다. 음성 AI 기업 딥그램은 전환 후 달러당 처리 용량을 70% 늘렸습니다. 다만 개별 프로젝트에 따라 실제 절감 효과는 다를 수 있습니다.
댓글 쓰기