이러한 분산 컴퓨팅 네트워크는 “AI 추론을 위한 계산이 ‘가장자리’에서 분산될 수 있고 인구 밀집 지역과 사용자에 더 가까운 작은 플랫폼에 배포되어야 한다는 점에서 의미가 있습니다.”라고 펜실베니아 대학의 컴퓨터 설계자이자 엔지니어인 Benjamin Lee는 Ars와의 통신에서 말했습니다. 그는 “수천 개의 GPU가 함께 작업해야 하는 훈련과 달리 추론에는 몇 개의 GPU가 필요하기 때문에 이 전략은 그리드에 훨씬 작은 영향을 미칠 수 있습니다”라고 말했습니다.
그러나 AI 추론 작업은 문서 질의응답, 소프트웨어 코드 생성, 다단계 대화 등 다양할 수 있으며 각각 컴퓨팅 요구 사항과 성능 기대치가 서로 다르다고 Lee는 경고했습니다. 따라서 개별 컴퓨팅 노드가 노드 간 네트워크 연결을 유지하면서 각 작업에 필요한 성능을 제공할 수 있는지 확인하는 것이 중요합니다.
Lee는 또한 전력망에 대한 부담을 줄이기 위해 데이터 센터의 크기를 “몇 개의 GPU 단위”로 축소할 필요가 있는지 의문을 제기했습니다. 그는 1기가와트 규모의 하이퍼스케일 데이터 센터 대신 기존의 20메가와트 데이터 센터를 배치하는 것도 비슷한 이점을 얻을 수 있다고 추측했습니다.
스타트업 SPAN은 2026년에 XFRA 노드를 100개 가정에 파일럿 배포한 후 2027년에 신속한 확장을 계획하고 있습니다.
스타트업 SPAN은 2026년에 XFRA 노드를 100개 가정에 파일럿 배포한 후 2027년에 신속한 확장을 계획하고 있습니다.
크레딧: SPAN
그런 다음 보안 문제가 있습니다. 교외에 분산된 XFRA 노드는 중앙 집중식 데이터 센터보다 특정 데이터 보안 위협에 더 취약해질 수 있습니다. “많은 부채널 공격에는 데이터 센터가 방어할 수 있는 시스템에 대한 물리적 근접성이 필요합니다.”라고 Lee는 말했습니다. “개별 가정에 분산된 GPU는 보호하기가 훨씬 더 어렵습니다.”
도둑들은 Nvidia GPU가 각각 약 10,000달러에 판매될 수 있다는 점을 고려하면 집과 함께 XFRA 노드를 유혹적인 목표로 볼 수도 있습니다. Reddit의 여러 댓글 스레드는 이미 이러한 가능성에 대해 추측했으며 일부 댓글 작성자는 거주자로서 이러한 컴퓨팅 리소스를 확보하고 싶은 유혹을 느낄 것이라고 제안했습니다. “물론 도난으로 인해 실제 하드웨어 자체를 잃어버릴 위험이 있습니다.”라고 이씨는 말했습니다.
SPAN의 파일럿 배포 단계에서 잠재적인 이점과 합병증이 더욱 분명해집니다. 그러나 현재 실리콘 밸리가 궤도 데이터 센터와 해상 AI 데이터 센터로 떠들썩한 이때, 교외에 내장된 데이터 센터 노드는 적어도 주택 소유자 협회가 이에 대해 파악하기 전까지는 더욱 견고한 기반을 마련할 수 있습니다.
관련 정보는 아래 링크에서 확인하세요
