[태그:] tahoe

macOS Tahoe 26.2 |||에서는 Mac 클러스터를 AI 슈퍼컴퓨터로 전환할 수 있습니다. 여러 개의 Mac Studio를 통합 컴퓨팅 시스템으로 전환할 수 있는데 개선된 Mac Pro가 필요한 사람이 어디 있겠습니까? 곧 출시될 macOS Tahoe 26.2 릴리스에서 Apple은 Thunderbolt 5를 사용하여 여러 Mac을 함께 연결할 수 있는 새로운 저지연 기능을 도입하고 있습니다. 이는 개발자와 연구자에게 대규모 로컬 모델을 실행할 수 있는 강력한 AI 슈퍼컴퓨터를 만드는 잠재적으로 유용한 방법입니다. 이를 통해 각각 최대 512GB의 통합 메모리를 실행할 수 있는 4개의 Mac Studio가 1조 매개변수 Kimi-K2-Thinking 모델을 전력 소모가 많은 GPU가 있는 PC보다 훨씬 효율적으로 실행할 수 있습니다. 이전에 Thunderbolt Mac 클러스터를 본 적이 있지만, 특히 허브가 필요한 경우(속도를 10Gb/s로 줄일 수 있는) 느린 Thunderbolt 속도로 인해 제한되었습니다. Apple의 새로운 기능을 사용하면 최대 80Gb/s의 완전한 Thunderbolt 5 연결이 가능합니다. 클러스터링 기능은 값비싼 Mac Studio에만 국한되지 않고 M4 Pro Mac mini 및 M4 Pro/Max MacBook Pro에서도 작동합니다. 개발자는 클러스터를 구축하는 데 특별한 하드웨어가 필요하지 않으며 표준 Thunderbolt 5 케이블과 호환되는 Mac만 있으면 됩니다. 데모에서 저는 4개의 Mac Studio 클러스터가 ExoLabs의 EXO 1.0 초기 버전에서 대규모 Kimi-K2-Thinking 모델을 로드하고 실행하는 것을 보았습니다. 특히, 클러스터는 500와트 미만의 전력을 사용했는데, 이는 일반적인 GPU 클러스터보다 약 10배 더 낮습니다(NVIDIA의 RTX 5090의 정격은 575W이지만 수요도 더 높아질 수 있습니다). 또한 macOS Tahoe 26.2는 Apple의 오픈 소스 MLX 프로젝트에 M5 칩의 신경 가속기에 대한 전체 액세스 권한을 부여하여 AI 추론 속도를 획기적으로 향상시킵니다. 하지만 아이러니하게도 현재 사용 가능한 유일한 M5 Mac인 14인치 MacBook Pro는 Thunderbolt 4만 지원합니다. 이는 새로운 Mac 클러스터링 기능을 활용할 수 없다는 의미입니다. Apple Silicon의 통합 메모리 및 저전력 설계 덕분에 Mac은 이미 까다로운 AI 작업에 유용한 선택이 되었습니다. 하지만 Thunderbolt 5를 통해 여러 시스템을 함께 클러스터링할 수 있는 기능은 잠재적으로 대형 모델을 작업하는 모든 사람에게 훨씬 더 매력적입니다. 물론 512GB RAM을 탑재한 Mac Studio는 저렴하지 않습니다. M3 Ultra 칩을 포함하면 9,499달러부터 시작합니다. 하지만 이는 최고급 옵션일 뿐입니다. 이미 Mac Studio, Mac mini 및 MacBook Pro를 보유하고 있는 연구실 및 회사는 이미 구입한 시스템을 클러스터링할 수 있습니다. 이 기사는 원래 Engadget(https://www.engadget.com/ai/you-can-turn-a-cluster-of-macs-into-an-ai-supercomputer-in-macos-tahoe-262-191500778.html?src=rss)에 게재되었습니다.

게시일: 게시자: 카테고리:conscious-living

macOS Tahoe 26.2 |||에서는 Mac 클러스터를 AI 슈퍼컴퓨터로 전환할 수 있습니다. 여러 개의 Mac Studio를 통합 컴퓨팅 시스템으로 전환할 수 있는데 …