Apple põe 512 GB no Mac Studio para rodar LLMs de centenas de bilhões de parâmetros sem nuvem

Novo Mac Studio chega a 512 GB de memória unificada e pode rodar LLMs de centenas de bilhões de parâmetros localmente; veja preços e disponibilidade

A Apple apresentou o novo Mac Studio com M5 Max e M5 Ultra, e a configuração mais avançada chega a 512 GB de memória unificada.

Segundo a empresa, esse volume permite executar localmente LLMs com centenas de bilhões de parâmetros, sem depender da nuvem para a inferência do modelo.

A mudança mira pesquisadores, desenvolvedores e profissionais que trabalham com IA pesada.

Na prática, o computador passa a comportar modelos que antes exigiam servidores com muita memória ou infraestrutura remota, embora o resultado ainda dependa do modelo, da quantização e do software usado.

O que significam 512 GB de memória no Mac Studio?

Os 512 GB não são espaço de armazenamento do SSD. Trata-se de memória unificada, compartilhada entre CPU, GPU e outros componentes do Apple silicon.

Isso evita cópias constantes de dados entre memórias separadas e ajuda quando um modelo ocupa centenas de gigabytes.

No M5 Ultra, a Apple informa largura de banda de memória de 1,2 TB/s, 50% superior à geração M3 Ultra.

Para IA generativa, capacidade e largura de banda importam porque os pesos do modelo, o contexto e dados temporários precisam permanecer acessíveis durante o processamento.

Um LLM com centenas de bilhões de parâmetros não usa sempre a mesma quantidade de memória.

O consumo muda conforme precisão numérica, quantização, tamanho do contexto e arquitetura.

Portanto, os 512 GB ampliam muito o teto do que cabe no aparelho, mas não significam compatibilidade automática com qualquer modelo disponível.

Mac Studio com M5 Max

Imagem: Divulgação/Apple – Edição/BitMag

Por que rodar um LLM localmente pode ser interessante?

Executar um modelo no próprio computador reduz a necessidade de enviar dados para servidores externos.

Isso pode ser útil em projetos com informações sensíveis, testes internos, pesquisa e fluxos nos quais privacidade, latência ou custo de nuvem pesam na decisão.

A Apple cita o LM Studio Bionic como exemplo de ferramenta capaz de explorar modelos locais e também demonstra o Mac Studio em fluxos com MATLAB.

A máquina ainda pode executar geração de imagens no aparelho em aplicativos compatíveis.

Isso não quer dizer que todo uso seja totalmente offline. Um aplicativo pode continuar acessando a internet para baixar modelos, sincronizar arquivos ou usar outros serviços.

O ponto é que a execução do LLM pode acontecer localmente quando o software e o modelo suportam esse modo.

O que mais o M5 Ultra oferece para IA?

O M5 Ultra traz GPU de até 80 núcleos com Neural Accelerators e Neural Engine de 32 núcleos.

A Apple também destaca ganhos de desempenho em IA e maior largura de banda, mas a diferença real varia bastante conforme o aplicativo e a configuração comparada.

Para o usuário comum, 512 GB está muito além do necessário. O foco dessa configuração é um grupo profissional que precisa manter modelos e conjuntos de dados muito grandes na memória e quer fazer isso em uma estação compacta.

Quanto custa e quando chega ao Brasil?

No Brasil, o Mac Studio com M5 Max parte de R$ 30.999, enquanto a versão com M5 Ultra começa em R$ 69.999. As primeiras unidades começam a ser entregues em 22 de setembro.

A configuração com 512 GB de memória unificada terá disponibilidade apenas no fim de outubro.

Portanto, quem procura especificamente a máquina capaz de acomodar os maiores LLMs locais terá de esperar um pouco mais do que os compradores das configurações iniciais.

O que você achou? Siga @bitmagazineoficial no Instagram para ver mais e deixar seu comentário clicando aqui

Jogos recomendados

Moyses Batista
Escrito por

Moyses Batista