isto é muito fixe. o gajo treinou um modelo de IA no seu MacBook hackeando o chip M4 da Apple.


- ele hackeou o acelerador de inferência da Apple (encontrado no chip m4) que o transformou numa mini transformer.
- 80X mais eficiente do que as GPUs Nvidia A100
- custo = eletricidade para carregar o MacBook vs. alugar GPUs para $10Ks
- pode ser usado para treinar, ajustar e executar modelos localmente
o meu único comentário é que provavelmente é muito lento, mas mesmo assim é muito fixe - podes imaginar chips futuros (m6/7) que podem treinar muito mais rápido.
Ver original
Esta página pode conter conteúdo de terceiros, que é fornecido apenas para fins informativos (não para representações/garantias) e não deve ser considerada como um endosso de suas opiniões pela Gate nem como aconselhamento financeiro ou profissional. Consulte a Isenção de responsabilidade para obter detalhes.
  • Recompensa
  • Comentário
  • Repostar
  • Compartilhar
Comentário
0/400
Sem comentários
  • Marcar