Qualcomm diz que developers querem modelos de 100 mil milhões de parâmetros

O CEO da Qualcomm, Cristiano Amon, afirmou que alguns dos maiores developers de IA do mundo estão a pedir que, até 2028, os telemóveis consigam correr modelos com pelo menos 100 mil milhões de parâmetros, mais de três vezes o limite dos chips topo de gama atuais. Amon sublinhou que isto é um pedido de clientes, não um anúncio de produto, e não revelou que empresas fizeram a exigência. 

- Advertisement -

As declarações foram feitas no podcast Sources, de Alex Heath, gravado no Snapdragon Summit no Havai. Segundo Amon, algumas das empresas na linha da frente da IA estão a dizer à Qualcomm que em 2028 a Qualcomm precisa garantir que consigue correr um modelo de pelo menos 100 mil milhões de parâmetros num telefone. 

E acrescentou que estas empresas querem modelos sempre ativos no dispositivo, não apenas ligados para tarefas pontuais. Amon descreve um futuro em que: 

  • a IA deixa de ser um chatbot separado 
  • passa a estar embutida no sistema operativo 
  • e age como um agente pessoal que opera continuamente 

O CEO argumenta que os telemóveis têm contexto pessoal, dados de apps e sensores, tornando a IA local mais útil e mais privada. 

Qualcomm no centro da transformação dos telemóveis 

Amon afirmou que a Qualcomm já está a desenhar chips para: 

- Advertisement -
  • manter o telefone ativo mesmo sem interação 
  • garantir autonomia para um dia inteiro 
  • e suportar IA intensiva na edge 

Os novos Snapdragon 8 Elite Gen 6 e 8 Elite Extreme Gen 6, fabricados em processo de 2 nm, já conseguem correr modelos mixture‑of‑experts acima de 30B no dispositivo, com janelas de contexto de 32.000 tokens. Mas analistas dizem que o grande bloqueio é a memória: 

  • um modelo de 100B parâmetros, comprimido a 4 bits, precisaria de ~50 GB de RAM 
  • antes de contar com o sistema operativo e apps 

Finalmente, Amon chamou a escassez de memória nos smartphones uma “restrição temporária”, que vai empurrar a indústria para designs mais eficientes. Isto é, declarações que se alinham com o trabalho da Qualcomm em dispositivos de IA para além dos smartphones, e que continuará a trabalhar no futuro ainda que com algumas restrições.

Fica ainda mais conectado:

Fonte

- Pub -
João Paulo
João Paulo
Aprendiz de código, com gosto por artes marciais e tecnologia. Encontro na tecnologia o espaço onde posso encontrar ferramentas que me ajudam no dia a dia e a ligar-me a quem preciso.