A migração da IA analítica (mais tradicional) para a IA generativa dentro dos smartphones gerou um aumento do consumo de memória RAM e levou os fabricantes de dispositivos a uma encruzilhada entre:
- Colocar mais memória RAM em handsets, inclusive em smartphones mais baratos de entrada;
- Colocar pequenos pequenos modelos de linguagem (SLMs) para dar uma introdução à IA para uma população que tem smartphones mais baratos; ou
- Dividir o uso de grandes modelos de linguagens (LLMs) no dispositivo (edge) com a nuvem para fazer o uso híbrido, a hybrid AI.
Os fabricantes de chipsets podem contribuir desenvolvendo chipsets com unidades de processamento neural (NPU) mais eficientes no consumo de RAM. É o que aposta a Mediatek. Sua NPU consegue operar com 8 GB de RAM e 13 bilhões de parâmetros. Tanto que a companhia lançou SoCs preparados para os dispositivos intermediários premium (a partir de R$ 2,5 mil), não apenas os flagships (a partir de R$ 3,5 mil). Isso demonstra que o efeito waterfall (cascata, na tradução do inglês) começa a acontecer para democratizar o acesso da população à IA mais avançada.
Paralelamente, a desenvolvedora de chips está trabalhando com as empresas que oferecem LLMs e outros modelos de IA para definir o que ficará no smartphone e o que ficará na nuvem. Por exemplo, a privacidade de dados é ideal que fique no dispositivo, mas o processamento de um prompt (como geração de imagem ou vídeo) pode ir para a nuvem.
A MediaTek acredita que o primeiro passo para o avanço da inteligência artificial generativa dentro do smartphone foi dado pelos fabricantes de chips ao incluirem NPUs para processar as aplicações de IA no lugar das unidades de processamento gráfico (GPU), que até então faziam esse trabalho, mas consumiam muita energia para tal, relembra Décio Farias, gerente de desenvolvimento da Mediatek.
Preço e Brasil em IA
Samir Vani, diretor de negócios da MediaTek na América Latina (crédito: Henrique Medeiros/Mobile Time)
Em relação a um possível aumento de preço nos dispositivos pelo uso de NPU nos chipsets, Samir Vani, diretor de negócios da MediaTek na América Latina, descartou essa possibilidade. Em sua visão, o avanço dos chips é natural e segue a Lei de Moore (aumento de 100% do tamanho dos chips a cada dois anos). Além disso, o avanço e a massificação da tecnologia não deve deixar mais caros os handsets, como aconteceu no exterior.
Vani explicou que, mesmo no Brasil, os smartphones já comercializados com IA generativa não tiveram aumento de preço. Atualmente, a MediaTek tem quatro dispositivos com IA generativa embarcada no Brasil:
- Os tablets Galaxy Tab S10 e S10+, da Samsung, com o chip Dimensity 9300+;
- Os handsets Poco X6 Pro e Xiaomi 14T, com o Dimensity 8300.
No mundo, a companhia tem mais de 30 devices com SoCs aptos à IA generativa.
Imagem principal: Décio Farias, gerente de desenvolvimento da MediaTek (crédito: Henrique Medeiros/Mobile Time)
