A Alibaba está apostando em inteligência artificial mais compacta. A empresa chinesa lançou os modelos Qwen 3.5 Small, sistemas de IA projetados para rodar de forma eficiente em dispositivos de borda, como celulares e notebooks mais antigos.
A ideia é levar o poder da IA para o dia a dia, sem depender de uma conexão constante com a nuvem, prometendo mais privacidade e segurança aos usuários. Além disso, a proposta inclui redução da latência e do consumo de energia.
IA no bolso: modelos compactos e poderosos
Os Qwen 3.5 Small chegam em duas versões: uma com 0.8 bilhão e outra com 2 bilhões de parâmetros. Essa compactação é o segredo para o desempenho em hardware limitado, mas sem sacrificar a capacidade. Prova disso é a janela de contexto de 262.000 tokens, o equivalente a cerca de 2.000 páginas de texto, superando modelos maiores no mercado.
Segundo testes de benchmark, o Qwen 2B se saiu melhor que o GPT-3.5 Turbo e o Mixtral 8x7B em tarefas de raciocínio crítico e compreensão. Ele se destaca em programação, matemática e lógica. Em alguns cenários, a Alibaba afirma que o modelo chegou a se igualar ao GPT-4 Turbo e Claude 3 Opus.
Com essa abordagem, as possibilidades de aplicação são amplas. Em smartphones, a IA pode aprimorar assistentes e processamento local. Dispositivos inteligentes, como câmeras de segurança e wearables, ganhariam inteligência sem depender da nuvem. Até notebooks mais antigos podem ter uma nova vida com capacidades de IA avançadas. A iniciativa da Alibaba demonstra que a IA pode ser potente e acessível, indo além dos grandes data centers.