Executar modelos de linguagem de grande porte (LLMs) localmente no seu telefone Android significa que você pode acessar esses modelos de IA sem depender de servidores em nuvem ou de uma conexão com a Internet . Essa configuração local garante privacidade, mantendo seus dados seguros e no dispositivo. Com os avanços no hardware móvel, executar modelos de IA localmente se tornou uma realidade. O aplicativo MLC Chat facilita a experiência dessa poderosa tecnologia diretamente no seu telefone.
Este artigo explicará a importância de executar o LLM localmente em telefones Android e fornecerá instruções passo a passo para instalá-los e executá-los usando o aplicativo MLC Chat.
Por que executar o LLM em um telefone Android?
Os LLMs geralmente são executados em servidores em nuvem, pois exigem poder de computação significativo. Embora os telefones Android tenham certas limitações ao executar o LLM, eles também abrem algumas possibilidades interessantes.
Guia passo a passo para instalar e executar o MLC Chat no Android
O aplicativo MLC Chat foi projetado para permitir que os usuários executem e interajam com grandes modelos de linguagem (LLMs) localmente em uma variedade de dispositivos, incluindo celulares, sem depender de serviços baseados em nuvem. Siga as etapas abaixo para executar o LLM localmente no seu dispositivo Android.
Etapa 1: instalar o aplicativo MLC Chat
Primeiro, você precisa baixar o APK do aplicativo MLC Chat (112 MB) no link abaixo.
Arquivo APK do aplicativo MLC Chat
Após o download do APK, toque no arquivo para iniciar a instalação.
Etapa 2: Baixe o LLM
Após instalar o aplicativo com sucesso, abra-o e você verá uma lista de LLMs disponíveis para download. Estão disponíveis modelos de diferentes tamanhos e capacidades, como o LLama-3.2, Phi-3.5 e Mistral. Selecione o modelo de acordo com suas necessidades e clique no ícone de download ao lado para iniciar o download. Por exemplo, se você estiver usando um telefone de médio porte, como o Redmi Note 10, escolha um modelo leve, como o Qwen-2.5, para um desempenho mais suave.
Etapa 3: execute o LLM instalado
Depois que o modelo for baixado, um ícone de bate-papo aparecerá ao lado dele. Clique no ícone para iniciar a modelagem.
Quando o modelo estiver pronto, você pode começar a digitar prompts e interagir com o LLM local.
Por exemplo, em um dispositivo como o Redmi Note 10, executar um modelo menor como o Qwen2.5 proporciona uma experiência bastante tranquila, gerando cerca de 1,4 tokens por segundo. Embora esse desempenho seja mais lento do que o de dispositivos de última geração, como o Galaxy S23 Ultra , ele ainda funciona bem para tarefas básicas, como bate-papos curtos e criação de conteúdo simples.
Executar o LLM localmente em dispositivos Android por meio do aplicativo MLC Chat fornece uma maneira acessível e protegida de privacidade para interagir com modelos de IA. O desempenho depende muito do hardware do telefone. Esta solução é ideal para usuários que precisam de acesso offline a modelos de IA, testam LLMs em tempo real ou estão preocupados com privacidade. À medida que o hardware móvel continua a melhorar, os recursos do LLM local só aumentarão, tornando esta uma fronteira interessante para a tecnologia de IA.
Seu caro Samsung Galaxy não precisa ser exatamente igual a todos os outros celulares do mercado. Com alguns ajustes, você pode torná-lo mais pessoal, estiloso e único.
Depois de ficarem entediados com o iOS, eles finalmente mudaram para os telefones Samsung e não se arrependem dessa decisão.
Alterar o DNS no iPhone ou no Android ajudará você a manter uma conexão estável, aumentar a velocidade da conexão de rede e acessar sites bloqueados.
Muitas pessoas nunca imaginaram que a câmera mais fraca do celular se tornaria uma arma secreta para fotografia criativa.
Com aplicativos de clique automático, você não precisará fazer muita coisa ao jogar, usar aplicativos ou realizar tarefas disponíveis no dispositivo.
Dependendo das suas necessidades, você provavelmente terá um conjunto de recursos exclusivos do Pixel em execução no seu dispositivo Android existente.
A solução não envolve necessariamente excluir suas fotos ou aplicativos favoritos; a One UI inclui algumas opções que facilitam a recuperação de espaço.
A maioria de nós trata a entrada de carregamento do smartphone como se sua única função fosse manter a bateria funcionando. Mas essa pequena entrada é muito mais poderosa do que parece.
Se você está cansado de dicas genéricas que nunca funcionam, aqui estão algumas que vêm transformando silenciosamente a maneira como você tira fotos.
Se você está em busca de um novo smartphone, a primeira coisa que naturalmente olha é a ficha técnica. Ela está repleta de dicas sobre desempenho, duração da bateria e qualidade da tela.
O aplicativo Emojimix criará emojis exclusivos de acordo com seus desejos quando misturamos 2 emojis para criar um emoji que você nunca viu antes.
Confira o Bem-estar digital no seu telefone Samsung para ver quanto tempo você perde no telefone durante o dia!
O aplicativo de chamada falsa ajuda você a criar chamadas do seu próprio telefone para evitar situações indesejadas e embaraçosas.
O novo aplicativo Locket Widget ganhou uma versão para Android, depois que usuários do iOS já conseguiam usar o Locket Widget no iPhone.
Apesar do ecossistema restrito da Apple, algumas pessoas transformaram seus telefones Android em controles remotos confiáveis para suas Apple TVs.
Seu caro Samsung Galaxy não precisa ser exatamente igual a todos os outros celulares do mercado. Com alguns ajustes, você pode torná-lo mais pessoal, estiloso e único.
Depois de ficarem entediados com o iOS, eles finalmente mudaram para os telefones Samsung e não se arrependem dessa decisão.
A interface web da conta Apple no seu navegador permite que você visualize suas informações pessoais, altere configurações, gerencie assinaturas e muito mais. Mas às vezes você não consegue fazer login por vários motivos.
Alterar o DNS no iPhone ou no Android ajudará você a manter uma conexão estável, aumentar a velocidade da conexão de rede e acessar sites bloqueados.
Quando o Find My se tornar impreciso ou não confiável, aplique alguns ajustes para torná-lo mais preciso quando for mais necessário.
Muitas pessoas nunca imaginaram que a câmera mais fraca do celular se tornaria uma arma secreta para fotografia criativa.
Near Field Communication é uma tecnologia sem fio que permite que dispositivos troquem dados quando estão muito próximos uns dos outros, normalmente a poucos centímetros.
A Apple lançou o Adaptive Power, que funciona em conjunto com o Modo de Baixo Consumo. Ambos prolongam a duração da bateria do iPhone, mas funcionam de maneiras muito diferentes.
Com aplicativos de clique automático, você não precisará fazer muita coisa ao jogar, usar aplicativos ou realizar tarefas disponíveis no dispositivo.
Dependendo das suas necessidades, você provavelmente terá um conjunto de recursos exclusivos do Pixel em execução no seu dispositivo Android existente.
A solução não envolve necessariamente excluir suas fotos ou aplicativos favoritos; a One UI inclui algumas opções que facilitam a recuperação de espaço.
A maioria de nós trata a entrada de carregamento do smartphone como se sua única função fosse manter a bateria funcionando. Mas essa pequena entrada é muito mais poderosa do que parece.
Se você está cansado de dicas genéricas que nunca funcionam, aqui estão algumas que vêm transformando silenciosamente a maneira como você tira fotos.
Se você está em busca de um novo smartphone, a primeira coisa que naturalmente olha é a ficha técnica. Ela está repleta de dicas sobre desempenho, duração da bateria e qualidade da tela.
Ao instalar um aplicativo no seu iPhone a partir de outra fonte, você precisará confirmar manualmente se o aplicativo é confiável. Em seguida, o aplicativo será instalado no seu iPhone para uso.
