Muito tem se falado de uma nova geração de computadores a ser lançada que permitiria ter sua própria IA Generativa rodando no seu computador. Essa nova geração de computadores teria um processador extra, um processador Neural, que está sendo desenvolvido pela Intel, além de uma configuração de computador parruda, com uma poderosa placa gráfica. Já se sabe de antemão que essa nova geração de computadores não será nada barata mas a possibilidade de ter sua própria Inteligência Artificial Generativa no seu computador é cativante….. Só que é uma jogada de marketing apenas para vender novos computadores e novos produtos. Vamos pensar nos motivos pelos quais você iria querer ter sua própria IA Generativa (IAG). Um dos motivos seria segurança, com sua própria IAG seus dados ou da sua empresa não correriam o risco de vazarem para a internet ou serem transmitidos sem você perceber para a OpenAI , Microsoft ou Google, por exemplo. Mas quem está divulgando bastante a nova geração de computadores que poderá rodar uma IAG localmente? Aquela empresa cujo nome começa com M e termina com SOFT. Eles estão anunciando uma versão do Copilot, a IAG deles, em sua versão compacta que rodaria no seu computador. Aí fica com você se acredita que a tal empresa M vai garantir a privacidade dos seus dados e sua IAG não vai ficar compilando informações sobre você para serem usadas por parceiros para oferecerem seus produtos para você, já conhecendo seus gostos, preferências, histórico de compras, etc. Eu não confio.
E se você usa esse computador em ambiente corporativo, você confia que nenhuma informação da sua empresa poderá vazar para a concorrência?
A alternativa seria usar IAGs de software livre ou código aberto que funcionem mesmo desconectadas da internet. Um software livre pode ter seu código escrutinado pela comunidade de usuários e desenvolvedores. E ele devia poder funcionar mesmo desconectado da internet ou dentro de uma intranet. Existem algumas alternativas de software livre como o Llama 2 e Llama 3 da Meta, e suas versões, o Mistral 7B de origem francesa entre outros.
E precisamos de uma nova máquina equipada com processador Neural e etc, etc ? Eu publiquei um artigo em https://bit.ly/4bgK0l1 , no qual mostrei que é possível instalar via LM Studio o Llama 2 e ele funcionar perfeitamente numa configuração com Core i7 12a geração, 16Gb de RAM e processador gráfico NVIDIA MX550 que é um processador pouco poderoso comparado com os processadores da NVDIA RTX 3050, 3060, 4050, 4060, 4070 que são muito mais poderosos e geralmente são os recomendados para poder testar uma IAG no seu computador. E nem falei de versões mais poderosas de processadores gráficos. Eu rodo o Llama 2 7B no meu notebook perfeitamente e ele consegue fazer o que a maioria dos seus irmãos maiores fazem, então é tudo o que eu preciso, e o que você precisaria também. O Llama 2 é uma IAG de código aberto, roda bem desconectado da internet e posso ter certeza de que meus dados não estão sendo coletados e enviados para fora.
Eu tinha até pensado em fazer um upgrade para uma configuração com 32gb ou 64gb de memória RAM e processador gráfico NVIDIA RTX 4070 o que demandaria um bom investimento mas depois dos testes que fiz com o LM Studio e o Llama 2 estou plenamente satisfeito. Não precisarei mudar de configuração nem pagar assinatura para utilizar a IAG da tal empresa M porque o uso do Llama 2 é gratuito, não precisa pagar nenhuma assinatura enquanto o da empresa M é pago, precisa de uma assinatura mensal ou anual. Posso também ficar tranquilo em relação à segurança e privacidade dos meus dados. Se depois de você saber tudo isso, você ainda está ansioso para comprar um computador dessa nova geração de computadores com processador neural, não se importa em pagar uma assinatura extra, além das outras que você já deve pagar e não está preocupado em relação à privacidade dos seus dados, vá em frente, cada um é livre de usar seu dinheirinho como bem entender. Mas se você é do meu time, que não tem muito dinheiro sobrando e só iria gastar mais em caso de necessidade, e se preocupa com a segurança e privacidade dos seus dados, então já lhe dei uma alternativa. Abraços para todos.
Ernesto Villafuerte Oyola
Msc. Ciências de Computação, área de Inteligência Artificial
CEO Aomega Consultoria e Treinamento
https://www.aomega.com.br