{"id":311,"date":"2024-06-26T09:59:49","date_gmt":"2024-06-26T12:59:49","guid":{"rendered":"https:\/\/softwarelivre-br.aomega.com.br\/?p=311"},"modified":"2024-06-26T10:02:20","modified_gmt":"2024-06-26T13:02:20","slug":"voce-precisa-de-um-computador-com-processador-neural-e-uma-super-configuracao-para-ter-sua-propia-ia-generativa-nao","status":"publish","type":"post","link":"https:\/\/softwarelivre-br.aomega.com.br\/index.php\/2024\/06\/26\/voce-precisa-de-um-computador-com-processador-neural-e-uma-super-configuracao-para-ter-sua-propia-ia-generativa-nao\/","title":{"rendered":"Voc\u00ea precisa de um computador com processador Neural e uma super-configura\u00e7\u00e3o para ter sua pr\u00f3pria IA Generativa? N\u00c3O!"},"content":{"rendered":"\n

<\/p>\n\n\n\n

\"\"<\/figure>\n\n\n\n

Muito tem se falado de uma nova gera\u00e7\u00e3o de computadores a ser lan\u00e7ada que permitiria ter sua pr\u00f3pria IA Generativa rodando no seu computador. Essa nova gera\u00e7\u00e3o de computadores teria um processador extra, um processador Neural, que est\u00e1 sendo desenvolvido pela Intel, al\u00e9m de uma configura\u00e7\u00e3o de computador parruda, com uma poderosa placa gr\u00e1fica. J\u00e1 se sabe de antem\u00e3o que essa nova gera\u00e7\u00e3o de computadores n\u00e3o ser\u00e1 nada barata mas a possibilidade de ter sua pr\u00f3pria Intelig\u00eancia Artificial Generativa no seu computador \u00e9 cativante….. S\u00f3 que \u00e9 uma jogada de marketing apenas para vender novos computadores e novos produtos. Vamos pensar nos motivos pelos quais voc\u00ea iria querer ter sua pr\u00f3pria IA Generativa (IAG). Um dos motivos seria seguran\u00e7a, com sua pr\u00f3pria IAG seus dados ou da sua empresa n\u00e3o correriam o risco de vazarem para a internet ou serem transmitidos sem voc\u00ea perceber para a OpenAI , Microsoft ou Google, por exemplo. Mas quem est\u00e1 divulgando bastante a nova gera\u00e7\u00e3o de computadores que poder\u00e1 rodar uma IAG localmente? Aquela empresa cujo nome come\u00e7a com M e termina com SOFT. Eles est\u00e3o anunciando uma vers\u00e3o do Copilot, a IAG deles, em sua vers\u00e3o compacta que rodaria no seu computador. A\u00ed fica com voc\u00ea se acredita que a tal empresa M vai garantir a privacidade dos seus dados e sua IAG n\u00e3o vai ficar compilando informa\u00e7\u00f5es sobre voc\u00ea para serem usadas por parceiros para oferecerem seus produtos para voc\u00ea, j\u00e1 conhecendo seus gostos, prefer\u00eancias, hist\u00f3rico de compras, etc. Eu n\u00e3o confio.<\/p>\n\n\n\n

E se voc\u00ea usa esse computador em ambiente corporativo, voc\u00ea confia que nenhuma informa\u00e7\u00e3o da sua empresa poder\u00e1 vazar para a concorr\u00eancia?<\/p>\n\n\n\n

A alternativa seria usar IAGs de software livre ou c\u00f3digo aberto que funcionem mesmo desconectadas da internet. Um software livre pode ter seu c\u00f3digo escrutinado pela comunidade de usu\u00e1rios e desenvolvedores. E ele devia poder funcionar mesmo desconectado da internet ou dentro de uma intranet. Existem algumas alternativas de software livre como o Llama 2 e Llama 3 da Meta, e suas vers\u00f5es, o Mistral 7B de origem francesa entre outros.<\/p>\n\n\n\n

E precisamos de uma nova m\u00e1quina equipada com processador Neural e etc, etc ? Eu publiquei um artigo em https:\/\/bit.ly\/4bgK0l1<\/a> , no qual mostrei que \u00e9 poss\u00edvel instalar via LM Studio o Llama 2 e ele funcionar perfeitamente numa configura\u00e7\u00e3o com Core i7 12a gera\u00e7\u00e3o, 16Gb de RAM e processador gr\u00e1fico NVIDIA MX550 que \u00e9 um processador pouco poderoso comparado com os processadores da NVDIA RTX 3050, 3060, 4050, 4060, 4070 que s\u00e3o muito mais poderosos e geralmente s\u00e3o os recomendados para poder testar uma IAG no seu computador. E nem falei de vers\u00f5es mais poderosas de processadores gr\u00e1ficos. Eu rodo o Llama 2 7B no meu notebook perfeitamente e ele consegue fazer o que a maioria dos seus irm\u00e3os maiores fazem, ent\u00e3o \u00e9 tudo o que eu preciso, e o que voc\u00ea precisaria tamb\u00e9m. O Llama 2 \u00e9 uma IAG de c\u00f3digo aberto, roda bem desconectado da internet e posso ter certeza de que meus dados n\u00e3o est\u00e3o sendo coletados e enviados para fora.<\/p>\n\n\n\n

\"\"<\/figure>\n\n\n\n

Eu tinha at\u00e9 pensado em fazer um upgrade para uma configura\u00e7\u00e3o com 32gb ou 64gb de mem\u00f3ria RAM e processador gr\u00e1fico NVIDIA RTX 4070 o que demandaria um bom investimento mas depois dos testes que fiz com o LM Studio e o Llama 2 estou plenamente satisfeito. N\u00e3o precisarei mudar de configura\u00e7\u00e3o nem pagar assinatura para utilizar a IAG da tal empresa M porque o uso do Llama 2 \u00e9 gratuito, n\u00e3o precisa pagar nenhuma assinatura enquanto o da empresa M \u00e9 pago, precisa de uma assinatura mensal ou anual. Posso tamb\u00e9m ficar tranquilo em rela\u00e7\u00e3o \u00e0 seguran\u00e7a e privacidade dos meus dados. Se depois de voc\u00ea saber tudo isso, voc\u00ea ainda est\u00e1 ansioso para comprar um computador dessa nova gera\u00e7\u00e3o de computadores com processador neural, n\u00e3o se importa em pagar uma assinatura extra, al\u00e9m das outras que voc\u00ea j\u00e1 deve pagar e n\u00e3o est\u00e1 preocupado em rela\u00e7\u00e3o \u00e0 privacidade dos seus dados, v\u00e1 em frente, cada um \u00e9 livre de usar seu dinheirinho como bem entender. Mas se voc\u00ea \u00e9 do meu time, que n\u00e3o tem muito dinheiro sobrando e s\u00f3 iria gastar mais em caso de necessidade, e se preocupa com a seguran\u00e7a e privacidade dos seus dados, ent\u00e3o j\u00e1 lhe dei uma alternativa. Abra\u00e7os para todos.<\/p>\n\n\n\n

Ernesto Villafuerte Oyola
Msc. Ci\u00eancias de Computa\u00e7\u00e3o, \u00e1rea de Intelig\u00eancia Artificial
CEO Aomega Consultoria e Treinamento
https:\/\/www.aomega.com.br<\/a><\/p>\n\n\n\n

<\/p>\n","protected":false},"excerpt":{"rendered":"

Muito tem se falado de uma nova gera\u00e7\u00e3o de computadores a ser lan\u00e7ada que permitiria ter sua pr\u00f3pria IA Generativa rodando no seu computador. Essa nova gera\u00e7\u00e3o de computadores teria um processador extra, um processador Neural, que est\u00e1 sendo desenvolvido pela Intel, al\u00e9m de uma configura\u00e7\u00e3o de computador parruda, com uma poderosa placa gr\u00e1fica. J\u00e1 … <\/p>\n

Continue lendo “Voc\u00ea precisa de um computador com processador Neural e uma super-configura\u00e7\u00e3o para ter sua pr\u00f3pria IA Generativa? N\u00c3O!”<\/span><\/a><\/p>\n","protected":false},"author":1,"featured_media":0,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"advanced_seo_description":"Intelig\u00eancia Artificial Generativa no seu computador","jetpack_seo_html_title":"Intelig\u00eancia Artificial Generativa no seu computador","jetpack_seo_noindex":false,"jetpack_seo_schema_type":"","_jetpack_newsletter_access":"","_jetpack_dont_email_post_to_subs":false,"_jetpack_newsletter_tier_id":0,"_jetpack_memberships_contains_paywalled_content":false,"_jetpack_feature_clip_id":0,"_jetpack_memberships_contains_paid_content":false,"footnotes":"","jetpack_publicize_message":"","jetpack_publicize_feature_enabled":true,"jetpack_social_post_already_shared":true,"jetpack_social_options":{"image_generator_settings":{"template":"highway","default_image_id":0,"font":"","enabled":false},"version":2},"jetpack_post_was_ever_published":false},"categories":[1],"tags":[103,98,82,101,99,100,102],"class_list":["post-311","post","type-post","status-publish","format-standard","hentry","category-sem-categoria","tag-cursos","tag-iag","tag-inteligencia-artificial-generativa","tag-inteligencia-artificial-generativa-propria","tag-llama","tag-llama-2","tag-treinamento","entry"],"jetpack_publicize_connections":[],"jetpack_sharing_enabled":true,"jetpack_shortlink":"https:\/\/wp.me\/p7PCWO-51","jetpack-related-posts":[],"jetpack_featured_media_url":"","_links":{"self":[{"href":"https:\/\/softwarelivre-br.aomega.com.br\/index.php\/wp-json\/wp\/v2\/posts\/311","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/softwarelivre-br.aomega.com.br\/index.php\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/softwarelivre-br.aomega.com.br\/index.php\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/softwarelivre-br.aomega.com.br\/index.php\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/softwarelivre-br.aomega.com.br\/index.php\/wp-json\/wp\/v2\/comments?post=311"}],"version-history":[{"count":2,"href":"https:\/\/softwarelivre-br.aomega.com.br\/index.php\/wp-json\/wp\/v2\/posts\/311\/revisions"}],"predecessor-version":[{"id":315,"href":"https:\/\/softwarelivre-br.aomega.com.br\/index.php\/wp-json\/wp\/v2\/posts\/311\/revisions\/315"}],"wp:attachment":[{"href":"https:\/\/softwarelivre-br.aomega.com.br\/index.php\/wp-json\/wp\/v2\/media?parent=311"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/softwarelivre-br.aomega.com.br\/index.php\/wp-json\/wp\/v2\/categories?post=311"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/softwarelivre-br.aomega.com.br\/index.php\/wp-json\/wp\/v2\/tags?post=311"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}