Lhama 3 folha de dicas: um guia completo

O OpenAI pode ser o nome mais conhecido quando se trata de IA generativa comercial, mas a Meta eliminou com sucesso um lugar através de um poderoso modelos de linguagem de grande porte aberta. A Meta revelou seu maior modelo generativo de IA até agora, Llama 3, em 18 de abril, que supera o GPT-4 em alguns testes padrão de referência de IA.

O que é Llama 3?

Llama 3 é um LLM criado por Meta. Ele pode ser usado para criar IA generativa, incluindo chatbots que podem responder em linguagem natural a uma ampla variedade de consultas. Os casos de uso llama 3 foram avaliados incluem idéias de brainstorming, escrita criativa, codificação, resumo de documentos e resposta a perguntas na voz de uma persona ou personagem específica.

O modelo completo de llama 3 vem em quatro variantes:

• 8 bilhões de parâmetros pré -criados.
• 8 bilhões de parâmetros instruções ajustadas.
• 70 bilhões de parâmetros pré -criados.
• 70 bilhões de parâmetros instruções ajustadas.

Os recursos generativos de IA do LLAMA 3 podem ser usados ​​em um navegador ou através de recursos de IA no Facebook, Instagram, Whatsapp e Messenger da Meta. O modelo em si pode ser baixado do Meta ou das principais plataformas da Enterprise Cloud.

Quando o LLAMA 3 será lançado e em quais plataformas?

O LLAMA 3 foi lançado em 18 de abril no Google Cloud Vertex AI, Watsonx.ai da IBM e outras grandes plataformas de hospedagem LLM. A AWS seguiu, adicionando Llama 3 ao Amazon Bedrock em 23 de abril. Em 29 de abril, o LLAMA 3 está disponível nas seguintes plataformas:

• Databricks.
• Abraçando o rosto.
• Kaggle.
• Microsoft Azure.
• Nvidia eles.

Plataformas de hardware da AMD, AWS, Dell, Intel, Nvidia e Qualcomm Suporte Llama 3.

LLAMA 3.1

Em 23 de julho, a Meta anunciou a LLAMA 3.1 405B, que é a versão mais avançada do LLAMA 3 até agora, e melhorias no LLAMA 3.1 70B e 8B. A LLAMA 3,1B possui 405 bilhões de parâmetros, tornando-o competitivo com o GPT-4O e Claude 3,5 sonetos.

O LLAMA 3 é o código aberto?

O LLAMA 3 é de código aberto, como os outros LLMs da Meta foram. A criação de modelos de código aberto tem sido um diferenciador valioso para a meta. O fundador e CEO da Meta, Mark Zuckerberg, explicou sua opinião sobre essa filosofia em um post de julho.

No entanto, há algum debate sobre o quanto o código ou os pesos de um grande modelo de idioma precisam estar disponíveis ao público para contar como código aberto. O LLAMA 3 pode realmente ser chamado de código aberto se houver algumas limitações em seu uso, como existem para empresas maiores? O contrato de licença da LLAMA 3 afirma que os pedidos com mais de 700 milhões de usuários ativos mensais precisam solicitar uma licença separada. Mas, no que diz respeito aos propósitos de negócios, a Meta oferece uma visão mais aberta do LLAMA 3 do que seus concorrentes para seus LLMs.

Llama 3 é grátis?

O LLAMA 3 é gratuito, desde que seja usado nos termos da licença. O modelo pode ser baixado diretamente do Meta ou usado nos vários serviços de hospedagem em nuvem listados acima, embora esses serviços possam ter taxas associadas a eles.

O LLAMA 3 é multimodal?

O LLAMA 3 não é multimodal, o que significa que não é capaz de entender dados de diferentes modalidades, como vídeo, áudio ou texto. Meta planeja fazer llama 3 multimodal em um futuro próximo.

Melhorias de Lhama 3 em relação a Llama 2

Para tornar o LLAMA 3 mais capaz do que o LLAMA 2, a Meta adicionou um novo tokenizador para codificar a linguagem com muito mais eficiência. META GOUGED LLAMA 3 UP COM ATENÇÃO DE QUESTÃO GRUPADA, um método de melhorar a eficiência da inferência do modelo. O conjunto de treinamento LLAMA 3 é sete vezes o tamanho do conjunto de treinamento usado para o LLAMA 2, disse Meta, incluindo quatro vezes mais código. A Meta aplicou novas eficiências à pré-treinamento e instrução da LLAMA 3.

Como o LLAMA 3 foi projetado como um modelo aberto, a Meta adicionou a GuardaRails com os desenvolvedores em mente. Um novo corrimão é o Code Shield, que se destina a capturar um código inseguro que o modelo pode produzir.

Place de Llama 3 na paisagem generativa de IA competitiva

O LLAMA 3 compete diretamente com o GPT-4 e o GPT-3.5, o Gemini and Gemma do Google, o Mistral 7B da IA ​​Mistral, a Perplexity AI e outros LLMs para uso individual ou comercial para criar chatbots generativos da IA ​​e outras ferramentas. Cerca de uma semana depois que o LLAMA 3 foi revelado, o Snowflake estreou sua própria IA da empresa aberta com recursos comparáveis, chamado Snowflake Arctic.

Os crescentes requisitos de desempenho dos LLMs como o LLAMA 3 estão contribuindo para uma corrida armamentista de PCs habilitados para AA que podem executar modelos pelo menos parcialmente no dispositivo. Enquanto isso, as empresas generativas de IA podem enfrentar um escrutínio maior sobre as fortes necessidades de computação, o que poderia contribuir para piorar as mudanças climáticas.

Lhama 3 vs gpt-4

O LLAMA 3 supera o GPT-4 do OpenAI no Humaneval, que é um benchmark padrão que compara a capacidade do modelo de IA de gerar código com código escrito por humanos. Llama 3 70B marcou 81,7, em comparação com a pontuação do GPT-4 de 67.

No entanto, o GPT-4 superou o LLAMA 3 na Avaliação do Conhecimento MMLU com uma pontuação de 86,4 para a llama 3 70B 79.5. O desempenho da LLAMA 3 em mais testes pode ser encontrado na postagem do blog da Meta.

Sua organização deve usar o llama 3?

Presumindo que você já decidiu que a IA generativa é adequada para o seu negócio, escolhendo se o uso do LLAMA 3 provavelmente se resumirá à disponibilidade. A LLAMA 3 pode ser usada para livre e personalizada dentro dos limites mais do que seus concorrentes.

O LLAMA 3 pode ser mais eficaz do que seus rivais como GPT-4 ou Claude 3 para codificar. No entanto, o LLAMA 3 tem outros concorrentes no espaço de codificação. Por exemplo, o Github estreou recentemente o espaço de trabalho do Copilot, que é personalizado para codificação e pode criar código com base nos avisos de linguagem natural.

O LLAMA 3 pode ser bom para sua organização, se você quiser um propósito geral, família de modelos de IA de código aberto.