A Amazon foi um dos gigantes da tecnologia que concordou com um conjunto de recomendações da Casa Branca sobre o uso de IA generativa no ano passado. As considerações de privacidade abordadas nessas recomendações continuam sendo lançadas, com as últimas mais incluídas nos anúncios da Aws Summit em Nova York em 9 de julho. Em particular, fundamento contextual para a GuardaRails para a Amazon Bedrock fornece filtros de conteúdo personalizáveis para organizações que implantam sua própria IA gerativa.
AWS NY Summit Anúncios: Alterações no Guardrails para Amazon Bedrock
O Guardrails for Amazon Bedrock, o filtro de segurança para aplicativos de IA generativos hospedados na AWS, possui novos aprimoramentos:
- Os usuários do Claude 3 do Anthropic Haiku em pré-visualização agora podem ajustar o modelo com o Bedrock a partir de 10 de julho.
- As verificações de fundamento contextual foram adicionadas ao Guardrails para a Amazon Bedrock, que detectam alucinações nas respostas do modelo para aplicações de geração e resumo de recuperação de recuperação.
Além disso, a Guardrails está se expandindo para a API Independent ApplyGuardRail, com a qual as empresas da Amazon e os clientes da AWS podem aplicar salvaguardas a aplicativos generativos de IA, mesmo que esses modelos estejam hospedados fora da infraestrutura da AWS. Isso significa que os criadores de aplicativos podem usar filtros de toxicidade, filtros de conteúdo e informações confidenciais que eles gostariam de excluir do aplicativo. Wynn disse que até 85% do conteúdo prejudicial pode ser reduzido com os corrimãos personalizados.
O aterramento contextual e a API APPLUGARDRAIL estarão disponíveis em 10 de julho nas regiões da Select AWS.
A base contextual para o Guardrails para a Amazon Bedrock faz parte da estratégia de IA mais ampla da AWS
O fundamento contextual se conecta à estratégia geral da IA responsável na AWS em termos do esforço contínuo da AWS no “avanço da ciência, bem como continuando a inovar e fornecer aos nossos clientes serviços que eles podem aproveitar no desenvolvimento de seus serviços, desenvolvendo produtos de IA”, disse Wynn.
“Uma das áreas que ouvimos frequentemente como uma preocupação ou consideração para os clientes é em torno de alucinações”, disse ela.
O aterramento contextual – e os corrimãos em geral – podem ajudar a mitigar esse problema. Os corrimãos com aterramento contextual podem reduzir até 75% das alucinações vistas anteriormente na IA generativa, disse Wynn.
A maneira como os clientes analisam a IA generativa mudou à medida que a IA generativa se tornou mais popular no último ano.
“Quando começamos alguns de nossos trabalhos voltados para o cliente, os clientes não estavam necessariamente vindo para nós, certo?” disse Wynn. “Nós estávamos, você sabe, analisando casos de uso específicos e ajudando a apoiar o desenvolvimento, mas a mudança no ano passado e acabaram sendo que há uma maior consciência (de IA generativa) e, portanto, as empresas estão pedindo e querendo entender mais sobre as maneiras pelas quais estamos construindo e as coisas que podem fazer para garantir que seus sistemas sejam seguros.”
Isso significa “abordar questões de preconceito”, além de reduzir questões de segurança ou alucinações de IA, disse ela.
Adições ao Amazon Q Enterprise Assistant e outros anúncios da AWS NY Summit
A AWS anunciou uma série de novos recursos e ajustes para produtos na AWS NY Summit. Os destaques incluem:
- Um recurso de personalização do desenvolvedor na Amazon Q Enterprise AI Assistant para garantir o acesso à base de código de uma organização.
- A adição do Amazon Q ao Sagemaker Studio.
- A disponibilidade geral de aplicativos da Amazon Q, uma ferramenta para implantar aplicativos generativos de IA baseados em seus dados da empresa.
- Acesso à escala de IA no Amazon Bedrock para personalizar, configurar e ajustar os modelos de IA de ajuste fino.
- Pesquisa vetorial para a Amazon MemoryDB, acelerando a velocidade de pesquisa de vetores nos bancos de dados de vetores na AWS.
Veja: A Amazon anunciou recentemente instâncias de nuvem movidas a Graviton4, que podem suportar chips de trem e inferntia da AWS.
AWS atinge a meta de treinamento em nuvem de computação antes do previsto
Em sua Summit NY, a AWS anunciou que seguiu sua iniciativa de treinar 29 milhões de pessoas em todo o mundo em habilidades de computação em nuvem até 2025, excedendo esse número já. Em 200 países e territórios, 31 milhões de pessoas fizeram cursos de treinamento da AWS relacionados à nuvem.
Treinamento e papéis de IA
As ofertas de treinamento da AWS são numerosas, por isso não as listaremos aqui, mas o treinamento gratuito em computação em nuvem ocorreu globalmente em todo o mundo, tanto pessoalmente quanto online. Isso inclui treinamento em IA generativa através da iniciativa pronta para a IA. Wynn destacou duas funções que as pessoas podem treinar para as novas carreiras da IA Idade: Engenheiro Prompt e Engenheiro de AI.
“Você pode não ter cientistas de dados necessariamente envolvidos”, disse Wynn. “Eles não estão treinando modelos básicos. Você terá algo como um engenheiro de IA, talvez.” O engenheiro da IA ajustará o modelo de fundação, adicionando-o em um aplicativo.
“Acho que o papel de engenheiro da IA é algo que estamos vendo um aumento na visibilidade ou popularidade”, disse Wynn. “Acho que o outro é onde você agora tem pessoas responsáveis pela engenharia imediata. Esse é um novo papel ou área de habilidade necessária, porque não é tão simples quanto as pessoas podem pensar, certo, para dar sua opinião ou rápido, o tipo certo de contexto e detalhes para obter algumas das especificidades que você pode querer sair de um grande modelo de linguagem”.
Fonte: VEJA Economia
