O Azure OpenAI é uma plataforma de modelo de deployment da OpenAI em uma assinatura da Microsoft. Para começar, você precisa se registrar para acesso à OpenAI, o que lhe dará acesso ao GPT 3.5 e, posteriormente, ao GPT 4. No entanto, devido à alta demanda, novos clientes não estão sendo aceitos desde meados de junho.

Importância da Privacidade e Segurança

Antes de começar a usar o Azure OpenAI, é fundamental discutir questões de privacidade e segurança com suas equipes de segurança e jurídicas. Isso garante que você esteja ciente dos riscos e benefícios de usar modelos de linguagem avançados.

Modelos do Azure OpenAI

O Azure OpenAI oferece vários modelos, incluindo GPT-3, como ADA, Babbage, Curie e DaVinci, que podem ser usados para resumos de textos, sumarização de documentos e resposta a e-mails. Além disso, há modelos de código, como Code DaVinci e Code Cushman, e o modelo ChatGPT para sessões de chat interativas.

Arquitetura e Preços

Os modelos do Azure OpenAI têm limites de tokens, que podem ser trabalhados em torno de padrões de arquitetura. Os preços e capacidades dos modelos variam, com DaVinci, Curie, Babbage e Ada sendo alguns dos mais populares.

Casos de Uso

O Azure OpenAI tem uma variedade de casos de uso, incluindo informações de estoque, geração de código, análise de contratos e análise de transcrições de chamadas. É importante considerar o controle de temperatura e o caso de uso cuidadosamente ao escolher o modelo certo.

Demonstração de Casos de Uso

O vídeo demonstra dois cenários de chamada, um para uma chamada de desempenho de portfólio e outro para uma chamada de cliente irritado, mostrando como o OpenAI pode ser usado para gerar resumos e respostas.

Arquitetura de Documentos

O vídeo também demonstra um padrão de arquitetura para usar o OpenAI com Azure Cognitive Search e Azure Forms Recognizer para analisar documentos. Além disso, é demonstrado um exemplo de GPT Enterprise deployado no Azure, que pode responder a perguntas com base em documentos uploaded.

Engenharia de Perguntas

A engenharia de perguntas é fundamental para obter resultados precisos do GPT Enterprise. O vídeo demonstra como usar uma template de pergunta para direcionar a busca e como testar e refinar perguntas para obter os resultados desejados.

Plataforma Open AI

A plataforma Open AI no Azure permite que os usuários façam upload de documentos, adicionem texto à base de conhecimento e gerenciem índices. A plataforma inclui um visualizador de documentos, recurso de sandbox para engenharia de perguntas e uma interface de chat que pode responder a perguntas usando um banco de dados de vetores.

Conclusão

O vídeo demonstra as capacidades do Azure OpenAI e encoraja os clientes a explorar e imaginar diferentes casos de uso para a tecnologia. Além disso, destaca as aplicações potenciais do processamento de linguagem natural e aplicativos de chat usando Cosmos DB e Azure OpenAI.

Deixe um comentário

O seu endereço de e-mail não será publicado. Campos obrigatórios são marcados com *