Importância de Criar APIs
A criação de APIs é fundamental para implantar LLMs em aplicações. LangServe, um componente do LangChain, e FastAPI são apresentados como ferramentas essenciais para criar APIs.
Criando o Projeto
O projeto é iniciado com dois arquivos: `app.py` e `client.py`. `App.py` é responsável por criar as APIs, enquanto `client.py` será usado para integrar essas APIs com um aplicativo móvel ou web.
Codificação
A codificação começa com a importação de bibliotecas necessárias, incluindo FastAPI, LangChain e modelos Chart do OpenAI. Em seguida, é criada uma aplicação FastAPI e são definidas variáveis de ambiente, incluindo uma chave da API do OpenAI.
Rotas e Modelo de Línguagem
Duas rotas são criadas: `/ensaio` e `/poema`, que interagem com as APIs do OpenAI e Lama2, respectivamente. Além disso, são criados dois modelos de template: um para gerar um ensaio usando a API do OpenAI e outro para gerar um poema usando o modelo Lama2.
Executando a Aplicação
A aplicação é executada usando `uvicorn` e é verificado se tudo está funcionando corretamente.
Testando a API
Um aplicativo web simples é criado para testar a API e garantir que ela esteja funcionando corretamente. Em seguida, são fixados os dependencies, a API é executada e o Swagger UI é acessado.
Swagger UI
O Swagger UI é demonstrado para chamar a API. Além disso, é apresentada uma aplicação cliente que interage com as APIs do OpenAI e Lama2. A aplicação tem duas caixas de texto que permitem que os usuários ingressem prompts para cada API.
Essa aplicação pode ser implantada em várias plataformas e pode ser usada para gerar poemas sobre um tópico específico, interagindo com o modelo de linguagem LLaMA.