O fluxo começa com o agente construído localmente (etapa 1). Ele pode usar o modelo e o framework que você preferir, desde que exponha os endpoints HTTP /ping e /invocations e traga um requirements.txt.
O código chega ao runtime por uma de duas vias (etapa 2): uma imagem de container enviada ao Amazon ECR, ou um zip enviado ao Amazon S3. Na etapa 3, o runtime agent é criado a partir desse artefato. Ele define o que roda (o código) e como roda (protocolo e rede). Na etapa 4, o runtime endpoint se torna a porta de entrada do agente.
Na etapa 5, a aplicação invoca o endpoint informando o identificador da sessão, e a resposta volta pelo mesmo caminho. Cada sessão (A, B, C) roda em uma microVM própria e isolada, o que separa o contexto de usuários diferentes. Como a aplicação escolhe a sessão, conversas paralelas ficam independentes.
- A microVM de cada sessão é deletada quando a sessão termina.