UiPath Agents: Evaluators, Evaluation Sets e LLM-as-a-Judge na Prática

Sep 28, 10:30 – 11:30 PM (UTC)

Event time displays in your timezone.

Sao Paulo

25 RSVPs

O UiPath Community Chapter São Paulo convida você para uma sessão sobre as abas Evaluators e Evaluation Sets dos UiPath Agents: o que são, como configurar e onde se encaixam na rotina de construção e manutenção de agentes.

AIAdvancedAgent BuilderAgenticAgentic Orchestration

About this event

Construir um agente de IA é a parte que já dominamos. Mantê-lo funcionando depois do primeiro ajuste é outra história: prompt é texto em linguagem natural, e uma regra nova escrita para resolver um cenário pode alterar o comportamento em cenários que já estavam corretos.

Dentro do UiPath Agent existem duas abas menos exploradas: Evaluators e Evaluation Sets. Nesta sessão vamos percorrer as duas em detalhe: o que significa cada campo, o que cada tipo de avaliador mede, e como isso se encaixa na rotina de construção, publicação e acompanhamento de agentes.

A demo usa um agente de classificação de chamados, simples de propósito e sem integração externa. O foco não é o caso de uso, é o método.

🎯 O que você vai ver:

  • Por que avaliar um agente é diferente de testar um robô

  • As três famílias de avaliador (determinístico, LLM-as-a-Judge e trajetória) e quando usar cada uma

  • Como uma execução correta vira caso de teste permanente

  • A aba Evaluators campo a campo, incluindo os parâmetros que costumam ser configurados de forma equivocada

  • A aba Evaluation Sets campo a campo: casos, histórico de execuções e comparação entre rodadas

  • Demo: um ajuste de prompt afetando um caso que já funcionava, e a verificação da correção

  • A diferença entre um erro do agente e uma lacuna na regra, e por que o tratamento é diferente

  • Comparação de modelos: acurácia, tempo de execução e consumo lado a lado

  • Os limites do LLM-as-a-Judge, com medições em execuções repetidas

  • Optimize: o que a funcionalidade propõe e quais cuidados ela exige

  • A ordem dos passos em um cenário real: construir, congelar a referência em evaluation sets, ajustar, validar e incorporar

Um evento para quem já construiu um agente e quer garantir que ele continue funcionando ao longo do tempo.

Speakers

  • Michael Vornes

    Grupo 3 Corações

    Specialist / Architect - RPA & AI

  • Bruna Cavalcanti

    Grupo 3corações

    Software Automation Engineer and 3x UiPath MVP

  • Erimateia Lima

    Grupo 3 Corações

    Coordenador de Sistemas

Moderator

  • Bruna Cavalcanti

    Grupo 3corações

    Software Automation Engineer and 3x UiPath MVP

Host

  • Michael Vornes

    Grupo 3 Corações

    Specialist / Architect - RPA & AI

Organizers

  • Diana Gray

    UiPath

    Community Marketing Manager, Americas, UiPath

  • Bruna Cavalcanti

    Grupo 3corações

    UiPath MVP 2023 | RPA Engineer

  • Pedro da Matta

    UiPath

    Automation Program Advisor

  • Victor Vieira

    Technical Account Manager

  • Claudio Chaves

    UiPath

    Director, Client Success

  • Yuri Mendonça

    UiPath

    Technical Account Manager

  • Gabriel Moreno

    Starta

    Head of Automation

  • Michael Vornes

    3corações

    Senior Developer