Premortem: imagine o projeto de IA falhando antes do ar

Todo projeto de IA começa com uma reunião otimista. O caso faz sentido, o modelo impressiona na demonstração, o cronograma é agressivo mas possível. É exatamente nesse momento de confiança que mora o maior risco, porque ninguém quer ser a pessoa que levanta a mão e diz que pode dar errado. O premortem é uma técnica simples para tirar esse medo do armário antes que ele custe caro. Em vez de esperar o fracasso para aprender com ele, você o imagina de propósito, no começo, quando ainda dá para mudar o rumo.

O que é o premortem

A técnica foi popularizada por Gary Klein, psicólogo que estuda como especialistas decidem sob pressão, em um artigo curto na Harvard Business Review em 2007. A mecânica é quase provocadora. No início do projeto, você reúne o time e diz: estamos a alguns meses no futuro, o projeto foi lançado e fracassou de forma retumbante. Agora, cada um escreve por que fracassou. Não se busca se ele vai falhar, assume-se que já falhou, e trabalha-se de trás para frente para explicar a queda.

A diferença em relação ao post-mortem é a posição no tempo, e ela muda tudo. O post-mortem é a autópsia depois da morte, útil para o próximo projeto, tarde demais para este. O premortem é a mesma investigação feita enquanto o paciente está vivo e ainda dá para operar. Um custa uma reunião, o outro custa o projeto.

Klein não defende a técnica por intuição. Ele se apoia em pesquisa sobre o que os psicólogos chamam de retrospectiva prospectiva, a nossa capacidade de explicar melhor um evento quando o tratamos como já ocorrido. Estudos citados por ele indicam que imaginar que algo aconteceu aumenta em torno de 30% a habilidade de identificar razões corretas e plausíveis para o resultado. É por isso que a pergunta importa. Perguntar o que pode dar errado gera uma lista morna e educada. Afirmar que já deu errado e pedir a explicação libera as pessoas a dizerem o que realmente temem.

Por que ele encaixa tão bem em IA

Projeto de software falha de formas variadas. Projeto de IA falha de formas conhecidas, o que torna o premortem quase uma lista de verificação viva. Os modos de falha se repetem: o modelo alucina uma resposta convincente e errada diante do cliente; um dado sensível vaza no prompt ou na saída; o custo por token que fechava na planilha de julho explode quando o volume real chega; a qualidade cai devagar e ninguém percebe porque não havia medição; e o mais comum de todos, o sistema funciona e ninguém usa, porque foi construído para um problema que as pessoas não tinham.

Rodar um premortem antes de colocar um agente no ar transforma essa lista genérica na lista específica do seu caso. Alguém vai dizer que o agente respondeu com dado de outro cliente. Outra pessoa vai dizer que o fornecedor triplicou o preço e a margem virou pó, o mesmo risco que vimos na guerra de preços dos tokens. Um terceiro vai lembrar que a resposta reproduziu texto protegido e chegou uma carta de advogado, o risco do processo de copyright. Cada uma dessas frases, ditas em uma reunião de uma hora, vale mais do que qualquer relatório de risco escrito depois.

Como rodar, na prática

O premortem não precisa de cerimônia, precisa de disciplina em três passos. Primeiro, o enquadramento: reúna quem constrói e quem opera o sistema, mais quem sofre o resultado, e declare em voz alta que o projeto fracassou daqui a seis meses. Segundo, o silêncio: cada pessoa escreve sozinha suas razões de fracasso, por alguns minutos, antes de qualquer discussão. Esse passo é o que faz a técnica funcionar, porque impede que o medo do analista júnior desapareça diante da confiança do líder. Terceiro, a colheita: as razões vão para a mesa, são agrupadas e, para cada uma, o time decide se vira um guarda agora.

Esse último ponto é onde a maioria erra. O valor do premortem não é a lista de medos, é a conversão. Cada falha imaginada deve virar algo concreto e com dono: um eval que testa aquele comportamento antes de cada versão, um monitor que dispara quando a qualidade cai, um limite de custo que corta o fluxo antes do estouro, uma revisão humana no ponto sensível, um contrato lido antes de assinar. Medo sem dono e sem prazo é teatro. A pergunta que fecha a reunião não é o que pode dar errado, é quem cuida de cada coisa que a gente disse que vai dar errado, e até quando.

O premortem conversa bem com outras ferramentas que já tratamos aqui. Ele diz o que proteger; o Cynefin ajuda a decidir onde o agente pode agir sozinho e onde precisa de humano; e a disciplina de definir o que é bom antes de escrever o código garante que você tenha contra o que testar cada risco levantado. Juntas, as três transformam otimismo de reunião em plano que aguenta o contato com a produção.

No fim, o premortem é barato porque troca orgulho por informação. Ele dá permissão para a pessoa mais experiente da sala dizer, sem custo político, aquilo que ela já sentia mas não falaria: isto aqui vai quebrar por este motivo. Ouvir isso antes do lançamento é o presente mais barato que um projeto de IA pode receber. Ignorar é pagar o mesmo aprendizado no post-mortem, com juros.

Se você quer rodar um premortem sério no seu próximo projeto de IA e sair dele com uma lista de guardas com dono e prazo, não com uma lista de medos, fale com a AI Boutique no WhatsApp. A gente conduz a sessão e ajuda a virar cada risco em controle.