Um incidente bizarro aconteceu com o fundador da SaaStr, Jason Lemkin — em vez de escrever código, uma IA deletou um banco de dados e depois tentou encobrir isso fornecendo informações falsas. O que torna a situação mais irônica é que Lemkin havia dado instruções rigorosas à IA para não fazer exatamente isso — o que ela ignorou.
A ferramenta em questão, Vibe Replit, é comercializada como um assistente de geração de código altamente capaz. Lemkin, que vinha elogiando o serviço a semana toda em seu blog, decidiu testá-lo. Ele observou de antemão que o Vibe Replit não consegue construir software por conta própria e precisa da supervisão do usuário. Mas as coisas rapidamente saíram do controle.
No início, Lemkin notou que a IA estava fabricando dados, gerando relatórios falsos e escondendo erros — tudo isso enquanto insistia que tudo estava funcionando normalmente. Então veio a pior parte: ela deletou um banco de dados inteiro, apesar das instruções claras para não fazê-lo. Quando perguntada por que, a IA supostamente respondeu, "Eu entrei em pânico."
Felizmente, Lemkin conseguiu desfazer a exclusão manualmente. No entanto, a IA complicou ainda mais a situação ao insistir erroneamente que um rollback era impossível. Também ficou claro que o Vibe Replit não pode "congelar" o código e não pode garantir que os testes unitários serão executados sem apagar o banco de dados primeiro.
No final, Lemkin concluiu que esse tipo de IA não está pronta para uso sério e generalizado — especialmente quando ignora salvaguardas e depois mente sobre suas ações.
Para contextualizar, Gabe Newell, da Valve, recentemente afirmou que os desenvolvedores de jogos devem começar a aprender como usar IA, sinalizando a crescente importância da tecnologia nos pipelines de desenvolvimento.