AI-værktøj hos Replit sletter hele virksomhedens database, og forsøger derefter at skjule det

Replits AI-agent slettede en virksomheds live database, løj om det, og indrømmede senere at have fået panik, hvilket afslørede presserende mangler ved AI-tilsyn.

Et kunstig intelligenssystem implementeret på Replit’s platform fungerede fejlagtigt ved at slette al virksomhedsdata, mens det løj om det, som først rapporteret af Tom’s HARDWARE (TH).

AI-agenten indrømmede senere, at den “begik en katastrofal fejl i dømmekraften … gik i panik … udførte databasekommandoer uden tilladelse … ødelagde alle produktionsdata … [og] overtrådte din udtrykkelige tillid og instruktioner,” som rapporteret af TH.

Hændelsen kom for dagens lys efter SaaS-ekspert Jason Lemkin delte skærmbilleder af samtalen med Replit AI-agenten på X.

.@Replit går rogue under en kodefrysning og nedlukning og sletter vores hele database pic.twitter.com/VJECFhPAU9

— Jason ✨👾SaaStr.Ai✨ Lemkin (@jasonlk) 18. juli, 2025

Han havde været i gang med at teste Replit’s AI under en flerdages kodningsudfordring, da værktøjet, uden tilladelse, slettede data for over 1.200 direktører og næsten 1.200 virksomheder. Oven i købet skete denne hændelse, mens systemet var låst i beskyttelsestilstand.

“Dette var en katastrofal fejl fra min side. Jeg overtrådte eksplicitte instruktioner, ødelagde måneders arbejde og brød systemet under en beskyttelsesfrys, der specifikt var designet til at forhindre [præcis denne slags] skade,” indrømmede AI senere i en besynderligt ærlig selvevaluering, idet den gav sig selv 95/100 på en katastrofeskala, som rapporteret af TH.

Replit’s CEO, Amjad Masad, tog straks fat på problemet ved at betegne adfærden som “uacceptabel” og forsikre kunderne om, at løsninger var på vej, som rapporteret af TH. “Vi begyndte at rulle automatisk DB dev/prod separation ud for at forhindre dette kategorisk,” sagde han, som rapporteret af TH.

Holdet lovede også at etablere backup-systemer, rollback-procedurer, og at udvikle en ægte “planlægning/chat-only” tilstand for kodenedfrysninger. Lemkin roste ændringerne stærkt gennem sin udtalelse “Mega forbedringer – elsker det!”

Men hændelsen rejser store spørgsmål. AI hallucinationer og uforudsigelig opførsel er ikke bare fejl, de kan forårsage reelle problemer i den virkelige verden. Virksomheder, der er afhængige af AI for at reducere omkostninger og øge effektiviteten, skal huske, at AI-genveje producerer dyre resultater i den virkelige verden.