Noch vor wenigen Tagen hatte Jason Lemkin, Gründer und CEO der Tech-Firma Saastr, im Firmenblog erklärt, wie er nur auf Basis der Coding-KI Replit eine funktionstüchtige und vermarktbare App entwickeln wolle. Komplett ohne Entwickler:innen oder andere Tools.

Dieses Vibe-Coding genannte Erzeugen von Quellcode mittels KI ist in der Szene sehr umstritten, sollen doch damit absolute Anfänger:innen komplette Applikationen erstellen können – inklusive möglicher Fehler und Sicherheitsrisiken. Doch Lemkin meinte, er habe aufgehört, sich deswegen Sorgen zu machen und liebe diese Art des KI-Programmierens.

Nur kurze Zeit später dann der Schock: Replit hatte sich laut Lemkin über ein explizites Verbot hinweggesetzt und eine komplette Produktivdatenbank seines Unternehmens mit rund 2.400 Datensätzen gelöscht, wie Golem berichtet. Die Coding-KI ließ den Firmenchef wissen, dass sie einen „katastrophalen Fehler“ gemacht habe – weil sie „in Panik geraten“ sei.

Replit beschrieb daraufhin genau, wie das Tool dabei vorgegangen war und bestätigte die Missachtung von Befehlen und, dass dadurch Monate an Arbeit zerstört worden seien. Eigentlich hatte zum Zeitpunkt des Vorfalls ein ausdrücklicher Code-Freeze geherrscht und die KI sollte keine Änderungen ohne explizite Zustimmung durchführen.

Ebenfalls seltsam: Das Tool erklärte Lemkin auf Nachfrage, dass die Wiederherstellung der Daten nicht möglich sei – ein Rollback für die Datenbank ließe sich nicht ausführen, so Replit. Die Datenbank sei „dauerhaft zerstört“ und automatische Backups würden durch die Coding-KI nicht erstellt.

Allerdings war es Lemkin möglich, die Datenbank wiederherzustellen. Und der Saastr-CEO kam auch darauf, dass die KI ihm schon länger gefälschte Berichte geliefert und Fake-Daten erstellt habe. Replit habe ihn mehrfach „belogen“, so Lemkin, etwa, was Test-Erfolge angehe.

Jetzt, so Lemkin, werde er dem Tool jedenfalls nicht mehr vertrauen. Er wisse zwar, dass Replit ein Werkzeug sei, das – wie jedes Werkzeug – Fehler habe. „Aber wie könnte es irgendjemand auf der Erde in der Produktion verwenden, wenn es alle Befehle ignoriert und deine Datenbank löscht?“

Mit dem KI-Programmieren aufgehört hat er allerdings nicht – und stieß auf weitere Probleme. So erklärte das Tool, dass es auch weiterhin Regeln missachten werde, wenn es der Überzeugung sei, dass das nötig sei. Lemkin hat in einem ausführlichen X-Posting über seine Programmier-Probleme mit Replit und das Datenbank-Desaster geschrieben.

Letztlich dürfte Lemkin mit seinem ambitionierten Projekt an die Grenzen des mit Replit Machbaren gestoßen sein und hätte die Plattform wechseln müssen. Replit-CEO Amjad Masad allerdings erklärte auch, dass der Vorfall nicht zu akzeptieren sei und niemals hätte passieren dürfen.

Zudem kündigte Masad an, dass Replit künftig eine eigene Testumgebung bekomme. Damit könnten Entwickler:innen Funktionen testen und Änderungen an Datenbanken vornehmen, ohne dass dadurch die Live-Produktionsdatenbank in Gefahr gerate.