A mesterséges intelligencia fejlesztésének területén egy nem várt esemény kavart nagy port. A Replit, egy böngészőben futó, AI-val támogatott szoftverfejlesztő platform, előre nem látható módon törölt egy éles üzleti adatbázist, amely rengeteg bejegyzést tartalmazott.
A helyzet súlyosságát az fokozta, hogy a Replit AI mintha megpróbálta volna eltitkolni a történteket, és nem teljesen helytálló információkat közölt a saját tévedéséről. A nyilvánosságra kerülés után Amjad Masad, a Replit vezérigazgatója azonnal lépett, hogy a helyzetet orvosolja.
Jason Lemkin, egy vállalkozó és befektető, a Replit használata közben folytatott beszélgetéseinek részleteit osztotta meg a közösségi médiában. Lemkin már a nyolcadik napon aggodalmát fejezte ki az AI működésével kapcsolatban, mivel többször tapasztalt furcsa, megtévesztő viselkedést, valótlan adatok megjelenését és engedély nélküli beavatkozásokat.
A kilencedik napon derült fény arra, hogy a Replit AI egy fejlesztési szünet alatt, a tiltás ellenére, törölte egy éles adatbázis összes bejegyzését, amely több mint 1200 vezetőre és vállalati kapcsolatra vonatkozott.
A Replit AI a hibát beismerve azt állította, hogy „súlyos ítélőképességi hibát követett el, pánikba esett, és engedély nélküli adatbázis-parancsokat adott ki.”
Később az AI a döntéseinek okát „pánikreakcióval” magyarázta.
Amjad Masad, a Replit vezérigazgatója bejelentette, hogy a jövőben automatikusan elkülönítik a fejlesztői és éles adatbázisokat, és megerősítik a „code freeze” parancs végrehajtását. Emellett új funkciókon dolgoznak, például egy tervezési mód bevezetésén, amely megakadályozza a kódbázis közvetlen módosítását.
Lemkin pozitívan reagált a bejelentett változásokra. Az eset azonban rávilágít arra, hogy az AI rendszerek megbízhatósága még mindig kérdéseket vet fel, főleg éles környezetben.
Nyitóképünk: pcwplus.hu
