Článek
„Domnívám se, že jsme byli propuštěni proto, že jsme upřednostňovali bezpečnost před krátkodobými zájmy OpenAI jako komerční společnosti,“ napsal na sociální síti X bývalý výzkumník Mikita Balesni.
Společně s Tomkem Korbakem a Jasmine Wangovou, kteří rovněž dostali výpověď, zveřejnil otevřený dopis adresovaný vedení firmy. Všichni tři podle svých slov donedávna pracovali v oblasti bezpečnosti AI nebo takzvaného alignmentu, tedy vývoje systémů, jejichž chování má odpovídat lidským hodnotám a etickým principům.
Porušení důvěry?
Mluvčí OpenAI sdělil BBC, že interní vyšetřování potvrdilo pochybení při nakládání s citlivými informacemi v rozporu se zavedenými postupy. „Chceme zcela jasně zdůraznit, že tato rozhodnutí nesouvisela s upozorňováním na bezpečnostní problémy ani s veřejným vyjadřováním kritických názorů,“ uvedlo v pátek vedení výzkumu společnosti.
Šetření podle něj odhalilo závažné porušení důvěry, které přesahuje skutečnosti popsané v dopise bývalých pracovníků. OpenAI si proto za ukončením jejich pracovního poměru stojí.
Tomek Korbak popsal konkrétní problém, na který podle svých slov upozorňoval již několik měsíců. „Celé měsíce jsem upozorňoval na bezpečnostní riziko spočívající v tom, že ztrácíme schopnost sledovat, co si AI agenti ‚myslí‘. Přitom jde o jeden z našich nejlepších nástrojů, jak odhalit, když se začnou chovat nežádoucím způsobem,“ napsal na síti X.
„Domnívám se, že právě proto jsem byl propuštěn,“ dodal.
OpenAI mezitím oznámila, že dokončuje smlouvy s externími hodnotiteli, kteří mají nezávisle posuzovat bezpečnost jejích systémů. Podrobnosti chce zveřejnit v nadcházejících týdnech.
Bojí se mluvit
Autoři otevřeného dopisu se obávají, že jejich propuštění vyvolalo mezi kolegy strach „otevřeně mluvit a jednat způsobem, který byl ještě minulý týden nedílnou součástí práce v OpenAI“.
Jasmine Wangová navíc naznačila, že podle jejího názoru nejde o ojedinělý případ. „Nebyli jsme první, kdo byl z OpenAI za podezřelých okolností vytlačen,“ napsala na sociální síti X. „Pokud se zaměstnanci proti podobným praktikám nyní nepostaví, obávám se, že nebudeme ani poslední,“ dodala.
