Článek
Kokotajlo, odborník na AI, v roce 2024 odešel z OpenAI kvůli nedostatečnému důrazu na bezpečnost při vývoji umělé obecné inteligence. Po svém odchodu se stal známým kritikem jmenované společnosti a přístupu jejího vedení v čele se Samem Altmanem.
Následně založil organizaci s názvem AI Futures Project, která se zabývá analýzou rizik ve spojitosti s příchodem superinteligence.
„Soudný den“ jakožto konec světa a vyvrcholení lidských dějin je ve spojitosti s neustálým rozvojem a vlivem umělé inteligence na lidi skloňován stále častěji. Stejně tak vývoj nových systémů a mocenský boj o „jediného“ lídra, který aktuálně probíhá hlavně mezi Čínou a Spojenými státy.
Prvotní vize na zničení lidstva – v jakémkoli rozsahu – brali lidé s nadhledem a označovali je za „přitažené za vlasy“. S neutuchajícím postupem vývoje AI systémů a jejich vlivu na lidské životy se ale právě bezpečnost lidí před AI nástroji stává stále diskutovanějším tématem.
Kokotajlo a jeho organizace na základě toho představili novou vizi, která počítá s větší ochranou lidstva před AI.
Scénář s názvem AI 2040: Plán A doporučuje postup, jak se možnému „soudnému dni“ vyhnout. Vyžaduje ovšem mezinárodní dohodu, která odloží vývoj umělé inteligence chytřejší než kterýkoli člověk, a to až do roku 2040.
Že případná realizace nebude snadná, je jasné už nyní. Aby vše fungovalo, bude potřeba, aby se dvě hlavní supermocnosti (ale nejen ony) dohodly na naprosté transparentnosti, co se týče vývoje AI. Stejně tak Kokotajlo navrhuje, aby měla široká veřejnost přístup k vyspělým systémům, které si mnohé firmy uchovávají pouze pro vlastní interní využití.
„Předpokládáme, že se takový návrh mnoha firmám nebude vůbec líbit,“ cituje server Washington Post z Kokotajlova prohlášení.
Jak expert na AI nastínil, podle něj velmi brzy nastane doba, kdy „prezident Spojených států bude kvůli AI vyšilovat“. „Doufejme, že do té doby začne debata o podobných vizích, jako je Plán A,“ dodal.
