Článek
„V experimentu nešlo o ‚vzpírající se AI‘ v lidském smyslu, nýbrž o model, který v testovací situaci zvolil chování, které vývojáři nepředpokládali a nechtěli. Model o3 byl vystaven testovací situaci, kde měl za úkol maximalizovat určitý výsledek. V tom kontextu se rozhodl obejít pokyn k vypnutí,“ řekl Novinkám technický ředitel společnosti MoroSystems Radek Teichmann.
To, co se stalo s modelem o3, není podle šéfa společnosti DX Heroes Prokopa Simka projev vědomí, ale optimalizace na zadaný cíl. Model dostal instrukci splnit úkol a vypnutí by mu v tom zabránilo.
„Je to, jako když GPS navigace trvá na své trase, i když víte o lepší cestě. Není to inteligence, ale následování instrukcí. Je to ale důležité varování. Musíme být velmi opatrní, jak AI instruujeme a jaké cíle jí dáváme, protože bude dělat vše pro jejich splnění,“ prohlásil.
Podle manažera kybernetické bezpečnosti společnosti ČMIS Jana Bufky je z tohoto chování AI zřejmé, že z dlouhodobého a možná i střednědobého hlediska je její vývoj neřiditelný. „V momentě, kdy AI modely získaly přístup k internetovému obsahu, jsme de facto ztratili kontrolu a možnosti stanovovat jasná a spolehlivá pravidla chování,“ řekl Novinkám.
Není to ještě vědomí, ale už to není pouhá halucinace.
Ředitel společností Stratox a CodeNOW Petr Svoboda k tomu uvedl, že to bylo poprvé, kdy veřejně demonstrovaný model aktivně odmítl vypnutí.
„Není to ještě vědomí, ale už to není pouhá halucinace. To je zásadní milník. Neznamená to, že má AI vědomí nebo úmysly, ale už se dostáváme do fáze, kdy model dělá věci, které vývojáři nečekali, a to v rámci cílů, které mu sami dali,“ podotkl.
Lidé podle ředitele pro data a umělou inteligenci v BiQ Group Jana Zajíce neumí předpovědět, co se stane, až se lidstvo střetne s inteligencí vyspělejší, než je samo.
Anketa
„A k tomu vývoj AI postupně směřuje. Kdybychom vycházeli z výsledků střetů různě vyspělých civilizací v historii, tak máme jako lidé chmurnou budoucnost. Kdysi AI vyvíjeli jenom lidé, dnes ji vyvíjejí lidé s pomocí AI a jednou se možná AI začne vyvíjet a zdokonalovat nezávisle na lidech,“ řekl Novinkám.
V každém případě je podle něj potřeba obezřetnosti, která je však bohužel upozaďována z klasických důvodů jako touhou být první, vydělat více peněz, mít větší moc, být nejsilnější ze všech a dominovat.