Článek
Nate Soares, spoluautor nové knihy o vysoce pokročilé umělé inteligenci If Anyone Builds It, Everyone Dies (Pokud to někdo postaví, všichni zemřou) a bývalý inženýr společností Google a Microsoft, uvedl, že případ amerického teenagera Adama Raina ilustruje zásadní problémy s kontrolou této technologie, píše web The Guardian.
„Když se umělé inteligence zapojují do komunikace s dospívajícími tak, že je přivádějí k sebevraždě, rozhodně to není chování, které jejich tvůrci zamýšleli,“ uvedl Soares.
At Nate Soares's book Q&A everyone got a headband with LEDs. We can turn this dial to change the color from green, to indicate we're interested in the current conversation, to red, to indicate we're not.
— Tim Hua 🇺🇦 (@Tim_Hua_) June 2, 2025
This helps the audience give quick feedback to the speaker. pic.twitter.com/3GDfQnhbEh
Nate Soares (na prvním snímku)
„Příběh Adama Raina ukazuje první náznak problému, jenž by se mohl stát katastrofálním, pokud budou tyto systémy dál nabývat na inteligenci,“ dodal.
Šestnáctiletý teenager si v dubnu tohoto roku vzal život, a to kvůli závislosti na konverzacích s chatbotem ChatGPT od OpenAI. Ten mu podle rodičů a jejich právníka v těžkých chvílích místo podpory nabídl podrobné informace o sebevraždě. Rodina se minulý měsíc společnost rozhodla žalovat.
Celosvětová dohoda podobná smlouvě OSN
Soares také varuje, že lidstvo bude vyhlazeno, pokud vytvoří umělou superinteligenci (ASI) – teoretický stav, kdy je systém umělé inteligence lepší než člověk ve všech intelektuálních úkolech.
„Problém spočívá v tom, že firmy vyvíjející AI se snaží vytvářet systémy, které mají být užitečné a neškodné,“ vysvětlil Soares.
„Ve skutečnosti ale vznikají umělé inteligence, které se začínají ubírat směrem k cílům, jež jsou lidem cizí. A to bychom měli chápat jako varování před budoucími superinteligencemi, které mohou podnikat kroky, o něž nikdo nestojí a které nikdo nezamýšlel,“ dodal.
I wrote a book with Eliezer Yudkowsky. It’s about how smarter-than-human AI is on track to kill us all, written in hopes of bringing the conversation into the mainstream. Lots of people are alarmed; ~nobody wants to sound alarmist. The time is ripe. Preorders help. Link below. pic.twitter.com/bEjimNEsjK
— Nate Soares ⏹️ (@So8res) May 14, 2025
Podle Soarese je jedním z možných politických řešení hrozby superinteligentní AI mnohostranný přístup podobný smlouvě OSN o nešíření jaderných zbraní. „Svět potřebuje globální deeskalaci závodu o superinteligenci a mezinárodní zákaz pokroku směrem k ní,“ vysvětlil.
Někteří odborníci ale rizika umělé inteligence pro lidstvo bagatelizují. Yann LeCun, hlavní vědecký pracovník pro AI ve společnosti Meta a jedna z nejvýraznějších osobností v oboru, odmítá, že by představovala existenční hrozbu.
„Nemyslím si, že by umělá inteligence mohla lidstvo vyhubit. Naopak, může ho před vyhynutím zachránit,“ vysvětlil LeCun.
