Umělá inteligence naklonuje hlas člověka. Stačí jí 15 sekund

Start-up, který stojí za chatovacím botem ChatGPT, nazývá novou technologii zatím pracovně Voice Engine.

Nyní ji testují společnosti z oblasti vzdělávání nebo zdravotnictví, které se zavázaly, že nevyužijí ničí hlas bez jeho souhlasu. K běžným uživatelům se ale jen tak nedostane, a to kvůli obavám o jednoduché zneužití.

OpenAI na svém blogu uvedla, že chce jednat o zodpovědném uvedení na trh a debatovat o tom, jak je veřejnost na syntetické hlasy připravena. Až pak se rozhodne, kdy a zda vůbec budou moci Voice Engine využít běžní lidé.

Ukázka reálného a syntetického hlasu

Otázka možného zneužití je namístě. V posledních letech se masivně rozšířil takzvaný vishing, což je obdoba phishingu, místo e-mailu ale využívají kyberzločinci metod sociálního inženýrství v průběhu telefonních hovorů. Podvodníci se příjemcům hovorů představují například jako pracovníci banky, kteří zjistili napadení bankovního účtu, případně jako bezpečnostní experti, kteří chtějí zabezpečit jejich počítač.

Možnost zkopírovat reálný hlas během pár sekund pomocí AI by ale kyberšmejdům dala do rukou úplně novou zbraň, kterou by při svých útocích patrně neváhali využít. Už dnes zvládnou bez větších obtíží podvrhnout oficiální telefonní čísla konkrétních institucí, což se označuje jako spoofing.

S novou technologií by se snadno mohli vydávat za příbuzného či známého, s ohledem na přesvědčivou kvalitu syntetického hlasu by nemuseli rozeznat takový podvod ani ostřílení uživatelé.

Jak upozornila americká stanice NBC News, už v lednu zasáhl falešně vytvořený hlas do tamní politiky, když voliče v New Hamsphire obvolával robot imitující prezidenta Joea Bidena. Podle stanice tak Voice Engine určitě nebude volně k dispozici v letošním americkém volebním roce.

Voice Engine, který firma vyvinula už v roce 2022, ale ukázala ho světu až nyní, dokáže mluvit nejen v rodném jazyce mluvčího, ale i řadě dalších. To má například tvůrcům podcastů nebo firmám umožnit oslovit větší počet lidí po celém světě.

Zajímavé je, že v cizí řeči mluví syntetický hlas s přízvukem. Například hlas v angličtině vytvořený podle francouzského mluvčího mluví anglicky s typickým francouzským přízvukem.