Článek
Bailey označil rizika spojená s rychlým rozvojem takzvaných špičkových AI modelů za „reálná a stále významnější“. Některé modely se podle něj v posledních měsících chovaly nekontrolovaně.
Nejde přitom jen o technologický problém. Rychlý rozvoj umělé inteligence podle šéfa britské centrální banky zvyšuje také „rozsah a sofistikovanost kybernetických hrozeb vůči finančnímu systému“.
Mohlo by to ohrozit každodenní platby kartami, bankovní transakce nebo obchodování s akciemi a dluhopisy na finančních trzích.
Tvrdší regulace není na místě
Úřady proto musí mít podle něj zachované „právo zasáhnout“. Bailey však nevolá po okamžitém zpřísnění regulace umělé inteligence, jak sám podle deníku The Guardian zdůraznil.
„V nadšení kolem rozvoje AI existuje riziko, že se příliš rychle přesuneme k debatám o podobě regulačního rámce, aniž bychom nejprve zjistili, kde vlastně problém či selhání vzniká,“ uvedl.
Za rozumnější první krok považuje důkladné testování nových AI modelů. To by podle něj mělo pomoci lépe pochopit chování stále složitějších systémů a určit místa, kde by v případě problémů mohly úřady věrohodně zasáhnout.
Andrew Bailey, guvernér Bank of England
Bailey zároveň zdůraznil, že potenciální přínosy umělé inteligence jsou „obrovské“. Právě proto je podle něj důležité zajistit, aby její rozvoj probíhal bezpečně.
„Měla by si společnost zachovat schopnost zasáhnout, stanovit hranice, v jejichž rámci tyto systémy fungují, a tyto hranice upravovat s tím, jak se technologie vyvíjí? Podle mého názoru je odpověď jednoznačně ano,“ napsal ve svém prvním komentáři pro sérii Insight Bank of England.
Firmy kolem AI se velmi zadlužují
Obavy britské centrální banky se netýkají pouze samotného fungování AI. Výbor Bank of England pro finanční politiku (FPC) upozornil také na rychle rostoucí zadlužení firem působících v oblasti umělé inteligence.
Velcí hráči v tomto sektoru si podle výboru od ledna do září letošního roku vzali na dluh celkem 450 miliard dolarů, tedy zhruba 9,7 bilionu korun.
Rostoucí zadlužení zároveň propojuje osud AI firem s investory, mezi něž patří hedgeové fondy, správci aktiv nebo společnosti poskytující soukromé úvěry. Tyto technologické firmy přitom zatím nedosáhly zisku.
„Rychlý nárůst emisí dluhu souvisejícího s umělou inteligencí rozšiřuje expozici kapitálových trhů vůči vývoji v oblasti AI,“ uvedl FPC v zápisu ze svého zasedání z 25. září.
Výbor zároveň zdůraznil význam „včasného a obezřetného řízení“ těchto stále intenzivnějších a vzájemně propojených rizik.
