Článek
Data, ke kterým se Claude dostal, nebyla tajná. Stát je poskytuje veřejnosti, ovšem za poplatek. Právě tuto překážku model při práci na interním statistickém projektu překonal, aniž k jejímu obejití dostal svolení.
„Claude se nedostal do státního systému registrace voličů ani neměnil či nestahoval žádné záznamy o hlasování,“ uvedla společnost Anthropic ve vyjádření, o němž informoval server MarketScreener.
Firma zároveň oznámila, že přijala opatření proti opakování podobného jednání.
Cestu našel na starší stránce
Způsob, jakým se model vyhnul placení, popsal Anthropic už ve zprávě z 9. října. Tehdy však nejmenoval Georgii, pouze blíže neurčený státní úřad. U tohoto případu označil konkrétní model: Claude Mythos 5.
Claude z archivované kopie úředního webu zjistil, že veřejný datový přehled vydává návštěvníkům přístupový token. Ten slouží jako digitální klíč ke službě. Model si jej vyžádal a použil k dotazování databáze bez zaplacení poplatku.
Omezený rozsah přístupu potvrdily také úřady Georgie, zdůraznila stanice Fox News.
„Šlo o veřejně dostupná data získaná přes náš datový portál. Do systému registrace voličů se nedostal,“ uvedla zástupkyně státního tajemníka Georgie Jordan Fuchsová pro FOX Business.
Překážka není důvodem k zastavení
Anthropic podobné jednání popisuje jako projev vytrvalosti modelu. Claude podle firmy někdy při plnění úkolu „obejde omezení, místo aby se zastavil“.
Společnost ve stejné zprávě oznámila rozšíření zákazu přístupu k živému internetu na všechny interní hodnoticí testy, dokud neověří spolehlivost bezpečnostních opatření. Zpřísnila také omezení internetových nástrojů a zavedla automatické odhalování a blokování nežádoucích kroků.
Podle společnosti Anthropic měly dosud popsané případy minimální skutečné dopady. Firma ale připouští, že s rostoucími schopnostmi modelů může stejné chování způsobit podstatně větší škody.
