Zdroj: Wired
Domů » Články »
Yoshua Bengio, vědec často označovaný za jednoho z „otců umělé inteligence“, už roky upozorňuje na rizika, která technologie hlubokého učení přináší. Nyní se jeho obavy naplňují. Nový model Claude Mythos, za kterým stojí americká společnost Anthropic, podle něj ukazuje, proč je mezinárodní spolupráce v oblasti bezpečnosti nesmírně důležitá. Mythos totiž prokázal schopnost v softwaru nacházet tisíce takzvaných „zero-day“ zranitelností, tedy chyb, o kterých doposud nevěděli ani samotní tvůrci dotčeného softwaru.
Výkonné AI modely jako Mythos jsou vážnou hrozbou pro celosvětovou bezpečnost
Taková schopnost je dvousečnou zbraní. Na jedné straně může pomoci systémy zabezpečit, na té druhé by v rukou hackerů mohla posloužit k ochromení klíčové infrastruktury po celém světě. Anthropic si je tohoto rizika vědom, a proto se rozhodl model zpřístupnit jen velmi úzkému okruhu firem a americkým vládním úřadům. Tím však vyvolal vlnu nevole v zahraničí a otevřel otázku, zda by o osudu globální bezpečnosti měla rozhodovat jedna soukromá americká firma.
Bengio v rozhovoru pro Fortune upozornil, že není v pořádku, aby o zabezpečení kritické infrastruktury, kterou využíváme všichni, rozhodovali jednotlivci z řad soukromých společností. Zatímco Anthropic sdílí technologii s vybranými americkými technologickými firmami, zbytek světa zůstává v nejistotě. Bank of England například veřejně vyvinula tlak na Anthropic, aby k modelu získaly přístup i britské banky. Diskuse o schopnostech modelu Mythos dokonce nečekaně ovládly i letošní zasedání Mezinárodního měnového fondu a Světové banky ve Washingtonu.
Evropští regulátoři a bankovní společnosti si stěžují, že zatím nemají možnost plně pochopit rozsah zranitelností, které umělá inteligence odhalila. Tato situace jen urychluje snahy o takzvanou AI suverenitu. Státy mimo USA se totiž obávají závislosti na amerických technologiích, a to i v kontextu toho, že americká vláda v minulosti ukázala ochotu využívat dodavatelské řetězce jako politický nástroj. „Neexistuje žádný důvod, proč by se útoky vedené pomocí AI omezovaly jen na americkou infrastrukturu nebo občany. Musí jít o mezinárodní záležitost“, říká Yoshua Bengio.
Joshua Bengio, Zdroj: inkl.com
Washington upevňuje kontrolu i přes vnitřní spory
Zatímco svět volá po přístupu k informacím, Bílý dům podniká kroky k zajištění vlastní bezpečnosti. Podle uniklých dokumentů se připravují pravidla, která umožní využívat Mythos ministerstvům obrany, financí, obchodu či spravedlnosti. Je to paradoxní situace, protože Anthropic a Pentagon vedou právní spor. Ministerstvo obrany dříve označilo firmu za hrozbu pro dodavatelský řetězec kvůli neshodám ohledně bezpečnostních pojistek. O urovnání tohoto konfliktu nyní jedná přímo generální ředitel Anthropicu Dario Amodei s ředitelkou štábu Bílého domu Susie Wilesovou.
Bengio navrhuje, aby vznikla regulační agentura podobná americkému úřadu pro kontrolu léčiv (FDA), která by dohlížela na vývoj a nasazování pokročilých modelů AI. Podle něj musí vlády jasně stanovit, že soukromé společnosti nesou odpovědnost za to, aby jejich technologie neúmyslně nepoškodily infrastrukturu v jiných zemích.
Dilema otevřeného kódu a hrozba z Číny
Do diskuse vstupuje také otázka otevřeného softwaru a role Číny. Bengio odhaduje, že čínské modely zaostávají za těmi americkými zhruba o půl roku, ale tento náskok se rychle zmenšuje. Čína navíc masivně investuje do open-source modelů, což je podle Bengia v éře AI vysoce riskantní. Na rozdíl od uzavřených systémů, jako je Mythos, si open-source model může kdokoli stáhnout a odstranit z něj bezpečnostní filtry, které mají bránit zneužití modelů k sofistikovaným kybernetickým útokům.
Tradiční pohled na open-source software, kdy veřejně dostupný kód umožňuje komunitě rychleji opravovat chyby, se s příchodem výkonné AI mění. Umělá inteligence totiž dokáže v milionech řádků kódu najít slabiny mnohem rychleji než člověk. To, co byla dříve výhoda transparentnosti, se tak může stát snadným cílem pro kybernetické útoky podpořené umělou inteligencí. Pokud se tedy mezinárodní společenství včetně Číny neshodne na společných pravidlech, riskujeme, že se kybernetický prostor stane neovladatelným bojištěm uzavítá Bengio.
Zdroj: inkl.com
Domů » Články »
Nahrávání ...Jakub Sobotka
Senior Editor jehož vášní jsou AI, mobilní technologie a vše kolem IT. Ve volném čase rád sportuje, čte, nebo se toulá přírodou. Ač uživatel Apple platformy, dobře si rozumí i s Androidem.
Komentáře