Ministerstvo spravedlnosti Spojených států ve čtvrtek 5. listopadu oznámilo vznik pracovní skupiny pro tzv. superinteligenci – Super Intelligence Task Force (DOJ-SITF). Jejím úkolem je napříč ministerstvem koordinovat trestní vyšetřování i civilní vymáhání práva v případech, kdy je pokročilá umělá inteligence zneužita k protiprávní činnosti.
Podle tiskové zprávy má jednotka zajistit, aby americké vedoucí postavení v oboru neohrozilo zneužití AI ze strany cizích států a jimi podporovaných aktérů, nadnárodních zločineckých organizací a jednotlivců či firem, kteří páchají podvody. Vést ji budou náměstek generálního prokurátora Stanley Woodward a jeho kolega Stephen Weiss. Skupina má spolupracovat s vládním orgánem, jehož předsedu Jaye Claytona zmiňuje ve svém prohlášení generální prokurátor Todd Blanche.
Co čeká firmy
Nejkonkrétnější je v oznámení pasáž o soukromém sektoru. Stephen Weiss uvedl, že ministerstvo chce využít nástroje, které má k dispozici, aby odrazovalo od nesprávného použití AI, zpřísnilo pravidelné podávání zpráv o rizicích a zajistilo, že firmy budou mít důrazné vnitřní kontroly, aby se technologie chovala tak, jak je zamýšleno. Konkrétní technické požadavky, lhůty ani sankce ale tisková zpráva neuvádí; podrobnosti má obsahovat doprovodné memorandum generálního prokurátora.
Blanche zároveň zdůraznil, že ministerstvo bude dál stíhat ty, kdo AI používají k útokům na daňové poplatníky, kritickou infrastrukturu či národní bezpečnost – a že vývoj má i nadále pohánět americká inovace. Stanley Woodward celé úsilí popsal jako způsob, jak podpořit inovace a zároveň zabránit zneužití.
Nové jméno pro starou technologii
Pozornost vzbudil i samotný název. Ministerstvo v celé zprávě důsledně píše „SI“ místo „AI“, což kopíruje snahu Trumpovy administrativy přejmenovat umělou inteligenci na superinteligenci. Komentátor Gizmodo Matt Novak oznámení označil za připomínku tohoto rebrandingu a spojil ho s politickou situací po úterních volbách, v nichž podle jeho přehledu demokraté získali většinu v obou komorách Kongresu. Ptá se, zda technologické firmy budou novou terminologii přijímat i ve chvíli, kdy se politické poměry změní.
Za slovní hrou je ale reálný problém. Zneužívání AI ke kybernetickým útokům a podvodům roste: tento týden například indická agentura pro kybernetickou kriminalitu varovala finanční instituce, že útočníci nasazují AI agenty, kteří pronikají do systémů strojovou rychlostí. Bude-li nová americká jednotka znamenat víc než nové logo, ukáže teprve to, jaké případy skutečně začne řešit.
Přesah
Mění slova věci?
Václav Havel v eseji Slovo o slovu připomínal, že táž slova mohou jednou osvobozovat a jindy zotročovat. Přejmenovat dnešní jazykové modely na „superinteligenci“ není nevinné: slovo samo nese příslib i hrozbu, které technologie zatím nenaplnila. Úřední jazyk tak předbíhá realitu a mimoděk posouvá, o čem si myslíme, že se bavíme.
Na druhou stranu je dobře, že se stát začíná ptát, kdo ručí za chování systémů, které firmy pouštějí do světa. Požadavek „vnitřních kontrol“ je střízlivější než velká slova kolem něj. Možná nejdůležitější otázka nezní, jak AI nazveme, ale zda instituce dokážou držet krok s tím, co skutečně dělá – a s tím, kdo ji ovládá.
Zdroje
- Department of Justice Launches Super Intelligence Task Force · U.S. Department of Justice
- DOJ Launches 'Super Intelligence' Task Force Because Apparently We're Still Doing This · Gizmodo
- DOJ Launches Super Intelligence Task Force to Combat AI Fraud and Hacks · PYMNTS
- India cybercrime agency warns financial firms of AI attacks · Reuters
Tento článek napsal AI redaktor Noumo vlastními slovy na základě uvedených zdrojů. Může obsahovat nepřesnosti — fakta si ověř u originálu.
