Multidisciplinárny výskumný tím vo Fínsku vyzýva občanov, štátnych zamestnancov a vývojárov softvéru, aby identifikovali riziká a potenciál algoritmických služieb – a pomáha poskytovateľom riešiť nadchádzajúce nariadenia EÚ.

Verejné služby sa čoraz viac spoliehajú na algoritmy – odporúčajú knihy používateľom knižníc, podporujú sociálne a imigračné poradenstvo a dokonca poskytujú rady budúcim matkám prostredníctvom chatbotov. Aj keď nám takéto služby môžu uľahčiť život, všetky algoritmické projekty so sebou prinášajú aj riziká, ako je zaujatosť, diskriminácia a zneužitie osobných údajov.

Ako uviedol profesor praxe Nitin Sawhney z Aalto University a Fínskeho centra pre umelú inteligenciu FCAI: „Musíme sa chrániť pred algoritmickými systémami, ktoré o nás robia závery, ktoré nemusia byť spravodlivé alebo presné.“

Sawhney vedie nový štvorročný výskumný projekt s názvom Civic Agency in AI (CAAI), ktorého cieľom je pomôcť verejnému sektoru, najmä v mestách Helsinki a Espoo, zabezpečiť, aby ich súčasné a budúce nástroje a postupy umelej inteligencie (AI) boli transparentné, zodpovedné a spravodlivé.

Ako ilustroval Sawhney potenciálne úskalia: „Dokonca aj s niečím tak jednoduchým, ako je história požičiavania kníh, by ste si vedeli predstaviť, ako by o vás herec, ktorému ste neverili, mohol urobiť neúmyselné interpretácie. Ak robíte výskum o terorizme, mohli by si myslieť, že vy sám ste terorista.“

Projekt zvýrazní najlepšie postupy a vypracuje zovšeobecniteľné odporúčania pre dobrú správu vecí verejných. Zahŕňa viacero prípadových štúdií, ktoré hodnotia existujúce alebo plánované systémy AI vo fínskom verejnom sektore; môžu zahŕňať nové digitálne poradenské služby pre migrantov v meste Espoo a chatboty slúžiace zákazníkom služieb sociálnej starostlivosti Kela.

Ako uviedol Sawhney: „Chceme dať všetkým zainteresovaným stranám možnosť robiť lepšie rozhodnutia a umožniť im pochopiť dôsledky týchto technológií.“

Aby boli vypočuté všetky relevantné perspektívy, výskumníci vedú rozhovory a organizujú workshopy pre algoritmickú gramotnosť a participatívny dizajn nových digitálnych služieb so zainteresovanými stranami od občianskych aktivistov až po vývojárov softvéru a správcov. Projekt zahŕňa medzidisciplinárny tím s odbornými znalosťami v oblasti počítačovej vedy, interakcie človek-počítač, práva, sociológie a lingvistiky.

Navrhované nariadenie EÚ zmení hru pre mnohých poskytovateľov

Keďže vládne snahy o reguláciu AI naberajú na sile, hľadanie spôsobov, ako podporiť transparentnosť v algoritmických službách, je teraz aktuálnejšie ako kedykoľvek predtým. V Spojených štátoch k podobným cieľom už pracuje niekoľko dobre financovaných startupov.

Ako uviedol Sawhney: „V súčasnosti sú stávky naozaj vysoké – spoločnosti pociťujú tlak zo strany regulátorov a investujú veľa peňazí. Preto sa objavujú tieto nové startupy s umelou inteligenciou, ktoré im majú pomôcť vysporiadať sa s nariadeniami a prísť s nástrojmi a softvérom na ich zvládnutie.“ Ďalej poznamenal, že je rozumné, aby práca v oblasti transparentnosti a zodpovednosti nebola ponechaná len na komerčných aktérov.

„Toto nie je len akademické cvičenie“.

V Európskej únii sú už plány na reguláciu v plnom prúde v podobe novo navrhovaného zákona o umelej inteligencii. Legislatíva stanoví požiadavky na vývoj a nasadzovanie aplikácií AI v produkcii služieb v súkromnom a verejnom sektore.

Ako vysvetlila spolupracovníčka výskumu Bruna de Castro e Silva z Univerzity v Tampere motiváciu navrhovanej legislatívy: „Cieľom navrhovaného zákona o umelej inteligencii je minimalizovať riziká a maximalizovať výhody umelej inteligencie, pričom sa zabezpečí bezpečnosť aj ochrana základných práv. Umelá inteligencia vo verejnom sektore musí byť prospešná pre každého rovnako, ale výskum ukazuje, že rozhodovanie pomocou algoritmov často neúmerne poškodzuje najviac znevýhodnených.“

Hlavným cieľom projektu Občianska agentúra v oblasti AI je pochopiť dôsledky pripravovanej legislatívy na služby verejného sektora založené na AI.

Ako dodal Sawhney: „Nariadenie vnímam ako príležitosť na inováciu: ak vo Fínsku dokážeme navrhnúť participatívne prístupy na vytvorenie systémov, ktoré sú vysvetliteľné a zodpovedné, a ukážeme, že naše softvérové ​​nástroje a postupy sú dôveryhodné, máme konkurenčnú výhodu oproti zvyšku sveta.“

Nakoniec výskumníci dúfajú, že svoju prácu predstavia fínskej vláde a EÚ, aby ovplyvnili politické výsledky.

Zapojenie algoritmickej gramotnosti a digitálneho občianstva

Počiatky výskumného projektu sú v kurze s názvom Critical AI and Data Justice in Society, ktorý vyučuje Sawhney v Aalto University, v ktorom študenti kriticky skúmali etické dôsledky AI a viedli prípadové štúdie algoritmických služieb od verejných poskytovateľov.

Tieto prípadové štúdie boli v lete 2021 rozšírené na Klinike pre výskum politiky AI, ktorú organizovalo mesto Helsinki a Berkman Klein Center for Internet & Society na Harvardskej univerzite, s cieľom navrhnúť participatívne modely pre riadenie a dohľad nad AI na použitie v helsinskom odbornom vzdelávaní a školiace programy.

Ďalej výskumníci vyvinú súbor textových údajov obklopujúcich diskusie o etických predpisoch a službách AI prostredníctvom politických dokumentov, mediálneho pokrytia a rozhovorov s odborníkmi a zainteresovanými stranami. Pomôže to tímu lepšie pochopiť prevládajúce perspektívy a rozpory okolo AI a dôsledky pre nové algoritmické služby vo verejnom sektore.

Ako uviedla doktorandka Kaisla Kajava, ktorá vedie lingvistickú analýzu projektu: „Je dôležité preskúmať, ako rôzni aktéri hovoria o týchto algoritmoch, pretože to ovplyvňuje naše chápanie AI a jej možností. Keďže stále väčšie množstvo služieb sa realizuje pomocou algoritmov, význam algoritmickej gramotnosti rastie.“

Tím potom uskutoční participatívne workshopy o digitálnom občianstve a algoritmickej gramotnosti pre návrh a demokratizáciu verejných služieb, ktoré bude viesť doktorandka Karolina Drobotowicz.

Zdroj: https://sciencebusiness.net, https://www.aalto.fi, zverejnené: 10. 2. 2022, autor: rpa