Umelá inteligencia (AI) môže pomaly znamenať revolúciu v zdravotníctve, ale pacienti prejavujú nižšiu úroveň dôvery v nástroje založené na algoritmoch ako ich lekári. Opatrný prístup k tomu, čo sa považuje za technológiu čiernej skrinky, môže byť pochopiteľný, ale autori štúdie sa domnievajú, že trochu väčšia transparentnosť by mohla výrazne zvýšiť dôveru a podporiť prijímanie.

Ako uviedol Romain Cadario, docent na Rotterdam School of Management Erasmus University v Holandsku: „Mnoho diagnostík poháňaných AI môže fungovať porovnateľne alebo dokonca lepšie ako ľudskí špecialisti, ako aj poskytovať jednoduchší prístup k informáciám pre pacientov mimo klinického prostredia prostredníctvom inteligentných zariadení.“

Výzva, aby ľudia lepšie chápali aplikácie AI, ktoré ovplyvňujú ich život, nie je žiadnou novinkou. Mnoho etických výborov po celom svete požadovalo väčšiu transparentnosť fungovania algoritmov a druhu údajov, z ktorých sa získavajú.

Štúdia ukazuje, že väčšia otvorenosť by bola prospešná pre vývojárov aj spoločnosti. Ako uviedol Cadario: „[Politická diskusia] odráža to, čo sme zistili. Z etického hľadiska je zrejmé, že ľudia majú právo na vysvetlenie. Tvrdíme, že je to nielen prospešné [z hľadiska etiky], ale je to prospešné aj pre vývojárov aplikácií a AI, pretože to povedie k prijatiu.“

Žiadna slepá dôvera

AI je pripravená významne prispieť k zdravotnej starostlivosti. Už sa používa na zlepšenie diagnostiky rakoviny ako nástroj na objavovanie liekov a pomáha predpovedať a riadiť budúce pandémie. Tento potenciál priviedol Cadario a jeho kolegov Chiari Longoni a Carey Morewedge z Bostonskej univerzity k štúdiu.

AI je v zdravotníctve oveľa užitočnejšia než pri prevádzke služieb Amazon, povedal Cadario. Mnohí však vnímajú AI ako nebezpečenstvo a nie ako pomoc. Aplikácie AI sú čierne skrinky, ktorých vnútorné fungovanie je často záhadou, dokonca aj pre samotných vývojárov, ktorí ich vytvárajú. Nástroj AI napríklad dokáže diagnostikovať rakovinu kože na základe obrázkov. Algoritmus nabitý miliónmi príkladov sa učí rozpoznať rakovinu z iných kožných lézií, čo dáva pravdepodobnosť škodlivosti. Ale ako presne to dospeje k záveru, nie je pacientovi v mieste diagnózy zrejmé.

Pre Cadario to neznamená, že nemožno dosiahnuť transparentnosť. Aj keď je ťažké rozobrať algoritmy, jednoduché vysvetlenie mechaniky nástroja AI môže zvýšiť dôveru pacientov.

V jednom experimente vedci spustili dve reklamy Google na diagnostiku rakoviny kože na základe AI. Jeden vysvetlil, ako algoritmus fungoval, zatiaľ čo druhý nie. Ten prvý prilákal výrazne väčšiu premávku.

EÚ na záchranu

Problém dôvery nie je pre EÚ novinkou: začiatkom roka 2021 Spoločné výskumné centrum Európskej komisie, zverejnilo svoju vlastnú štúdiu o aplikáciách AI v zdravotníctve.

Zistilo sa, že zatiaľ čo zručnosti, údaje a technologické kapacity zohrávajú úlohu pri prijímaní AI v oblasti zdravia, dôvera je tiež kľúčovým aspektom. V dokumente sa uvádza, že na zvýšenie dôvery by EÚ mala zvýšiť transparentnosť a zaoberať sa problémami súvisiacimi s ochranou údajov. To by zase urýchlilo prijatie nástrojov AI v zdravotníctve.

Európsky parlament medzitým v decembri 2020 počul o dôležitosti dôvery používateľov, keď Jelena Malinina, referentka pre politiku digitálneho zdravia v Európskej lobistickej organizácii, predložila poslancom EP argument, že pacienti by mali mať právo na vysvetlenia a transparentnosť. Ako uviedla Malinina: „[Keď] ideme k lekárovi, môžeme kedykoľvek požiadať lekára, aby nám vysvetlil, ako bola stanovená diagnóza. To isté musí platiť pre AI.“

Zdôraznila tiež dôležitosť zodpovednosti, dôkladného posúdenia nástrojov založených na umelej inteligencii pred ich uvedením na trh a zabezpečenia, aby sa v rámci tohto procesu zabránilo zaujatosti a diskriminácii, ako aj medzi ďalšími kľúčovými aspektmi budovania dôvery.

Táto váha by nemala klesnúť výlučne na plecia spotrebiteľov a lekárov. Pretože mnohé prieskumy zisťujú, že ľudia nevedia, na ktorej strane tela je srdce, budovanie porozumenia tomu, ako AI funguje, môže byť príliš veľa na to, aby ste sa pýtali, navrhla Malinina. Namiesto toho navrhla, aby medzery mohli vyplniť sprostredkovatelia, ktorí rozumejú technológii, a pomôcť tak lekárom aj pacientom.

Problém transparentnosti a dôvery používateľov bude pravdepodobne vyriešený v budúcom súbore pravidiel pre AI. V snahe ukázať cestu začiatkom roka 2021 Komisia navrhla nové pravidlá pre technológiu, o ktorých v súčasnosti členské štáty a Európsky parlament uvažujú pred prijatím legislatívy.

Zdroj: https://sciencebusiness.net, zverejnené: 25. 8. 2021, autor: rpa