Nedávno zverejnená správa Kráľovskej spoločnosti Science in the Age of AI skúma, ako technológie umelej inteligencie (AI), ako napríklad hlboké učenie a veľké jazykové modely, prinášajú revolúciu do vedeckého výskumu. Skúma tiež vyvíjajúce sa pojmy integrity, zručností a etiky výskumu a ich dôsledky pre budúcnosť vedy a vedcov.

S rastúcou dostupnosťou rozsiahlych súborov dát, nových algoritmických techník a rastúcim výpočtovým výkonom sa umelá inteligencia stáva uznávaným nástrojom, ktorý využívajú výskumníci v rôznych vedeckých oblastiach hľadajúci nové riešenia starých problémov. Teraz viac ako kedykoľvek predtým je potrebné pochopiť rozsah transformačného vplyvu AI na vedu a to, čo musia vedecké komunity urobiť, aby plne využili jej výhody.

Správa sa venuje nasledovným otázkam:

• Ako technológie poháňané umelou inteligenciou menia metódy a povahu vedeckého výskumu?
• Aké sú príležitosti, obmedzenia a riziká týchto technológií pre vedecký výskum?
• Ako môžu príslušné zainteresované strany (vlády, univerzity, priemysel, sponzori výskumu atď.) čo najlepšie podporiť vývoj, prijatie a využívanie technológií riadených umelou inteligenciou vo vedeckom výskume?

Prekážky a príležitosti v oblasti otvorenej vedy

Správa poukazuje na niekoľko výziev pri prijímaní zásad otvorenej vedy, ktoré vyplývajú z „čiernej skrinky“ umelej inteligencie a obmedzenej transparentnosti komerčných modelov. Okrem toho meniace sa stimuly vo vedeckom ekosystéme môžu tlačiť na výskumníkov, aby uprednostňovali techniky AI pred tradičnými metódami, čo môže viesť k zameraniu sa na to, aby boli „dobrí v AI“, a nie „dobrí vo vede“.

Zásady otvorenej vedy však môžu podporiť spravodlivejší prístup k výhodám AI a zvýšiť schopnosť širšieho okruhu odborníkov prispievať k jej vedeckým aplikáciám vrátane nedostatočne zastúpených a nedostatočne financovaných vedcov, vlastníkov dát a nevedeckej verejnosti.

 

Opatrenia na podporu otvorenej vedy vo výskume založenom na umelej inteligencii

1. Motivácia k otvorenej vede: Sponzori a financujúce inštitúcie by mali motivovať k prijatiu zásad otvorenej vedy, aby sa zlepšila reprodukovateľnosť výskumu založeného na umelej inteligencii.
2. Uznávanie otvorenej vedy v kariére: Inštitúcie a časopisy by mali oceňovať a uznávať postupy otvorenej vedy v rámci možností kariérneho postupu.
3. Podpora medzinárodnej spolupráce: Subjekty financujúce výskum, inštitúcie a priemyselní aktéri by mali investovať do otvorených vedeckých infraštruktúr, nástrojov a postupov na podporu medzinárodnej spolupráce.
4. Odstránenie uzavretých ekosystémov: Tvorcovia politík by mali zvážiť spôsoby, ako zabrániť rozvoju uzavretých ekosystémov pre umelú inteligenciu vo vede, ako napríklad nariadiť zodpovedné zverejňovanie referenčných hodnôt, tréningových dát a metodík používaných vo výskume vedenom priemyslom.

 

Výzvy ohľadom vlastníckych práv AI

Čoraz väčšie spoliehanie sa na vlastnícke práva nástrojov AI, ktoré často vyvíjajú a udržiavajú súkromné spoločnosti, predstavuje značné výzvy. Tento problém ešte zhoršuje neprehľadnosť tréningových dát, ktoré sú základom významných nástrojov AI. Na posilnenie dohľadu a transparentnosti sú nevyhnutné kontextovo špecifické a s AI kompatibilné prístupy otvorenej vedy.

 

Závery 

V správe sa zdôrazňuje, že zásady a postupy otvorenej vedy sú kľúčové pre zlepšenie transparentnosti, reprodukovateľnosti a verejnej kontroly vedeckých projektov založených na umelej inteligencii. Neriešenie týchto otázok predstavuje významné riziko pre vedu aj spoločnosť, pretože nasadenie nespoľahlivých alebo chybných výstupov založených na AI by mohlo viesť k škodlivým následkom. Je potrebný ďalší výskum na pochopenie interakcií medzi otvorenou vedou a AI a na minimalizáciu bezpečnostných rizík spojených s otvoreným zverejňovaním modelov a dát.

Správa Science in the age of AI je dostupná TU. 

 

Zdroj: https://royalsociety.org/; zverejnené: 17.6.2024; autor: onz