Európska komisia chce povzbudiť výskumníkov, aby používali generatívnu AI, ale zároveň varuje pred rizikami pre vedecký proces a hovorí: „Tieto nástroje by mohli poškodiť integritu výskumu a vyvolať otázky o schopnosti súčasných modelov bojovať proti klamlivým vedeckým praktikám a dezinformáciám.“

Nové usmernenia zverejnené 20. marca 2024 odporúčajú výskumníkom „zdržať sa zásadného používania generatívnych nástrojov AI v citlivých činnostiach, ktoré by mohli ovplyvniť iných výskumníkov alebo organizácie“, pričom sa odvolávajú na vzájomné hodnotenie a hodnotenie výskumných návrhov.

Okrem toho, že sa obmedzí riziko nespravodlivého hodnotenia, napríklad v dôsledku zaujatosti vyplývajúcej zo súborov údajov používaných na školenie nástrojov, cieľom je zabrániť tomu, aby sa nezverejnená práca zahrnula do modelov umelej inteligencie bez súhlasu ich pôvodcu.

Tento postoj sa líši od Európskej rady pre výskum (ERC), ktorá sa zatiaľ rozhodla nekontrolovať používanie AI výskumníkmi alebo hodnotiteľmi. Zákaz by bol „nepovinný“, uviedla prezidentka ERC Maria Leptin pre Science|Business a dodala: „[Je] zodpovednosťou jednotlivca podpísať to, čo predložia, a prevziať za to plnú zodpovednosť.”

„Nezakazujeme iné spôsoby podpory, ako je vyhľadávanie Google alebo pýtanie sa kolegov od vedľa,“ dodala Leptin.

Hodnotitelia ERC však podpisujú dohody o dôvernosti, ktoré im bránia „predkladať vysledovateľné údaje verejným platformám, ktoré analyzujú text“, ale toto nie je čiernobiely problém, uviedla Leptin.

„Niekto by mohol preformulovať otázku a povedať: „Výskumník navrhol urobiť to a to: napíšte zhrnutie toho, aké originálne to je“. Potom v skutočnosti nezverejňujete časť duševného vlastníctva z výskumného projektu niekoho iného.“

Pokiaľ ide o použitie AI v projektových návrhoch, Leptin uviedla, že osobné pohovory budú mať väčšiu úlohu, pretože žiadatelia musia byť schopní vysvetliť svoju prácu.

ERC bude tieto problémy naďalej monitorovať a samotné odporúčania Komisie sú prezentované ako „živé usmernenia“, čo znamená, že sa budú pravidelne aktualizovať podľa vývoja technológie.

 

Tempo a efektivita

Komisia vypracovala nezáväzné usmernenia s krajinami Európskeho výskumného priestoru (ERA) a zainteresovanými stranami s cieľom poskytnúť financujúcim agentúram, výskumným organizáciám a výskumníkom odporúčania, ako podporovať zodpovedné používanie generatívnej umelej inteligencie.

Pozitívom je, že usmernenia zdôrazňujú potenciál umelej inteligencie zlepšiť efektivitu a tempo výskumných a overovacích procesov, vytvárať texty vo viacerých jazykoch a zhrnúť a uviesť do kontextu široké zdroje vedomostí.

Aj keď sú nezáväzné, komisárka pre výskum Iliana Ivanova vyzvala vedeckú komunitu, „aby sa k nám pridala pri premene týchto usmernení na referenciu pre európsky výskum“ s cieľom „udržať vedeckú integritu a zachovať dôveru verejnosti vo vedu uprostred rýchleho technologického pokroku.“

Mattias Björnmalm, generálny tajomník CESAER, asociácie európskych univerzít vedy a techniky, ktorá pomáhala pri príprave dokumentu, povedal: „Nevidím to ako výzvu na zákaz [generatívnej AI pri hodnotení výskumu], ale opatrnosť, pretože vieme, že v tejto oblasti môžu nastať značné problémy, ak sa použije bez zohľadnenia týchto problémov.“

 

Transparentnosť

Usmernenia vyzývajú výskumníkov, aby boli transparentní, pokiaľ ide o to, ktoré generatívne nástroje AI boli použité v ich výskumných procesoch, a pripomínajú im, že sú zodpovední za vedecký výstup generovaný AI.

Výskumné organizácie by medzitým mali poskytovať alebo uľahčovať školenia o používaní AI a monitorovať používanie systémov AI v rámci svojich organizácií.

Na zabezpečenie ochrany a dôvernosti údajov by univerzity a ďalšie organizácie mali implementovať lokálne hosťované alebo cloudové generatívne nástroje AI, ktoré si sami riadia, kedykoľvek je to možné.

To neznamená, že sa od každej univerzity očakáva, že bude mať svoj vlastný lokálne hosťovaný systém, uviedol Björnmalm. „Mali by sme však spolupracovať s našimi infraštruktúrami a prepojenými službami, napríklad prostredníctvom európskeho cloudu pre otvorenú vedu, aby sme prispeli k vedúcemu postaveniu na celom svete.“

Celkovo by sa usmernenia nemali považovať za normatívne, ale za „umožňujúci rámec“, ktorý spája výskumníkov a investorov, pričom sa vyhýba rozdielom v rámci Európy, ktoré by vytvárali ďalšie zložitosti, uviedol ďalej Björnmalm.

„Je úplne jasné, že [generatívna AI vo výskume] nie je niečo, čo zmizne, a my nechceme, aby to zaniklo. Chceme, aby sa stal užitočným a konštruktívnym,“ dodal.

Margrethe Vestager, výkonná podpredsedníčka Komisie, zopakovala toto posolstvo v prejave 20. marca 2024 na konferencii Dni výskumu a inovácií Komisie v Bruseli.

„Som hlboko presvedčená, že aplikácia umelej inteligencie vo výskume nám umožní dosiahnuť spoločensky prospešnejšie alebo hodnotnejšie výsledky,“ uviedla a poukázala na to, že počet článkov informujúcich o vede realizovaných s pomocou umelej inteligencie sa vo svete viac ako zdvojnásobil. posledných päť rokov.

„Existuje obrovský potenciál na urýchlenie vedy prostredníctvom AI a myslím si, že to platí pre každú vedeckú oblasť, od medicíny po antropológiu,“ dodala.

EÚ už investuje približne 1-miliardu EUR ročne do AI prostredníctvom programov Horizont Európa a Digitálna Európa a cieľom je získať finančné prostriedky od členských štátov a súkromného sektora. „Ide o to, aby sme v priebehu tohto digitálneho desaťročia do AI investovali viac ako 20-miliárd EUR ročne,“ uviedla Vestager.

Cieľom nových usmernení je „neodstrašiť vás“, dodala. „Tu by sme mali povedať veci, o ktorých by sme mali diskutovať, mať na pamäti, pracovať na nich, aby sme technológii dôverovali s potrebným skepticizmom.“

Mechanizmus vedeckého poradenstva, ktorý Komisii poskytuje nezávislé poradenstvo, má 15. apríla 2024 zverejniť svoju vlastnú správu s odporúčaniami pre tvorcov politík, ako uľahčiť zavádzanie umelej inteligencie do výskumu a inovácií.

 

Zdroj: https://sciencebusiness.net, zverejnené: 22.3.2024, autor: rup