Fraunhoferova spoločnosť v Nemecku v spolupráci s Microsoftom je jednou z prvých výskumných organizácií v Európe, ktorá spustila interného AI chatbota, ktorý funguje podobne ako ChatGPT od OpenAI. Generatívne riešenie AI od FhGenie umožňuje zamestnancom bezpečne vytvárať, upravovať alebo upravovať texty na základe neverejných údajov. Služba v súlade s GDPR bola zavedená pre zamestnancov Fraunhoferovej spoločnosti v súlade s usmerneniami, ktoré vypracovala pracovná skupina Chatbot v skupine Fraunhofer ICT Group.
Rušivý potenciál generatívnych systémov AI sa prejavil najneskôr s vydaním ChatGPT. Očakávaný hospodársky a sociálny vplyv je obrovský. Rýchly a bezpečný prístup k existujúcim systémom je preto nevyhnutný pre veľké výskumné organizácie, aby mohli získať komplexné skúsenosti z prvej ruky, riadiť technologický vývoj a udržať si inovačnú silu.
Spoločnosť Fraunhofer-Gesellschaft teraz vydala pre svojich zamestnancov AI chatbota FhGenie. Je založený na službe Microsoft Azure OpenAI, ktorá umožňuje organizáciám využívať najnovšie generatívne technológie AI OpenAI, ako sú GPT-3.5 alebo GPT-4, Codex, ChatGPT a DALL-E 2 z cloudu Microsoft Azure.
Ako uviedol Prof. Ingo Weber, riaditeľ Digital Transformácia a IKT infraštruktúra vo Fraunhoferovej spoločnosti: „Som veľmi rád, že sa nám spolu s Microsoftom podarilo vyvinúť chatovací systém AI prispôsobený požiadavkám Fraunhofer-Gesellschaft – a to sa nám podarilo vo veľmi krátkom čase.“ Ďalej dodal: „Zistili sme, že mnohí kolegovia chcú na svoju prácu a výskum používať aplikácie AI založené na chate. Doteraz dostupné verejné riešenia sú však problematické na účely súvisiace s prácou, najmä pokiaľ ide o ochranu údajov, dôvernosť a bezpečnosť informácií.“
FhGenie poskytuje zamestnancom Fraunhoferu vo výskume, manažmente a správe šancu získať skúsenosti s týmito systémami: „Služba Microsoft Azure OpenAI, na ktorej je FhGenie založená, umožňuje zamestnancom Fraunhoferovej spoločnosti využiť potenciál generatívnych systémov AI pre vlastnú prácu. Na pozadí rýchleho technologického rozvoja je dôležité zoznámiť sa s už dostupnými riešeniami a využívať ich výhody,“ dodal Alexander Britz, vedúci verejného sektora v Microsoft Germany.
Interný chatbot v súlade s GDPR
Generatívne textové riešenie AI FhGenie je založené na modeli jazyka OpenAI GPT-3.5-turbo a bude čo najrýchlejšie inovované o výkonnejší a multimodálny GPT-4.0, ktorý dokáže spracovávať aj obrázky. V súčasnosti FhGenie obsahuje webovú aplikáciu s frameworkom založeným na Pythone a runtime prostredím JavaScript node.js. Zamestnanci k nemu môžu jednoducho pristupovať vo svojom prehliadači pomocou overenia SSO pomocou svojej čipovej karty. Na zaistenie bezpečnosti údajov bola inštancia nakonfigurovaná v európskom predplatnom Azure vlastnenom Fraunhoferom, čo je uzavretá sekcia v rámci cloudovej platformy Microsoftu.
Žiadosti prostredníctvom služby Azure OpenAI, ktorá je tiež vyhradenou súčasťou predplatného Fraunhoferom, používajú výzvu API. Toto je prispôsobené rozhranie, ktoré odovzdáva príkazy systému AI. Používatelia dostávajú svoje výsledky z koncového bodu dokončenia (funkcia automatického dopĺňania). Všetky zadané údaje zostávajú v rámci Fraunhofer-Gesellschaft a nepoužívajú sa na školenie AI. Okrem automatického filtrovacieho programu, ktorý kontroluje nesprávne použitie, sa zadaný obsah nemonitoruje ani neukladá.
Podniková rada schválila používanie aplikácie Azure OpenAI Service v súlade s GDPR v celej Fraunhofer-Gesellschaft, prístupové oprávnenia prideľujú lokálne IT manažéri v jednotlivých Fraunhoferových inštitútoch a subjektoch. Aktuálne údaje o používaní ukazujú, že pracovníci Fraunhoferu tento nový nástroj dobre prijímajú: K dnešnému dňu sa do služby zaregistrovalo už 19 200 z viac ako 30 000 zamestnancov Fraunhoferovej spoločnosti, z ktorých asi 6 500 možno považovať za aktívnych používateľov.
Od reportingu po manažment znalostí: široká škála možných aplikácií
Existuje množstvo možných aplikácií pre AI chatbota, ktorých celý rozsah bude pravdepodobne jasný až v budúcnosti. FhGenie už ponúka zamestnancom Fraunhoferovej spoločnosti nielen podporu pri vytváraní a zlepšovaní textov a prezentácií, napríklad pre interné správy, ale môže tiež pomôcť rýchlejšiemu vývoju softvéru, prototypov alebo skriptov na analýzu údajov. Existujú aj potenciálne prípady použitia pre ďalší rozvoj interných systémov riadenia znalostí, napríklad vo forme interoperabilného intranetu. Výskumníci z Fraunhoferových inštitútov môžu využiť experimentálny priestor na rýchle rozšírenie svojich odborných znalostí a testovanie modelov AI spolu so zákazníkmi.
Ako riešenie využijú, je však na samotných užívateľoch. Osobné údaje sú jediná vec, ktorá nemôže byť spracovaná spoločnosťou FhGenie — z právnych dôvodov. Ako vysvetlil prof. Weber: „Momentálne sa nachádzame v prechodnej a experimentálnej fáze, v ktorej bolo pre nás dôležité rýchlo ponúknuť praktické riešenie, aby sme sa dostali medzi tie, ktoré sú v popredí rýchleho technologického vývoja, ktorý v súčasnosti prebieha.“ Ďalej dodal: „Samozrejme, je tu ešte veľa neistôt, ako sú autorské práva či zodpovednosť za nesprávne výsledky. Požiadali sme preto zodpovedných na ústavoch a oddeleniach, aby si všetci užívatelia boli vedomí toho, že sú zodpovední a musia overovať kvalitu AI- sami generovali výsledky.“
Jazykové modely AI a Fraunhofer: prístup, prispôsobenie, pokrok
Mnohé Fraunhoferove inštitúty sú už aktívne zapojené do iniciatív a projektov na výskum a aplikáciu generatívnych AI a nadačných modelov. Jedným z príkladov je konzorcium OpenGPT-X vytvorené na vývoj veľkých európskych jazykových modelov AI. To je ďalší dôvod, prečo pracovná skupina z Fraunhofer ICT Group vypracovala usmernenia pre Fraunhofer-Gesellschaft o tom, ako zaobchádzať s jazykovými modelmi AI, keď bol spustený ChatGPT. Vydanie FhGenie je súčasťou prvého z troch krokov (prístup, prispôsobenie a pokrok), ktoré sú potrebné pre veľké modely AI. Zároveň sa Fraunhofer snaží získať viac kooperačných partnerov z priemyslu.
Ako dodal na záver prof. Stefan Wrobel, zástupca predsedu Fraunhofer ICT Group a riaditeľ Fraunhoferovho inštitútu pre inteligentnú analýzu a informačné systémy IAIS: „Veľké jazykové modely a generatívna AI umožňujú nové produkty a náš svet práce je produktívnejší. Ako organizácia aplikovaného výskumu s interdisciplinárnym prístupom a silným prepojením s priemyselným sektorom má Fraunhofer-Gesellschaft vynikajúcu pozíciu na to, aby mohla tieto inovácie efektívne zaviesť do praxe. Podobná technológia sa už bežne používa v spoločnostiach, napríklad vo finančnom a zdravotníckom sektore, čo vedie k zvýšeniu efektívnosti až o 50 %. FhGenie nám pomáha zabezpečiť, aby každý vo Fraunhoferovej spoločnosti mohol okamžite a bezpečne využiť tento potenciál a využiť ho pre našich zákazníkov a partnerov.“
Viac informácií:
FhGenie: The Fraunhofer-Gesellschaft launches an internal AI chatbot
Zdroj: https://sciencebusiness.net, https://www.fraunhofer.de; zverejnené: 6. 9. 2023, autor: rpa
