KTU, Ekonomikos ir verslo fakulteto tyrėjai ir partneriai šiuo metu susiduria su trimis susijusiomis kliūtimis: a) trūksta patikimos, nuolat prieinamos vietinės GPU aplinkos neuroninių tinklų (NN), didžiųjų kalbų modelių (LLM) ir agentinių sistemų kūrimui bei kalibravimui (angl. fine-tuning); b) jautrių duomenų perdavimas į išorinius debesis brangina darbus ir komplikuoja atitiktį; c) institucijos mastu nėra vientisos, valdomos modelių ir duomenų gyvavimo ciklo stebėsenos sistemos, kuri artimiausiais metais taps privaloma pagal ES DI reguliavimą. Neuroninių tinklų (NN) ar tyrimų tikslais kalibruotų atviros prieigos didžiųjų kalbų modelių (LLM) panaudojimas mokslinių tyrimų tikslais sparčiai auga ekonomikos ir verslo moksliniuose tyrimuose. Tampa įprasta pasitelkti šiuos algoritmus ir modelius dėl jų gebėjimo apdoroti nestruktūruotus, multimodalius duomenis, kaip pavyzdžiui, tekstas ar vaizdinė medžiaga. Didėja tyrimų bei eksperimentų nagrinėjančių didžiųjų kalbos modelių galimybes bei jų lemiamas darbuotojų bei vartotojų elgsenos pokyčius. Be to, Eurostat duomenys rodo spartų DI naudojimo augimą versle: 2024 m. DI naudojo 13,5 % ES įmonių (nuo 8,0 % 2023 m.), kas signalizuoja, kad DI sprendimų MTEP ir prototipavimo poreikis universitetuose toliau didės (EK, 2025). Didėjant sparčios skaičiavimų infrastruktūros poreikiams, susiduriama su jos trūkumo problema. Pirma, prieiga prie profesionalių A100/H100 klasės spartintuvų daugelyje akademinių organizacijų yra ribota ir epizodinė, o intensyviems eksperimentams reikia nuolatinės prieigos prie skaičiavimo infrastruktūros. Antra, pagal BDAR 5 straipsnį, asmens duomenys turi būti tvarkomi teisėtai, skaidriai, tikslingai, laikantis duomenų kiekio mažinimo, vientisumo ir konfidencialumo principų - tai lengviau užtikrinti lokalioje aplinkoje, kai duomenys nepalieka fakulteto valdomos infrastruktūros. Trečia, įsigaliojantis ES DI aktas nustato didesnius reikalavimus dokumentacijai, rizikos valdymui ir atsekamumui, ypač „aukštos rizikos“ bei bendrosios paskirties DI modeliams. Tiek tiekėjams, tiek naudotojams reikės įrodyti, kad duomenys ir modeliai valdomi pagal griežtas taisykles. Susidariusi situacija lemia lėtą pažangą vykdant mokslinius tyrimus ir eksperimentinę plėtrą pasitelkiant multimodalius nestruktūruotus duomenis. Dėl ribotos prieigos universitete ir brangių trečios šalies paslaugų, didžioji dalis tyrėjų atsisako eksperimentų su pažangiais algoritmais. Inicijuoti projektai, kuriuose numatyta pasitelkti pažangius neuraninių tinklų algoritmus, vėluoja dėl prieigos prie skaičiavimo infrastruktūros eilių. Prototipų su įmonėmis kūrimas stagnuoja, nors agentinių sistemų poreikis versle jaučiamas. Susiduriama su situacija, kai DI-grįstus ekonomikos ir verslo tyrimus Lietuvoje riboja ne talentų trūkumas, bet prieigos prie skaičiavimo pajėgumų trūkumas. Projektu siūlomas sprendimas - sukurti saugią, lokalią GPU infrastruktūrą, kuri leistų Ekonomikos ir verslo fakulteto tyrimų grupių tyrėjams treniruoti, kalibruoti ir vertinti NN/LLM/agentines sistemas neiškeliant duomenų į išorę, kartu įdiegti valdomą duomenų ir modelių gyvavimo ciklą. Tokia infrastruktūra paskatins inovatyvius mokslinius tyrimus, didins prieinamumą studijoms bei tyrimams, o jautrius duomenis leis apdoroti institucijos viduje, mažinant rizikas ir sąnaudas, susijusias su duomenų perdavimu. Projektas atitinka ir horizontalias nuostatas. 1) Darnaus vystymosi aspektu infrastruktūra bus diegiama laikantis ES gairių dėl „reikšmingos žalos nedarymo“, įskaitant energijos vartojimo stebėseną, efektyvų aušinimą, IT įrangos gyvavimo ciklo planavimą ir centralizuotą pajėgumų konsolidavimą, kuris sumažina neefektyvų „šešėlinį“ skaičiavimą. 2) Lygių galimybių, nediskriminavimo ir prieinamumo principai bus užtikrinami taikant atvirą, skaidrią prieigos politiką be diskriminacijos, o naudotojų informacija ir sąsajos bus pritaikytos vadovaujantis JT Neįgaliųjų teisių konvencijos nuostatomis dėl prieinamumo. 3) Inovatyvumo aspektu: diegiama Multi-Instance GPU, konteinerizacija (Docker/Kubernetes integracija), modelių ir duomenų dokumentavimo praktikos, kurios atliepia DI akto nuostatas dėl skaidrumo, saugos ir autorių teisių laikymosi. Projektas prisideda ir prie ES Baltijos jūros regiono strategijos (EUSBSR) tikslo „padidinti gerovę“, ypač politikos srityse, susijusiose su inovacijomis ir skaitmenizacija. Strategijos veiksmų planas (atnaujintas 2021 m.) akcentuoja inovacijų pajėgumų didinimą, skaitmeninės transformacijos sprendimus ir tarpsektorinį bendradarbiavimą, o makroregioninis požiūris leidžia sujungti universitetus ir pramonę kelių šalių mastu – tam būtina patikima tyrimų infrastruktūra. EUSBSR išskiria 14 politikos sričių ir kviečia finansuoti projektus, stiprinančius inovacijų ekosistemas, skaitmeninius verslo modelius ir duomenų pagrindu veikiančius sprendimus Baltijos regione; planuojama infrastruktūra sudarys sąlygas tokiems projektams kurti ir testuoti prototipus su regioniniais partneriais. Projekto poreikis pagrįstas mokslinių tyrimų tendencijomis, bei rinkos ir reguliacine dinamika. Moksliniuose tyrimuose vis dažniau pasitelkiami kai nestruktūrizuoti duomenys. Verslas įmonės pereina nuo DI pasitelkimo prognozavimui prie DI pasitelkimo procesams automatizuoti. Trečios šalies paslaugos patogios daugybei IT funkcijų, tačiau ne moksliniais tikslais vykdomiems eksperimentams, kurių didžioji dalis nepasiteisina bei sprendimų verslu prototipavimui, kai svarbus parengtų prototipus nuolatinis vystymas. Šiems tikslams parankiausia vietinė skaičiavimo infrastruktūra, kuri leidžia kontroliuoti sąnaudas ir laiką, ypač kai MTEP tyrimams naudojami konfidencialūs įmonių duomenys. Todėl siūlomas sprendimo būdas - diegti KTU, Ekonomikos ir verslo fakultete saugią, lokalią GPU pagrindu veikiančią skaičiavimo infrastruktūrą neuroninių tinklų ir LLM/agentinių sistemų kūrimui, derinimui ir diegimui ekonomikos bei verslo MTEP veiklose. Siekiami rezultatai: 1) veikianti lokali GPU infrastruktūra (rodikliai - naudotojų skaičius, vienu metu veikiančių instancijų skaičius, vidutinis laukimo laikas); 2) per metus parengtų ir su partneriais išbandytų NN/LLM/agentinių prototipų skaičius; 3) atitikties brandos žingsniai - dokumentuotų duomenų rinkinių, modelių kortelių ir rizikos įrašų skaičius pagal AI akto logiką; 4) studijų rodikliai- GPU reikalaujančių laboratorinių ir baigiamųjų darbų skaičiaus augimas, sumažėję eilės. Apibendrinant, projektas sprendžia konkrečias, programiniuose dokumentuose atpažįstamas problemas - nepakankamą aukštos spartos skaičiavimo prieinamumą, per ilgą paslaugos suteikimo laiką dėl eilių, neefektyvų paslaugos teikimą išoriniuose debesis su jautriais duomenimis ir augančią atitikties naštą - ir daro tai priemonėmis, suderintomis su ES teisės aktais ir regioninėmis prioritetinėmis kryptimis. Lokali GPU infrastruktūra leis EVF užtikrinti patikimą, greitą ir saugią tyrimų bei eksperimentinės plėtros aplinką, kuri mažina priklausomybę nuo išorinių paslaugų teikėjų, kuria sąlygas tarptautiniam moksliniam bendradarbiavimui Baltijos jūros regione ir ir stiprina universiteto gebėjimą kurti aukštos vertės sprendimus verslui ir visuomenei. Susietoji paraiška: Projekto pavadinimas (EN): TRUSTWORTHY PARTNERSHIP OF HUMAN AND ARTIFICIALLY INTELLIGENT DIGITAL LABORATORIES FOR PROGRESSIVE ON-DEMAND DECISION SUPPORTS (TALOS). Instrument: Horizon Europe, Call HORIZON-CL4-2022-HUMAN-02-01, Type of Action: RIA. Konsorciumas: 19 partnerių iš 12 ES šalių, koordinatorius – Kauno technologijos universitetas (KTU). Visas biudžetas: 6 875 806.25 EUR. KTU biudžetas - 999 832,50 Eur. Gauti balai: 13,5