Výskumná činnosť KC KB UPJŠ

Výskumná činnosť

KC KB UPJŠ

Výskumná činnosť Kompetenčného centra kybernetickej bezpečnosti na UPJŠ (KC KB UPJŠ) je zameraná na prepojenie teoretického a aplikovaného výskumu v oblasti informačnej a kybernetickej bezpečnosti (KIB). Výskumníci sa venujú systematickému zberu, spracovaniu a analýze dát, návrhu nových metodík a aplikácii pokročilých analytických prístupov (strojové učenie, dátová analýza) s cieľom zvyšovať úroveň ochrany informačných systémov a porozumenia kybernetickým bezpečnostným hrozbám. Dôraz je kladený na praktickú využiteľnosť výsledkov vo forme nástrojov, metodík a rozhodovacích podpor pre bezpečnostnú prax.

Výskumné zamerania KC KB UPJŠ

1. Situačné povedomie v kybernetickej bezpečnosti

Významná časť výskumu sa venuje modelovaniu a predikcii bezpečnostnej situácie v kybernetickom priestore. Výskum pokrýva všetky tri úrovne situačného povedomia – vnímanie, porozumenie a projekciu budúceho vývoja bezpečnostných udalostí. Využívajú sa najmä metódy časových radov a neurónové siete (napr. LSTM) na predikciu bezpečnostných incidentov a trendov.

2. Aplikácia strojového učenia a umelej inteligencie v kybernetickej bezpečnosti

Výskum zahŕňa implementáciu metód strojového učenia umelej inteligencie do analýzy bezpečnostných dát, vrátane detekcie malvéru, analýzy správania a spracovania veľkých dátových súborov. Osobitná pozornosť je venovaná automatizácii reakcie na kybernetické bezpečnostné incidenty, vykonávanie digitálnej forenznej analýzy a detekcii kybernetických hrozieb.

3. Analýza právnych aspektov kybernetickej bezpečnosti a umelej inteligencie

Výskum prepája technické a právne aspekty kybernetickej bezpečnosti najmä v oblasti regulácie umelej inteligencie, ochrany osobných údajov a zodpovednosti za škody. Zameriava sa na analýzu právnych rámcov EÚ (napr. GDPR, NIS2, AI Act) a ich aplikáciu v praxi, pričom identifikuje oblasti právnej neistoty a návrhy ich riešení.

Podaktivity KC KB UPJŠ vo výskumnej oblasti

1. Vedecké publikácie

Výskumné aktivity KC KB UPJŠ sú prezentované prostredníctvom vedeckých publikácií publikovaných v medzinárodných konferenciách a časopisoch. Publikačné výstupy pokrývajú oblasti ako kybernetické situačné povedomie, analýza časových radov bezpečnostných udalostí, digitálna forenzná analýza či aplikácia AI v bezpečnosti.

Zoznam článkov sa nachádza na tomto odkaze.

Staršie články členov KC KB UPJŠ v oblasti kybernetickej bezpečnosti, ochrany dát a kyberkriminality sa nachádzajú na tomto odkaze.

2. Analýza aktuálnych prístupov a trendov vo výskume kybernetickej bezpečnosti (state of the art)

KC KB UPJŠ systematicky sleduje a analyzuje aktuálne prístupy a trendy vo výskume kybernetickej bezpečnosti najmä v oblasti dátovej analýzy a umelej inteligencie. Výsledkom je tvorba prehľadov výskumných smerov, identifikácia nových výziev a formulácia výskumných tém.

Analýza aktuálnych prístupov a trendov v oblastiach:

Situačné povedomie v kybernetickej bezpečnosti (Cyber Situational Awareness)

Výskum v tejto oblasti sa zameriava na modelovanie bezpečnostnej situácie v kybernetickom priestore prostredníctvom troch úrovní, a to vnímania, porozumenia a projekcie budúceho vývoja. Dôraz je kladený na spracovanie veľkého objemu heterogénnych dát (napr. logy, IDS alerty, sieťová prevádzka) a ich transformáciu do zrozumiteľných analytických výstupov pre operátorov. Významnou výskumnou témou je predikcia kybernetických bezpečnostných incidentov pomocou metód ako časové rady, Bayesovské siete alebo Markovove modely. Výskum zároveň reflektuje výzvy ako „data overload“, nedostatok kvalitných datasetov a potrebu real-time analýzy.

Formálna konceptová analýza

Výskum v tejto oblasti sa zameriava na využitie formálnej konceptovej analýzy (FCA) ako matematického nástroja na identifikáciu vzťahov, vzorcov a anomálií v dátach kybernetickej bezpečnosti. FCA umožňuje štruktúrovať digitálne stopy, analyzovať časové súvislosti a podporovať rozhodovanie forenzných analytikov. Výskum zahŕňa aj aplikácie v detekcii podvodov, analýze malvéru či phishingových útokov, pričom dôraz je kladený na interpretovateľnosť výsledkov. Aktuálne trendy smerujú k rozšíreniam FCA (napr. fuzzy FCA alebo kombinácia s TF-IDF a metódami strojového učenia) pre spracovanie komplexných a veľkoobjemových dát

Umelej inteligencia a veľké jazykové modely v kybernetickej bezpečnosti

Výskum v tejto oblasti sa orientuje na využitie pokročilých techník umelej inteligencie najmä hlbokého učenia a transformerových architektúr pri detekcii a analýze kybernetických bezpečnostných hrozieb. Moderné prístupy umožňujú spracovanie rôznych typov dát (binárne súbory, API volania, sieťová komunikácia) a zachytenie komplexných vzťahov medzi nimi. Významným trendom je prechod od ručne navrhovaných príznakov k end-to-end modelom a využitie „self-supervised learningu“. Výskum zároveň rieši otázky efektivity, interpretovateľnosti a škálovateľnosti modelov pri praktickom nasadení.

3. Dátové sady pre výskum v oblasti kybernetickej bezpečnosti

KC KB UPJŠ sa aktívne podieľa na tvorbe a sprístupňovaní dátových sád pre výskum kybernetickej bezpečnosti vrátane dát z honeypotov a bezpečnostných senzorov. Tieto datasety umožňujú realistické experimentovanie, testovanie detekčných algoritmov a validáciu výskumných prístupov. Zároveň riešia jeden z kľúčových problémov výskumu – nedostatok kvalitných a anotovaných dát pre analýzu bezpečnostných incidentov.

Dátové sady sú dostupné na tomto odkaze.

4. Projekty doktorandov (VVGS UPJŠ)

V rámci grantovej schémy VVGS UPJŠ sú podporované výskumné aktivity doktorandov a mladých vedeckých pracovníkov, ktoré tematicky nadväzujú na výskumné oblasti KC KB UPJŠ.

Popis výzvy sa nachádza na tomto odkaze.

Zoznam výziev sa nachádza na tomto odkaze.

Zoznam podporených projektov sa nachádza na tomto odkaze. Projekty sa zameriavajú na:

právne aspekty AI a kybernetickej bezpečnosti vrátane ochrany osobných údajov a zodpovednosti,
výskum dezinformácií a hybridných hrozieb v informačnom priestore a ich dopad na kybernetickú bezpečnosť,
aplikáciu formálnej konceptovej analýzy na dáta z oblasti kybernetickej bezpečnosti s cieľom identifikovať vzory a anomálie v hláseniach (alertoch) detekčných systémov (napr. IDS).

Popis podporených projektov

Právne aspekty umelej inteligencie a kybernetickej bezpečnosti: Ochrana osobných údajov a zodpovednosť v čase kybernetických hrozieb

Projekt bol zameraný na analýzu právnych aspektov využívania umelej inteligencie v kontexte kybernetickej bezpečnosti najmä z pohľadu ochrany osobných údajov a zodpovednosti za škody spôsobené AI systémami. Hlavným výstupom bola vedecká publikácia, ktorá systematicky analyzuje právne rámce Európskej únie, vrátane AI Act, GDPR a smernice NIS2. Výskum identifikoval viaceré oblasti právnej neistoty, napríklad otázky zodpovednosti za autonómne systémy alebo konflikt medzi ochranou osobných údajov a potrebami trénovania AI modelov. Výsledky boli prezentované na odborných podujatiach a v rámci medzinárodnej vedeckej mobility, čím prispeli k ich validácii a šíreniu v akademickej komunite. Projekt zároveň posilnil interdisciplinárny výskum na rozhraní práva a technológií a vytvoril základ pre ďalšie vedecké aktivity v tejto oblasti. Publikovaný článok – Právne aspekty umelej inteligencie a kyberbezpečnosti: ochrana osobných údajov a zodpovednosť v ére kybernetických hrozieb (odkaz na článok).

Výzvy informačnej bezpečnosti: Dezinformácie ako nástroj hybridného pôsobenia

Projekt sa zameriaval na výskum dezinformačných kampaní a ich úlohy v rámci hybridných hrozieb v informačnom priestore. Výskum umožnil identifikovať dominantné naratívy, analyzovať faktory ovplyvňujúce šírenie dezinformácií a odhaliť hlavné zraniteľnosti informačného prostredia v krajinách strednej a východnej Európy a Pobaltia. Významným výsledkom bolo aj komparatívne hodnotenie prístupov jednotlivých štátov k ochrane informačného priestoru. Projekt prispel k rozšíreniu odborného poznania prostredníctvom vedeckého článku a nadviazania medzinárodnej spolupráce, vrátane výskumných ciest a odborných konzultácií. Získané poznatky poskytujú základ pre návrh efektívnejších obranných mechanizmov proti hybridným informačným hrozbám.

Aplikácia metód formálnej konceptovej analýzy na dátach z oblasti kybernetickej bezpečnosti

Projekt bol zameraný na aplikáciu metód formálnej konceptovej analýzy (FCA) na dáta z oblasti kybernetickej bezpečnosti s cieľom identifikovať vzory, závislosti a anomálie v IDS alertoch. Výskum pracoval s datasetom CIC-IDS2017 a využíval nástroj Snort s rôznymi sadami pravidiel na generovanie a analýzu alertov. Významným prínosom bolo rozšírenie klasického prístupu FCA o metódu zreťazovania atribútových implikácií, ktorá umožňuje prepájať poznatky z viacerých dátových kontextov. Výsledky ukázali, že FCA je vhodným nástrojom nielen na extrakciu znalostí, ale aj na podporu situačného povedomia a identifikáciu anomálnych javov v bezpečnostných dátach. Výstupom projektu bol vedecký článok prezentovaný na medzinárodnej konferencii, pričom výsledky boli zároveň diskutované v zahraničnom akademickom prostredí, čím sa podporila ich ďalšia validácia a rozvoj. Publikovaný článok – Formal Concept Analysis as a Framework for Cyber Situational Awareness (odkaz na článok).