Umělá inteligence jako strážce dat: Výzkumníci Národohospodářské fakulty se podílí na bezpečnostním systému nové generace

Bezpečnostní systémy umí odhalit podezřelé zacházení s citlivými daty, ne vždy ale dokáží správně rozpoznat, zda jde o skutečnou hrozbu. Projekt “Next Gen uživatelské rozhraní s využitím lokální AI” připraví řešení, které umožní přesněji vyhodnocovat rizika a volit odpovídající reakce. Na jeho podobě se bude podílet také Národohospodářská fakulta VŠE, která do projektu vloží expertizu v oblasti behaviorální ekonomie.

Nový software využije kombinaci cloudové a lokální umělé inteligence. Díky tomu by měl lépe zohlednit kontext konkrétní situace, přizpůsobit komunikaci a nabídnout doporučení dalšího postupu. Cílem projektu je omezit falešné poplachy, snížit časovou zátěž uživatelů a zvýšit zabezpečení citlivých dat v hybridním digitálním prostředí.

Účinnost ochrany závisí také na znalosti lidského chování a podmínek, za kterých lidé nové technologie používají. Právě na tuto oblast se zaměří odborníci z Národohospodářské fakulty VŠE. Výzkumný tým bude analyzovat chování uživatelů a jejich rozhodování při řešení bezpečnostních situací,  navrhne výzkumný design a v Laboratoři experimentální ekonomie otestuje interakci uživatelů s novým rozhraním.

Na úrovni VŠE bude projekt realizován ve spolupráci Národohospodářské fakulty a Fakulty managementu v Jindřichově Hradci, která přinese klíčový pohled manažerské praxe, organizačních dopadů a podnikových procesů. Projekt spojuje výzkumné zázemí VŠE se zkušenostmi partnerů z technologické praxe. Vedle univerzity se na jeho řešení budou podílet společnost Safetica a.s. a organizace FT Park z.ú.*

Rozhovor s Vojtěchem Kotrbou, hlavním řešitelem projektu za VŠE.

Co vás na tématu zaujalo natolik, že jste se rozhodl projekt za VŠE řídit?

Nejvíce mě zaujalo propojení špičkové technické praxe s behaviorální ekonomií. Bezpečnostní softwary dnes často selhávají ne proto, že by měly špatný kód, ale proto, že ignorují lidský faktor. Uživatele přetěžují, frustrují a ti pak bezpečnostní pravidla obcházejí. Možnost využít naši Laboratoř experimentální ekonomie (LEE) k tomu, abychom otestovali, jak reální lidé reagují na adaptivní AI rozhraní v reálném čase, je z výzkumného hlediska unikátní příležitost.

Kterou část výzkumu osobně považujete za nejnáročnější a na kterou se naopak nejvíce těšíte?

Nejnáročnější bude bezpochyby design samotných experimentů. Musíme v laboratorních podmínkách nasimulovat takové situace, které věrně odpovídají stresu a rutině zaměstnanců v praxi, a zároveň izolovat vliv jednotlivých prvků AI rozhraní. A právě na to se těším nejvíce. Až v LEE uvidíme tvrdá data o tom, jak různé varianty interakce mění chování uživatelů a jak výrazně dokážeme snížit jejich kognitivní zátěž.

Vidíte další směry, kterými by se mohl tento výzkum v budoucnu rozvíjet?

Určitě. Integrace lokální a cloudové AI do každodenních pracovních nástrojů je teprve na začátku. Výzkum chování uživatelů při interakci s autonomními bezpečnostními systémy otevírá dveře k širšímu studiu důvěry člověka v AI a optimalizaci digitálního prostředí v dalších oblastech, kde je kritická jak bezpečnost, tak uživatelský komfort.

Co projekt přinese Národohospodářské fakultě, výzkumníkům a případně i studentům?

Pro fakultu je to skvělá příležitost ukázat, že behaviorální a experimentální ekonomie má přímý přesah do aktuálních špičkových technologických projektů. Našim výzkumníkům projekt přinese unikátní data z testování v LEE a možnost publikovat v prestižních aplikovaných časopisech. Studenti se pak zapojí jak do přípravy a realizace samotných experimentů, tak získají přístup k řešení reálných výzev z praxe ve spolupráci s lídry v oboru kyberbezpečnosti.

*Projekt Next Gen uživatelské rozhraní s využitím lokální AI (NextGenAI), registrační číslo CZ.01.01.01/01/25_067/0009767, vzniká v rámci programu OP TAK Aplikace – výzva IV. – DEEP TECH.