Útočník môže získať tajný kľúč aj meraním spotreby energie
Ak má prístup k zariadeniu, môže merať jeho fyzikálne vlastnosti a získať tak tajné informácie, prípadne môže spôsobiť nesprávnu klasifikáciu neurónových sietí, hovorí doktorka Xiaolu Hou, výskumná pracovníčka na Ústave počítačového inžinierstva a aplikovanej informatiky FIIT STU.
Pani docentka, čo vás najviac oslovilo na vašom odbore?
Svoje PhD štúdium som realizovala v oblasti teoretickej matematiky a v poslednom ročníku štúdia som sa rozhodla oboznámiť sa s využitím svojich poznatkov v praktickej aplikácii. Porozprávala som sa o tom s niektorými kolegami a začali sme spolupracovať na skúmaní chybových útokov (fault attacks) a útokov cez postranné kanály kryptografických implementácií (side-channel attacks). Títo kolegovia sú odborníkmi na aplikovanú kryptografiu, ja som k spolupráci prispela svojimi znalosťami teórie kódovania. Neskôr, ako postdoktorandka na Nanyang Technological University (NTU), som zasa spolupracovala s výskumníkmi, ktorí sa zaoberajú umelou inteligenciou a začali sme pracovať na hardvérovej bezpečnosti jej implementácií. Keďže ide o populárnu tému a relatívne nový smer výskumu, pokračujem v tejto práci aj na FIIT STU.
Ako ste sa dostali na Slovensko a na našu univerzitu?
Spolu s mojím manželom Jakubom sme sa rozhodli usadiť v Európe, ideálne v okolí tohto regiónu. Našli sme vhodnú pracovnú ponuku na FIIT STU, tak som sa prihlásila a po úspešnom pohovore ma informovali o príležitosti podieľať sa na projekte SASPRO 2. Podala som si teda žiadosť.
Ako dlho ste u nás?
Na FIIT STU som nastúpila v marci 2021.
Skúsme sa teraz pozrieť celkovo na vaše projekty. Ktorý by ste vyzdvihli?
Práve ten aktuálny, SASPRO 2, ktorý sa zameriava na hardvérovú bezpečnosť neurónových sietí. Tiež spomeniem, že keď som pracovala na NTU ako výskumná pracovníčka, podieľala som sa na zaujímavom projekte Cyber-Hardware Forensic & Assurance Evaluation R&D Programme, kde sme skúmali hardvérovú bezpečnosť kryptografických implementácií.
Pristavme sa teraz pri odborných článkoch. Ktoré z tých, čo ste napísali, by ste označili za najvýznamnejšie?
Ako prvý uvediem Breier, Jakub, Xiaolu Hou, Martín Ochoa, and Jesus Solano: "FooBaR: Fault Fooling Backdoor Attack on Neural Network Training." IEEE Transactions on Dependable and Secure Computing (2022). Zaoberal sa chybovými útokmi prostredníctvom zadných vrátok a v tomto článku sme navrhli prvý chybový útok počas tréningovej fázy neurónových sietí. Ďalší je Breier, Jakub, Xiaolu Hou, and Yang Liu: "On evaluating fault resilient encoding schemes in software." IEEE Transactions on Dependable and Secure Computing 18, no. 3 (2019): 1065-1079. Ten sa zaoberal vyhodnocovaním efektivity protiopatrení softvérového kódovania zameraných na odolnosť voči chybovým útokom a po prvý raz sme formalizovali schémy kódovania softvéru pomáhajúce definovať, aké vlastnosti sa vyžadujú pri navrhovaní ochrany pred chybovými útokmi. Ako ďalší článok uvediem Hou, Xiaolu, Jakub Breier, Fuyuan Zhang, and Yang Liu: "Fully automated differential fault analysis on software implementations of block ciphers." IACR Transactions on Cryptographic Hardware and Embedded Systems (TCHES), no. 3, 2019. Zaoberá sa plne automatizovanou diferenciálnou chybovou analýzou na softvérových implementáciách blokových šifier a v tomto článku sme navrhli prvý plne automatizovaný prístup na analýzu implementácií šifry v asembleri. Ako posledný z najvýznamnejších ešte spomeniem Breier, Jakub, Xiaolu Hou, Dirmanto Jap, Lei Ma, Shivam Bhasin, and Yang Liu: "Practical fault attack on deep neural networks." In Proceedings of the 2018 ACM SIGSAC Conference on Computer and Communications Security, pp. 2204-2206. 2018. Ten sa venoval chybovým útokom na hlboké neurónové siete. Zároveň sme demonštrovali úplne prvý praktický chybový útok v tejto oblasti.
Teraz nám prezraďte viac o vašom výskume. Na čo sa zameriava?
Na hardvérovú bezpečnosť kryptografických implementácií a implementácií neurónových sietí. Navrhujem a vyvíjam nové techniky útokov a ochrany na úrovni protokolu, hardvéru a softvéru. Pre upresnenie: predpokladajme, že kryptografické algoritmy alebo algoritmy neurónovej siete sú implementované na malom zariadení. Útočník, ktorý má k nemu prístup, doňho môže zasahovať alebo merať jeho fyzikálne vlastnosti, napríklad spotrebu energie. Môže tak buď získať tajné informácie, dajme tomu tajný kľúč, alebo môže spôsobiť nesprávnu klasifikáciu neurónových sietí.
So svojím tímom ste vyvinuli metódu, ktorá poskytuje dokázateľne presnú extrakciu parametrov neurónovej siete pomocou vkladania chýb. Čo si pod tým môže predstaviť laik?
Skúmame tu prostredie prenosového učenia („transfer learning“). Skúste si predstaviť, že existuje verejne známa neurónová sieť trénovaná na klasifikáciu určitých typov obrázkov; potom ju vezme nejaká spoločnosť, zmení iba poslednú vrstvu, malú časť siete, a preškolí ju na klasifikáciu iných typov obrázkov, čiže už nemôže slúžiť svojmu pôvodnému účelu. Posledná vrstva tejto novej siete je pritom danou spoločnosťou utajovaná, teda verejnosti nedostupná. Pomocou nášho útoku však môžeme obnoviť parametre tejto vrstvy. Takýto útok môže byť použitý na krádež duševného vlastníctva, preto je potrebné sa pred ním chrániť.
Sú na kybernetickú bezpečnosť celkovo kladené iné nároky, ako v minulosti? Čo sa dá v tejto oblasti očakávať v budúcnosti?
Myslím si, že v porovnaní s niekoľkými predchádzajúcimi rokmi ľudia teraz venujú väčšiu pozornosť bezpečnosti umelej inteligencie a vstavaných zariadení. Podľa mňa sa v budúcnosti výsledky výskumu v tejto oblasti stanú viac industrializovanými a vývoj praktických protiopatrení sa bude tešiť väčšej pozornosti.
Máte tiež skúsenosti s výskumom v oblasti ochrany súkromia polohy, výpočtov viacerých strán (multiparty computation) a diferenciálneho súkromia. Čo to znamená?
V oblasti ochrany súkromia sme sa napríklad zaoberali prípadom, keď obeť používa vo svojom telefóne aplikáciu, ktorá môže zdieľať čiastočné informácie o jej polohe s ostatnými používateľmi v okolí. Tu berieme do úvahy prostredie útoku, kde sa útočník snaží nájsť presnú polohu obete. Výpočet viacerých strán zasa rieši problém niekoľkých subjektov, ktoré vykonávajú výpočty bez toho, aby medzi sebou zdieľali svoje súkromné údaje a bez externej dôveryhodnej strany. Predpokladajme napríklad, že dvaja ľudia by chceli zistiť, ktorý z nich zarába viac peňazí, ale nechcú nikomu povedať svoj presný príjem. Môžu použiť algoritmy na výpočty viacerých strán na porovnanie bez toho, aby sa s kýmkoľvek podelili o informáciu o svojom príjme.
A diferencované súkromie?
To berie do úvahy súkromie jednotlivcov, keď sú zverejnené nejaké štatistiky týkajúce sa skupiny ľudí. Napríklad ak by vláda chcela zverejniť údaje o úveroch, ktoré si ľudia berú v konkrétnom meste. Samozrejme, nezverejnili by jednotlivé údaje, ale mohli by zverejniť údaje podľa vekovej skupiny, pohlavia, profesie, bydliska a podobne. Otázka potom znie, vie niekto identifikovať pôžičku spojenú s konkrétnou osobou? Ide o to, ako chrániť súkromie každého jednotlivca zapojeného do zberu údajov, a zároveň zverejňovať štatistiky, ktoré budú odrážať realitu.
Osobne vám je bližšie vyučovanie, alebo vedecká práca?
Povedala by som, že oboje ma baví rovnako. Výskum je veľmi náročný, ale zároveň zaujímavý, avšak tiež ma napĺňa učiť a odovzdávať svoje vedomosti mladším generáciám.
Pozrime sa v krátkosti na súčasné postavenie žien vo vede. Je z vášho pohľadu rovnoprávne?
Čo sa týka našej fakulty, myslím si, že z hľadiska možností štúdia a pracovných miest je to rovnocenné. Ak sa však celkovo pozrieme na počet vyšších manažérov v spoločnosti, je tam menej žien ako mužov.
Čo považujete za svoj najväčší životný úspech?
Môže to znieť zábavne, ale podľa mňa fakt, že už 14 mesiacov zvládam svojho syna. Samozrejme, veľmi mi pomáha manžel a svokrovci. Ale stále je to náročné.
Ako sa vám darí skĺbiť prácu s osobným životom?
Kým sa mi narodil syn, bolo to relatívne jednoduché, akademická práca je zvyčajne dosť flexibilná. Bežné bolo aj chodenie s kolegami na drinky a rôzne aktivity, čo už teraz nie je také ľahké. Ale s pomocou mojej rodiny si viem nájsť dostatok času na prácu a cez víkendy sa budeme snažiť tráviť čas vonku s manželom a synom.
Na záver nám prezraďte, čomu sa venujete vo voľnom čase?
Rada chodím na turistiku alebo pozerám filmy. Takto si najlepšie oddýchnem.
Text: Katarína Macková
Foto: archív respondentky