První Informatické kolokvium na FIT ČVUT přednese profesor Adi Shamir, spoluautor šifry RSA a držitel Turingovy ceny. Tématem bude jeho nedávný výsledek o použití kryptografických technik k rekonstrukci architektury hluboké neuronové sítě čistě na základě jejich vstupů a výstupů. Přednáška bude v angličtině.
Na trénování hlubokých neuronových sítí (Deep Neural Networks) pro nejrůznější úkoly se v současné době vynakládají miliardy dolarů a nespočet hodin výpočetního času na grafických akcelerátorech (GPU). Tyto sítě obvykle fungují jako „černé skříňky“, s nimiž může veřejnost interagovat. Je proto zásadní určit, jak obtížné je extrahovat všechny parametry těchto neuronových sítí, pokud máme k dispozici pouze jejich vstupy a výstupy.
V této přednášce ukážeme, že pomocí kryptografických myšlenek a technik to lze v případě hlubokých neuronových sítí založených na ReLU provést v polynomiálním čase (jako funkce počtu neuronů). Tento útok byl prakticky demonstrován úspěšným použitím k extrakci všech 1,2 milionu parametrů 8 vrstvé sítě pro klasifikaci obrázků CIFAR10. V závěrečné části přednášky popíšeme, jak tento výsledek rozšířit na nejobtížnější model, ve kterém jsou útočníkovi poskytovány pouze konečné štítky (například kočka/pes) namísto číselných hodnot výstupních logitů a kde je navíc architektura sítě neznámá.
Tento článek byl aktuálně přijat k publikování v časopise „Journal of Cryptology“ poté, co získal cenu za nejlepší příspěvek na konferenci Eurocrypt. Přednáška bude ucelená a srozumitelná pro široké publikum.
O přednášejícím
Profesor Adi Shamir je přední světovou osobností informatiky a matematiky. Je jedním ze tří autorů šifry RSA, základního kamene asymetrického šifrování, jež je dennodenně používán pro komunikaci na internetu. K jeho průlomovým výsledkům dále patří návrh Šamirova schématu pro sdílení tajemství (Shamir’s Secret Sharing scheme), prolomení tzv. zavazadlového algoritmu od Merkleho a Hellmana pro šifrování s veřejným klíčem, a důkaz rovnosti mezi složitostními třídami IP a PSPACE.
Adi Shamir je držitelem desítky patentů, zejména v kryptografii. Obdržel řadu významných cen zahrnující Turingovu cenu (společně s Rivestem a Adlemanem), Wolfovu cenu za matematiku, Levchinovu cenu za kryptografii v reálném světě a Erdősovu cenu za matematiku. Bakalářský titul z matematiky získal na Univerzitě v Tel-Avivu a následně doktorát z informatiky na Weizmannově Institutu. Po jednoročním působení na Univerzitě ve Warwicku a tříletém působení na MIT nastoupil v roce 1980 zpět na Weizmannův institut, kde působí dodnes jako Paul and Marlene Borman profesor aplikované matematiky.
Kontaktní osoba
- +33767025500
- volecjan@cvut.cz
- TH:A-1229