Naredni sastanak Seminara biće održan onlajn u sredu, 19. marta 2025. godine, sa početkom u 19 časova.
Predavač: Ana Kovačević, Univerzitet u Beogradu, Fakultet bezbednosti
Naslov predavanja: TAMNA STRANA GENERATIVNE VEŠTAČKE INTELIGENCIJE
Apstrakt: Generativna veštačka inteligencija (GVI) implementirana je u brojnim industrijama. Obezbeđivanje bezbednosti i otpornosti GVI sistema ključno je za njihovu efikasnu upotrebu, posebno u osetljivim oblastima. Od početnih faza GVI sistema bili su prepoznati rizici, a sa njihovim napretkom raste potreba za dubljim razumevanjem i identifikovanjem mogućih zloupotreba i ranjivosti. Na osnovu istraživanja realnih slučajeva zloupotreba GVI sistema uočeno je da su eksploatisane lako dostupne funkcionalnosti koje zahtevaju minimalno tehničko znanje, što predstavlja značajan rizik za bezbednost informacionog ekosistema. Pored zloupotrebe osnovnih funkcionalnosti samih GVI sistema, pojedini napadi iskorišćavaju ranjivosti modela, poput suparničkih napada, jailbreaking-a, ekstrakcije podataka i inverzije modela. U prezentaciji će biti prikazani realni primeri slučajevi zloupotrebe i napadi na GVI sisteme, kao i neka od mogućih rešenja.
Napomena:
Registraciona forma za učešće i link za aktivno praćenje predavanja za registrovane korisnike (nakon logovanja):
https://miteam.mi.sanu.ac.rs/asset/CW5nJWDSEZDj7p32p
Neregistrovani korisnici mogu da prate predavanja na ovom linku (bez mogućnosti aktivnog učešća):
https://miteam.mi.sanu.ac.rs/call/hR9vL94nD6QE8qQZj/xET9GcPMyR08nqH8lnS3SE7N5Vf00H7Lp9EBhsv6Lti
Do osposobljavanja MITEAM platforme, predavanja će se snimati i prenosti preko Zoom linka:
https://zoom.us/j/93728578513?pwd=90WFVRVdY5Nwb67mbqff6Rhi2zX5f1.1
Meeting ID: 937 2857 8513
Passcode: 040504
