Workshop om pålitelig, trygg og sikker KI

Kursbeskrivelse

Maskinlæringsbaserte systemer har egenskaper som trekker inn unike risikoer når du anvender dem. Lær å bringe prinsipper fra sikkerhet og strukturert risikotenking inn i KI-satsingen på en måte som er kompatibel med maskinlæring. Kurset er spisset mot teknologer som ønsker bedre innsikt i hvilke fallgruver man bør være klar over hvis man vil bruke eller bygge teknologi basert på maskinlæring. Kursets tekniske nivå kan tilpasses, og kan også ha nytteverdi for beslutningstakere eller andre involverte i teknologiprosjekter som har interesse av å forstå hva man må passe på.

Kurset bringer idéer fra sikker programvareutvikling inn i maskinlæringssatsninger, og gir verktøy og innsikt for teknologer som ønsker å trene, anskaffe eller anvende maskinlæringsbaserte systemer med sikkerhet, pålitelighet og trygghet ivaretatt.

Deltakerne har mulighet til å bli bedre kjent med KI-landskapet, betraktet fra et sikkerhetsperspektiv. Vi viser hvilke fallgruver og risikoer man bør være klar over, samt designprinsipper og kontroller man kan innføre for å minimere risikoen.

Etter kurset får deltakerne individuell oppfølging med kursholderne for å diskutere problemstillinger og muligheter i deres virksomhet. Oppfølgingsmøtet er på to timer, og er inkludert i kursavgiften.

Program

Del 1 – Naviger risikolandskapet rundt KI og maskinlæring

Introduksjon til KI, maskinlæring og generativ KI fra et sikkerhetsperspektiv. Få oversikt over risikorammeverk og sikkerhetsverktøy som finnes der ute. Lær om hvilke risikoer som er identifisert i forskning.

Del 2 – Praktisk del: la oss spille Elevation of MLsec!

Etter at vi har gått gjennom litt teoretisk innhold, tar vi frem et eksempelsystem og spiller Elevation of MLsec for å gjøre en morsom risikovurdering. Elevation of MLsec er en gamification av Berryville Institute of Machine Learning (BIML) sitt risikorammeverk for maskinlæring. Kortspillet er en ressurs for å bringe proaktivt sikkerhetsarbeid inn i KI-satsingen din på en morsom og engasjerende måte, og kortene inneholder hint som hjelper deg å starte diskusjoner om risiko.

Del 3 – Hvordan håndterer man de problemene man har identifisert?

Vi går gjennom hvilke potensielle sårbarheter vi har funnet, og diskuterer hvordan man kan håndtere dette. Gå gjennom prinsipper for security by design fra programvaresikkerhet, samt state of the art innen machine learning security.

Kursholdere

Kurset ledes av Kantegas KI-spesialister sammen med sikkerhetsspesialister.

Tilbakemeldinger