Guðmundur ræddi þróunina í Bítinu á Bylgjunni í morgun, þar sem sérstaklega var rætt um Mythos, nýja útgáfu af Claude frá Anthropic. Hann sagði kapphlaupið um þróun gervigreindartækja vera gríðarlegt og að geta þeirra hefði aukist á ótrúlega skömmum tíma.
Getur framkvæmt netárás frá A til Ö
Guðmundur sagði það hafa legið lengi í loftinu að gervigreind gæti einn daginn framkvæmt heildstæða netárás með sambærilegum hætti og mannlegir hakkarar hafa gert hingað til.
„Það hefur verið spáð því í mörg ár að einhvern tímann í framtíðinni muni gervigreind nýtast til þess að framkvæma svona heildstæða netárás,“ sagði Guðmundur.
Hann útskýrði að slík árás fælist fyrst í því að komast inn í kerfi, síðan finna verðmæt gögn og að lokum fela slóð sína. Þetta væri svipað og þegar innbrotsþjófur kæmist inn í hús, leitaði að verðmætum og reyndi svo að skilja sem minnst eftir sig.
Mythos kláraði próf sem önnur tól höfðu ekki lokið
Guðmundur sagði athyglisvert að samkvæmt prófunum breska AI Security Institute hefði Mythos orðið fyrsta gervigreindartólið til að klára heildstætt netárásarpróf frá upphafi til enda.
Hann sagði þó að það hefði aðeins tekist í þremur af tíu tilraunum og að kostnaðurinn við að keyra slíkt próf hefði verið mikill. Því væri hann ekki á því að netvarnir stæðu nú þegar frammi fyrir ósigrandi andstæðingi.
„Í besta falli er þetta tól að ná miðlungshámarki sem netárásaraðili.“
Segir tækifærin líka mikil fyrir varnir
Guðmundur lagði þó áherslu á að þróunin hefði ekki bara dökka hlið. Að hans mati væri einn stærsti kosturinn sá að gervigreind gæti fundið veikleika í hugbúnaði sem menn hefðu ekki komið auga á í áratugi.
„Þegar maður horfir til lengri tíma þá finnst mér frábært að geta fengið vélmenni sem finnur einhverja veikleika sem við manneskjurnar höfum ekki náð að sjá í tuttugu ár.“
Í grein sem birtist á Vísi í vikunni skrifaði Guðmundur að gera mætti ráð fyrir að veikleikar í kerfum og forritum yrðu uppgötvaðir hraðar og í meira mæli en áður. Hann sagði jafnframt að rekstraraðilar þyrftu sjálfir að nýta gervigreind í varnir, veikleikaleit og vöktun, ella gætu þeir orðið eftir og þannig frekar skotmörk ógnaraðila.
Fer gervigreindin úr böndunum?
Í viðtalinu var einnig rætt hvort gervigreind gæti farið að vinna gegn sjálfri sér eða tekið sjálfstæðar ákvarðanir sem menn réðu ekki lengur við. Guðmundur sagðist ekki hafa sérstakar áhyggjur af því, að minnsta kosti ekki með þeirri aðferðafræði sem nú væri notuð.
Hann sagði hins vegar líklegt að almenningur yrði sífellt meira var við þróunina, meðal annars með tíðari öryggisuppfærslum og hraðari viðbrögðum við veikleikum í hugbúnaði.
Telur þróunina ekki bólu
Spurður hvort gervigreindaræðið væri einfaldlega bóla sagðist Guðmundur ekki trúa því. Hann benti á að notkunarmynstur fólks á netinu væri þegar farið að breytast og að margir væru farnir að leita beint til gervigreindar í stað hefðbundinna leitarvéla.
Að hans mati muni fólk eftir nokkur ár líta til baka og hlæja að því hvernig tæknin var notuð í dag, rétt eins og menn geri nú með fyrstu árin á samfélagsmiðlum. Hann telur því ljóst að gervigreindin sé komin til að vera, þó enn eigi eftir að koma betur í ljós hvaða tæki muni standa eftir og hvernig þau verði notuð.
