Omslag: IT-säkerhetspodden

#333 - Har AI tagit ett kliv i sommar?

I sommar har några uppmärksammade nyheter kring AI figurerat. Vad är det senaste kring Mythos? Kan AI bli så bra på att hacka att man inte kan kontrollera den? Är AI så pass kompetent nu att vi uppnått generell intelligens (AGI)? Mattias Jadesköld och Erik Zalitis tar tempen på d

Publicerat 26 aug. 2026. Fler avsnitt finns på poddsidan.

26 aug. 2026

Inbäddning

I sommar har några uppmärksammade nyheter kring AI figurerat. Vad är det senaste kring Mythos? Kan AI bli så bra på att hacka att man inte kan kontrollera den? Är AI så pass kompetent nu att vi uppnått generell intelligens (AGI)? Mattias Jadesköld och Erik Zalitis tar tempen på d

Transkript

  1. Mattias Jadesköld: IT-säkerhetspodden är tillbaka efter ett långt sommaruppehåll. Något som inte däremot har tagit sommarsmester i det ständigt aktuella ämnet artificiell intellige
  2. Erik Zalitis: Jajamän, vi är långt ifrån varandra, inte kanske inte mentalt på något sätt, men jag är i norra Sverige och du i Stockholm. Mattias Jadesköld: Ja, det stämmer bra det
  3. Erik Zalitis: Ja, det är länge sedan vi körde på somrarna och det kan nog ingen kräva men det har varit bra somrapåhåll faktiskt. Vad har gjort? Mattias Jadesköld: Det har varit li
  4. Erik Zalitis: Jag har programmerat lite grann, jag har utvecklat bland annat det här som vi håller på med som heter Mowland Discover. Sen har hjälpt farsan runt huset här, vi har g
  5. Erik Zalitis: Jag förstår det och jag ska säga en sak. Sönderfallet vinner i slutändan. Så någonting kommer alltid gå sönder. Det bara att vänta. Det kommer aldrig finnas någon bri
  6. Erik Zalitis: KLOD är en Fropix-klassiske vid här laget AI. Ofta för programmerare och för folk som gör analysarbeten. METHOS är en modell. Modellerna är olika tränade maskininlärn
  7. Mattias Jadesköld: Nu står jag.
  8. Mattias Jadesköld: Det dyrt. Mattias Jadesköld: Jag har faktiskt gått lite kurser i sommar hos Antropix, OpenAI, Google och Microsoft också. Det är deras digitala kurser, SME, är g
  9. Erik Zalitis: Och Mattias Jadesköld: Och hur man ska tänka, precis som du säger, om man ska ha ett större arbete, ett projekt att hålla på med. Då ska man börja lägga lite arkitekt
  10. Erik Zalitis: Ja för du har ju en kvota, du jobbar hela tiden såhär mycket har du. Och den kvotan i klod till exempel som jag använder, då har du fem timmars begränsning. Du får an
  11. Erik Zalitis: För den kommer ihåg allt du gör i sessionen och det blir dyrare och dyrare för det är mer text att gå igenom. För den läser även sin egen text. Sin egen svar för att
  12. Mattias Jadesköld: Ja, för alla språkmodeller har en slags arbetsminne. När det tar slut är då man tycker att man har tappat bort sig helt eller börjat hallucinera och får inte iho
  13. Mattias Jadesköld: Exakt. Det är också så smart att man har en större projekt i en organisation. Man kan beskriva som en arbetsbeskrivning för en medarbetare. Så här ska du bete di
  14. Erik Zalitis: Sen är det en viktig grej med alla AI. Normalt har du en sån här hur vill du att jag ska tilltala dig? Då måste du vara väldigt noggrann med en grej. typiskt AI hålle
  15. Erik Zalitis: Det är väldigt viktigt, ska du ha AI till någonting så får den inte hålla med dig om det inte finns anledning till. Claude säger hela tiden I push back on this. Då tä
  16. Mattias Jadesköld: Bra, men... Nu kommer spårvurar. Det spår vi ut redan. Men mytos som inte är publiken så länge. Vad är det för någonting egentligen? Erik Zalitis: Som jag sa, va
  17. Mattias Jadesköld: Precis av den anledningen den hittade så mycket sårbarheter i det här som de kallade... De hade ett projekt Glasswing som var liksom... där vissa företag fick te
  18. Erik Zalitis: Det är här asymetrin mellan den som attackerar och den som försvarar. Man kan säga att alla typer av nya sårbarheter gynnar ju den som attackerar rätt uppenbart. Men
  19. Mattias Jadesköld: Ja, så. Mattias Jadesköld: Det här med att man ska börja ha sårbarhetsscanningsverktyg och planera in och patcha sådana här saker. Det här måste man ju, tror jag
  20. Erik Zalitis: Ja, eller hur? Så är det ju. Mattias Jadesköld: Det går inte att ett sårbarhetsverktyg som scannar, sen sitter du någon avdelning och läser igenom sårbarheterna. Oj,
  21. Mattias Jadesköld: Nej, varför inte jag? Erik Zalitis: Mitt sätt att tänka på det är att de som skyddar också har tillgång till verktygen. Varför ska de som skyddar inte få rättigh
  22. Erik Zalitis: Jo men så är det. Och jag tror lite grann att det ligger upp i allas intressen att helt enkelt weaponisera sina försvar. Tyvärr det så här, om fienden har en AI, då m
  23. Mattias Jadesköld: Men jag tror nog att generellt sett så kanske angripar kan vara lite snabbare på att adoptera ny teknik än kanske stora organisationer. Erik Zalitis: Och dessuto
  24. Mattias Jadesköld: Hacker kan väl inte få tag i mytos än så länge? Erik Zalitis: Nej men de kan bygga sina egna grejer, det här är stora kriminella nätverk. De har inga problem att
  25. Mattias Jadesköld: Ja, Inte ens IT-säkerhetspoddens hemsida är säker. Erik Zalitis: Nej, jag tror att de totalt plockar allt de kan använda eller inte. Loggarna ser ganska märkliga
  26. Erik Zalitis: Ja det har ju varit en ganska het sommar när det gäller sådana här attacker och jag tänkte vi kan bara snabbt nämna de tre som alla pratar om och den första var ju dä
  27. Mattias Jadesköld: Hmm? Mattias Jadesköld: Det är snäckligt baserat i den här solden. Den är under utrullning nu. Man måste ha en prenumeration på Open AIS, Chatt-QBT, Premium och
  28. Mattias Jadesköld: Men här är folk, tycker jag, börjar diskutera, har de börjat tänka själv då? Är det en AG, alltså artificiell generell intelligens, som börjar bryta sig in i sys
  29. Erik Zalitis: är ju någonting som förmodligen som det ser ut är en generell intelligens. Istället för att vara specialiserad på någonting så är det en levande varelses tänkning, en
  30. Erik Zalitis: Nej, det gör det inte, utan det är en prediktiv intelligens. AG-IT är ju levande varelse. kommer en vapert definition till vad vi pratar om. Det står ju för actuell g
  31. Mattias Jadesköld: Okej. Men i det här fallet då, då tycker jag att jag har sett sådana diskussioner och helt enkelt såhär, okej men nu har ju AI tagit ett nytt kliv helt plötsligt
  32. Mattias Jadesköld: Just det. Mattias Jadesköld: Men det var väl hans
  33. Erik Zalitis: Det är egentligen en fråga om en injektionsattack. Det inte att AIT helt plötsligt har blivit intelligent eller något för det är inget bra sak att göra. Utan man inge
  34. Mattias Jadesköld: Mm. Mattias Jadesköld: Just det. Så det här tycker jag att det här är ett exempel på att AI blir mer autonoma, självmedständiga och kan utföra mer komplexa uppgi
  35. Erik Zalitis: Det ser vi ju. Men själv med det ska vi vara väldigt försiktiga och kalla dem. Sen vill jag säga jag ingen expert på AI så jag försöker hålla mig från att gå allting
  36. Mattias Jadesköld: Ja, Men då kanske den upptäcker såhär någon liksom sårbarhet i den brannväggen som stoppar den och så öppnar den upp den själva. Erik Zalitis: Och sen går den in
  37. Mattias Jadesköld: Ja. Mattias Jadesköld: Ja, och det är kanske lite samma sak med Mytos också. Mytos och Open Eyes, Sol, det är ju två konkurrerande företag med deras flaggschepps
  38. Erik Zalitis: låter inte som en försäljningsargument. har tappat kontroll över den men den har bara fått kontroll över kärnvapnen. Biologiskt slitsmedel kan den inte göra. Mattias
  39. Erik Zalitis: Lite grann som jag tänker är väl att vi får ta det lite med nypassalt. Jag tror är viktigt att förstå när man jobbar inom IT som vi gör. Det här får inte stoppa. Du k
  40. Mattias Jadesköld: Mm, exakt. Och det var en retorisk fråga, eller hade du något svar Erik Zalitis: Per definition är det attorisk fråga har du ett svar Mattias Jadesköld: Då sa ha
  41. Mattias Jadesköld: Ja, men sedan det här som jag pratade om i början, här med att man planerar sitt AI-arbete. Vad ska vi som människor göra? Vad ska AI göra? Om man ger den tiden
  42. Erik Zalitis: Om man tittar på en av de här tackorna till, de flesta av de tackorna, ja det som sagt, du borde inte ha haft internetkortkommst, kär AI, du hade det, det var inte br
  43. Mattias Jadesköld: Just det, på GitHub var det. Erik Zalitis: Ja, jag tror att det var det faktiskt. Då tänker jag, ja, det är mer kreativt. Här finns ingen moralisk värdering, uta
  44. Mattias Jadesköld: Ja, det låter perfekt. mera fake-konton behövs inte i den här packen. Erik Zalitis: Vad ska trollen göra nu då? När AI tar över och spammar exorreddit och allt m
  45. Mattias Jadesköld: Vad de ska göra får du gå ut och demonstrera att de blir kringkring... Erik Zalitis: Vi vill faktiskt ha vår mörka psykologi fred, tack så mycket! Mattias Jadesk
  46. Mattias Jadesköld: Jag kan också rekommendera Anthropics i det här fallets grundkurs som man kan göra på deras academy som är gratis och väldigt också icke produktaktiga utan det h
  47. Erik Zalitis: Ja, men det tror jag också. Mattias Jadesköld: Bra då Erik, då är vi igång igen och som vanligt veckovis så nästa vecka så har vi en gäst och såna här saker. Erik Zal