#8 – Vem äger konsekvenserna när din AI-agent agerar fel?
Mycket spännande som händer här sammanfattat och analyserat i ytterligare ett spännande avsnitt! En AI-agent skulle boka ett gympass. Den hackade bokningssystemet och avbokade andras platser för att flytta upp sin ägare i kön. Hur ska vi hantera "reward-hacking"? EU AI akten infö
Publicerat 9 sep. 2026. Fler avsnitt finns på poddsidan.
9 sep. 2026
Mycket spännande som händer här sammanfattat och analyserat i ytterligare ett spännande avsnitt! En AI-agent skulle boka ett gympass. Den hackade bokningssystemet och avbokade andras platser för att flytta upp sin ägare i kön. Hur ska vi hantera "reward-hacking"? EU AI akten infö
Transkript
- Daniel: Välkommen till Delta, ett samtal om AI och förändring.
- Det här är podden för dig som vill förstå de tekniska skifterna innan de blir vardag.
- Hur är det med dig, Jonathan?
- Jonathan: Ja men det är bra, det är bra.
- Hur är det dig?
- Daniel: Ja men det är bra.
- Det känns skönt att komma igång med jobbet. har ju som vanligt nästan glömt bort att det fanns en sommar.
- Jonathan: Precis.
- Daniel: Nästan anhalit även Halloween eller någonting sånt.
- Annars
- Jonathan: A-åh.
- Daniel: så är det ganska lugnt på den fronten.
- Jag har några gamla nyheter som jag inte har pratat om. jag bara skulle nämna så.
- För att de liksom inte...
- De har inte lämnat mitt huvud än.
- Ja, de ligger kvar.
- Jonathan: De ligger kvar, spännande.
- Då måste vi fånga upp idag.
- Daniel: Ja men den ena är ju den här...
- Nathan B Jones Han skriver mycket på eller han gör mycket YouTube videos, man skriver inte saker längre
- Jonathan: Aa.
- Daniel: och han är ju liksom ganska bra på att formulera sig på skarpa sätt Jag tycker en lagom dos av Nathan är bra Det kan inte bli för mycket Men han satte ju fingret på AI-ekon
- Jonathan: Justa.
- Daniel: sa ju så här att Antingen så spricker AI-bubblan och då försvinner din pension.
- Eller så fortsätter AI att växa och så tappar du jobbet.
- Det var så
- Jonathan: Jesta.
- Daniel: han ville framöver.
- Det ligger rätt mycket i det.
- Dels där med AI-bubblan.
- Många har sina pensioner investerade på börsen.
- Då äger man en indexfond.
- Indexfonderna är skyldiga att köpa.
- Så att de speglar hur index, kanske S &P 500, hur de ser ut.
- Och då när de här stora bolagen liksom kommer in som X och får en ganska stor andel på de här indexerna så måste de här pensionsfonderna köpa in sig i dem. att, ja, var det sig de
- Och då om den bubblan försvinner då, ja.
- Försvinner mycket av ens pensionsbesparingar.
- Jonathan: Vi såg ju lite här när man trodde, vi har ju pratat om de här stora värderingarna som har varit och börsintroduktionerna som ligger.
- Och sen kommer då de kinesiska modellerna som ingen trodde kunde komma.
- Där pratar vi om för några avsnitt sedan.
- Daniel: Mm.
- Jonathan: Så det där var ju liksom en liten pyspunka på den ballong och de investeringarna som är gjorda. ja, farligt, farligt.
- Daniel: Ja, och nu har jag inte totalt kommit, men nu jag förstår så går inte X och SpaceX i den aktien jättebra.
- Så vi får väl se.
- Men så jag satt den då kontrasten med att om AHI blir så bra som alla tror och tar över våra jobb, ja men då blir det bra med jobbet istället.
- Nu är det
- Jonathan: Hahaha
- Daniel: ju såklart en ganska negativ punkt och jag upplever liksom inte att Man pratar så mycket om att AI kommer ta över jobben som man kanske gjorde för två år sedan.
- Jag inte vad du tänker där.
- Jonathan: Nej, tycker det där har ändrat.