Frykt er ikke en strategi

Kan kunstig intelligens skille mellom informasjon den skal behandle, og instruksjoner den aldri bør følge – også når alt er skrevet på norsk?

I premiereepisoden av SkyeTec Talks møter Rahal John Inge fra SkyeTec til en samtale om norsk språk, KI-sikkerhet og prompt injeksjoner. De utforsker hvordan en KI-modell kan trenes til å gjenkjenne forskjellen mellom legitim informasjon og forsøk på å manipulere modellens atferd.

Etter hvert som KI utvikler seg fra å være en samtalepartner til å bli en aktiv deltaker i virksomheters arbeidsprosesser, blir dette skillet stadig viktigere. Når KI-agenter får tilgang til systemer, data og muligheten til å utføre handlinger, stilles det også høyere krav til sikkerhet, kontroll og tillit.

Hva betyr denne utviklingen for norske virksomheter?
Hvordan kan vi utnytte mulighetene innen KI og agentiske løsninger, samtidig som vi sikrer at teknologien oppfører seg på en trygg og forutsigbar måte?

I denne episoden diskuterer vi utfordringene, mulighetene og hvorfor forståelsen av språk og kontekst spiller en sentral rolle i utviklingen av sikker KI.

🎧 Hør episoden på Spotify:
https://open.spotify.com/episode/5Btp6eQpkVTDazER5s9krY?si=f67082ed7b1640f7

▶️ Se episoden på YouTube:
https://youtu.be/3h34ysMRCmY?si=1YFVQeO0-gDbFQKP