Nu försäkras AI-agenterna
Gäller försäkringen när chatboten hittar på rabatter? Eller när jurister hänvisar till påhittade rättsfall? En marknad för renodlade AI-försäkringar, ofta utfärdade av renodlade AI-försäkringsbolag, tycks vara på framväxt.
Många företag betraktar AI som en av de största säkerhetsriskerna. Lagstiftningen skärps samtidigt som antalet incidenter och tvister kopplade till AI-användning ökar. Försäkringsbranschen har hållit emot - allmänna försäkringar och cyberförsäkringar är vaga, om de inte innehåller uttryckliga undantag för AI. Nya aktörer försöker nu lösa problemet med Silent AI. En kort sammanfattning av utvecklingen:
På senare år har försäkringsföretag börjat erbjuda specifika försäkringar för AI-användning. Armilla, som specialiserat sig inom AI-ansvarsförsäkring och som är coverholder för Lloyd's of London, täcker exempelvis sedan ett par år upp till 25 miljoner dollar per organisation.
Nu kommer även försäkringar för chatbotar och andra AI-agenter. Elevenlabs, som använts för att ta fram explainervideon ovan och vars agenter används av företag som McKinsey, Stripe, Cisco, Nvidia och Disney, meddelade nyligen att företagets agenter kan försäkras efter certifiering av Artificial Intelligence Underwriting Company.
Försäkringen täcker exempelvis situationer då agenten lämnat felaktig information eller går emot skyddsmekanismer. Agenterna certifieras genom tusentals adversariala tester.
Växande problem och växande marknad
Rådgivare har hållts ansvariga vid ett antal tillfällen. En domstol fann att Air Canada var ansvarigt för en påhittad rabattpolicy. Deloitte blev återbetalningsskyldigt efter att ha överlämnat en konsultrapport full med fabricerade citat och referenser.
Advokater har fällts för att ha lämnat in inlagor med hallucinerad praxis, både utomlands och i Sverige. För just advokater är beskedet tydligt, rådgivningsansvaret gäller fullt ut. Men de lever med obligatoriska försäkringar som inte är skrivna för juristens teknikstack 2026.
Hur nya försäkringsvillkor kommer tolkas återstår att se. Traditionella försäkringar, cyberförsäkringar, teknik-E&O m.m. är ofta vaga när det gäller AI, de varken bekräftar eller utesluter men riskerar i praktiken att lämna kunden.
Situationen påminner om hur cyberhot hanterades tidigt 00-tal innan renodlade cyberförsäkringar existerade. Och på liknande sätt som då börjar traditionella försäkringsbolag som AIG och WR Berkley aktivt skriva in AI-undantag i avtalen. Incidenterna är kostsamma, och black box-problematiken kvarstår.
Problemet är växande, antalet stämningar relaterade till generativ AI ökade markant under förra året. Marknaden för AI-försäkringar uppskattas växa med 80 procent årligen.
