AI-verktyget som kan identifiera potentiella säkerhetshot



Ett AI-baserat verktyg vid namn Dechefr har utvecklats för att hjälpa till med att identifiera potentiella ensamagerande våldsverkare i Sverige. Verktyget bygger på flera års forskning inom hotbedömningar av kommunikation och har förmågan att upptäcka varningsbeteenden i exempelvis mejl och inlägg på diskussionsforum. Det primära syftet är att sortera fram potentiellt problematisk information som människor inte har möjlighet att läsa igenom manuellt.

Enligt Lisa Kaati, en av forskarna som varit involverad i utvecklingen av verktyget, måste det alltid göras en manuell bedömning efter att verktyget har använts. Varningsbeteenden som kan identifieras inkluderar en överdriven uttryck av ilska, extremt fokus på ett visst ämne och frekvent diskussion om tidigare våldsverkare. Det är dock viktigt att notera att att ha ett eller flera varningsbeteenden inte automatiskt innebär att personen kommer begå våldsdåd – det handlar om en samlad bild av beteendemönstret.

Även om Säkerhetspolisen inte vill kommentera om de använder sig av Dechefr eller liknande verktyg i jakten på potentiella våldsverkare, berättar Lisa Kaati att verktyget för närvarande används av företag och polismyndigheter på skolor i USA där hot- och riskbedömningar av individer är vanligare och mer strukturerade än i Sverige. Dock tror hon att det finns stor potential för att utnyttja verktyget även i Sverige.