AI-lögndetektorer kan leda till felaktiga anklagelser, visar ny studie

StockholmEn ny studie i tidskriften iScience varnar för de sociala konsekvenserna av AI-lögndetektorer. Publicerad den 27 juni, visar den att AI-system kan förändra hur människor anklagar andra för att ljuga. Forskningen indikerar att AI kan göra människor mer benägna att anklaga någon för oärlighet. Detta kan ske eftersom det är enklare att skylla på AI istället för att ta personligt ansvar.

De flesta tror att andra är ärliga, vilket gör dem dåliga på att upptäcka lögner. Forskning visar att människor endast kan avslöja lögner ungefär lika bra som slumpmässigt gissande. Den nya forskningen ville undersöka om närvaron av AI förändrar dessa vanor och beteenden.

Här är vad forskningen gick ut på:

986 deltagare skrev varsin sann och falsk mening om sina planer för helgen. En AI-modell tränades med dessa data och nådde en träffsäkerhet på 66% i att identifiera sanna och falska uttalanden. Ytterligare 2 000 deltagare läste dessa påståenden för att avgöra om de var sanna eller falska. Deltagarna delades in i fyra grupper: baslinje, tvingad, blockerad och val.

I kontrollgruppen bedömde deltagarna påståenden utan AI-stöd. De identifierade korrekt sanna och falska påståenden 46% av gångerna. Endast 19% av denna grupp klassade påståenden som falska, trots att de kände till att hälften av påståendena var osanna. Detta visar att de var mycket tveksamma till att anklaga någon för att ljuga.

I den grupp där deltagarna alltid fick se en AI-förutsägelse innan de fattade sitt eget beslut, uppgav över en tredjedel av deltagarna att vissa påståenden var falska. När AI:n angav att ett påstående var sant, var det bara 13% av deltagarna som inte höll med. Men när AI:n angav att ett påstående var falskt, höll över 40% av deltagarna med AI:n.

Läs också:

Idag · 14:35

AI-genererad ryggsmärthjälp: lika bra som läkare

I de grupper där deltagarna kunde välja att använda AI-prediktioner, valde endast en tredjedel att be om hjälp från AI:n. Av dem som använde AI:n följde 84% AI:ns råd och märkte uttalandet som falskt när AI:n gjorde det. Detta visar på ett starkt förtroende för AI när den väl används.

Många människor ville inte använda AI:n trots att de fick veta att den kunde avslöja lögner bättre än människor. Forskarteamet blev förvånade över detta. De tror att det kan bero på att folk är för självsäkra när det gäller sin egen förmåga att upptäcka lögner.

Forskare påpekar att AI ofta gör misstag och kan förstärka fördomar. Nils Köbis, en beteendevetare vid universitetet i Duisburg-Essen, avråder från att förlita sig för mycket på AI vid viktiga beslut, särskilt de som rör asyl vid gränser. Beslutsfattare bör vara försiktiga vid användning av sådana teknologier i känsliga områden.

Köbis påpekar att det råder stor uppståndelse kring AI. Många tror att dessa algoritmer är mycket exakta och rättvisa. Men det finns en stor risk med att förlita sig för mycket på dem eftersom AI har brister. Denna studie visar att AI kan påverka vårt beteende, och vi måste noga överväga dessa förändringar.

Det är starkt ogillat i människors samhälle att anklaga andra för att ljuga. AI-teknik kan göra det enklare att anklaga människor, vilket kan resultera i fler oförsiktiga anklagelser eftersom människor kanske litar för mycket på AI:s bedömning. Beslutsfattare måste överväga dessa konsekvenser när de diskuterar användningen av AI för lögndetektering.