Ny studie: djupdykning i AI:s dubbla potential för biologiska upptäckter och utmaningar.

StockholmForskare vid Carnegie Mellon Universitys School of Computer Science har tagit fram nya riktlinjer för användning av tolkbara maskininlärningsmetoder inom beräkningsbiologi. Dessa riktlinjer syftar till att hantera centrala utmaningar och erbjuda möjligheter till bättre förståelse. Maskininlärningsmodeller är redan viktiga för analys av biomedicinska data, såsom genomiska sekvenser och biologiska bilder. Att förstå hur dessa modeller fungerar är dock avgörande för att upptäcka biologiska processer i hälsa och sjukdom.

Studien föreslår flera viktiga rekommendationer:

• Användning av flera tolkbara metoder inom maskininlärning.
• Att sätta olika hyperparametrar.
• Undvika att välja resultat som passar ens syfte.

Ett problem med att enbart använda en metod för att förstå maskininlärningsmodeller är att det kan leda till missvisande resultat. Forskare rekommenderar att använda flera metoder för att få en bättre uppfattning om hur modellerna verkligen fungerar. Detta gör resultaten mer pålitliga.

Intresset för tolkbarhet inom maskininlärning är stort, men ännu har det inte lett till lättanvända lösningar. När prediktiva modeller blir mer komplexa är det viktigt att förstå hur och varför de gör sina förutsägelser, särskilt inom områden som biomedicin. Forskare vid CMU menar att förstå hur modeller fungerar är avgörande för att upptäcka grundläggande biologiska processer.

Att utvärdera modeller felaktigt kan leda till partiska resultat. Artikeln betonar vikten av att undvika urval av enbart positiva utfall. Att göra så kan göra att vetenskapliga resultat blir ofullständiga eller missvisande. Det är viktigt att noggrant överväga mänskliga faktorer när man skapar och använder lättförståeliga maskininlärningsmetoder. Detta innefattar att veta vilka som kommer att använda dessa metoder och förstå hur de kommer att användas och utvärderas.

Läs också:

Idag · 14:35

AI-genererad ryggsmärthjälp: lika bra som läkare

Fakultetsmedlemmar och doktorander vid CMU samarbetade för att granska flera forskningsartiklar inom beräkningsbiologi. De upptäckte att användningen av tolkbar maskininlärning ofta var inkonsekvent. Forskarna vill skapa standardriktlinjer för att göra dessa metoder mer tillförlitliga och enhetliga.

Dessa riktlinjer påverkar många människor. De hjälper forskare som studerar hur stora språkmodeller och andra komplexa AI-system fungerar. Reglerna bidrar till att klargöra varför vissa förutsägelser görs, vilket kan vara till stor nytta för vetenskaplig och medicinsk forskning.

Fokusen på att göra AI lättare att förstå går hand i hand med trenden att utveckla AI som användare kan lita på. Det framhäver vikten av att samarbeta över olika områden. Dessa ansträngningar kommer att bidra till att AI-verktyg kan användas brett och effektivt inom viktig vetenskaplig forskning. När maskininlärningsmodellerna förändras, måste även sätten vi tolkar dem förändras för att vara korrekta. Denna studie kan leda till mer insiktsfulla och betydelsefulla användningar av AI inom biologin.

Riktlinjerna i denna artikel är inte bara avsedda för beräkningsbiologer. De kan även stödja forskare inom maskininlärning att utveckla nya metoder och verktyg som är både korrekta och lätta att förstå. Denna inriktning kan förbättra AI:s roll i att göra vetenskapliga upptäckter, särskilt inom förståelsen av komplexa biologiska system.