Nieuw onderzoek: dubbel potentieel van AI voor biomedische ontdekkingen uitgelicht door Carnegie Mellon University

AmsterdamOnderzoekers van de School of Computer Science aan de Carnegie Mellon University hebben nieuwe richtlijnen opgesteld voor het gebruik van interpreteerbare machine learning-methoden in de computationele biologie. Deze richtlijnen tackle belangrijke uitdagingen en bieden mogelijkheden voor een beter begrip. Machine learning-modellen zijn al cruciaal voor het analyseren van biomedische data, zoals genomische sequenties en biologische beelden. Echter, het begrijpen van hoe deze modellen werken, is essentieel voor het ontdekken van biologische processen bij gezondheid en ziekte.

Het onderzoek doet enkele belangrijke aanbevelingen:

• Het inzetten van verschillende uitlegbare machine learning methoden.
• Het variëren van hyperparameters.
• Het vermijden van selectief resultaatgebruik.

Een nadeel van het gebruiken van slechts één methode om machine learning-modellen te begrijpen, is dat dit misleidend kan zijn. Onderzoekers raden aan meerdere methoden te hanteren om een beter beeld te krijgen van hoe de modellen werkelijk functioneren. Dit maakt de resultaten betrouwbaarder.

De opwinding over de interpretatie van machine learning is groot, maar heeft nog geen gebruiksvriendelijke oplossingen opgeleverd. Naarmate voorspellende modellen ingewikkelder worden, is het essentieel om te weten hoe en waarom ze voorspellingen doen, vooral op gebieden zoals biomedicine. Onderzoekers aan de CMU benadrukken dat inzicht in hoe modellen werken cruciaal is voor het ontdekken van fundamentele biologische processen.

Het verkeerd evalueren van modellen kan tot vooringenomen resultaten leiden. Het artikel benadrukt het belang van het vermijden van het selecteren van alleen positieve uitkomsten. Als dit gebeurt, kunnen wetenschappelijke bevindingen onvolledig of misleidend zijn. Het is belangrijk om goed na te denken over menselijke factoren bij het ontwikkelen en gebruiken van makkelijk te begrijpen machine learning-methoden. Dit omvat het kennen van de gebruikers van deze methoden en het begrijpen hoe ze gebruikt en beoordeeld zullen worden.

Lees ook:

Vandaag · 14:35

AI-chatbots bieden nauwkeurige adviezen bij lage rugpijn.

CMU-professoren en promovendi onderzochten gezamenlijk verschillende computationale biologieartikelen. Ze constateerden dat het gebruik van interpreteerbare machine learning vaak inconsistent was. De onderzoekers willen richtlijnen opstellen om deze methoden betrouwbaarder en consistenter te maken.

Deze richtlijnen hebben invloed op veel mensen. Ze zijn nuttig voor onderzoekers die het functioneren van grote taalmodellen en andere complexe AI-systemen bestuderen. Deze regels verduidelijken waarom bepaalde voorspellingen worden gedaan, wat een enorme bijdrage kan leveren aan wetenschappelijk en medisch onderzoek.

De focus op het vereenvoudigen van AI sluit aan bij de trend van het ontwikkelen van AI die gebruikers kunnen vertrouwen. Het benadrukt het belang van samenwerking tussen verschillende vakgebieden. Deze inspanningen zullen ervoor zorgen dat AI-tools breed en effectief kunnen worden ingezet voor belangrijk wetenschappelijk onderzoek. Naarmate machine learning-modellen evolueren, moeten ook de manieren waarop we ze nauwkeurig interpreteren, veranderen. Dit onderzoek kan leiden tot betere en invloedrijkere toepassingen van AI in de biologie.

De richtlijnen in dit artikel zijn niet exclusief voor computationele biologen. Ze kunnen ook machine learning onderzoekers helpen bij het ontwikkelen van nieuwe methoden en tools die zowel nauwkeurig als begrijpelijk zijn. Deze benadering kan de rol van AI bij wetenschappelijke ontdekkingen versterken, vooral bij het doorgronden van complexe biologische systemen.