Federated Learning for Diabetic Retinopathy

Abstract

Diabetisk retinopati (DR) er en alvorlig øyesykdom som kan føre til blindhet hos diabetespasienter. En tidlig diagnose er avgjørende for behandling, men medisinsk screening er dyrt og vanligvis upraktisk i underutviklede land på grunn av begrensede medisinske ressurser. Mange forsøk på å automatisere diagnosen av sykdommen har blitt gjort for å løse dette problemet. De nyeste teknologiene er basert på prediksjonskraften til Deep Neural Networks (DNN). Et stort problem med denne metoden er at den er avhengig av store datamengder for å generere en robust prediksjonsmodell. I motsetning til andre typer data, er medisinske data underlagt strenge etiske regler på grunn av personvernhensyn og er derfor ikke allment tilgjengelig. Som et resultat lider dagens metoder av begrenset tilgang til data for å oppnå høy brukervennlighet. Federated Learning (FL), derimot, tilbyr en desentralisert, datavennlig og integritetsbevarende løsning for maskinlæring (ML) for å løse dette problemet. Som en ny disiplin innen maskinlæring er føderert læring fortsatt utsatt for utfordringer som system- og dataheterogenitet. Derfor kreves det en sammenligning av dagens teknologi for føderert læring for å etablere og utvikle feltet. Den nåværende litteraturen på dette området er minimal, men gir innsikt i ytelsen til fødererte læringssystemer i diagnostisering av diabetisk retinopati. På grunn av utilgjengelige data og begrensede eksperimentelle miljøer har disse studiene vanskeligheter med å gjøre direkte sammenligninger. Som et resultat sammenligner denne forskningen, på toppen av et enhetlig offentlig datasett, tradisjonelle og fødererte læringsmetoder angående diagnostisering av diabetisk retinopati. Vi utfører flere eksperimenter under forskjellige datadistribusjoner for å etterligne scenarier i den virkelige verden og unngå overfladiske sammenligninger. Vi utvider deretter studien ved å gi kvantitativt bevis på at fødererte læringsmetoder er bærekraftige fra et gjennomførbarhetsperspektiv. Basert på resultatene våre, er ikke forente læringsmetoder like pålitelige som sentraliserte toppmodeller. Våre målinger viser imidlertid at modeller som SqueezeNet og MobileNet, selv om de innebærer et lite ytelsestap, er en gjennomførbar løsning for forbundsbaserte læringsscenarier som kjører på maskinvare med store begrensninger.

Diabetic Retinopathy (DR) is a severe eye condition that can lead to blindness in diabetic patients. Early diagnosis is crucial to its treatment; however, medical screening is expensive and usually unfeasible in underdeveloped countries due to limited medical resources. Many attempts at automating the disease diagnosis have been made to solve this issue. The current state of the art techniques rely on Deep Neural Networks’ (DNNs) predictive ability. A major concern of this approach is its reliance on large quantities of data to generate a robust prediction model. Unlike other types of data, medical data is subject to strict ethical regulations due to privacy concerns; hence, it is not widely available. As a result, current methods suffer from limited data access to achieve high utility. In contrast, Federated Learning (FL) offers a decentralised, data-agnostic and privacy-preserving Machine Learning (ML) solution to this issue. As a nascent machine learning discipline, federated learning is still prone to challenges like system and data heterogeneity. As a result, a comparison of the existing state of the art and federated learning techniques is required to establish and advance the area. Current literature in this domain is minimal but provides insights regarding Federated Learning’s performance in diabetic retinopathy diagnosis. Due to data inaccessibility and limited experimental settings, these studies have difficulties arguing direct comparisons. As a result, on top of a uniform public dataset, this research compares traditional and federated learning methods regarding diabetic retinopathy diagnosis. We conduct multiple experiments under various data distributions to imitate realworld scenarios and avoid shallow comparisons. We then extend the study by providing quantitative evidence that federated learning methods are sustainable from a feasibility perspective. Based on our findings, federated learning methods fall short of centralised state of the art models’ accuracy. However, our measures indicate that while at a slight performance penalty, models like SqueezeNet and MobileNet provide a viable solution for federated learning scenarios that run on heavily constrained hardware.