Advanced methods for prototype-based classification

Promotie: mw. P. Schneider, 14.45 uur, Academiegebouw, Broerstraat 5, Groningen

Proefschrift: Advanced methods for prototype-based classification

Promotor(s): prof.dr. M. Biehl, prof.dr. N. Petkov

Faculteit: Wiskunde en Natuurwetenschappen

 

Lerende vectorkwantisatie

Petra Schneider deed onderzoek naar lerende vectorkwantisatie (Learning Vector Quantization, LVQ). Dit is een simpele en intuïtieve techniek: LVQ-algoritmen leren prototype-vectoren voor de verschillende klassen in een gegeven dataset. De prototypen worden gebruikt voor een classificatie die gebaseerd is op afstand. Dit houdt in dat een patroon wordt toegekend aan de klasse die gerepresenteerd wordt door het dichtstbijzijnde prototype, gebruikmakend van een bepaalde afstandsmaat.

Dit proefschrift behandelt twee punten: ten eerste wordt een nieuwe methodiek voor het aanpassen van de metriek in LVQ gepresenteerd en ten tweede worden wijzigingen van een specifiek leeralgoritme, namelijk robuuste zachte LVQ, geïntroduceerd.

Technieken om de metriek te wijzigen bieden de mogelijkheid om probleemspecifieke afstandsmaten te leren uit de trainingsdata. Aangezien de beslissing van de classificator afhangt van de afstanden tussen prototypen en featurevectoren, is de gekozen metriek een belangrijke sleutel voor de nauwkeurigheid van de LVQ. Schneider breidt de Euclidische afstand uit met een matrix met adaptieve gewichten. De diagonale elementen van de matrix kwantificeren de noodzaak van de individuele features voor classificatie, terwijl de buitendiagonale elementen corresponderen met de relevantie van paren van features in het classificatieschema.

De geavanceerde metriek wordt praktisch toegepast. Schneider toont aan dat het de potentie heeft om de classificatie van de toegepaste algoritmen significant te verbeteren. Ook geven de metriekparameters inzicht in de aard van de data. Ook wordt het convergentiegedrag van de trainingsalgoritmen theoretisch geanalyseerd.

Drie wijzigingen van robuuste zachte LVQ worden voorgesteld: de behandeling van de hyperparameter van het algoritme, de beslissingsregel voor classificatie en de generalisatie van het algoritme in relatie tot vectoriale klassetoewijzing in de invoerdata. De methoden worden geïllustreerd door praktische experimenten.

Petra Schneider (Duitsland, 1980) studeerde aan de universiteit van Bielefeld. Het onderzoek werd uitgevoerd aan het Johann Bernoulli Institute for Mathematics an Computer Science. Schneider gaat als postdoc aan de Medical School van de University of Birmingham.