Original paper

Kernel Composition with the one-against-one Cascade for Integrating External Knowledge into SVM Classification

[Verknüpfung von Kernfunktionen mit der eins-gegen-eins Kaskade für die Einbindung von Wissen in die SVM Klassifizierung]

Braun, Andreas Ch.; Weidner, Uwe; Jutzi, Boris; Hinz, Stefan

Abstract

This work focuses on two main questions. How can data fusion be performed before SVM (support vector machine) classification? And secondly: how can the one-against-one cascade be exploited to use information selectively thus integrating human knowledge? Kernel composition represents a specialized method for fusing data on the feature level. Its main advantage is given by the fact that it reduces the Hughes phenomenon (performance decrease due to high dimensionality) because it abstains from raising dimensionality in the feature space. Since the paper focuses on hyperspectral data, a specialized kernel based on the spectral angle is employed and evaluated. Two application schemes are presented. At first, hyperspectral data are fused with laserscanning data by taking into account explicit knowledge on roof geometries. Secondly, a spectral-spatial framework for hyperspectral data is presented which integrates implicit knowledge on the relevance of spatial context into classification. Both approaches are promising as they obtain higher classification accuracies when integrating external knowledge. The innovation of the contribution is that data fusion with a second source of data via kernel composition is combined with a modification of the one-against-one cascade which allows integration of human knowledge.

Kurzfassung

Dieser Beitrag vertieft zwei Hauptfragen. Wie kann die Datenfusion für die SVM Klassifizierung vorgenommen werden? Und zweitens: wie kann die eins-gegen-eins Kaskade genutzt werden, um Information selektiv zu nutzen und menschliches Wissen einzubringen? Die Verknüpfung von Kernfunktionen stellt eine spezielle Methode der Datenfusion für kernbasierte Klassifikatoren wie Stützvektormaschinen (support vector machines, SVM) dar. Ihr Hauptvorteil besteht darin, dass dadurch das Hughes Phänomen (Performanzverlust durch hohe Dimensionalität) reduziert wird, indem sie es vermeidet, die Dimensionalität des Merkmalsraums zu erhöhen. Da sich der Beitrag mit hyperspektralen Daten beschäftigt, wird eine spezielle Kernfunktion, die auf dem spektralen Winkel basiert, eingesetzt und bewertet. Zwei Anwendungsschemata werden vorgestellt. Zuerst werden Hyperspektraldaten mit Laserscanningdaten fusioniert, wobei explizites Wissen über Dachgeometrien genutzt wird. Danach wird ein spektral-räumlicher Klassifizierungsansatz vorgestellt, welcher implizites Wissen über die Relevanz des räumlichen Kontextes in die Klassifizierung einbringt. Beide Ansätze sind vielversprechend, da sie höhere Klassifizierungsgenauigkeiten erzielen, wenn Wissen genutzt wird. Die Innovation des Beitrages ist, dass eine zweite Datenquelle über die Verknüpfung von Kernfunktionen kombiniert wird mit einer Modifikation der eins-gegen-eins Kaskade, die es erlaubt, Wissen zu integrieren.

Keywords

data fusionknowledge integrationsvmhyperspectralairborne laserscanning