Google hat in einem
Blog-Post die Bereitstellung des Quellcodes der Tensorflow-Implementierung von Morphnet bekanntgegeben. Dabei handelt es sich um einen von
Google entwickelten Ansatz, der AI-Systeme automatisiert weiterentwickeln und optimieren kann, in dem deren Architektur vereinfach wird. Konkret kann damit die Struktur von bereits vorhandenen Deep Neural Networks (DNN) weiterentwickelt werden.
Das Ergebnis sind kleinere, schnellere und leistungsfähigere Modelle, die auf Probleme im "Google-Massstab" angewendet werden können, so Andrew Poon, Senior-Softwareingenieur und Dhyanesh Narayananan, Produktmanager von Google AI Perception. Morphnet führt dazu Machine-Learning-Algorithmen durch einen Zyklus von Schrumpfungs- und Expansionsphasen. Im ersten Fall werden ineffiziente Neuronen - die grundlegenden Bausteine vieler moderner Machine-Learning-Modelle - herausgefiltert und mit Hilfe eines Mechanismus zur Berechnung der Kosten jedes Neurons (und damit seiner Effizienz) in Bezug auf die jeweilige Aufgabe zugeschnitten.
Poon und Narayanan sagen, dass Morphnet, angewendet auf den populären Computer Vision Algorithmus InceptionV2, der auf dem Open Source Imagenet Datensatz trainiert wurde, die FLOP-Kosten um 11 bis 15 Prozent reduzieren konnte, ohne die Genauigkeit zu beeinträchtigen. Die Wiederholung des Schrumpf-/Expansionszyklus führte zu einem Genauigkeitsgewinn von 1,1 Prozent.
Weitere Details zu Morphnet finden sich in
diesem Blog-Post. Die Tensorflow-Implementierung kann von der Github-
Projektwebsite heruntergeladen werden.
(swe)
