Turi Create - Apple veröffentlicht AI-Framework auf Github

Jan Gruber

Chefredakteur Magazin und Podcasts
AT Administration
AT Redaktion
Registriert
01.11.16
Beiträge
14.685
Turi Create - Apple veröffentlicht AI-Framework auf Github
IMG_70-700x401.jpg



Apple setzt aktuell stark auf das Thema AI. In diesem Bereich wurde vor wenigen Monaten auch ein eigener Blog veröffentlicht, dort möchte der Konzern seine Erfahrungen mit der Community teilen. Den ersten Texten folgt jetzt eine Veröffentlichung auf GitHub - mit Turi Create können Entwickler auf ein eigenes Framework von Apple zurückgreifen.

Die Umgebung stellt verschiedene Anwendungen zur Verfügung. Damit sind das Erkennen von Bildern, intelligente Empfehlungen, die Ermittlung von Ähnlichkeiten und auch Texterkennung möglich. Für die Entwicklung eigener Erkennungsmodelle gibt es einige grundlegende Funktionen.
Turi Create - Technische Details


Das Framework steht für Python 2.7 zur Verfügung und benötigt einen 64Bit-fähigen x86 Prozessor. Die Grafikschnittstelle KUDA beschleunigt die Erkennung. Die Anwendung arbeitet auf einem Server, mittels CoreML werden einzelne AI-Funktionen als Schnittstelle realisiert.
 

GunBound

Rote Sternrenette
Registriert
23.06.05
Beiträge
6.074
Nicht im Ernst, oder?


Abgesehen davon ein ziemlich ironisches Detail: CUDA ist extrem wichtig für die Beschleunigung von CNN-basierten Methoden (also so ziemlich alle, seit Krizhevsky 2012 eine Genauigkeitsverbesserung von 30% in der ImageNet-Challenge mit AlexNet erzielte). CUDA benötigt kompatible Nvidia-GPUs. Der einzige Mac, der diese mit voller Geschwindigkeit ansteuern kann, ist der letzte Mac Pro-Tower. Alle Macs danach unterstützen das nicht (und eGPUs via Thunderbolt ist keine Lösung).
Der Geschwindigkeitszuwachs mit einer GPU liegt übrigens bei einem Faktor vierzig (!) oder mehr. Selbst getestet (CNN auf Xeon E3-1225v3 vs. GeForce GTX 980Ti).
 

Bananenbieger

Golden Noble
Registriert
14.08.05
Beiträge
25.515
CUDA benötigt kompatible Nvidia-GPUs. Der einzige Mac, der diese mit voller Geschwindigkeit ansteuern kann, ist der letzte Mac Pro-Tower.
Das ist zwar völlig richtig, Turi Create ist aber etwas, was man eher auf einem Linux-Server in der Cloud laufen lässt. Und dort gibt es ja mittlerweile genug für das Trainieren von neuralen Netzwerken spezialisierte Angebote mit nVidia GPU.
Turi Create produziert CoreML-Modelle, die dann tatsächlich auf Apple-Geräten ausgeführt werden können.

Zudem wird das Trainieren von Neuralen Netzwerken eh nochmals einfacher und weniger rechenintensiv, bspw. durch Transfer Learning.
 

GunBound

Rote Sternrenette
Registriert
23.06.05
Beiträge
6.074
Zudem wird das Trainieren von Neuralen Netzwerken eh nochmals einfacher und weniger rechenintensiv, bspw. durch Transfer Learning.
Das ist nach wie vor nicht richtig. Natürlich kann solche Modelle wie ein CNN auf einem anderen Datensatz (z.B. ImageNet) vortrainieren und dann adaptieren; mache ich selbst. Aber auch dann werden abertausende Iterationen benötigt, die eine CPU niemals so schnell durchführen kann wie eine parallelisierte GPU.

Mich hat es zuerst gewundert, dass Apple ein solches Framework herausbringt. Aber offenbar scheint das der nun endlich gewachsene wissenschaftliche Zweig der Firma zu sein; die haben mit Metal2 natürlich nichts am Hut. Verstehe ich.
 

Bananenbieger

Golden Noble
Registriert
14.08.05
Beiträge
25.515
[...]die eine CPU niemals so schnell durchführen kann wie eine parallelisierte GPU.
Das stimmt. Ich sprach aber lediglich davon, dass in Zukunft einfach nicht mehr so viel trainiert werden muss und deswegen das Training weniger rechenintensiv wird.

Was machst Du denn beruflich?
 

GunBound

Rote Sternrenette
Registriert
23.06.05
Beiträge
6.074
dass in Zukunft einfach nicht mehr so viel trainiert werden muss
Das hängt davon ab, was für Fortschritte im Deep Learning-Bereich noch gemacht werden. Es dürfte mittlerweile ja bekannt sein, dass in den letzten Jahren nur inkrementelle Verbesserungen erzielt wurden.

Turi Create funktioniert m.E. momentan genau dann, wenn die Modelle in den Smartphones nur für die Inferenz, nicht jedoch für's Training gebraucht werden. Klar, die meisten Apps, die Modelle auf die Anwendung des Users zuschneiden (z.B. Gesichtserkennung), senden ihre Daten vermutlich an einen Server, der das Modell trainiert. Aber früher oder später wird diese Auslagerung wohl nicht mehr nötig sein. Dann wird's spannend.

Was machst Du denn beruflich?
PhD in Remote Sensing, Computer Vision & Machine Learning. Mein Anwendungsgebiet ist die Tierdetektion in UAV-Bildern.
Wie sieht's bei dir aus? Würde mich auch sehr wundernehmen.
 

Bananenbieger

Golden Noble
Registriert
14.08.05
Beiträge
25.515
Turi Create funktioniert m.E. momentan genau dann, wenn die Modelle in den Smartphones nur für die Inferenz, nicht jedoch für's Training gebraucht werden.
Ich denke, das ist der Weg, den Apple gehen will.


Wie sieht's bei dir aus?
Strategisches Produktmanagement für Bild- und Videoverarbeitungssoftware im Enterprise-Bereich. Und daher hab ich auch ganz viel mit AI zu tun - vom Tagging von Personen über das Erkennen von Bildartefakten bis hin zur automatischen Übersetzung von Videos in andere Sprachen (Speech-to-Text -> Übersetzung -> Text-to-Speech).
Und mit AR/VR darf ich auch spielen.