Microsoft baut verteilte Plattform für KI-as-a-Service

Mit dem Projekt namens Singularity will Microsoft eine verteilte Infrastukturplattform für KI-Dienste entwickeln. In einem Forschungspapier der Cornell University beschreiben Microsoft-Forschende das Ziel des Vorhabens: Es gehe darum, die hohen Kosten für das Trainieren von Machine-Learning-Modellen zu senken.

Die Plattform soll die Ressourcen von hunderttausenden weltweit verteilten Grafik- und KI-Beschleunigern bündeln. Die Rechner laufen in den Rechenzentren von Microsoft. Die Aufgaben würden allerdings von der Hardware entkoppelt – auf diese Weise liessen sich physische Geräte je nach Bedarf flexibel für das Erledigen bestimmter Aufgaben zuteilen.

Ein neuartiger Verteilmechanismus soll die Workloads koordinieren – und zwar so, dass die Ressourcen möglichst vollständig ausgelastet werden. Die Forschenden nennen die Technik "Replica Splicing". Das Verfahren soll es ermöglichen, mehrere Arbeitsinstanzen auf demselben Server bei begrenztem Overhead auszuführen. Einen Zeitrahmen für die Lancierung eines entsprechenden kommerziellen Dienstes gab Microsoft nicht bekannt.

Mit dem geplanten KI-Infrastrukturdienst will Microsoft offenbar in einem weiteren Geschäftsfeld mit Meta konkurrieren. Der Facebook-Mutterkonzern kündigte kürzlich den Bau eines KI-Supercomputers an, der ebenfalls dazu dienen soll, Machine-Learning-Modelle zu trainieren. Lesen Sie hier mehr dazu.