Ob und wann sich gemäss HPE eine lokale KI-Infrastruktur lohnt

Daniel ­Henneke, AI Ambassador & Advisor, HPE Schweiz. (Source: zVg)

Daniel ­Henneke, AI Ambassador & Advisor, HPE Schweiz. (Source: zVg)

In welchen Szenarien ist der Betrieb von KI-Anwendungen On-Premises oder in lokalen Rechenzentren sinnvoller als die Nutzung grosser internationaler Anbieter?

Daniel ­Henneke: On-Premises-Lösungen oder lokale Rechenzentren bieten Vorteile bei Datenschutz, Sicherheit, Individualisierbarkeit und Kostenkontrolle, während Cloud-Angebote Flexibilität und Skalierbarkeit liefern. Bei dauerhaft hoher Rechenlast können die Cloud-Kosten schnell steigen. Für Unternehmen mit konstantem oder vorhersehbarem KI-Bedarf kann sich eine einmalige Investition in langlebige Hardware lohnen, insbesondere wenn keine dynamische Skalierung erforderlich ist.

Ist es realistisch und sinnvoll, KI-Anwendungen für Unter­nehmenslösungen komplett lokal zu betreiben?

Komplett lokale KI-Betriebsmodelle sind technisch möglich und in bestimmten Szenarien sinnvoll, jedoch nicht immer effizient oder wirtschaftlich. Häufig ist eine Hybrid- oder Edge-First-Lösung vorteilhafter. Eine vollständig lokale Umsetzung lohnt sich insbesondere bei hohen Anforderungen an Compliance, Datenhoheit, Latenz oder planbare Rechenlast. Beispiele sind Szenarien mit extrem niedrigen Latenzanforderungen oder Offlinebetrieb – etwa wenn jede Millisekunde zählt oder keine permanente Internetverbindung besteht.

Was ist essenziell beim Aufbau einer lokalen KI-Infrastruktur?

Ein abgestufter Ansatz bietet oft die beste Möglichkeit, einen kontextgerechten Aufbau zu realisieren. Er beginnt mit der klaren Definition von Ziel und erwartetem Workload – etwa Use Cases, Performance-Zielen, Lastprofilen, Datenarten sowie Compliance-Anforderungen. Ein geeignetes Partner-Ökosystem ist zudem essenziell, um die Time-to-First-Value zu verkürzen und den Betrieb zu optimieren.

Nach welchen Kriterien sollte man zwischen Standard-KI-Modellen und massgeschneiderten Lösungen entscheiden, um den ROI zu maximieren?

Die Entscheidung zwischen Standard-KI-Modellen und massgeschneiderten Lösungen sollte entlang betriebswirtschaftlicher, technischer und organisatorischer Kriterien zur Optimierung des ROI getroffen werden. Standardmodelle sind meist die kostengünstigste und schnellste Wahl für generische Aufgaben und PoV-Projekte. Massgeschneiderte Modelle lohnen sich, wenn Differenzierung, höhere Performance oder eine langfristige Nutzung die höheren Entwicklungskosten rechtfertigen.

Welche Chancen ergeben sich dadurch für Reseller und Systemintegratoren?

Der Trend, Entscheidungen zwischen Standard- und massgeschneiderten KI-Lösungen stufenweise und datenbasiert zu treffen, eröffnet Resellern und Systemintegratoren ein breites Spektrum an Value-Add-Leistungen – von Beratung und PoCs über Integration und Managed Services bis hin zum Aufbau branchenspezifischer Intellectual Property. Wer früh eine kompetente AI Practice aufbaut, erzielt kurzfristige Projektumsätze sowie langfristige, wiederkehrende Einnahmen.

Welche Entwicklungen in den Bereichen KI-Infrastruktur oder Datenstrategie sollten IT-Partner jetzt im Blick behalten, um in den nächsten Jahren wettbewerbsfähig zu bleiben?

IT-Partner müssen technische, organisatorische und marktgetriebene Entwicklungen aktiv beobachten und in ihre Strategie übernehmen. Diese Trends bestimmen künftig die Kundennachfrage und die erforderlichen Fähigkeiten der Partner. Wer in hybride KI-Infrastruktur, MLOps-Automatisierung, datenzentrierte Plattformen und flexible Consumption-Modelle investiert – kombiniert mit Managed Services –, positioniert sich als bevorzugter Partner für Unternehmen, die KI produktiv, sicher und wirtschaftlich skalieren wollen.

Die Antworten der weiteren Teilnehmenden des Podiums:

• Daniel ­Bachofner, Netapp: "Vollständig lokal ist technisch möglich, aber selten optimal."
• Massimo Fumagalli, VAR Group: "Entscheidend sind klare Governance, Compliance und Schulung, um KI sicher und wirksam einzusetzen."
• Steffen Märkl, Cloudera: "Private AI ist keine Frage des Standorts allein, sondern eine Architekturentscheidung."
• Romano Roth, Zühlke: "Reine Ideologie in die eine oder andere Richtung ist selten wirtschaftlich."
• Christoph Schnidrig, AWS: "Lokale Hardware veraltet schneller, als der ROI erreicht wird."
• Roland Stritt, Fast LTA: "Wer lokal inferiert, entscheidet selbst, wer welche Antworten bekommt."
• Dominik Wotruba, Red Hat: "Komplett lokale KI-Anwendungen sind gut machbar bei Inferenz mit vortrainierten Modellen."

Abonnieren Sie jetzt den Newsletter des "IT-Markt", der Info-Drehscheibe für den Schweizer IT-Channel und verpassen Sie keine News mehr. Der Newsletter liefert Ihnen täglich die relevanten Meldungen für die Entscheider im Schweizer IT-Channel - vom Reseller über den Systemintegrator bis zum Disti.