Eine im Herzen Europas gehostete Open-Source-KI

Im Gegensatz zu ChatGPT basiert das vom Schweizer Cloud-Anbieter Infomaniak vermarktete Sprachmodell auf Mixtral 8x7B, einer freien Technologie, deren Algorithmus und Funktionsweise von Ingenieur*innen aus aller Welt überprüft werden können. Diese Besonderheit macht auch spezifische Anpassungen möglich, um neue Dienstleistungen zu konzipieren und den Einsatz der KI für böswillige Aktionen wie das Generieren von Spam einzuschränken.

Die verarbeiteten und an die KI gesendeten Daten werden von Infomaniak nicht gespeichert und einzig für die Zwecke der Kund*innen verwendet. Diese generative KI wird ausschliesslich in der Schweiz in der Infrastruktur von Infomaniak gehostet und garantiert Unternehmen eine umfassende Datenkontrolle und die vollständige Einhaltung der EU-Rechtsvorschriften.

So leistungsstark wie ChatGPT 3.5

Die von Infomaniak bereitgestellte KI ist in der Lage, Texte in Französisch, Deutsch, Spanisch, Italienisch und Englisch zu verarbeiten, um komplexe Programmier- und Datenanalyseaufgaben rasch auszuführen.

«Es ist nur eine Frage der Zeit, bis Open-Source-KIs leistungsfähiger sind als die aktuell besten proprietären Lösungen für alltägliche Anwendungen. Man darf nicht vergessen, dass Cloud Computing heute hauptsächlich auf freien Technologien wie OpenStack, Kubernetes und Linux-basierten Betriebssystemen gründet», erklärt Marc Oehler, CEO von Infomaniak.

Auf operativer Ebene ermöglicht die bereitgestellte Dokumentation Entwickler*innen die einfache Integration von KI in die Arbeitsumgebungen von Unternehmen, um beispielsweise virtuelle Assistenten zu erstellen, Fragen zu beantworten, zusammenzufassen, zu klassifizieren, korrigieren, generieren, übersetzen oder auch Stimmungsanalysen durchzuführen.

So umweltfreundlich wie möglich

Künstliche Intelligenz verbraucht viel Strom. Die Geschäftstätigkeiten von Infomaniak werden ausschliesslich mit erneuerbarer Energie betrieben. Der Energieeffizienz-Indikator (PUE) der für die Produktion eingesetzten Rechenzentren von Infomaniak liegt bei durchschnittlich 1,09 gegenüber 1,8 in Europa, da sie ausschliesslich mit gefilterter natürlicher Luft ohne Klimatisierung gekühlt werden. Das neue Datacenter von Infomaniak, in dem die leistungsstärksten Grafikprozessoren installiert werden, befindet sich derzeit in einem intensiven Test und wird die verbrauchte Energie vollständig wiederverwerten, um im Winter bis zu 6000 Haushalte und im Sommer über 100 000 Haushalte zu heizen.

Zudem ist Mixtral energieeffizienter als seine proprietären Alternativen: Die Architektur verwaltet insgesamt 45 Milliarden Parameter, verbraucht aber nur 12 Milliarden pro Token, was laut dem französischen Start-up den Energieverbrauch erheblich senkt und gleichzeitig bessere Ergebnisse liefert als Llama 2 und ChatGPT 3.5.

Sehr günstige Preisgestaltung mit 1 Mio. kostenlosen Token

Der Nutzer zahlt monatlich nur das, was er verbraucht. Die Abrechnung der Dienstleistung funktioniert mit einem Tokensystem – ein Token ist eine Masseinheit, die ca. 4 Zeichen entspricht.

Bei der Einführung bietet KI als Dienstleistung von Infomaniak insgesamt 1 Million Token und die Tarife sind günstiger als bei Mistral oder OpenAI:

Infomaniak LLM API
Eingehende Token* (EUR)
0,00053/1000 Token
Ausgehende Token* (EUR)
0,0016/1000 Token

Mistral small
Eingehende Token* (EUR)
0,0006/1000 Token
Ausgehende Token* (EUR)
0,0018/1000 Token

GPT-3.5 Turbo
Eingehende Token* (EUR)
0,0014/1000 Token
Ausgehende Token* (EUR)
0,0019/1000 Token

Nach der Erstellung des Kontos steht die Dienstleistung sofort zur Verfügung und über ein Dashboard kann der Verbrauch in Echtzeit verfolgt werden.

*Eingehende Token bezeichnen Anfragen an die KI und ausgehende Token bezeichnen Antworten, die von der KI generiert werden.

Ständig weiterentwickelt

Mit seiner KI als Dienstleistung verpflichtet sich Infomaniak, stets die beste freie KI-Technologie anzubieten. Ursprünglich mit Falcon LLM eingeführt, wird die Dienstleistung heute mit Mixtral 8x7B vermarktet und entsprechend den Fortschritten in diesem Bereich kontinuierlich weiterentwickelt.

KI wurde bereits als Redaktionsassistent im Mail-Service und als persönlicher Assistent im Instant-Messaging-Dienst kChat implementiert, und Infomaniak setzt die Technologie weiterhin aktiv in seinem Ökosystem ein.

«Der nächste Schritt ist, es den Nutzer*innen zu ermöglichen, unsere KI als Dienstleistung mit ihren Daten zu verknüpfen, um zu 100% personalisierte Antworten zu liefern. Unser KI-Forschungs- und Entwicklungsteam führt derzeit erfolgreiche Tests in dieser Richtung durch und wir freuen uns darauf, Unternehmen diese Möglichkeit mit den gleichen Datenschutzgarantien anzubieten», kündigt Boris Siegenthaler, strategischer Direktor bei Infomaniak, an.