Die ersten Ergebnisse von Jalapeño zeigen branchenführende Geschwindigkeit und Effizienz bei KI-Inferenz ↗
OpenAI hat die ersten Leistungsergebnisse für Jalapeño, seinen eigens entwickelten Inferenzchip, veröffentlicht. Auf dem GPT-OSS 120B erreichte der Chip laut OpenAI eine etwa 1,9-fach höhere Spitzenleistung pro Kilowatt und eine rund 1,7-fach geringere End-to-End-Latenz als das Vergleichssystem.
Die Verbesserungen kamen auch DeepSeek R1 und Kimi K2.5 zugute. OpenAI plant, Jalapeño in seine eigene Recheninfrastruktur zu integrieren, während Designs der zweiten und dritten Generation bereits in Arbeit sind… also ja, OpenAI entwickelt sich zunehmend auch zu einem Chiphersteller, gewissermaßen. (OpenAI)
Claude Cowork erinnert sich endlich daran, was du der App im Chat mitgeteilt hast ↗
Anthropic hat Claudes Erinnerung über den normalen Chat und Cowork hinweg vereinheitlicht. Informationen aus Gesprächen können nun in aufgabenbezogene Aktionen übernommen werden, wodurch das etwas lästige Ritual, dasselbe Projekt immer wieder zu erklären, entfällt.
Nutzer können gespeicherte Themen einsehen, bearbeiten und löschen, wobei die Speicherung während laufender Unterhaltungen aktualisiert wird. Diese Funktion ist in allen Tarifen (Free, Pro und Max) standardmäßig aktiviert. (TechCrunch)
Google Cloud bringt Gemini Enterprise für Rechtsabteilungen auf den Markt ↗
Google Cloud hat ein speziell für Anwälte entwickeltes Gemini Enterprise-Paket vorgestellt, das die Funktionen seiner Agenten über den allgemeinen Chat hinaus erweitert und Vertragsprüfung, juristische Recherche, Überwachung von Vorschriften, Datenschutzanfragen und Dokumentenerstellung umfasst.
Es umfasst Schnittstellen zu Plattformen wie Harvey, iManage, DocuSign, RelativityOne und Thomson Reuters und wahrt gleichzeitig die bestehenden Zugriffskontrollen und ethischen Richtlinien der Unternehmen. Der Vormarsch von KI-Agenten hat – wie vorhersehbar, aber dennoch recht schnell – auch die Rechtsabteilung erreicht. (Google Cloud Pressebereich)
Google Cloud bringt Gemini Enterprise für Finanzdienstleistungen auf den Markt ↗
Google hat außerdem ein speziell auf den Finanzbereich zugeschnittenes Angebot namens Gemini Enterprise auf den Markt gebracht, das einen verwalteten Financial Research Agent, mehr als 50 spezialisierte Fähigkeiten und 13 Konnektoren zu Finanz- und Marktdatensystemen umfasst.
Die Plattform zielt auf Arbeitsabläufe wie Kreditrisikobewertung, Portfolioüberwachung, KYC-Recherche und Marktanalyse ab. Die CME Group und die Deutsche Bank gehören zu den bereits beteiligten Organisationen – Unternehmensagenten werden zunehmend spezialisierter, fast wie Software im Anzug. (Google Cloud Pressebereich)
NVIDIA kündigt den Jetson Orin Nano 2 Robotik-Computer an, der die Einstiegsklasse der Edge-KI neu definieren soll ↗
Nvidia hat den Jetson Orin Nano 2 vorgestellt, einen kompakten Computer für Roboter, Drohnen und andere Systeme mit physikalischer KI. Er bietet 78 Billionen Operationen pro Sekunde, 8 GB Arbeitsspeicher und eine Achtkern-ARM-CPU.
Laut Nvidia verdoppelt sich die Inferenzleistung im Vergleich zum Vorgängermodell Nano Super, und das bei gleicher Leistung mit bis zu 40 % weniger Stromverbrauch. Besonders interessant ist, dass kleinere Modelle auf kompakter Hardware tatsächlich leistungsfähig werden – die KI muss nicht mehr ständig das riesige Rechenzentrum kontaktieren. (NVIDIA Newsroom)
Perplexity kooperiert mit Nvidia, um Portable Computer auf den Markt zu bringen, einen vollständig lokalen KI-Agenten ohne Token-Kosten ↗
Perplexity hat Portable Computer auf den Markt gebracht und damit seine Agentic Computer-Plattform auf lokale Hardware mit Nvidia-Grafikkarten übertragen. Modelle, Dateien und die Agentenausführung verbleiben auf dem Rechner des Benutzers, und die lokal ausgeführten Arbeiten verbrauchen kein Cloud-Guthaben.
Aufgaben werden lokal gestartet, und das System fragt um Erlaubnis, bevor es einen Schritt in Richtung eines fortschrittlichen Cloud-Modells ausführt. Es startet auf Systemen mit Nvidia DGX Spark und Linux sowie ausreichend leistungsstarken RTX-GPUs – Datenschutz und Kosten werden plötzlich zu wichtigen Verkaufsargumenten für lokale KI, nicht nur die Geschwindigkeit. (Venturebeat)
Anthropologie wird Investoren voraussichtlich mitteilen, dass das Unternehmen ein Umsatzpotenzial von über 30 Billionen Dollar sieht, berichtet das Wall Street Journal ↗
Anthropic bereitet sich Berichten zufolge darauf vor, Investoren mitzuteilen, dass der gesamte adressierbare Markt 30 Billionen US-Dollar. Wichtiger Unterschied: Es handelt sich dabei um das theoretische jährliche Marktpotenzial, falls KI die relevanten Aufgaben übernehmen würde, nicht um eine Prognose von Anthropic, dass das Unternehmen tatsächlich 30 Billionen US-Dollar Umsatz erzielen wird. (Reuters)
Diese enorme Summe verdeutlicht die Infrastrukturausgaben von Anthropic, den Wettbewerb mit OpenAI und Google sowie die gesamte Investorensituation. Es handelt sich um eine spektakulär hohe Zahl – selbst für die KI-Branche. (Reuters)
Häufig gestellte Fragen
Was bedeuten die Ergebnisse des Jalapeño-Chips von OpenAI für die KI-Inferenz?
Laut OpenAI erzielte Jalapeño im Vergleich zum Vergleichssystem einen höheren Spitzendurchsatz pro Kilowatt und eine geringere End-to-End-Latenz beim Ausführen von GPT-OSS 120B. Ähnliche Verbesserungen wurden mit DeepSeek R1 und Kimi K2.5 erzielt. Die Ergebnisse deuten darauf hin, dass OpenAI Hardware zunehmend auf die spezifischen Effizienz- und Geschwindigkeitsanforderungen von KI-Inferenz im großen Maßstab ausrichtet.
Wie funktioniert Claudes gemeinsames Gedächtnis im Chat und im Cowork-Bereich?
Claude kann nun Informationen aus regulären Gesprächen in Cowork-Aufgaben einbinden, wodurch die Notwendigkeit, dasselbe Projekt oder denselben Kontext wiederholt zu erklären, reduziert wird. Nutzer können gespeicherte Themen einsehen, bearbeiten und löschen, wobei diese Speicherungen im Verlauf der Gespräche automatisch aktualisiert werden. Laut der im Artikel erwähnten Ankündigung ist diese Funktion in allen Tarifen (Free, Pro und Max) standardmäßig aktiviert.
Was kann Gemini Enterprise für Rechts- und Finanzdienstleistungen leisten?
Die spezialisierten Gemini Enterprise-Lösungen von Google Cloud sind auf branchenspezifische Arbeitsabläufe und nicht auf generische KI-Chats ausgerichtet. Das Rechtspaket deckt Bereiche wie Vertragsprüfung, Recherche, regulatorische Überwachung, Datenschutzanfragen und Vertragserstellung ab, während die Version für Finanzdienstleistungen Arbeitsabläufe wie Kreditrisikobewertung, Portfolioüberwachung, KYC-Recherche und Marktanalyse unterstützt. Beide Lösungen lassen sich zudem mit bestehenden professionellen Daten- und Softwaresystemen verbinden.
Warum gewinnt lokale KI-Inferenz an Bedeutung?
Lokale KI-Inferenz kann den Datenschutz stärken, die Abhängigkeit von Cloud-Infrastruktur verringern und potenziell die laufenden Nutzungskosten senken. Nvidias Jetson Orin Nano 2 ist für Roboter, Drohnen und andere Edge-Systeme konzipiert, während der Portable Computer von Perplexity Modelle, Dateien und die Agentenausführung auf kompatibler lokaler Hardware speichert. In vielen Arbeitsabläufen können Cloud-Modelle dann für Aufgaben reserviert werden, die zusätzliche Funktionen erfordern.
Wie entscheidet der Perplexity Portable Computer, wann Cloud-KI eingesetzt werden soll?
Aufgaben werden so ausgeführt, dass sie auf der lokalen, Nvidia-basierten Hardware des Benutzers gestartet werden, um die Ausführung kompatibler Modelle und die Speicherung von Dateien auf dem Rechner zu gewährleisten. Benötigt ein Schritt ein Cloud-Modell, fragt das System den Benutzer um Erlaubnis, bevor es den Vorgang ausweitet. Lokal ausgeführte Arbeiten verbrauchen kein Cloud-Guthaben, wodurch dieser Ansatz für Benutzer geeignet ist, denen Datenschutz und wiederkehrende Inferenzkosten wichtig sind.
Was bedeutet die von Anthropic gemeldete Marktschätzung für KI in Höhe von 30 Billionen US-Dollar?
Die genannte Zahl bezieht sich auf Anthropics Einschätzung des potenziellen Gesamtmarktes für KI und nicht auf eine Prognose, dass Anthropic selbst jährlich 30 Billionen US-Dollar Umsatz generieren wird. Sie repräsentiert den theoretischen Wert der Arbeit, die KI potenziell in der gesamten Wirtschaft leisten könnte. Die Schätzung trägt auch dazu bei, zu erklären, warum führende KI-Unternehmen so stark in Infrastruktur und Unternehmenslösungen investieren.