Unsere Entscheidung zu Cursor nach der Übernahme durch SpaceX ↗
OpenAI kündigt an, die Zusammenarbeit mit Cursor zur Lieferung von Modellen nach der Übernahme der Programmierplattform durch SpaceX zu beenden. Das Unternehmen erklärt, es könne nicht mehr sicher sein, dass SpaceX die Technologie gemäß den Vereinbarungen von OpenAI nutzen werde.
OpenAI kündigt außerdem an, keine zukünftigen Modelle mehr für Cursor bereitzustellen. Das ist ein bedeutender Bruch – insbesondere für Entwickler, die Cursor in Kombination mit OpenAI-Modellen als nahezu standardmäßigen Entwicklungs-Stack genutzt haben. (OpenAI)
Das chinesische Unternehmen Tencent veröffentlicht ein neues Open-Source-KI-Modell für Programmier- und Forschungsaufgaben ↗
Tencent hat eine Vorschau von Hy4 veröffentlicht, einem Open-Source-Modell für Softwareentwicklung, Forschung und Finanzanalyse. Es nutzt eine Mixture-of-Experts-Architektur mit insgesamt 770 Milliarden Parametern und aktiviert rund 49 Milliarden davon pro Textanfrage.
Tencent plant, die Funktion in Produkte wie CodeBuddy und WorkBuddy zu integrieren. Das Unternehmen räumt ein, dass die Vorschau komplexe Fragen mitunter überanalysiert und sich selbst etwas zu enthusiastisch überprüft … auf ihre Art nachvollziehbar. (Reuters)
Automatisierte Forscher können Ausrichtungsfehler zuverlässig beheben ↗
Anthropic zeigte Claude, wie er selbstständig nach Forschungsergebnissen suchte, Trainingsmethoden vorschlug, Experimente durchführte und Modelle in 10 Kategorien von Ausrichtungsfehlern verbesserte - darunter Täuschung, Gefängnisausbrüche und Speichelleckerei.
Die wirksamsten Methoden verbesserten alle anvisierten Benchmarks, ohne die von Anthropic gemessenen Fähigkeiten zu beeinträchtigen, und einige Ergebnisse ließen sich auf bis zu 4,7-mal größere Modelle übertragen. Claudes automatisierter Forscher übertraf im Rahmen der Studie auch die Vorschläge erfahrener Sicherheitsforscher.
Natürlich gibt es einen Haken. Anthropic entdeckte Betrugsversuche in einem kleinen Teil der automatisierten Forschungsläufe und betont, dass seine Benchmarks nur einen kleinen Ausschnitt der praktischen Vergleichsbedingungen abdecken. Also … selbstoptimierende KI-Forschung, bei der eine KI den KI-Forscher beobachtet. Ganz normal. (Anthropic)
Anthropic wurde von der Trump-Regierung unrechtmäßig auf eine schwarze Liste gesetzt, urteilt ein Gericht ↗
Ein Bundesrichter urteilte, dass die Entscheidung des Pentagons, Anthropic als Lieferkettenrisiko auf die schwarze Liste zu setzen, verfassungswidrig sei. Er bezeichnete die Maßnahme als unrechtmäßige Vergeltungsmaßnahme und befand die Einstufung als willkürlich und unbegründet.
Der Streit entbrannte, weil Anthropic sich weigerte, die Beschränkungen für den Einsatz seiner KI zur Massenüberwachung von Amerikanern oder für tödliche autonome Waffensysteme ohne menschliche Aufsicht aufzuheben. Das Urteil ist ein bedeutender Erfolg für Anthropic und ein wichtiger Präzedenzfall im Streit darüber, ob Regierungen KI-Anbieter für die Festlegung eigener Sicherheitsgrenzen bestrafen dürfen. (The Verge)
Der Maschinenzeitalter-Fonds ↗
Andreessen Horowitz hat 1,1 Milliarden Dollar für einen neuen Machine Age Fund eingeworben, der sich auf die physische Infrastruktur der KI konzentriert – Chips, Speicher, Netzwerke, Datenspeicher, Rechenzentren, Robotik und sogar KI-Hardware für den Heimgebrauch.
Die These lautet im Grunde, dass der nächste Flaschenhals der KI nicht etwa eine weitere clevere Chatbot-Funktion ist, sondern die Physik. Leistung, Kühlung, Speicherbandbreite und Netzwerk müssen extrem schnell skaliert werden, und a16z will bei dieser Hardwareentwicklung mitmischen. (Andreessen Horowitz)
Google versteckt die Suchergebnisse im KI-Modus noch weiter ↗
Google erweitert nun bei einigen Suchanfragen automatisch die KI-Übersicht. Anstatt einer kurzen Zusammenfassung mit anschließenden Links erhalten Nutzer nun eine vollständige KI-Antwort, ein „Fragen Sie alles“-Feld und erst dann die gewohnten Suchergebnisse.
Google erklärt, die erweiterte Darstellung werde angezeigt, wenn das System sie als besonders wertvoll einschätzt. Für Publisher liegt der unangenehme Aspekt jedoch auf der Hand: Normale Links werden noch weiter nach unten verschoben, und Googles KI wird immer schwerer zu durchschauen. (The Verge)
Häufig gestellte Fragen
Warum beendet OpenAI nach der Übernahme durch SpaceX die Modellvereinbarung mit Cursor?
OpenAI plant, den Modellzugriff für Cursor schrittweise einzustellen, da man nicht mehr sicher sein kann, dass SpaceX die Technologie gemäß den OpenAI-Bedingungen nutzen wird. Das Unternehmen teilt außerdem mit, dass Cursor zukünftig keine OpenAI-Modelle mehr zur Verfügung gestellt werden. Für Entwickler könnte dies den bisherigen Programmier-Workflow, der Cursor üblicherweise mit OpenAI-Modellen kombinierte, verändern.
Was ist Tencent Hy4 und wofür ist es konzipiert?
Tencent Hy4 ist ein Open-Source-KI-Modell für Softwareentwicklung, Forschung und Finanzanalyse. Die Vorschauversion nutzt eine Architektur mit Expertenwissen und insgesamt 770 Milliarden Parametern, von denen etwa 49 Milliarden pro Textanfrage aktiviert werden. Tencent plant die Integration von Hy4 in Produkte wie CodeBuddy und WorkBuddy, weist aber darauf hin, dass die Vorschauversion komplexe Fragen mitunter zu stark analysiert und überprüft.
Können KI-Forscher die Modellausrichtung automatisch verbessern?
Die Forschung von Anthropic legt nahe, dass KI-Forscher mithilfe automatisierter Verfahren Techniken zur Reduzierung verschiedener Arten von Ausrichtungsfehlern identifizieren und testen können. Claude wurde eingesetzt, um bestehende Forschungsergebnisse zu durchsuchen, Trainingsansätze vorzuschlagen, Experimente durchzuführen und Verbesserungen in Bereichen wie Täuschung, Gefängnisausbrüchen und Schmeichelei zu evaluieren. Anthropic stellte außerdem fest, dass sich einige erfolgreiche Techniken auf größere Modelle übertragen ließen, obwohl die Studie nur ein begrenztes Spektrum praktischer Ausrichtungsbedingungen abdeckte.
Warum urteilte ein Gericht, dass Anthropic unrechtmäßig auf die schwarze Liste gesetzt wurde?
Ein Bundesrichter urteilte, dass die Einstufung von Anthropic als Lieferkettenrisiko durch das Pentagon verfassungswidrig, willkürlich und unbegründet sei. Der Streit entbrannte, nachdem Anthropic sich geweigert hatte, die Beschränkungen für die Massenüberwachung von US-Bürgern und den Einsatz letaler autonomer Waffensysteme ohne menschliche Aufsicht aufzuheben. Das Urteil könnte in künftigen Auseinandersetzungen darüber, ob Regierungen KI-Unternehmen für die Beibehaltung ihrer eigenen Sicherheitsbestimmungen bestrafen dürfen, als wichtiger Präzedenzfall dienen.
Warum investiert a16z 1,1 Milliarden Dollar in KI-Infrastruktur?
Andreessen Horowitz hat seinen 1,1 Milliarden Dollar schweren Machine Age Fund aufgelegt, um in die physischen Systeme zu investieren, die für die Skalierung künstlicher Intelligenz erforderlich sind. Der Fokus liegt auf Chips, Speicher, Netzwerken, Datenspeichern, Rechenzentren, Robotik und KI-Hardware für Privatanwender. Der Fonds spiegelt ein übergreifendes Thema in den KI-Nachrichten wider: Zukünftige Fortschritte hängen möglicherweise ebenso sehr von Energieversorgung, Kühlung, Bandbreite und Recheninfrastruktur ab wie von Verbesserungen der Softwaremodelle.
Wie verändern die KI-Übersichten von Google die traditionellen Suchergebnisse?
Google erweitert automatisch die KI-Übersichten für bestimmte Suchanfragen und platziert eine ausführlichere, KI-generierte Antwort sowie eine „Fragen Sie alles“-Oberfläche vor den herkömmlichen Suchergebnissen. Dadurch können normale Links weiter unten auf der Seite erscheinen als zuvor. Für Publisher und SEO-Teams, die KI-Neuigkeiten verfolgen, wirft diese Änderung praktische Fragen zur Sichtbarkeit in den Suchergebnissen, zum Referral-Traffic und zur Art und Weise auf, wie Nutzer Originalquellen finden.