Trumps Berater teilen KI-Firmen mit, dass sie keine Sicherheitstests an offenen Gewichtsmodellen durchführen werden, so Quellen ↗
Laut mit den Gesprächen vertrauten Personen teilte die Trump-Regierung führenden KI-Unternehmen mit, dass sie keine Sicherheitstests für Modelle mit offener Gewichtung durchführen werde. Dadurch fällt ein erheblicher Teil der Risikobewertung außerhalb des staatlichen Rahmens.
In der Praxis müssen Entwickler und Nutzer möglicherweise mehr Verantwortung für die Bewertung von Modellen vor deren Veröffentlichung oder Bereitstellung übernehmen. Innovationsfreundlich, vielleicht … doch der Zeitpunkt ist ungünstig, da offene Modelle rasant leistungsfähiger werden. (Reuters)
Offengewichtige KI-Modelle holen auf. Die Sicherheitslücke bleibt bestehen. ↗
Berichten zufolge liegt der GLM-5.2 von Z.ai in Bezug auf Cyber- und Biotechnologie nur wenige Monate hinter führenden geschlossenen Modellen zurück. Tests von SaferAI ergaben, dass er keine der ihm gestellten offensiven Cyber- oder Dual-Use-Biologieaufgaben ablehnte.
Geschlossene Modelle können auf Ablehnungstraining, Klassifikatoren und API-Steuerungen zurückgreifen. Herunterladbare Gewichte sind anders – nach ihrer Veröffentlichung können die Schutzmechanismen geändert oder entfernt werden, wodurch die Sicherheitslücke deutlich größer wird. (TechCrunch)
Samsung Electronics bringt KI-Speichertechnologie der nächsten Generation auf den Markt ↗
Samsung hat einen BV-NAND-Prototyp mit über 400 Schichten und einem neuen Wafer-Bonding-Verfahren vorgestellt. Laut Unternehmen bietet dieser eine um rund 58 % höhere Speicherdichte als die Vorgängergeneration sowie schnellere Lese-, Schreib- und Ein-/Ausgabe-Leistungen.
Samsung stellte außerdem vertikal gestapelten zHBM-Speicher vor, der über KI-Beschleunigern positioniert ist. Das Unternehmen behauptet, die Architektur könne eine mehr als zehnmal höhere Speicherdichte als herkömmlicher HBM5, eine dreifach höhere Energieeffizienz und einen deutlich geringeren Wärmewiderstand bieten – gelinde gesagt beachtliche Versprechen. (Reuters)
Der Wettlauf um KI-Rechenzentren verursacht für die großen Technologiekonzerne Leasingkosten in Höhe von 1 Billion Dollar ↗
Microsoft, Meta, Oracle, Amazon und Alphabet haben rund 1,09 Billionen US-Dollar für noch nicht begonnene Leasingverträge zugesagt, hauptsächlich für KI-Rechenzentren. Diese Verpflichtungen entsprechen fast dem Vierfachen ihrer ausgewiesenen Leasingverbindlichkeiten.
Diese Kapazität könnte den nächsten Cloud-Boom auslösen. Oder, weniger erfreulich, dazu führen, dass Unternehmen für immense Anlagen zahlen müssen, falls die Nachfrage nach KI hinter den Erwartungen zurückbleibt – ein Billionen-Dollar-Projekt, das finanziert wurde, bevor man die Wettervorhersage geprüft hat. (Reuters)
Anthropologie unterzeichnet 10-Milliarden-Dollar-Deal mit dem KI-Cloud-Startup Volta ↗
Anthropic hat Berichten zufolge mit dem KI-Cloud-Startup Volta eine Vereinbarung zum Kauf von Rechenkapazität im Wert von 10 Milliarden US-Dollar über einen Zeitraum von sechs Jahren getroffen. Der Deal würde ein norwegisches Rechenzentrum mit einer Kapazität von 133 Megawatt unterstützen.
Das Krypto-Mining-Unternehmen Bitdeer wird voraussichtlich beim Aufbau der Anlage mitwirken, die auf Nvidias Vera-Rubin-Systemen basieren wird. Anthropic sammelt Rechenpartnerschaften wie Kühlschrankmagnete – nur dass diese Magnete Milliarden kosten. (TechCrunch)
KI bietet „Rettungsanker“ für Schwellenländer, sagt die Weltbank ↗
Die Weltbank erklärt, KI könne Entwicklungsländern ermöglichen, den Fortschritt eines ganzen Jahrhunderts in nur einem Jahrzehnt zu erzielen, vorausgesetzt, sie verbessern Stromversorgung, Konnektivität und digitale Kompetenzen. Kleinere, lokal angepasste Systeme könnten Gesundheitswesen, Bildung, Landwirtschaft und öffentliche Dienstleistungen unterstützen, ohne dass riesige nationale Modelle erforderlich sind.
Laut dem Bericht sind in Ländern mit niedrigem und mittlerem Einkommen schätzungsweise 4,5 % der Arbeitsplätze von generativer KI betroffen, verglichen mit 14,2 % in reicheren Volkswirtschaften. Dennoch geht diese Hoffnung mit deutlichen Warnungen vor Ungleichheit, Fehlinformationen und politischer Repression einher – ein Rettungsanker mit vielen Haken. (Reuters)
Häufig gestellte Fragen
Warum testet die US-Regierung keine Sicherheitsmodelle mit offener Gewichtung bei KI-Modellen?
Dem Artikel zufolge teilte die Trump-Regierung führenden KI-Unternehmen mit, dass Modelle mit offener Gewichtung nicht in ihren staatlichen Sicherheitsprüfungsrahmen aufgenommen würden. Dies erhöht die Verantwortung für Modellentwickler, -vertreiber und -nutzer, die die Risiken in Bezug auf Cybersicherheit, biologische Sicherheit, Missbrauch und Einsatz möglicherweise eigenständig bewerten müssen, bevor sie diese Systeme veröffentlichen oder einsetzen.
Warum sind offene KI-Modelle schwieriger abzusichern als geschlossene Modelle?
Offene KI-Modelle können heruntergeladen, modifiziert und außerhalb der Infrastruktur des ursprünglichen Entwicklers betrieben werden. Dadurch können Schutzmechanismen wie Ablehnungstraining, Klassifikatoren und Zugriffskontrollen geschwächt oder entfernt werden. Geschlossene Modelle werden üblicherweise über kontrollierte APIs bereitgestellt, was Anbietern mehr Möglichkeiten zur Überwachung der Nutzung, zur Einschränkung des Zugriffs und zur Aktualisierung der Schutzmechanismen nach der Bereitstellung bietet.
Wie sollten Organisationen offene KI-Modelle vor deren Einsatz evaluieren?
Ein gängiger Ansatz besteht darin, das Modell anhand realistischer Missbrauchsszenarien zu testen, darunter offensive Cyberangriffe, Anfragen nach biologischen Gütern mit doppeltem Verwendungszweck und Versuche, Sicherheitsvorkehrungen zu umgehen. Organisationen sollten außerdem prüfen, wie das Modell gehostet wird, wer es modifizieren kann und welche Überwachungssysteme zur Verfügung stehen. Einsätze mit höherem Risiko erfordern in der Regel strengere Zugriffskontrollen und eine kontinuierliche menschliche Überwachung.
Was soll Samsungs neue KI-Speichertechnologie verbessern?
Samsungs BV-NAND-Prototyp nutzt über 400 Lagen und ein Wafer-Bonding-Verfahren, um die Speicherdichte zu erhöhen und gleichzeitig die Lese-, Schreib- und Ein-/Ausgabeleistung zu verbessern. Das Unternehmen beschrieb außerdem vertikal gestapelten zHBM-Speicher, der über KI-Beschleunigern positioniert ist. Diese Designs sollen den durch immer intensivere KI-Workloads entstehenden Anforderungen an Kapazität, Energie und Wärmeentwicklung gerecht werden.
Warum gelten die Mietverträge für KI-Rechenzentren der großen Technologiekonzerne als finanzielles Risiko?
Microsoft, Meta, Oracle, Amazon und Alphabet haben Berichten zufolge rund 1,09 Billionen US-Dollar für noch nicht begonnene Mietverträge zugesagt, größtenteils für KI-Rechenzentren. Die zusätzlichen Kapazitäten könnten das rasante Wachstum der Nachfrage nach Cloud- und KI-Lösungen unterstützen. Sollte sich die Nachfrage jedoch langsamer als erwartet entwickeln oder die Infrastruktur nicht voll ausgelastet bleiben, könnten die Unternehmen dennoch erhebliche Zahlungen leisten müssen.
Wie könnte KI Schwellenländern nutzen?
Die Weltbank argumentiert, dass KI Entwicklungsländern helfen könnte, das Gesundheitswesen, das Bildungswesen, die Landwirtschaft und die öffentlichen Dienstleistungen zu stärken, insbesondere durch kleinere, an lokale Bedürfnisse angepasste Tools. Diese Vorteile hängen jedoch von einer zuverlässigen Stromversorgung, einem Internetzugang und digitalen Kompetenzen ab. Regierungen müssen zudem Risiken wie Ungleichheit, Fehlinformationen und politische Repression im Zuge der zunehmenden Verbreitung von KI bewältigen.