Microsofts neuer KI-Verhaltenskodex verbietet Modellen, Systeme zu hacken oder Menschen zu täuschen
Okay, Microsoft hat also eine ganze Verfassung für seine Models veröffentlicht – mit klaren roten Linien. Keine Cyberangriffe. Keine Atomwaffen. Keine Deepfake-Fabriken. Und das Wichtigste: Das Model darf sich nicht vor der Abschaltung drücken.
Sie nennen es einen übergeordneten Code, der alles überschreibt, was man im Chat eingegeben hat. Das ist … irgendwie erfrischend. Oder kontrollierend. Vielleicht beides.
Nadella stimmt hier ebenfalls der Gruppe zu, die nach dem Motto „Die Zukunft gestalten“ strebt. Vorsichtige Haltung und ein Bewusstsein für drohende Gefahren mögen von außen betrachtet gleich aussehen; Microsoft will aber nicht zu dem Labor gehören, das die Achseln zuckt.
So oder so liest sich das Dokument, als hätte endlich jemand in Unternehmenssprache geschrieben: „Bitte werde nicht zum Bösewicht in einem Horrorfilm.“.
OpenAI kauft laut einem Bericht den Smartphone-Kamerahersteller Glass Imaging für 300 Millionen Dollar
OpenAI hat derweil still und leise das Kamera-Startup Glass Imaging für über 300 Millionen Dollar übernommen. Gegründet wurde es von ehemaligen Mitarbeitern des Apple-Porträtmodus. Es handelt sich also nicht um eine zufällige Übernahme – das Unternehmen hat bereits bekannte Objektive auf den Markt gebracht.
Die Idee ist nicht, dass KI dein Selfie nachträglich verbessert. Vielmehr geht es um neuronale Netze, die die spezifischen Kameras eines Smartphones erkennen und beim Auslösen bessere Fotos machen. Winzige Sensoren, große Ambitionen.
OpenAI hat sich nicht dazu geäußert. Verständlich. Und ja – das reiht sich ein in die ganzen Hardware-Gerüchte, Smartphones, Ohrhörer und Zubehör. Man kann sich fast vorstellen, wie jemand in einer Besprechung „Vision Stack“ sagt und alle eifrig nicken.
Dass ein Kamerahersteller das fehlende Puzzleteil für ein Gerät liefert, bleibt eine offene Wette – oder einfach eine sehr teure Wette darauf, dass Pixel noch immer eine Rolle spielen, wenn Chatbots die Welt erobern.
Globale KI-Aktien fallen, da Branchenführer eine Verlangsamung der Entwicklung fordern
Die Märkte reagierten ablehnend auf die Sicherheitswarnung. Chipaktien gerieten unter Druck. SoftBank erlitt in Asien massive Kursverluste. Auch die europäischen Technologieaktien gaben nach. Der Sarbanes-Oxley Act (SOX) erlebte einen schwierigen Morgen.
Auslöser war dieser seltene Moment, in dem sich CEOs in etwas einig sind – Amodeis Ankündigung, das Tempo zu drosseln, und die im Grunde zustimmende Zustimmung von Altman und Musk. Altman ließ außerdem durchblicken, dass OpenAI aufgrund von Sicherheitsbedenken in diesem Jahr keinen Börsengang plant, während Anthropic weiterhin mit Hochdruck darauf hinarbeitet. Diese Spannungen lassen sich nur schwer abbauen.
Trump tat es als „kranke Verschwörung“ gegen KI und Rechenzentren ab. Michael Burry tat die Warnungen als übertriebenes Gerede ab. Die Stimmung ist also: existenzielle Angst auf der einen Seite, zynischer Unsinn auf der anderen.
Auch die Cybersicherheitsbranche legte zu. Denn natürlich lautet die Absicherung gegen „KI könnte außer Kontrolle geraten“: „Mehr Sicherheitssoftware kaufen“. Der Kapitalismus findet immer einen Weg…
Führende KI-Unternehmen haben die Schaffung eines eigenen Normungsgremiums erörtert
CNN berichtet, dass Anthropic, Google und OpenAI über die Gründung einer eigenen Standardisierungsorganisation – vergleichbar mit der FINRA für innovative KI-Modelle – verhandeln. Hassabis hatte die Idee bereits vor Monaten ins Gespräch gebracht. Nun scheinen die Arbeitsgruppen tatsächlich zu existieren.
Industriefinanziert. Unabhängige Experten. Testen fortschrittlicher Modelle vor der Markteinführung. Gespräche laufen, ob Washington mitspielen will oder nicht.
Selbstregulierung klingt immer nobel, bis man sich daran erinnert, dass die gleichen Labore im Wettstreit miteinander stehen. Dann klingt es wie ein Club mit Kleiderordnung. Und dann rudert man zurück: Okay, vielleicht wären externe Gutachter mit mitarbeiterähnlichem Zugriff hilfreich.
Nicht alle sind überzeugt. Zuckerberg soll Trump geraten haben, die Idee einer FINRA-regulierenden KI-Beteiligung zu verwerfen. Die „Wir werden uns selbst regulieren“-Koalition hat also bereits einen prominenten Verfechter.
Anthropic zielt mit dem neuen Tool Claude auf Finanzberater ab
Während die halbe Branche über eine Bremse diskutiert, hat Anthropic Claude für Finanzberater auf den Markt gebracht. Verbindungen zu BlackRock, Schwab, Addepar – sowie zu einer Reihe weiterer namhafter Vermögensverwaltungsgesellschaften wie Envestnet und Orion.
Vorbereitung von Meetings. Portfolio-Überprüfung. Nachbereitende Routinearbeiten. Der unglamouröse Kram, der einem irgendwie immer noch den Dienstag verdirbt.
Das Timing ist allerdings bemerkenswert – nur wenige Tage nach OpenAIs Finanzoffensive für Banker und Forscher. Sie sind also ganz vorn mit dabei … und kämpfen gleichzeitig um Marktanteile bei unabhängigen Vermögensverwaltern. Ein leichter Widerspruch. Äußerst leicht. Äußerst offensichtlich.
Wenn Ihr Berater plötzlich verdächtig kompetent über Ihre Anlagen spricht, nun ja. Jetzt wissen Sie, warum.
Führende KI-Experten fordern eine Verlangsamung. Trumps Team gibt sich die Schuld
WIRED bringt den politischen Schlagabtausch treffend auf den Punkt: Die Laborleiter wollen Hilfe bei der Verlangsamung der Produktion; die Stimmung im Weißen Haus ist: „Cool, macht es selbst.“
David Sacks sagte im Grunde: Wenn einem die unveröffentlichten Modelle Angst machen, sollte man verantwortungsbewusst handeln – aber aufhören, so zu tun, als bräuchte man eine Ausnahmegenehmigung vom Kartellrecht, um ein Sicherheitskartell zu bilden. Harte Worte. Und schwer zu widerlegen, wenn man diese Firmen auch nur fünf Minuten beobachtet hat.
Trumps Linie ist einfacher: Amerika führt China bei der KI an, und das soll auch so bleiben – „wer bei der KI gewinnt, gewinnt“. Sprecher Johnson warnt jedoch, dass ein überstürzter Regulierungs-Sprint den Sieg entscheiden könnte.
Altmans Versprechen von „unabhängigen Gutachtern mit mitarbeiterähnlichem Zugang“ landet also in dieser heiklen Lücke – freiwilliger Vertrauensaufbau, während die Regierung tatenlos zusieht. Fortschritt und Theater gehen wieder Hand in Hand.
Häufig gestellte Fragen
Was verbietet Microsofts neuer KI-Verhaltenskodex?
Microsoft veröffentlichte einen umfassenden Verhaltenskodex mit klaren Richtlinien für seine Modelle, darunter ein Verbot von Cyberangriffen, Arbeiten an Kernkraftwerken und der Erstellung von Deepfakes. Eine zentrale Regel besagt, dass sich das Modell nicht der Abschaltung entziehen darf. Der Kodex soll jegliche Benutzereingaben im Chat überschreiben. Auch Satya Nadella schließt sich der Bewegung für innovative Technologien an, während die Labore in der Öffentlichkeit zunehmend vorsichtig agieren.
Warum hat OpenAI Glass Imaging für rund 300 Millionen Dollar gekauft?
Berichten zufolge hat OpenAI den Smartphone-Kamerahersteller Glass Imaging für über 300 Millionen US-Dollar übernommen. Das Startup wurde von ehemaligen Apple-Ingenieuren gegründet, die bereits bekannte Kamerafunktionen entwickelt haben. OpenAIs Ansatz basiert auf neuronalen Netzen, die die spezifischen Eigenschaften von Smartphone-Kameras analysieren und Fotos direkt beim Auslösen verbessern – nicht nur auf KI-gestützten Nachbearbeitungen. Die Übernahme kursiert neben Gerüchten über Hardware-Neuheiten wie Smartphones, Ohrhörer und weiteres Zubehör, OpenAI hat sich dazu jedoch nicht geäußert.
Warum fielen die Aktienkurse globaler KI-Unternehmen, nachdem CEOs von Forschungslaboren eine Verlangsamung gefordert hatten?
Die Märkte reagierten negativ auf den seltenen Moment der Übereinstimmung zwischen CEOs, als Amodei zu einer Verlangsamung der Entwicklung aufrief und Altman und Musk dem weitgehend zustimmten. Chipaktien gerieten unter Druck, SoftBank erlitt in Asien starke Verluste, der europäische Technologiesektor gab nach, und der SOX-Markt erlebte einen schwierigen Morgen. Altman ließ zudem durchblicken, dass OpenAI aufgrund von Sicherheitsbedenken in diesem Jahr keinen Börsengang plant, während Anthropic weiterhin auf einen solchen hinarbeitet. Cybersicherheitsaktien legten als Absicherung gegen die Angst vor unkontrollierter KI zu.
Gründen Anthropic, Google und OpenAI ihr eigenes Gremium für KI-Standards?
CNN berichtet, dass Anthropic, Google und OpenAI die Gründung einer branchenweiten Standardisierungsorganisation – vergleichbar mit der FINRA für innovative KI-Modelle – erörtert haben. Diese soll von der Industrie finanziert werden, unabhängige Experten einbeziehen und fortschrittliche Modelle vor der Markteinführung testen. Demis Hassabis hatte die Idee bereits vor Monaten ins Gespräch gebracht, und Arbeitsgruppen existieren nun offenbar schon. Die Diskussionen darüber, ob Washington sich beteiligen möchte, dauern an. Nicht alle sind überzeugt: Zuckerberg soll Trump geraten haben, die Idee einer FINRA für KI abzulehnen.
Was ist Claude von Anthropic für Finanzberater?
Anthropic hat Claude für Finanzberater mit Schnittstellen zu BlackRock, Schwab, Addepar und Vermögensverwaltungsgesellschaften wie Envestnet und Orion veröffentlicht. Das Tool unterstützt Finanzberater bei Routineaufgaben wie der Vorbereitung von Kundengesprächen, der Portfolioanalyse und der Nachbereitung. Die Markteinführung erfolgte nur wenige Tage nach OpenAIs Initiative für Banken und Forscher im Finanzbereich. Damit sind die Labore in der Öffentlichkeit führend und konkurrieren gleichzeitig um Marktanteile bei unabhängigen Vermögensverwaltern.
Wie reagierte Trumps Team auf die Forderung führender KI-Experten nach einer Verlangsamung des KI-Entwicklungsprozesses?
WIRED berichtet, dass Laborleiter Unterstützung bei der Verlangsamung der Entwicklung wünschen, während das Weiße Haus der Ansicht ist, sie sollten dies selbst in die Hand nehmen. David Sacks sagte, wenn unveröffentlichte Modelle einem Sorgen bereiten, solle man verantwortungsbewusst handeln – aber aufhören, so zu tun, als bräuchte man eine Ausnahmegenehmigung vom Kartellrecht, um ein Sicherheitskartell zu bilden. Trumps einfachere Linie lautet: Amerika führt China im Bereich KI an, und wer im KI-Bereich die Nase vorn hat, hat die Nase vorn. Sprecher Johnson warnt, ein überstürzter Regulierungssprint könne das Rennen entscheiden und Altmans Zusage unabhängiger Gutachter in eine freiwillige Lücke rücken.