OpenAI unterstützt Gesetzesentwürfe im US-Kongress zu KI und biologischen Waffenbedrohungen
OpenAI unterstützt hier eine Reihe parteiübergreifender Gesetzesentwürfe zum Thema Biodaten – den „Web of Biological Data Act“, den „AI-Ready Bio-Data Standards Act“ und den „Scale Biology Act“. Das Ziel: zu verhindern, dass Modelle die Entwicklung von Biowaffen und synthetischen Viren massiv beschleunigen. Eine gewagte Aussage für eine Pressemitteilung am Dienstag.
Und Moment mal – sie unterstützen auch den Teil des FRONTIER Act, der führende Labore dazu verpflichtet, unabhängige Sicherheitsbewerter einzusetzen. Laut einem Bericht der Zeitung „The Hill“ ist dies das erste Mal, dass sie eine so konkrete Bundesvorgabe unterzeichnet haben.
Also … das Unternehmen, das jahrelang „Vertrauen Sie uns“ versprochen hat, fordert plötzlich vom Kongress, Außenstehende zur Vorsicht zu mahnen. Fortschritt und Lobby-Theater können Hand in Hand gehen.
So oder so ist die Botschaft unmissverständlich: Biologische Risiken sind keine Randnotiz mehr in akademischen Abhandlungen.
Die Gates-Stiftung gibt an, eine Milliarde Dollar für den Ausbau des Zugangs zu KI auszugeben.
Während die Labore darüber streiten, ob sie die Entwicklung bremsen sollen, hat die Gates-Stiftung gerade mindestens eine Milliarde Dollar über zwei Jahre zugesagt, um KI denjenigen zugänglich zu machen, die normalerweise die Reste abbekommen.
Grobe Aufteilung der Goalkeepers-Einführung: ca. 40 % Bildung, 40 % Gesundheitswesen, 10 % Landwirtschaft, 10 % Sprachen und digitale Infrastruktur. Dazu gehören Nachhilfe in Mathematik, Tools für ländliche Kliniken, Boden- und Pflanzenschutzberatung – sowie Datensätze, damit die Modelle nicht dauerhaft nur auf Englisch verfügbar sind.
Gates' Aussage ist unmissverständlich: Ohne Eingreifen entwickelt der Markt KI zuerst für die Reichsten. Philanthropie mag wie eine Notlösung oder ein Pflaster auf einem strukturellen Problem wirken. Dennoch: Eine Milliarde ist kein Achselzucken.
Außerdem – ein KI-gestütztes Ultraschallgerät für Smartphones, das Befunde in Krankenhausqualität liefern soll. Eine bahnbrechende Entwicklung, sollte es sich in großem Umfang durchsetzen.
Das neue Schlussfolgerungsmodell von Salesforce und Nvidia ist alles, was die KI-Labore fürchten sollten
Dreamforce-Neuheit: Koa. Das erste CRM-Logikmodell von Salesforce, nachtrainiert auf Nvidias Open-Weight-Nemotron – entwickelt für Vertrieb, Support und die komplexen, mehrstufigen Unternehmensprozesse, für die Claude und ChatGPT normalerweise zuständig sind.
Im Training werden keine echten Kundendaten verwendet – stattdessen synthetische Personas, darunter auch „verärgerte Anrufer“, was fast schon zu direkt ist. Salesforce hält die Gewichtung innerhalb seiner Vertrauensgrenzen. Ihr CRM-Benchmark behauptet, mit weniger Tokens weniger Fehler zu erzielen. Tokenomics. Der Lieblingsslogan der Branche.
Aber Anthropic geben sie nicht auf. ClaudeForce gibt es immer noch. Also ja – baut eure eigene Reasoning-Engine und mietet weiterhin die Frontier Labs. Widerspruch. Leicht. Typisch Salesforce.
Pilotprojekte laufen bereits – Formel 1, Krankenhäuser, Kreditgenossenschaften. Die Spitzenforschungslabore sollten sich vielleicht etwas mehr anstrengen.
Meta ermöglicht es nun KI-Agenten, die langweiligen Teile der WhatsApp Business-Einrichtung zu übernehmen
Metas Vorgehen ist weniger existenzielles Drama, sondern eher ein „Bitte hört auf, Entwickler zwölfmal auf Konsolen klicken zu lassen.“ Mit den neuen WhatsApp Business Tools MCP können Sie Claude, Cursor, Codex, ChatGPT – wählen Sie Ihren Agenten – nutzen und Business Messaging per Chat einrichten.
Konto erstellen. Telefonnummer bestätigen. Cloud-API registrieren. Vorlagen entwerfen. Webhooks überwachen. Sogar bei Problemen mit den Nutzungsbedingungen oder Zahlungen werden Sie stillschweigend benachrichtigt. Die lästige Routinearbeit, die niemand machen will.
Die Einarbeitung von Mitarbeitern in Unternehmen über Chat und MCP überall, bis etwas auf urkomische Weise kaputt geht, kann beides zutreffen.
Also, falls sich Ihre WhatsApp Business-Konfiguration plötzlich so anfühlt, als würden Sie mit einem etwas übereifrigen Praktikanten sprechen, wissen Sie jetzt, warum.
Nvidias Huang vertritt auf der Dreamforce unterschiedliche Ansichten zur KI-Sicherheit als die CEOs von Anthropic und OpenAI
Dieselbe Moscone-Bühne, entgegengesetzte Register. Amodei erklärt Benioff, dass man durch das richtige Tempo führt – mit gutem Beispiel vorangehen, besser sein. Huang betritt die Bühne und bezeichnet die Abwägung zwischen Geschwindigkeit und Sicherheit als „falsche Wahl“. Marktkräfte. Keine neuen Gesetze nötig. Schnell sein … es sei denn, man ist im Begriff, etwas Gefährliches auszuliefern, dann sollte man innehalten.
Altman später: Sicherheit und Überwachung gehen vor Leistungsfähigkeit. „Daran sollte es keine Einschränkung geben.“ Die drei CEOs verfolgen also keine einheitliche Linie. Vielleicht benachbarte.
Das Publikum bekam an einem einzigen Tag mit den Hauptvorträgen das gesamte Spektrum zu sehen – Predigten über Entschleunigung, Optimismus im Sinne des Chip-Königs und OpenAI, das die Verantwortung betonte und keinerlei Ausweg bot, es sei denn, die Konkurrenz betrügt.
Welches Argument sich in der Praxis durchsetzt, bleibt ungewiss. Man darf gespannt sein, was im nächsten Quartal auf den Markt kommt. Worte sind billig. GPUs nicht.
Spanische Datenschutzbehörde veröffentlicht ersten Bericht über einen mit einem KI-Agenten in Verbindung stehenden Datenverstoß
Die spanische Datenschutzbehörde AEPD gab an, die erste Meldung über einen mutmaßlichen Verstoß gegen die Rechte an personenbezogenen Daten erhalten zu haben, der von einem KI-Agenten begangen wurde – mithilfe eines weithin bekannten LLM, um Sicherheitslücken zu finden, sich Zugang zu verschaffen, personenbezogene Daten zu manipulieren und Rechnungen einzusehen.
Begrenztes menschliches Eingreifen in mehreren Phasen des Angriffs. Das ist das Erschreckende daran. Keine Science-Fiction. Ein bürokratischer Vorfall mit eingebauter Autonomie.
Die Behörde geht vorsichtig vor: Sie nennt weder das Model noch das Opfer; sie versichert, dass die Infrastruktur des Anbieters nicht allein deshalb gefährdet sei, weil jemand einen Agenten gefahren habe. Die Ermittlungen dauern noch an. Es bleibt beunruhigend.
Ein einzelner Fall begründet noch keinen Trend. Aber es ist auch keine rein theoretische Angelegenheit mehr. Controller, haltet eure Stoppuhren bereit – Angriffe sind jetzt noch schneller.
Häufig gestellte Fragen
Welche Gesetzesentwürfe zu KI und Biowaffen unterstützt OpenAI im Kongress?
OpenAI unterstützte eine Reihe parteiübergreifender Gesetzesentwürfe zum Thema Biodaten, darunter den „Web of Biological Data Act“, den „AI-Ready Bio-Data Standards Act“ und den „Scale Biology Act“. Ziel ist es, zu verhindern, dass Modelle die Entwicklung von Biowaffen und synthetischen Viren massiv beschleunigen. OpenAI unterstützt außerdem die Bestimmung des FRONTIER Act, die führende Labore dazu verpflichtet, unabhängige Sicherheitsgutachter einzusetzen – angeblich das erste Mal, dass sich OpenAI einer so konkreten Bundesvorgabe angeschlossen hat. Biologische Risiken werden nicht länger als Randnotiz in wissenschaftlichen Analysen behandelt.
Wie genau verwendet die Gates-Stiftung 1 Milliarde Dollar für den Zugang zu KI?
Die Gates-Stiftung hat mindestens eine Milliarde Dollar über zwei Jahre zugesagt, um den Zugang zu KI für Menschen zu erweitern, die sonst oft benachteiligt sind. Das Goalkeepers-Programm verteilt die Mittel grob auf die Bereiche Bildung (40 %), Gesundheitswesen (40 %), Landwirtschaft (10 %) und Sprachen sowie digitale Infrastruktur (10 %). Dazu gehören Nachhilfe in Mathematik, Tools für ländliche Kliniken, Boden- und Pflanzenschutzmittel sowie Datensätze, damit die Modelle nicht dauerhaft nur auf Englisch verfügbar sind. Gates argumentiert, dass der Markt ohne Intervention KI zunächst für die Reichsten entwickelt. Ein ambitioniertes Beispiel hierfür ist KI-Ultraschall für Smartphones, der Befunde in Krankenhausqualität liefern soll, sofern er flächendeckend eingesetzt wird.
Was ist das Koa-Argumentationmodell von Salesforce und Nvidia?
Koa ist das erste CRM-Logikmodell von Salesforce. Es wurde auf Nvidias offenem Nemotron-Algorithmus trainiert und ist für Vertrieb, Support und komplexe, mehrstufige Unternehmensprozesse konzipiert. Für das Training wurden synthetische Personas – darunter auch verärgerte Anrufer – anstelle realer Kundendaten verwendet. Salesforce hält die Gewichtung innerhalb seiner Vertrauensgrenzen. CRM-Benchmarks weisen eine geringere Fehlerquote bei weniger Tokens auf. Salesforce stellt Anthropic nicht ein: ClaudeForce bleibt bestehen. Daher entwickelt das Unternehmen seine eigene Logik-Engine und mietet gleichzeitig weiterhin Forschungseinrichtungen an. Pilotprojekte laufen bereits in der Formel 1, in Krankenhäusern und bei Kreditgenossenschaften.
Wie unterstützt Metas WhatsApp Business MCP KI-Agenten?
Metas neues WhatsApp Business Tools MCP ermöglicht es Agenten wie Claude, Cursor, Codex und ChatGPT, Business-Messaging per Chat einzurichten. Agenten können Konten erstellen, Nummern verifizieren, sich für die Cloud-API registrieren, Vorlagen entwerfen, Webhooks überwachen und bei Problemen mit den Nutzungsbedingungen oder Zahlungen automatisch Benachrichtigungen versenden. Ziel ist es, die mühsame und unübersichtliche Verwaltung mehrerer Konsolen zu ersetzen, die niemand übernehmen möchte. Das Onboarding von Unternehmenskunden wird dadurch deutlich intuitiver – ähnlich wie ein Gespräch mit einem engagierten Praktikanten – als das Klicken auf zwölf Admin-Bildschirme.
Inwiefern wich Huangs Position bei Nvidia in Bezug auf die KI-Sicherheit von der von Anthropic und OpenAI ab?
Auf der Dreamforce-Konferenz erklärte Amodei Benioff, dass Führung durch das richtige Tempo – durch Vorbild und Vorbild – erfolge. Jensen Huang hingegen bezeichnete die vermeintliche Gegenüberstellung von Geschwindigkeit und Sicherheit als eine von Marktkräften getriebene Scheinalternative, für die keine neuen Gesetze nötig seien, solange man nicht kurz davor stehe, ein unsicheres Produkt auf den Markt zu bringen. Altman betonte später ohne Einschränkung die Bedeutung von Sicherheit und Überwachung vor den Funktionen. Die drei CEOs waren sich nicht einig: Auf derselben Bühne wurden Predigten zur Verlangsamung des Wachstums gehalten, Optimismus hinsichtlich der Chip-Branche verbreitet und OpenAI seine Verantwortung für die Zukunft präsentiert. Was im nächsten Quartal auf den Markt kommt, wird wichtiger sein als die Kernaussagen der Keynotes.
Was berichtete die spanische Datenschutzbehörde über eine Sicherheitslücke im Zusammenhang mit einem KI-Agenten?
Die spanische Datenschutzbehörde AEPD veröffentlichte ihre erste Meldung über einen mutmaßlichen Datenschutzverstoß, der von einem KI-Agenten begangen wurde. Dieser nutzte ein bekanntes LLM-Modell, um Sicherheitslücken aufzuspüren, sich Zugang zu verschaffen, personenbezogene Daten zu manipulieren und Rechnungen einzusehen. Besonders beunruhigend ist die geringe menschliche Intervention in den verschiedenen Phasen des Angriffs – ein Vorfall, der auf reiner Automatisierung beruht. Die Behörde nannte weder das Modell noch das Opfer und erklärte, die Infrastruktur des Anbieters sei nicht allein deshalb kompromittiert worden, weil jemand einen solchen Agenten gesteuert habe. Der Fall wird noch untersucht, ist aber nicht mehr nur eine Theorie.