Google will gegen ein deutsches Urteil vorgehen, das das Unternehmen für KI-generierte Falschbehauptungen haftbar macht ↗
Google plant, gegen ein Urteil des Münchner Gerichtshofs Berufung einzulegen, das AI Overviews als firmeneigene Veröffentlichungen einstuft und Google somit rechtlich verantwortlich macht, wenn diese Zusammenfassungen falsche Behauptungen enthalten.
Die Klage wurde von zwei deutschen Verlagen eingereicht, die fälschlicherweise mit Betrug und fragwürdigen Geschäftspraktiken in Verbindung gebracht worden waren. Google bezeichnet die Fehler als geringfügig, doch das Urteil könnte für jede KI-gestützte Antwortmaschine eine überraschend schwere rechtliche Verantwortung mit sich bringen. (Reuters)
Führungskräfte aus der Technologiebranche nehmen am G7-Gipfel teil, bei dem die Staats- und Regierungschefs über KI und Online-Sicherheit sprechen ↗
Es wird erwartet, dass führende Vertreter von OpenAI, Anthropic, Google DeepMind, Mistral AI, Cohere und Meta an Gesprächen mit G7-Vertretern teilnehmen werden, die sich mit KI-Regulierung, Infrastruktur und Online-Sicherheit befassen.
Auch der Online-Schutz von Kindern steht auf der Tagesordnung. Die KI-Branche nimmt also tatsächlich neben den Staats- und Regierungschefs Platz – ob dies jedoch zu echter Verantwortlichkeit oder lediglich zu einem besonders prunkvollen Mittagessen führt, bleibt unklar. (Reuters)
Anthropic nimmt Claude Fable 5 offline, um einer Anordnung der US-Regierung nachzukommen ↗
Anthropic hat Claude Fable 5 und Mythos 5 deaktiviert, nachdem das Unternehmen eine US-Exportkontrollrichtlinie erhalten hatte, die den Zugriff für ausländische Staatsangehörige, einschließlich Anthropic-Mitarbeiter, verhindern sollte.
Das Unternehmen entzog allen Nutzern den Zugang und bestritt die Begründung der Regierung. Offizielle Stellen gaben angeblich Bedenken hinsichtlich eines Jailbreaks an, doch Anthropic erklärt, die demonstrierte Umgehung sei eng gefasst gewesen und habe lediglich relativ geringfügige, bereits bekannte Sicherheitslücken aufgedeckt … gelinde gesagt peinlich. (WIRED)
Die neue KI-Einheit von Meta befindet sich Berichten zufolge in Aufruhr ↗
Laut Aussagen von Mitarbeitern und internen Gesprächen, die WIRED einsehen konnte, herrscht bei Metas Abteilung für angewandte KI große Unzufriedenheit. Die rund 6.500 Mitarbeiter starke Gruppe wurde zur Unterstützung der Superintelligenzforscher von Meta zusammengestellt.
Berichten zufolge fühlten sich die Mitarbeiter in sich wiederholende Modellverbesserungsarbeiten gedrängt, begleitet von unklarer Führung und willkürlichen Prioritäten. Die Spannungen eskalierten, als ein Mitarbeiter eine große interne Präsentation mit einer Schimpftirade unterbrach – subtil war das alles andere als. (WIRED)
Google hat eine chinesische Cyberkriminalitätsorganisation verklagt, die mithilfe von KI Hunderttausende Opfer betrogen hat ↗
Google verklagt Outsider Enterprise, ein mutmaßliches Cyberkriminalitätsnetzwerk, dem vorgeworfen wird, mithilfe von KI-gestützten Tools überzeugende Phishing-Websites erstellt und betrügerische SMS im Namen bekannter Marken versendet zu haben.
Google zufolge wurden bei der Operation Tausende gefälschter Websites, rund eine Million betrügerischer Domains und Millionen von Nachrichten eingesetzt. Die Software ermöglichte es Berichten zufolge auch technisch weniger versierten Personen, innerhalb von Minuten eine Phishing-Infrastruktur zu erstellen – Cyberkriminalität mit dem nötigen Rüstzeug. (TechCrunch)
Häufig gestellte Fragen
Warum legt Google Berufung gegen die deutsche KI-Übersichtsentscheidung ein?
Google plant, gegen ein Urteil des Münchner Gerichts vorzugehen, das KI-Übersichten als von Google selbst veröffentlichte Inhalte einstuft. Das Urteil erging aufgrund falscher Zusammenfassungen, die zwei deutsche Verlage mit Betrug und fragwürdigen Geschäftspraktiken in Verbindung brachten. Sollte das Urteil bestätigt werden, könnten Anbieter von KI-Antworten für ungenaue Behauptungen in ihren Suchergebnissen haftbar gemacht werden.
Welche Auswirkungen könnte das deutsche Urteil auf die Haftung von KI haben?
Die Entscheidung könnte einen umfassenderen Standard für die Haftung von KI-Systemen etablieren, indem sie Plattformen für Aussagen verantwortlich macht, die mithilfe ihrer eigenen KI-Funktionen generiert werden. Gerichte in vielen Ländern prüfen derzeit noch, ob generierte Zusammenfassungen als Inhalte Dritter oder als direkte Veröffentlichung zu behandeln sind. Die Berufung könnte daher Einfluss darauf haben, wie vergleichbare Streitigkeiten andernorts behandelt werden.
Warum nehmen Führungskräfte aus der Technologiebranche am G7-Gipfel teil?
Führungskräfte von OpenAI, Anthropic, Google DeepMind, Mistral AI, Cohere und Meta werden voraussichtlich an Gesprächen mit den G7-Staats- und Regierungschefs teilnehmen. Auf der Agenda stehen KI-Regulierung, Infrastruktur, Online-Sicherheit und Kinderschutz. Ihre Teilnahme bietet den Regierungen die Möglichkeit, führende KI-Entwickler direkt zu Risiken, Verantwortlichkeiten und zukünftigen Strategien zu befragen.
Warum hat Anthropic Claude Fable 5 und Mythos 5 offline genommen?
Anthropic deaktivierte beide Modelle, nachdem das Unternehmen eine US-Exportkontrollanweisung erhalten hatte, die den Zugriff bestimmter ausländischer Staatsangehöriger, darunter auch einiger Mitarbeiter, verhindern sollte. Anthropic sperrte daraufhin den Zugriff für alle und stellte die Begründung der Regierung infrage. Offizielle Stellen äußerten angeblich Bedenken hinsichtlich eines Jailbreaks, obwohl Anthropic die demonstrierte Umgehung als geringfügig und auf relativ unbedeutende, bereits bekannte Sicherheitslücken hinweisend beschrieb.
Was verursacht die gemeldeten Turbulenzen innerhalb der KI-Abteilung von Meta?
Mitarbeiter berichten von unklarer Führung, wechselnden Prioritäten und sich wiederholenden Modellverbesserungsarbeiten innerhalb der Abteilung für angewandte KI von Meta. Die Abteilung wurde zur Unterstützung der Superintelligenzforscher des Unternehmens gegründet und umfasst rund 6.500 Mitarbeiter. Besonders deutlich wurde die Frustration, als ein Mitarbeiter eine große interne Präsentation mit einer wütenden, mit Schimpfwörtern gespickten Beschwerde unterbrach.
Wie nutzen Kriminelle KI für Phishing-Betrug?
Laut Googles Klage nutzte das mutmaßliche Outsider Enterprise-Netzwerk KI-gestützte Software, um überzeugende Phishing-Websites und betrügerische Nachrichten zu erstellen, die bekannte Marken imitierten. Die Tools sollen Nutzern mit geringen technischen Kenntnissen geholfen haben, schnell eine Phishing-Infrastruktur aufzubauen. Google zufolge umfasste die Operation Tausende gefälschter Websites, rund eine Million betrügerischer Domains und Millionen von Nachrichten.