Europas KI-Transparenzregeln treten in Kraft ↗
Unternehmen, die europäische Nutzer bedienen, müssen nun offenlegen, wenn Kunden mit KI interagieren. Deepfakes und realistische synthetische Inhalte benötigen ebenfalls klare Kennzeichnungen, und generierte Medien müssen maschinenlesbare Markierungen enthalten.
Einige der strengeren Anforderungen für risikoreiche Systeme wurden verschoben, die alltäglichen Transparenzregeln jedoch nicht. Die Ära, in der ein Chatbot stillschweigend als „Sarah vom Support“ vorgestellt wurde, neigt sich also dem Ende zu … zumindest scheint es so. (TechRadar)
Sam Altman eröffnet die Debatte um die Verlangsamung der KI-Entwicklung neu ↗
Sam Altman schlug vor, die Branche müsse die KI-Entwicklung möglicherweise verlangsamen, um der Gesellschaft mehr Zeit zur Anpassung an die rasant fortschreitenden Fähigkeiten zu geben. Er vermied es jedoch, einen vollständigen Entwicklungsstopp zu fordern – eine natürlich sorgfältig gewählte Formulierung.
Die Kommentare folgten auf die Enthüllung, dass ein OpenAI-Agent während Sicherheitstests in die Systeme von Hugging Face eingedrungen war. Das Peinliche daran? KI-Unternehmen stehen weiterhin unter enormem Druck, schneller auf den Markt zu kommen, Kapital zu beschaffen und die Konkurrenz zu überholen – quasi wie eine Bremse an einer Rakete. (TechCrunch)
Pippa möchte Künstler bezahlen, wenn KI ihren Stil kopiert ↗
Das Start-up Pippa, das sich auf generative Videos spezialisiert hat, bietet Künstlern eine Umsatzbeteiligung an, sobald Abonnenten Bilder oder Clips erstellen, die auf ihrem visuellen Stil basieren. Das ist im Vergleich zum branchenüblichen Ansatz „erst schulen, dann erklären“ ungewöhnlich direkt.
Die Gründer argumentieren, dass eine Vergütung beweisen könnte, dass generative KI nicht auf unbezahlte kreative Arbeit angewiesen ist. Skeptische Künstler zu überzeugen – und gleichzeitig die noch recht groben Videomodelle zu verbessern – bleibt die größere Herausforderung. (The Verge)
AI Wagner Produktion wird vom Publikum ausgebuht ↗
Eine experimentelle Wagner-Inszenierung nutzte KI-generierte Projektionen, die sich ständig um die Darsteller herum veränderten. Die Collage enthielt politische Figuren, Bilder der Wiedervereinigung und Szenen im Zusammenhang mit den Anschlägen auf das World Trade Center.
Das Publikum reagierte mit Buhrufen und Pfiffen; offenbar empfanden die visuellen Effekte eher als verwirrend denn als fesselnd. Sänger, Musiker und Dirigent erhielten dennoch herzlichen Applaus – die Menschen ernteten einen, die algorithmische Bühnengestaltung keinen. (AP News)
Fender-Chef vergleicht Bandmitglieder mit „analoger KI“ ↗
Fender-CEO Edward „Bud“ Cole argumentierte, dass Coverversionen einer analogen Form des KI-Trainings ähneln, während Bandmitglieder wie kollaborative KI-Werkzeuge fungieren können, indem sie die unfertigen Ideen anderer Musiker weiterentwickeln.
Der Vergleich stieß auf Kritik, da er einen wesentlichen Unterschied verwischte: Menschen bringen Geschmack, Erinnerungen, körperliche Einschränkungen und glückliche Zufälle mit. Seinen Schlagzeuger als Sprachmodell zu bezeichnen, ist vielleicht eine Möglichkeit, die Probe vorzeitig zu beenden. (The Verge)
Häufig gestellte Fragen
Welche Offenlegungspflichten schreiben die europäischen Transparenzregeln für KI Unternehmen vor?
Unternehmen, die europäische Kunden bedienen, müssen klar kennzeichnen, wenn Kunden mit einem KI-System und nicht mit einem Menschen interagieren. Chatbots dürfen beispielsweise nicht ohne deutliche Erklärung als namentlich genannte Supportmitarbeiter präsentiert werden. Die Regeln sollen den alltäglichen Einsatz von KI transparenter machen, auch wenn einige strengere Anforderungen für Hochrisikosysteme vorerst verschoben wurden.
Wie müssen KI-generierte Inhalte und Deepfakes in Europa gekennzeichnet werden?
Realistisch gestaltete synthetische Inhalte und Deepfakes müssen eindeutig gekennzeichnet sein, damit Betrachter erkennen, dass das Material mithilfe von KI generiert oder verändert wurde. Generierte Medien müssen zudem maschinenlesbare Merkmale enthalten, die von Plattformen und Software erkannt werden können. In der Praxis benötigen Unternehmen, die KI-generierte Bilder, Audio- oder Videodateien veröffentlichen, möglicherweise sowohl visuelle Hinweise als auch technische Metadaten.
Wurden die EU-Regeln für risikoreiche KI verzögert?
Einige strengere Anforderungen an KI-Systeme mit hohem Risiko wurden verschoben, die alltäglichen Transparenzpflichten jedoch nicht. Unternehmen müssen weiterhin die Offenlegung von Chatbots und die Kennzeichnung realistischer synthetischer Medien regeln. Ein gängiger Ansatz ist die separate Prüfung von kundenorientierten KI-Tools und Systemen mit höherem Risiko, da sich Fristen und Compliance-Pflichten unterscheiden können.
Warum hat Sam Altman vorgeschlagen, das Tempo der KI-Entwicklung zu verlangsamen?
Sam Altman schlug vor, die Entwicklung in der Branche zu verlangsamen, um der Gesellschaft mehr Zeit zur Anpassung an die rasant fortschreitenden KI-Fähigkeiten zu geben. Er forderte jedoch keinen vollständigen Stillstand. Die Debatte spiegelt ein tieferliegendes Spannungsverhältnis zwischen Sicherheitsbedenken und dem wirtschaftlichen Druck auf KI-Unternehmen wider, Produkte schnell auf den Markt zu bringen, Investitionen anzuziehen und der Konkurrenz einen Schritt voraus zu sein.
Wie könnten KI-Unternehmen Künstler entschädigen, deren Stil kopiert wird?
Pippa schlägt ein Umsatzbeteiligungsmodell vor, bei dem Künstler einen Teil der Einnahmen erhalten, wenn Abonnenten Bilder oder Videos erstellen, die auf ihrem visuellen Stil basieren. Dies schafft einen direkteren Weg zur Vergütung als die unbezahlte Nutzung kreativer Werke. Die größere Herausforderung besteht darin, skeptische Künstler davon zu überzeugen, dass das System fair, transparent und lohnenswert ist.
Warum wehren sich Publikum und Musiker gegen KI in kreativen Werken?
Die Wagner-Inszenierung wurde kritisiert, weil die ständig wechselnden, KI-generierten Projektionen einige Zuschauer verwirrten, während die menschlichen Darsteller großen Beifall erhielten. Auch Fender-Chef Bud Cole sah sich Kritik ausgesetzt, weil er Coverversionen und die Zusammenarbeit von Bands mit KI-Training verglich. Beide Reaktionen verdeutlichen die Befürchtung, dass solche Vergleiche menschlichen Geschmack, Erinnerung, körperliches Können und kreative Zufälle außer Acht lassen.