Das Weiße Haus hat heute eine Erklärung veröffentlicht, in der die Verpflichtungen mehrerer KI-Unternehmen zur Eindämmung der Erstellung und Verbreitung von bildbasiertem sexuellem Missbrauch dargelegt werden. Die teilnehmenden Unternehmen haben die Schritte dargelegt, die sie unternehmen, um zu verhindern, dass ihre Plattformen für die Erstellung von nicht einvernehmlichen intimen Bildern von Erwachsenen (NCII) und Material über sexuellen Missbrauch von Kindern (CSAM) genutzt werden.
Insbesondere Adobe, Anthropic, Cohere, Common Crawl, Microsoft und OpenAI erklärten, dass sie
„ihre Datensätze verantwortungsvoll beschaffen und vor bildbasiertem sexuellem Missbrauch schützen werden“.
Alle oben genannten Unternehmen mit Ausnahme von Common Crawl erklärten sich darüber hinaus bereit, “Feedbackschleifen” einzurichten,
„Feedbackschleifen und iterative Stressteststrategien in ihre Entwicklungsprozesse zu integrieren, um sich vor KI-Modellen zu schützen, die bildbasierten sexuellen Missbrauch vortäuschen“,
und „gegebenenfalls Nacktbilder aus KI-Trainingsdatensätzen zu entfernen“.
Dies ist eine freiwillige Verpflichtung, so dass die heutige Ankündigung keine neuen durchsetzbaren Schritte oder Konsequenzen für die Nichteinhaltung dieser Versprechen schafft. Dennoch ist es lobenswert, dass man sich in gutem Glauben bemüht, dieses ernste Problem anzugehen. Es ist bemerkenswert, dass Apple, Amazon, Google und Meta in der heutigen Mitteilung des Weißen Hauses nicht erwähnt werden.
Unabhängig von den Bemühungen auf Bundesebene haben viele große Technologie- und KI-Unternehmen Schritte unternommen, um es NCII-Opfern zu erleichtern, die Verbreitung von Deepfake-Bildern und -Videos zu stoppen. StopNCII hat sich mit mehreren Unternehmen zusammengeschlossen, um einen umfassenden Ansatz zur Löschung dieser Inhalte zu entwickeln, während andere Unternehmen proprietäre Tools zur Meldung von KI-generiertem, bildbasiertem sexuellem Missbrauch auf ihren Plattformen einführen.
Wenn Sie glauben, Opfer einer nicht einvernehmlichen Verbreitung intimer Bilder geworden zu sein, können Sie hier einen Fall bei StopNCII einreichen; wenn Sie unter 18 Jahre alt sind, können Sie hier einen Fall bei NCMEC einreichen.
