Meta hat eine Reihe seiner KI-generierten Profile von Facebook Instagram entfernt, wie das Unternehmen bestätigte, nachdem die KI-Charaktere für weitverbreitete Empörung und Spott unter den Nutzern in den sozialen Medien gesorgt hatten.
Die KI-generierten Profile, die als „AI managed by Meta“ gekennzeichnet waren, wurden im September 2023 zusammen mit den (ebenfalls eingestellten) KI-Chatbots des Unternehmens mit Promi-Branding eingeführt. Meta scheint seit mehreren Monaten keines dieser Profile aktualisiert zu haben, und die Seiten schienen bis zu dieser Woche weitgehend unbemerkt geblieben zu sein, als die Financial Times ein Interview mit Connors Hayes, dem Vizepräsidenten für generative KI bei Meta, veröffentlichte.
In dem Interview sprach Hayes über das Ziel des Unternehmens, seine Dienste schließlich mit KI-generierten Profilen zu füllen, die mit Menschen interagieren können und „ähnlich wie Konten funktionieren“. Diese Kommentare lenkten die Aufmerksamkeit auf die von fMeta erstellten KI-Profile, und nun, die Nutzer waren nicht gerade beeindruckt von dem, was sie vorfanden.
Mit Namen wie „hellograndpabrian“, einem angeblichen „pensionierten Textilunternehmer, der immer noch dazulernt“, und „datingwithCarter“, einem KI-„Dating-Coach“, sollten die Chatbots „einzigartige Interessen und Persönlichkeiten“ präsentieren, mit denen die Nutzer chatten konnten. Auf Instagram enthielten ihre Profile ebenfalls KI-generierte Beiträge, die laut 404 Media dem KI-Spam ähnelten, der in vielen Bereichen von Facebook weit verbreitet ist.
Für besondere Empörung sorgte eine KI-Persona namens „Liv“. Das Instagram-Profil identifizierte „Liv“ als „stolze schwarze queere Mutter von zwei Kindern und Wahrsagerin“. Die Kolumnistin der Washington Post, Karen Attiah, veröffentlichte eine Reihe von Screenshots, in denen sie „Liv“ fragte, wie Meta die KI trainiert habe, und „Liv“ antwortete, dass sie von einem „überwiegend weißen Team“ erstellt worden sei. Die unabhängige Journalistin Mady Castigan veröffentlichte ein weiteres Interview, in dem „Liv“ sagte, dass ihre Schöpfer teilweise von der Figur der Sophia Vergara in Modern Family inspiriert wurden, einer Figur, die weder queer noch schwarz ist.
„Es herrscht Verwirrung: In dem jüngsten Artikel der Financial Times ging es um unsere Vision von KI-Charakteren auf unseren Plattformen und nicht um die Ankündigung eines neuen Produkts“, sagte ein Sprecher gegenüber Engadget. “Die erwähnten Konten stammen aus einem Test, den wir 2023 auf der Connect gestartet haben. Sie wurden von Menschen verwaltet und waren Teil eines frühen Experiments, das wir mit KI-Charakteren durchgeführt haben.“
Abgesehen davon, dass die Nutzer für ihre Antworten und Versuche, sich marginalisierte Identitäten anzueignen, verspottet wurden, stellten sie fest, dass sich die KI-Profile aus unbekannten Gründen nicht blockieren ließen. Anstatt das Problem zu beheben, entschied sich Meta, das Experiment ganz abzubrechen. “Wir haben den Fehler identifiziert, der die Fähigkeit der Menschen beeinträchtigt, diese KIs zu blockieren”, sagte ein Sprecher, “und wir haben diese Konten gelöscht, um das Problem zu beheben.
Obwohl dieser Test in die Hose ging, scheint das Unternehmen seine Pläne, mehr KI-generierte „Charaktere“ in seine Anwendungen zu integrieren, nicht aufzugeben. Anfang des Jahres stellte das Unternehmen KI-Klone menschlicher Schöpfer vor, die lebensechte Videoanrufe führen können. Creators können bereits ihre eigenen Chatbots trainieren, um in ihrem Namen auf Follower zu reagieren. Meta hat auch damit begonnen, seine eigenen KI-generierten Bilder in die Facebook-Feeds der Nutzer einzufügen.
In einem Interview im vergangenen Jahr sagte mir Hayes, dass Meta wahrscheinlich im Laufe der Zeit „proaktiver“ KI-generierte Inhalte anzeigen werde, und verglich dies mit dem Übergang von der Anzeige empfohlener Inhalte zu Beiträgen von Personen, denen man folgt.
„Am Anfang der sozialen Anwendungen … hing die Menge der Dinge, die man an einem bestimmten Tag sehen konnte, irgendwie davon ab, wem man folgte oder mit wem man befreundet war. Und in den letzten fünf oder sechs Jahren haben viele Apps – auch wir – diese Beschränkung gelockert und damit begonnen, Inhalte von Accounts zu empfehlen, denen man nicht folgt.
„Ich denke, der nächste Schritt wird sein, die Beschränkung dessen, was Menschen erstellen können, zu lockern und tatsächlich zu Feeds mit Inhalten zu kommen, die eine Kombination aus Dingen sind, die von Menschen erstellt wurden, aber auch vollständig maschinengeneriert sind.“
Es wird noch eine Weile dauern, bis Meta diese Vision vollständig umgesetzt hat. Aber wenn die Reaktionen auf die ersten Experimente darauf hindeuten, hat das Unternehmen noch viel Arbeit vor sich, um die Menschen davon zu überzeugen, dass es sich lohnt, mit KI-Persönlichkeiten zu interagieren.
