Meta usuwa podróbki seksualnych zdjęć tworzone przez sztuczną inteligencję

Rada Nadzorcza koncernu Meta bada, w jaki sposób firma podeszła do zdjęć dwóch celebrytek o międzynarodowej sławie, których wizerunki o charakterze jednoznacznie seksualnym, wykreowane przez sztuczną inteligencję, krążyły w serwisach Facebook oraz Instagram.

Rada zamierza wykorzystać te dwa przykłady do oceny ogólnej skuteczności polityki Meta i praktyk jej egzekwowania w odniesieniu do podróbek pornograficznych tworzonych przy użyciu sztucznej inteligencji, jak napisano w poście na blogu.

Fala podróbek o charakterze seksualnym

Do mediów przedostały się opisy zdjęć, ale nie wymieniono nazwisk przedstawionych na nich kobiet, aby "zapobiec dalszym krzywdom" – oznajmił rzecznik zarządu.

Czytaj też: Meta zablokowała krytyczny artykuł o firmie na swoich trzech platformach

Postęp w technologii sztucznej inteligencji sprawił, że sfabrykowane obrazy, klipy audio i filmy wideo są praktycznie nie do odróżnienia od prawdziwych treści stworzonych przez ludzi. Doprowadziło to do rozprzestrzeniania się w internecie fali podróbek o charakterze seksualnym, przedstawiających głównie kobiety i dziewczęta.

W szczególnie głośnej sprawie, która miała miejsce na początku tego roku, platforma mediów społecznościowych X, należąca do Elona Muska, na krótko zablokowała użytkownikom możliwość wyszukiwania wszystkich zdjęć amerykańskiej gwiazdy pop Taylor Swift. Stało się tak, ponieważ trafiły tam jej fałszywe fotografie o charakterze seksualnym.

Niektórzy dyrektorzy branży wzywali do wprowadzenia przepisów kryminalizujących tworzenie szkodliwych "głębokich podróbek" i wymagali, aby firmy technologiczne zapobiegały takiemu wykorzystywaniu swoich produktów.

Reakcja Mety na dwa wygenerowane zdjęcia

Zgodnie z opisami spraw sporządzonymi przez Radę Nadzorczą, jedno ze zdjęć dotyczy wygenerowanego przez sztuczną inteligencję obrazu nagiej kobiety przypominającej osobę publiczną z Indii, opublikowanego przez konto na Instagramie.

Czytaj też: TikTok chce wprowadzić konkurencję dla Instagrama – aplikację TikTok Notes

Drugie zdjęcie – jak stwierdziła rada – pojawiło się w grupie na Facebooku, w której można było dzielić się dziełami sztucznej inteligencji i przedstawiało wygenerowany wizerunek nagiej kobiety przypominającej "amerykańską osobę publiczną", z mężczyzną obmacującym jej pierś.

Meta usunęła zdjęcie przedstawiające Amerykankę za naruszenie zasad dotyczących zastraszania i molestowania, które zabraniają "obraźliwych zdjęć i rysunków o charakterze seksualnym". Początkowo pozostawiła jednak zdjęcie przedstawiające Hinduskę i zmieniła kurs dopiero po tym, gdy komisja wybrała je do sprawdzenia.

Czytaj też: Kanclerz Scholz zadebiutował na TikToku. Lekceważy obawy o bezpieczeństwo

(MAC, 17.04.2024)