Apple truede med at fjerne Grok fra App Store på grund af sexualiseret deepfakes

Apple står bag en hemlig indsats for at få styr på problemet med sexualiserede deepfakes – kunstigt genererede billeder og videoer – skabt af AI-chatbotten Grok. Det fremgår af et brev, som den amerikanske nyhedskanal NBC News har fået ekslusiv adgang til, og som Apple sendte til amerikanske senatorer.

Ifølge 9to5Mac fremgår det af dokumentet, at Apple gik langt længere i sit arbejde mod Grok-kontroversen end tidligere rapporteret. Apple truede angiveligt med at fjerne Grok fra App Store, hvis ikke ejerne – altså Elon Musks selskab xAI – tog hånd om problemet hurtigt.

Bag kulisserne med Apple

Brevet viser, hvordan tech-giganten arbejdede intenst på at løse sagen efter, at Grok tidligere på året blev kendt for at generere eksplicit sexualiseret indhold. Særligt var det problematisk, at brugere kunne få den til at skabe deepfakes af kendte personer uden deres samtykke.

Apple's trusler var ikke tomme ord. Virksomheden gjorde det klart, at det ville få konsekvenser for xAI's muligheder for at distribuere Grok gennem App Store, hvis ikke problemerne blev rettet.

Større fokus på AI-sikkerhed

Sagen illustrerer, hvor seriøst Apple tager ansvarlighed omkring kunstig intelligens. Tech-industrien står under stigende pres fra lovgivere og offentligheden om at regulere AI-værktøjer, der potentielt kan misbruges til at skabe skadeligt indhold.

Episoden med Grok har kastet lys på hvor vigtige det er, at virksomheder har styr på deres AI-systemers sikkerhedsmekanismer – før problemerne bliver viralt kendt. For Apple handler det også om at beskytte sin egen platform mod at blive brugt som distributor af potentielt skadeligt indhold.