Apple schrijft verbod op nudify-apps nu expliciet in de App Store-regels
Apple heeft zijn App Review Guidelines herzien en daarbij expliciet opgeschreven wat tot nu toe alleen impliciet verboden was: apps die seksueel expliciete beelden van echte personen genereren zonder hun toestemming mogen niet in de App Store. Het bedrijf publiceerde op 16 oktober zowel een overzicht van alle wijzigingen als een aparte toelichting op de aanscherping.
Richtlijn 1.2: moderatie moet NCII dekken
De belangrijkste wijziging zit in richtlijn 1.2, die gaat over apps met door gebruikers gegenereerde inhoud. Die moesten al aanstootgevend materiaal filteren, een meldknop bieden en gebruikers de mogelijkheid geven misbruikende accounts te blokkeren. Daar is nu aan toegevoegd dat die moderatieverplichting uitdrukkelijk ook nonconsensual intimate imagery omvat — inclusief beelden die met AI-tools zijn gemaakt. Apps moeten dat soort materiaal proactief voorkomen en verwijderen.
Apple koppelt daar een consequentie aan. Ontwikkelaars die geen adequate waarborgen inbouwen, of die een overtreding niet herstellen nadat ze erop zijn gewezen, riskeren een schending van de Developer Code of Conduct en verwijdering uit de App Store.
In de toelichting schrijft Apple dat pornografisch materiaal al lang verboden was, en dat daar apps onder vallen die naaktbeelden of expliciete afbeeldingen genereren, "zoals 'nudification'-apps die seksueel expliciete beelden van echte personen maken zonder hun toestemming". De nieuwe tekst maakt die lezing hard in plaats van afleidbaar.
Richtlijn 2.5.19: het bait-and-switch-probleem
De tweede wijziging is minstens zo praktisch. Apple voegt richtlijn 2.5.19 toe, die het bestaande verbod op verborgen, slapende of ongedocumenteerde functies expliciet maakt. Die regel stond eerder onder 2.3.1.
Het achterliggende probleem beschrijft Apple zelf: apps die tijdens de review iets anders voorstellen dan ze zijn, en pas ná goedkeuring hun schadelijke functionaliteit activeren — bijvoorbeeld de nudification-functie waar het hierboven over ging. Die tactiek heet bait-and-switch. Apps die dit doen kunnen uit de App Store worden gehaald én uit het Apple Developer Program worden verwijderd.
Dat verschil in sanctie is relevant. Een app verwijderen is één ding; een ontwikkelaarsaccount beëindigen betekent dat de partij erachter niet meteen onder een nieuwe naam terugkomt.
Sectie 5 en alternatieve distributie
In sectie 5 heeft Apple vastgelegd dat apps die mensenhandel of de uitbuiting van kinderen faciliteren, waaronder materiaal van seksueel kindermisbruik, niet alleen uit de App Store worden gehaald maar ook worden geblokkeerd voor alternatieve distributie.
Die toevoeging heeft in Europa concrete betekenis. Sinds de Digital Markets Act apps buiten de App Store om op iPhones kunnen komen, is "verwijderen uit de App Store" niet langer hetzelfde als "van het platform af". Apple legt nu vast dat de blokkade voor deze categorie beide routes dekt.
De cijfers die Apple noemt
Bij de aankondiging zet Apple er wat handhavingscijfers naast. Het bedrijf zegt vorig jaar meer dan 150.000 apps met veiligheidsproblemen te hebben tegengehouden voordat ze klanten bereikten, en meer dan 193.000 ontwikkelaarsaccounts te hebben beëindigd wegens fraude en misbruik. Volgens Apple gaat het daarbij om kwaadwillende partijen, in sommige gevallen gecoördineerde fraudeoperaties, die schadelijke inhoud verbergen tot een app is goedgekeurd.
In dezelfde ronde zijn nog enkele niet-gerelateerde punten gewijzigd: er is een nieuwe richtlijn 2.3.14 over creative assets, en in 3.1.1(a) is het aparte punt over Music Streaming Services Entitlements opgegaan in de bepaling over StoreKit External Purchase Link Entitlements. Vertalingen van de bijgewerkte richtlijnen komen volgens Apple binnen een maand beschikbaar. Tweakers berichtte eerder over de aanscherping.