De app die een weerapp is tot hij dat niet meer is

Een op 17 juli gepubliceerd onderzoek van 9to5Mac vond ruim 60 apps in de App Store die precies doen wat hun winkelvermeldingen tonen, mits u niet in Brazilië bent. Open er een vanaf een Braziliaans IP-adres en het navigatiehulpmiddel, de reisgids of de weerwidget verandert in een online gokplatform.

Zij verstopten zich evenmin in de marge. Braziliaanse gebruikers die de winkelranglijsten in Navigatie, Reizen en Weer doorliepen, hadden een groeiend aantal ruw gemaakte vermeldingen dicht bij de top opgemerkt, veel met diericonen gemaakt door beeldgeneratoren. Minstens één daarvan bereikte de eerste plaats in de categorie Weer.

De beoordeling bekeek de app vanuit het verkeerde land

Waarom dit telt: de controle die dit had moeten opvangen ligt geografisch vast, en het gedrag dat zij had moeten opvangen wordt geografisch geactiveerd. De appbeoordeling bekijkt de inzending vanaf waar de beoordelaar zit. De app bekijkt de gebruiker en beslist daarnaar. Die twee feiten ontmoeten elkaar niet.

Dat is het hele mechanisme, en het loont het duidelijk te zeggen omdat de conclusie verder reikt dan gokken. Een goedkeuringsmerk op een winkelvermelding verklaart dat een beoordelaar, op één plek, op één moment, aanvaardbaar gedrag zag. Het verklaart niet wat de software doet voor een gebruiker elders. Elke regel die op het beoordelingsmoment wordt gehandhaafd in plaats van doorlopend in het veld, erft dezelfde blinde vlek.

Het patroon was zichtbaar in de metadata

Wat deze zaak leerzaam maakt, is hoe leesbaar de fraude van buitenaf was. De apps kwamen grotendeels van ontwikkelaarsaccounts met één enkele vermelding, met namen die uit Vietnam en andere landen buiten Brazilië leken te komen. Zij deelden vrijwel identieke privacyverklaringen. Zij klonterden rond 15 MB in omvang. Geen ervan had updates na publicatie.

De bouwmethode was openbaar gedocumenteerd. Een codeopslagplaats bevatte instructies om eenvoudige, snel gegenereerde apps in elkaar te zetten met diericonen, draken, ossen, konijnen, ratten en tijgers, die gebruikers op afstand naar gokwebsites konden leiden terwijl zij de beoordeling een onschuldig gezicht toonden. Dit was geen verfijnde compromittering van een toeleveringsketen. Het was een recept, op grote schaal gevolgd.

De toezichthouder bewoog eerder dan de platforms

De kern: de handhavingsdruk komt van de staat, niet van de winkel. Op 15 juli stelde het Braziliaanse ministerie van Justitie zowel Apple als Google in kennis en gaf hun vijf werkdagen om drie vragen te beantwoorden: hoe zij apps opsporen die gokfunctionaliteit na goedkeuring verbergen of wijzigen, hoe zij nagaan of exploitanten federaal vergund zijn, en hoe zij voorkomen dat minderjarigen gokdiensten bereiken. Apple had ten tijde van publicatie niet op de vragen van het onderzoek gereageerd.

Het is de tweede keer dit jaar dat Braziliaanse autoriteiten Apple aanspreken op gokapps, na kennisgevingen over leeftijdscontroles in april en een regelwijziging in mei. Een platform dat zijn beleid al eens heeft herzien en dezelfde soort vraag opnieuw krijgt, is een platform waarbij niet het beleid maar de opsporing ter discussie staat.

Wat een Europese exploitant hieruit moet meenemen

Twee praktische punten. Ten eerste, publiceert u software via appwinkels, presenteer winkelgoedkeuring dan niet als nalevingscontrole in uw eigen documentatie. Zij toont aan dat een inzending een toets op één moment doorstond, en toezichthouders in meerdere markten laten nu openlijk zien dat zij het verschil kennen.

Ten tweede, behandelt uw apparaatbeleid de officiële winkels als de vertrouwde bron die zorgen over installatie buiten de winkel om overbodig maakt, dan behoeft die aanname een voorbehoud. Het vertrouwen is echt maar gedeeltelijk: het filtert voor de hand liggende schadelijke software goed en locatieafhankelijk gedrag slecht. In de EU, waar de digitaledienstenverordening platforms verplichtingen oplegt rond de bescherming van minderjarigen, zou dezelfde verhullingstechniek die een casino achter een weericoon verborg, even doeltreffend iets anders voor een beoordelaar verbergen. Ga ervan uit dat de winkel vangt wat zij kan zien, en zet uw eigen controles waar zij dat niet kan.

Lees hierna: Apple verhoogde prijzen op vier manieren  |  Een telefoon, achter elke grens een andere AI