Appen der er en vejrapp, indtil den ikke er

En undersøgelse fra 9to5Mac offentliggjort den 17. juli fandt over 60 apps i App Store, der gør nøjagtig det, deres butiksopslag viser, forudsat at I ikke er i Brasilien. Åbn en fra en brasiliansk IP-adresse, og navigationsværktøjet, rejseguiden eller vejrwidgetten forvandler sig til en platform for onlinevæddemål.

De gemte sig heller ikke i det ubemærkede. Brasilianske brugere, der gennemgik butikkens hitlister i Navigation, Rejse og Vejr, havde bemærket et voksende antal groft lavede opslag nær toppen, mange med dyreikoner fremstillet af billedgeneratorer. Mindst én af dem nåede førstepladsen i kategorien Vejr.

Kontrollen så appen fra det forkerte land

Hvorfor det betyder noget: den kontrol, der skulle fange dette, er geografisk fastlåst, og den adfærd, den skulle fange, udløses geografisk. App-godkendelsen inspicerer indsendelsen derfra, hvor kontrollanten sidder. Appen inspicerer brugeren og beslutter derefter. De to kendsgerninger mødes ikke.

Det er hele mekanismen, og det er værd at sige rent ud, fordi konklusionen rækker ud over spil. Et godkendelsesmærke på et butiksopslag bekræfter, at en kontrollant ét sted på ét tidspunkt så acceptabel adfærd. Det bekræfter ikke, hvad softwaren gør for en bruger andetsteds. Enhver regel, der håndhæves på godkendelsestidspunktet frem for løbende i marken, arver den samme blinde vinkel.

Mønstret var synligt i metadataene

Det lærerige ved denne sag er, hvor læsbart bedrageriet var udefra. Apperne kom overvejende fra udviklerkonti med kun én udgivelse, med navne der syntes at stamme fra Vietnam og andre lande uden for Brasilien. De delte næsten identiske privatlivspolitikker. De samlede sig omkring 15 MB i størrelse. Ingen af dem havde registrerede opdateringer efter offentliggørelsen.

Byggemetoden var offentligt dokumenteret. Et kodelager indeholdt vejledninger til at samle simple, hurtigt frembragte apps med dyreikoner, drager, okser, kaniner, rotter og tigre, som fjernstyret kunne sende brugere videre til væddemålssider, mens de viste et uskyldigt ansigt til godkendelsen. Dette var ikke en sofistikeret kompromittering af en forsyningskæde. Det var en opskrift, fulgt i stor mængde.

Myndigheden handlede før platformene

Konklusionen: håndhævelsespresset kommer fra staten, ikke fra butikken. Den 15. juli underrettede Brasiliens justitsministerium både Apple og Google og gav dem fem hverdage til at besvare tre spørgsmål: hvordan de opdager apps, der skjuler eller ændrer væddemålsfunktionalitet efter godkendelse, hvordan de kontrollerer, at operatører har føderal tilladelse, og hvordan de forhindrer mindreårige i at nå spiltjenester. Apple havde ikke svaret på undersøgelsens henvendelser, da den blev offentliggjort.

Det er anden gang i år, brasilianske myndigheder presser Apple om væddemålsapps, efter underretninger om alderskontrol i april og en regelopdatering i maj. En platform, der allerede har revideret sin politik én gang og igen får samme slags spørgsmål, er en platform, hvor det er dens opdagelsesevne og ikke dens politik, der er til debat.

Hvad en europæisk operatør bør tage med

To praktiske punkter. For det første, udgiver I software gennem app-butikker, så fremstil ikke butiksgodkendelsen som en compliancekontrol i jeres egen dokumentation. Den viser, at en indsendelse bestod en kontrol på ét tidspunkt, og myndigheder på flere markeder demonstrerer nu offentligt, at de kender forskellen.

For det andet, behandler jeres enhedspolitik de officielle butikker som den betroede kilde, der gør bekymring for installation uden om butikken unødvendig, så trænger den antagelse til et forbehold. Tilliden er reel, men delvis: den filtrerer åbenlys skadelig software godt og stedsbetinget adfærd dårligt. I EU, hvor forordningen om digitale tjenester pålægger platforme forpligtelser om beskyttelse af mindreårige, ville den samme sløringsteknik, der skjulte et kasino bag et vejrikon, skjule hvad som helst andet for en kontrollant lige så effektivt. Gå ud fra, at butikken fanger det, den kan se, og placer jeres egne kontroller der, hvor den ikke kan.

Læs videre: Apple hævede priserne på fire måder  |  En telefon, en anden AI bag hver grænse