Wat is datavergiftiging bij AI-zoeken?
Datavergiftiging is het plaatsen van een kleine hoeveelheid tekst op het open web om te veranderen wat een AI-systeem over een onderwerp rapporteert. Onderzoekers van Cornell Tech ontdekten in een paper uit 2026 dat een korte vergiftigde passage in de orde van 13 woorden, geplaatst in gewone door gebruikers gegenereerde inhoud zoals een forumreactie, kan sturen wat een AI-agent voor diepgaand onderzoek zegt. Geen 13 pagina's. Geen campagne. Ongeveer 13 woorden. De bevinding werd van begin tot eind aangetoond tegen open source onderzoeksagenten en waargenomen via citatiegedrag bij de gesloten commerciële agenten, wat een smaller maar reëel signaal is.
Waarom is dit belangrijker dan het klinkt?
Omdat AI-zoeken uw hele reputatie samenperst tot een enkele zelfverzekerde zin en de bronnen daarachter verbergt. Het grootste deel van het internettijdperk was uw reputatie een resultatenpagina die u zelf kon zien en beoordelen. Nu leest een model het web, weegt het wat het vindt, en herhaalt het in een rustige, betrouwbaar klinkende stem die geen enkele hint geeft over hoe dun het onderliggende bewijs is. Wanneer die samenvatting vergiftigd is, heeft de lezer geen manier om dat te merken en geen instinct om eraan te twijfelen. Servola adviseert over AI-risico en governance, en dit is het gat dat we de meeste eigenaren zien missen.
Beschermt een schoon Google-resultaat mij?
Nee. U kunt tegelijk een vlekkeloze zoekresultatenpagina en een vergiftigd AI-antwoord hebben, want het zijn nu twee verschillende oppervlakken en bijna niemand houdt het tweede in de gaten. Klassiek reputatiewerk, de pers volgen en de slechte link verder naar beneden duwen, gaat ervan uit dat een mens leest. Het doet niets tegen een AI-assistent die stilletjes een valse bewering heeft opgenomen en die nu herhaalt aan iedereen die vraagt, met volle overtuiging en zonder zichtbare voetnoot.
Wat zou een bedrijf eigenlijk moeten doen?
Drie stappen. Ten eerste, weet wat de machines zeggen: vraag de grote assistenten regelmatig naar u, uw bedrijf en uw sleutelfiguren, en behandel hun antwoorden als levende publieke uitspraken waarvoor u verantwoordelijk bent. Ten tweede, bezit uw eigen feiten, want een diepe, consistente, goed gestructureerde verzameling accurate eerstehandsinformatie is de sterkste verdediging; modellen leunen op wat helder en bevestigd is en buiten uit wat vaag is. Ten derde, behandel uw AI-reputatie als een aanvalsvlak. U zou een gebouw niet open laten alleen omdat nog niemand aan de deur heeft gerammeld, en 13 woorden zijn een zeer lage drempel voor iedereen die het wil proberen.
Lees hierna: Als Apple besloot dat het geen eigen AI kon bouwen, waarom denkt u dan dat u dat wel kunt? · Uw AI-leverancier is zojuist uw concurrent geworden. Wat nu?