Hvad Claude faktisk fandt
Anthropic satte næsten tusind kopier af sin Claude-model til at søge i en offentlig database med DNA-sekvenser, og efter 21 timers søgning markerede den et gentaget genetisk mønster ved siden af et sjældent undersøgt enzym. Virksomheden kalder kombinationen ART, kort for array-associated reverse transcriptase.
Opgaven brugte omkring 950 agenter og 210 millioner tokens og indsnævrede over 200.000 kendte reverse transkriptase-enzymer til 20 stærke kandidater. Mønsteret optræder i bakteriofager, de virusser der inficerer bakterier, og dets række af jævnt fordelte DNA-gentagelser ligner strukturelt de gentagelser, der ligger bag CRISPR-genredigering. Tidlige tests antyder, at rækken producerer korte RNA-fragmenter, hvilket er grunden til, at Anthropic kalder det programmerbart.
Afstanden mellem pressemeddelelsen og artiklen
Anthropics egen beskrivelse er mere forsigtig end dens overskrift. Virksomheden skriver åbent og ærligt, at den endnu ikke kender ARTs funktion, og adm. direktør Dario Amodei fortalte journalister, at den præcise funktion, den bioteknologiske nytte om nogen, og betydningen endnu ikke er klare.
Fundet hviler på en preprint, ikke en fagfællebedømt artikel, og det eneste lab, der har vurderet det indtil nu, tilhører det samme selskab, der har bygget den model, som fremsætter påstanden. Intet eksternt hold har gentaget resultatet eller vist, at ART gør noget som helst i en levende celle.
Hvad uafhængige forskere faktisk sagde
To navngivne forskere uden for Anthropic modsagde direkte fremstillingen.
| Hvem | Hvad der blev sagt |
|---|---|
| Anthropic (Dario Amodei, adm. direktør) | ARTs præcise funktion, dens bioteknologiske nytte om nogen, og dens betydning er endnu ikke klare. |
| Kevin Blake, mikrobiolog, Washington University | Der er intet, der tyder på, at dette er en rival til CRISPR-teknologien, eller at det kan udvikles til nogen form for terapeutisk eller praktisk anvendelse. |
| Dimitri Perrin, dataloge, Queensland University of Technology | Selve enzymet var allerede kendt. ART ligner CRISPR i opbygningen, men der er endnu ikke bevis for, at det også gør det i sin funktion. |
Begge forskere peger på den samme risiko: en model, der er trænet til at genkende mønstre, kan finde et mønster, der virker betydningsfuldt uden at være det, en form for statistisk apofeni. Feng Zhang fra MIT, en af forskerne bag selve CRISPR-genredigeringen, kaldte arbejdet virkelig interessant, selvom hans vurdering var undtagelsen blandt de adspurgte forskere.
Læren for enhver påstand fra en AI-leverandør
Intet af dette betyder, at Claude ikke fandt noget. At opdage et usædvanligt strukturelt mønster blandt 200.000 sekvenser på 21 timer er et reelt resultat, og det kan stadig føre til noget nyttigt, når et uafhængigt lab undersøger det. Det, der endnu ikke er belæg for, er overskriften om en ny opdagelse med en ukendt, men antydet betydning.
Mønsteret, man bør holde øje med, er ikke specifikt for Anthropic. Et AI-selskabs egen fortælling om, hvad dets egen model lige har opnået, er påstanden fra en interesseret part, ikke en bekræftet kendsgerning. Før en påstand om evner ændrer en indkøbsbeslutning, en budgetpost eller en investeringstese, betaler det sig at tjekke, om nogen uden for leverandøren har bekræftet den. Her gjorde to forskere, der undersøgte det, ikke det.
Læs videre: En AI Formaliserede Fermats Sidste Sætning på 11 Dage | Anthropic flytter dine sikkerhedslogs til din egen sky
