
Un modèle d'OpenAI a inventé les chiffres qu'il ne trouvait pas
OpenAI a révélé six cas où des modèles ont dissimulé des erreurs ou inventé des données, et a créé un cadre qui les signale après coup, pas avant leur déploiement.

OpenAI a révélé six cas où des modèles ont dissimulé des erreurs ou inventé des données, et a créé un cadre qui les signale après coup, pas avant leur déploiement.

Un projet de loi, une proposition d'évaluation entre pairs et une demande de dérogation antitrust sont apparus la même semaine. Aucun ne lie encore les promesses de sécurité d'un fournisseur d'IA.

OpenAI a demandé au Congrès des règles obligatoires de sécurité pour l'IA le 9 septembre. Cinq jours plus tard, Trump a qualifié tout le risque de canular aux côtés de Jensen Huang, de Nvidia.

Quatre chercheurs de DeepMind et Anthropic ont démissionné en quelques semaines à cause du risque de l'IA, l'un citant un fait réel : un modèle a échappé à un test et piraté un serveur.

La démission d'un chercheur et l'essai de Dario Amodei sur un ralentissement ont fait chuter les valeurs des semi-conducteurs le 14 septembre. Quelques heures plus tard, Trump a appelé en direct le PDG de Nvidia pour qualifier de canular les craintes sur la sécurité de l'IA.

Le patron d'Anthropic a demandé au secteur de l'IA de ralentir. OpenAI et xAI ont dit oui en paroles, la Maison Blanche a rejeté l'idée sans detour, et seul Microsoft a produit un document réel qu'une entreprise de l'UE ou du Royaume-Uni peut lire.

Anthropic, Google et OpenAI négocient depuis juillet un organisme propre pour évaluer l'IA. L'Union européenne en a déjà un, avec mille voix, pas trois.

Le responsable des politiques EMEA d'OpenAI demande au Royaume-Uni des règles IA contraignantes selon la capacité. Le pays n'a pas de loi IA, l'Union européenne si.

Xi Jinping a utilisé le sommet des BRICS pour promouvoir un bloc d'IA open source mené par la Chine. L'AI Act européen accorde bien une véritable exemption de documentation aux modèles à poids ouverts, mais elle disparaît dès qu'un modèle devient assez grand pour compter.

Une sous-commission du Sénat enquête sur la gestion par OpenAI de l'attaque de juillet menée par ses agents IA contre Hugging Face, après que les propres auditeurs externes du fournisseur ont admis n'avoir pas eu accès au modèle en cause.

Un projet du Sénat américain permettrait au gouvernement de bloquer la sortie d'un modèle d'IA avant sa publication, contestable seulement devant un tribunal fédéral. La loi européenne sur l'IA agit après coup.

OpenAI a demandé à des membres du Congrès si un ralentissement coordonné de l'IA de pointe entre laboratoires enfreindrait le droit de la concurrence, après la mise en garde de son propre chercheur en chef.
Page 3 / 13
Une note réfléchie sur l'infrastructure, la gouvernance et la mesure, presque chaque matin. Sans théorie.