Ce qui s'est passé
Des chercheurs de Bytedance, la maison mère de TikTok, en collaboration avec plusieurs universités américaines, ont présenté Axion 1.0, un agent IA entraîné en seulement trois phases, dont les performances aux tests de référence égalent celles des principaux systèmes commerciaux d'OpenAI et d'Anthropic, selon The Decoder. L'équipe a mis le modèle, ses données d'entraînement et son code à disposition librement.
D'après l'article de recherche qui accompagne la publication, les auteurs attribuent ces résultats à une sélection minutieuse des données d'entraînement plutôt qu'à l'accumulation d'étapes d'entraînement supplémentaires. Ils soutiennent que l'entraînement des agents est devenu fortement stratifié, ce qui rend difficile d'identifier quelle étape améliore réellement un modèle et augmente le coût pour ceux qui tentent de reproduire les résultats publiés.
Contexte
On attend de plus en plus des agents IA qu'ils effectuent seuls des recherches sur le web, exécutent du code et mènent à bien des tâches comportant plusieurs étapes. L'article décrit les méthodes employées pour entraîner ces capacités comme de plus en plus complexes, les développeurs enchaînant de nombreuses phases successives, une tendance qui, selon lui, brouille la visibilité sur les techniques qui comptent vraiment et rend coûteuse la reproduction des travaux antérieurs.
Le briefing
La semaine tech, en un seul e-mail.
Les dépêches qui méritent votre temps, chaque semaine. Désinscription à tout moment.
