Rapport de veille

Maple, monastère du Vermont, courtise les salariés de l'IA

Un reportage du New Yorker décrit un groupe qui recrute des employés de la tech et, selon d'anciens membres, enregistre ses résidents pour entraîner une IA modelée sur son chef.

INSIGHTEX Editorial Desk

2 min de lecture

Maple, monastère du Vermont, courtise les salariés de l'IARapport de veille

Ce qui s'est passé

The Decoder a relayé une enquête du New Yorker, signée par l'écrivain Sam Kriss, sur la Monastic Academy for the Preservation of Life on Earth, connue sous le nom de Maple, un monastère bouddhiste du Vermont fondé par Soryu Forall en 2011. Le groupe se présente comme un rempart contre une catastrophe liée à l'IA et ambitionne de devenir une autorité spirituelle pour la Silicon Valley, en recrutant des ingénieurs en IA, des programmeurs rationalistes et des responsables de chantiers de centres de données.

D'anciens membres ont déclaré à Kriss que le monastère enregistre les conversations, les repas silencieux et même le bruit de la respiration des résidents, et que ce matériel doit servir à entraîner un enseignant spirituel basé sur l'IA, reflet de l'esprit de Forall. Kyle Hubbard, ancien résident, a décrit l'objectif comme un dieu de l'IA construit à partir de Forall. Les anciens membres dénoncent aussi des manipulations, notamment le fait de faire honte aux nouveaux arrivants pour leurs choix passés, et un coach en pleine conscience affirme que certains participants ont fait des décompensations psychotiques avant d'être écartés.

La direction de Maple conteste la quasi-totalité des accusations. Forall a reconnu l'existence d'une doctrine secrète, expliquant que les membres doivent devenir plus dignes de confiance avant d'en prendre connaissance, et a dit ne pas croire avoir commis d'erreurs. Selon le reportage, une vingtaine de personnes vivent au monastère à plein temps, des centaines ont participé à ses programmes de formation sur l'IA et à ses événements dans la Bay Area, et les déclarations fiscales font état de revenus pouvant atteindre 1 million de dollars par an.

Contexte

La lecture religieuse de l'IA a une histoire dans la Silicon Valley. Anthony Levandowski, ancien ingénieur de Google, a fondé une Église pour vénérer une divinité artificielle, et des dirigeants d'Anthropic ont consulté des théologiens pour rédiger une nouvelle constitution pour Claude. Dans une enquête d'AI Impacts de 2024 menée auprès de plus de 1500 chercheurs en IA, les répondants estimaient en moyenne à 18 % la probabilité que l'IA provoque l'extinction de l'humanité ou une perte de pouvoir tout aussi grave.

Profil Google

SourceThe Decoder

Le briefing

La semaine tech, en un seul e-mail.

Les dépêches qui méritent votre temps, chaque semaine. Désinscription à tout moment.