L’ancien cadre d’OpenAI Jan Leike rejoint Anthropic

Dans le monde en perpétuelle évolution de l’intelligence artificielle, les mouvements de personnalités influentes sont toujours scrutés de près. Cette semaine, le domaine de l’IA a été secoué par l’annonce de l’ancien cadre d’OpenAI, Jan Leike, qui rejoint Anthropic. Leike a quitté OpenAI il y a moins de deux semaines, dénonçant publiquement une orientation de l’entreprise vers des « produits clinquants » au détriment d’une « culture de sécurité et des processus essentiels ».

Jan Leike et d’autres départs d’OpenAI

Leike n’est pas le seul à avoir quitté OpenAI récemment. La semaine dernière, Gretchen Krueger, une chercheuse en politique, a également annoncé sa démission, évoquant des préoccupations similaires quant à la direction prise par l’entreprise. Ces départs en série ont incité OpenAI, soutenu par Microsoft, à former un comité de sécurité supervisé par des membres du conseil d’administration comme Bret Taylor, Sam Altman, Nicole Seligman et Adam D’Angelo. OpenAI a aussi dévoilé des plans pour tester son « prochain modèle de frontière ».

Leike, qui co-dirigeait l’équipe Superalignment avec le cofondateur Ilya Sutskever, avait pour mission de garantir que les systèmes d’IA superintelligents restent contrôlables et sûrs. Après les démissions, cette équipe a été dissoute et ses membres ont été réaffectés à des rôles de recherche de base.

Anthropic : Une nouvelle étape pour Leike

Fondé en 2021 par d’anciens employés et cadres d’OpenAI, Anthropic a récemment obtenu un investissement de 4 milliards de dollars d’Amazon. L’entreprise se positionne comme étant plus axée sur la sécurité par rapport à ses concurrents et utilise l’infrastructure cloud d’Amazon Web Services pour développer ses modèles de langage de grande taille.

Dans un post sur X, Leike a exprimé son enthousiasme pour son nouveau rôle chez Anthropic et a même invité les lecteurs intéressés à rejoindre son équipe. Anthropic, en tant que corporation à but public, se concentre sur un progrès prudent et a été fondée par des ex-employés d’OpenAI qui croyaient que l’entreprise déviait de sa mission de développer une IA plus sûre et plus éthique, se focalisant trop sur les intérêts commerciaux après l’accord d’un milliard de dollars avec Microsoft.

Les préoccupations de Leike sur l’IA

En annonçant sa démission, Jan Leike a exprimé ses préoccupations sur les implications de l’intelligence artificielle générale (AGI). « Nous sommes bien en retard pour prendre incroyablement au sérieux les implications de l’AGI. Nous devons prioriser la préparation à celles-ci autant que possible, » a-t-il déclaré dans des posts de suivi après sa démission. « Ce n’est qu’alors que nous pourrons garantir que l’AGI profite à toute l’humanité. »

Leike a précédemment travaillé sur l’équipe « Superalignment » d’OpenAI, visant à garantir que les systèmes intelligents soient conçus pour agir conformément aux valeurs humaines. Dans son fil de discussion après l’annonce de sa démission, Leike a critiqué OpenAI pour ne pas avoir fourni suffisamment de ressources informatiques pour assurer le succès de leurs projets.

Anthropic et l’éthique de l’IA

Anthropic, pour sa part, utilise une approche appelée « IA constitutionnelle », qui incorpore des principes éthiques dans la formation de ses modèles d’IA en recueillant des contributions du public et en intégrant des concepts provenant de sources telles que la Déclaration universelle des droits de l’homme des Nations Unies. Cette approche illustre l’engagement d’Anthropic à créer des systèmes d’IA alignés sur des valeurs humaines universelles.

Un autre départ notable d’OpenAI est celui de son cofondateur, Ilya Sutskever, qui a quitté l’entreprise plus tôt ce mois-ci après avoir mené une tentative de coup d’État contre le PDG Sam Altman en novembre. Bien que Sutskever ait démissionné sans indiquer son prochain mouvement, ses valeurs semblent alignées avec celles d’Anthropic, faisant de cette entreprise une destination plausible pour lui, aux côtés de Leike.

Le transfert de Jan Leike à Anthropic marque une étape importante dans le paysage de l’intelligence artificielle. En rejoignant une entreprise axée sur la sécurité et l’éthique, Leike espère contribuer à un avenir où l’IA bénéficie à toute l’humanité. Sa décision reflète une prise de conscience croissante des enjeux éthiques et sécuritaires liés au développement de technologies intelligentes.

Pour les passionnés de technologie et les observateurs de l’IA, le passage de Leike à Anthropic est un signe des temps : une ère où la sécurité et l’éthique ne peuvent pas être reléguées au second plan dans la course à l’innovation.

Avec des investissements massifs et une focalisation renouvelée sur la sécurité, Anthropic semble bien positionné pour jouer un rôle clé dans l’avenir de l’intelligence artificielle. Leike, avec son expérience et son dévouement à la cause, est sans doute un atout précieux pour cette mission ambitieuse.