Le board d’OpenAI décidera « quand l’IA générale sera atteinte »

Selon la documentation de la société OpenAI, qui fabrique ChatGPT et Dall-E, c’est son board de six personnes qui « déterminera quand nous aurons atteint l’AGI » (Artificial General Intelligence, IA générale).

Étant donné que la définition même d’ « intelligence artificielle » reste extrêmement débattue à travers le monde, qu’est-ce qui permettrait à ces six personnes de décider si ce nouveau stade technologique est atteint, interroge, à juste titre, The Verge ?

Selon des membres de l’entreprise, la structure même d’Open AI (une entité à caractère non lucratif qui possède le bras lucratif de la société) assurerait son indépendance de Microsoft (qui a investi dans le pan lucratif de l’affaire).

Cela permettrait donc d’atteindre les prochains paliers technologiques uniquement pour répondre à la mission que s’est donnée l’entreprise de servir l’humanité, sans crainte que s’y mêlent des intérêts capitalistiques.

Sauf que Sam Altman, le PDG d’OpenAI, multiplie les prises de parole dans lesquelles il se déclare « impatient » de travailler sur l’AGI avec Microsoft.

Par ailleurs, plusieurs membres du board de l’entité sont liés au courant de l’altruisme effectif, dont la vision des implications et des risques posés par l’IA fait largement débat (notamment parce que, au motif de se focaliser sur d’hypothétiques dangers existentiels futurs, ils délaissent, voire minimisent des problématiques présentes bien réelles).

• Milliardaires de la tech : pourquoi altruisme efficace et longtermisme font-ils débat ?
• IA : les « modèles de fondation » et leur index de transparence critiqués
• Rumman Chowdhury : « il faut investir autant dans la protection des utilisateurs que dans le développement de l’IA »

Source