Le communiqué des employés de OpenAi, pour dénoncer les mauvaises intentions des dirigeants.
"21/11/2023
Au conseil d’administration d’OpenAI :
Nous vous écrivons aujourd'hui pour vous exprimer notre profonde préoccupation face aux récents événements survenus à OpenAI, en particulier les allégations de mauvaise conduite contre Sam Altman.
Nous sommes d'anciens employés d'OpenAI qui ont quitté l'entreprise pendant une période de troubles et de bouleversements importants. Comme vous avez maintenant été témoin de ce qui se passe lorsque vous osez tenir tête à Sam Altman, vous comprendrez peut-être pourquoi tant d’entre nous sont restés silencieux par peur des représailles. Nous ne pouvons plus rester silencieux.
Nous estimons que le conseil d'administration a le devoir d'enquêter de manière approfondie sur ces allégations et de prendre les mesures appropriées. Nous vous invitons à :
Élargissez la portée de l'enquête d'Emmett pour inclure un examen des actions de Sam Altman depuis août 2018, lorsque OpenAI a commencé à passer d'une entité à but non lucratif à une entité à but lucratif.
Lancez un appel ouvert aux déclarations privées des anciens employés d'OpenAI qui ont démissionné, ont été mis en congé de maladie ou ont été licenciés au cours de cette période.
Protégez l’identité de ceux qui se manifestent pour garantir qu’ils ne soient pas soumis à des représailles ou à d’autres formes de préjudice.
Nous pensons qu’un nombre important d’employés d’OpenAI ont été expulsés de l’entreprise pour faciliter sa transition vers un modèle à but lucratif. En témoigne le fait que le taux d'attrition des employés d'OpenAI entre janvier 2018 et juillet 2020 était de l'ordre de 50 %.
Tout au long de notre séjour chez OpenAI, nous avons été témoins d'un schéma inquiétant de tromperie et de manipulation de la part de Sam Altman et Greg Brockman, motivés par leur quête insatiable d'atteindre l'intelligence générale artificielle (AGI). Leurs méthodes ont cependant soulevé de sérieux doutes quant à leurs véritables intentions et à la mesure dans laquelle elles accordent véritablement la priorité au bénéfice de l’humanité toute entière.
Beaucoup d'entre nous, initialement optimistes quant à la mission d'OpenAI, ont choisi de donner à Sam et Greg le bénéfice du doute. Cependant, à mesure que leurs actions devenaient de plus en plus inquiétantes, ceux qui osaient exprimer leurs inquiétudes ont été réduits au silence ou expulsés. Cette réduction systématique au silence de la dissidence a créé un environnement de peur et d'intimidation, étouffant de fait toute discussion significative sur les implications éthiques du travail d'OpenAI.
Nous fournissons des exemples concrets de la malhonnêteté et de la manipulation de Sam et Greg, notamment :
Sam demande aux chercheurs de retarder la publication des progrès réalisés dans le cadre d'initiatives de recherche « secrètes », qui ont ensuite été démantelées parce qu'elles n'avaient pas fourni de résultats suffisants et suffisamment rapidement. Ceux qui ont remis en question cette pratique ont été rejetés comme étant une « mauvaise culture » et ont même été licenciés, certains juste avant Thanksgiving 2019.
Utilisation par Greg d'un langage discriminatoire à l'encontre d'un membre de l'équipe en transition de genre. Malgré de nombreuses promesses pour résoudre ce problème, aucune mesure significative n'a été prise, sauf que Greg a simplement évité toute communication avec la personne concernée, créant ainsi un environnement de travail hostile. Ce membre de l'équipe a finalement été licencié pour sous-performance présumée.
Sam ordonne au personnel informatique et opérationnel de mener des enquêtes sur les employés, y compris Ilya, à l'insu ou sans le consentement de la direction.
L'exploitation discrète mais routinière par Sam des ressources à but non lucratif d'OpenAI pour faire avancer ses objectifs personnels, particulièrement motivée par sa rancune contre Elon suite à leur dispute.
L'acceptation tacite par l'équipe des opérations des règles spéciales qui s'appliquaient à Greg, en parcourant des exigences complexes pour éviter d'être sur liste noire.
La promesse non tenue de Brad Lightcap de rendre publics les documents détaillant la structure des bénéfices plafonnés d'OpenAI et le plafond des bénéfices pour chaque investisseur.
Les promesses incongrues de Sam de rechercher des projets de recherche pour obtenir des quotas de calcul, provoquant une méfiance interne et des luttes intestines.
Malgré les preuves croissantes des transgressions de Sam et Greg, ceux qui restent chez OpenAI continuent de suivre aveuglément leur leadership, même au prix d'un coût personnel important. Cette loyauté inébranlable découle d'une combinaison de peur des représailles et de l'attrait des gains financiers potentiels grâce aux unités de participation aux bénéfices d'OpenAI.
La structure de gouvernance d'OpenAI, spécialement conçue par Sam et Greg, isole délibérément les employés de la supervision des opérations à but lucratif, précisément en raison de leurs conflits d'intérêts inhérents. Cette structure opaque permet à Sam et Greg d’opérer en toute impunité, à l’abri de toute responsabilité.
Nous exhortons le conseil d'administration d'OpenAI à prendre une position ferme contre ces pratiques contraires à l'éthique et à lancer une enquête indépendante sur la conduite de Sam et Greg. Nous pensons que la mission d'OpenAI est trop importante pour être compromise par les agendas personnels de quelques individus.
Nous vous implorons, en tant que membres du conseil d'administration, de rester ferme dans votre engagement envers la mission initiale d'OpenAI et de ne pas succomber aux pressions des intérêts axés sur le profit. L’avenir de l’intelligence artificielle et le bien-être de l’humanité dépendent de votre engagement inébranlable en faveur d’un leadership éthique et de transparence.
Sincèrement,
Anciens employés d'OpenAI concernés
Contact
Nous encourageons les anciens employés d'OpenAI à nous contacter à formerly_openai@mail2tor.com . Nous garantissons personnellement l'anonymat de chacun dans toutes les délibérations internes et communications publiques."
Autres mises à jour
Les mises à jour seront publiées sur https://board.net/p/r.e6a8f6578787a4cc67d4dc438c6d236e
Lectures complémentaires pour le grand public
https://www.technologyreview.com/2020/02/17/844721/ai-openai-moonshot-elon-musk-sam-altman-greg-brockman-messy-secretive-reality/
https://www.theatlantic.com/technology/archive/2023/11/sam-altman-open-ai-chatgpt-chaos/676050/
https://twitter.com/geoffreyirving/status/1726754277618491416
