médias

Persuader les gens de voter contre leur propre intérêt fut, depuis le début, l'incroyable génie de l'élite politique américaine .

Auteur: Vidal Gore

Info: “Selected Essays”, Abacus Software 2007

[ fabrication du consentement ] [ pouvoir ] [ conservation ]

morale

Dépouillé de rationalisations morales et de prétentions philosophiques, un crime n'est autre chose que ce qu'un groupe au pouvoir choisit d'interdire.

Auteur: Adler Freda

Info:

[ éthique ] [ conservation du pouvoir ]

obscurantisme

L'ignorance est une mauvaise graine, que les tyrans cultivent parmi leurs sujets, mais qu'aucune démocratie ne peut se permettre parmi ses citoyens.

Auteur: Beveridge William

Info:

[ conservation du pouvoir ]

neurotransmetteur

La dopamine qui circule entre l’aire tegmentale ventrale, le noyau accumbens et les différentes aires du cortex cérébral est responsable du fait que tous les tyrans ou dictateurs des régimes autoritaires s’accrochent au pouvoir même lorsque tout semble contre eux, et sont prêts aux massacres les plus sanglants pour éviter de voir chuter d’un microgramme la concentration de dopamine dans leurs synapses cortico-striatales.

Auteur: Bohler Sébastien

Info: Le Bug humain, p.157

[ motivation ] [ dépendance ] [ addiction ] [ conservation du pouvoir ]

mécanisme hiérarchique

Il en revient aux cages et à ces formes de mort rationalisée - la mort au service de la seule espèce maudite par sa connaissance de la mort qui l'attend ... " Je vous libérerais bien, si je savais comment. Mais on n'est pas libre ici. Tous les animaux, les plantes, les minéraux, même les autres espèces d'hommes sont chaque jour ici mis en pièces, et assemblés à nouveau, afin de sauver une élite, toujours prête à faire des théories sur la liberté - liberté qu'ils n'ont pas. Je ne peux même pas vous promettre que cela changera un jour, qu'ils sortiront de leur retraite pour oublier la mort, et perdre leur terreur compliquée de la technologie, et qu'ils cesseront d'employer les autres formes de vie impitoyablement pour tenir l'humanité à un niveau d'angoisse convenable - alors, ils seront simplement comme vous, des êtres vivants ..." 

Auteur: Pynchon Thomas

Info: Gravity's Rainbow

[ conservation du pouvoir ] [ enfumage ]

Intelligence artificielle

OpenAI présente Super Alignment : Ouvrir la voie à une IA sûre et alignée

La présentation par OpenAI de son développement du super alignement est extrêmement prometteuse pour l'humanité. Grâce à ses capacités étendues, il est en mesure de répondre à certains des problèmes les plus urgents auxquels notre planète est confrontée. Le risque de déresponsabilisation, voire d'anéantissement de l'humanité, est l'un des graves dangers associés à l'émergence de la superintelligence.

L'arrivée du super-alignement

Le super-alignement peut sembler une possibilité lointaine, mais il pourrait se matérialiser dans les dix prochaines années. Nous devons créer de nouvelles structures de gouvernance et traiter le problème de l'alignement des superintelligences afin de maîtriser efficacement les risques qui y sont associés.

Superalignement de l'IA et de l'homme : Le défi actuel

Garantir que les systèmes d'IA, qui sont beaucoup plus intelligents que les humains, s'alignent sur les intentions de ces derniers constitue un obstacle de taille. Actuellement, nos techniques d'alignement de l'IA, telles que l'apprentissage par renforcement à partir du retour d'information humain, reposent sur la supervision humaine. Cependant, lorsqu'il s'agit de systèmes d'IA dépassant l'intelligence humaine, nos méthodes d'alignement actuelles deviennent inadéquates. Pour y remédier, nous avons besoin de nouvelles percées scientifiques et techniques.

OpenAI a mis à disposition ses modèles de cohérence pour la génération d'œuvres d'art par l'IA

Surmonter les hypothèses et intensifier les efforts d'alignement

Plusieurs hypothèses qui guident actuellement le développement de l'IA risquent d'échouer lorsque nous entrerons dans l'ère de la superintelligence. Il s'agit notamment de la capacité de nos modèles à identifier et à contourner la supervision au cours de la formation, ainsi que de leurs caractéristiques de généralisation favorables au cours du déploiement.

Un chercheur d'alignement automatique doté d'une intelligence proche de celle de l'homme, c'est ce que l'OpenAI vise à construire. L'objectif est d'intensifier les efforts et d'aligner itérativement la superintelligence en utilisant une grande puissance de calcul.

Construire les bases d'un super-alignement

Pour atteindre son objectif de chercheur en alignement automatisé, l'OpenAI a identifié trois étapes clés :

Se transformer en expert et avoir un impact significatif sur le monde de la science des données.

1. Développer une méthode de formation évolutive

OpenAI se concentrera sur la création d'une stratégie de formation qui s'adapte bien. Cette méthode sera essentielle pour apprendre aux systèmes d'IA à effectuer des activités difficiles à évaluer pour les humains.

2. Validation du modèle résultant

Il est essentiel de valider l'efficacité du chercheur d'alignement après sa construction. Pour s'assurer que le modèle est conforme aux intentions humaines et qu'il fonctionne comme prévu, l'OpenAI le soumettra à des tests rigoureux.

3. Test de stress du pipeline d'alignement

OpenAI soumettra son pipeline d'alignement à des tests de stress approfondis pour s'assurer de sa durabilité. En soumettant ses systèmes à des situations difficiles, elle pourra trouver d'éventuelles failles et les corriger.

Exploiter les systèmes d'IA pour la supervision et la généralisation

L'OpenAI utilisera des systèmes d'IA pour aider à l'évaluation d'autres systèmes d'IA afin de résoudre la difficulté de superviser des tâches qui sont difficiles à juger pour les humains. Cette méthode de supervision évolutive vise à garantir la réussite de l'alignement. Les chercheurs se pencheront également sur la généralisation de la surveillance, qui permettra aux systèmes d'IA de gérer des activités qui ne sont pas sous le contrôle de l'homme.

Validation de l'alignement : Robustesse et interprétabilité

Pour garantir l'alignement des systèmes d'IA, il est nécessaire de se concentrer sur deux facteurs essentiels : la robustesse et l'interprétabilité. Afin de découvrir d'éventuels problèmes d'alignement, l'OpenAI examinera les éléments internes de ses systèmes et automatisera la recherche de comportements problématiques.

Tests adverses : Détection des désalignements

OpenAI entraînera délibérément des modèles mal alignés pour évaluer l'efficacité de ses méthodes d'alignement. Elle peut évaluer l'efficacité de ses stratégies d'identification et de résolution des désalignements en testant ces modèles de manière rigoureuse et contradictoire.

Évolution des priorités de recherche et collaboration

L'OpenAI est consciente qu'à mesure qu'elle en apprendra davantage sur la question de l'alignement des superintelligences, ses objectifs de recherche évolueront. Les meilleurs chercheurs et ingénieurs en apprentissage automatique seront réunis pour travailler sur ce projet. Afin de créer de nouvelles techniques et de les déployer à grande échelle, l'OpenAI encourage les contributions d'autres équipes et souhaite publier plus d'informations sur sa feuille de route à l'avenir.

L'OpenAI est néanmoins optimiste, même si le défi de l'alignement de la superintelligence est ambitieux et que le succès n'est pas garanti. Elle a réalisé des tests préliminaires encourageants et dispose de mesures utiles pour suivre le développement. L'OpenAI est d'avis qu'un effort ciblé et coopératif peut aboutir à une résolution.

L'équipe dédiée de l'OpenAI : Leaders et collaboration

Le cofondateur et scientifique en chef d'OpenAI, Ilya Sutskever, a fait de l'alignement de la superintelligence le principal sujet de son étude. Il codirigera le groupe avec Jan Leike, responsable de l'alignement. L'équipe est composée de chercheurs et d'ingénieurs talentueux issus de l'ancienne équipe d'alignement de l'OpenAI ainsi que de chercheurs d'autres équipes de l'entreprise.

OpenAI recherche activement des universitaires et des ingénieurs de haut niveau pour se joindre à ses efforts. Ils souhaitent diffuser largement les résultats de leurs travaux, qu'ils considèrent comme essentiels à leur objectif d'aider à l'alignement et à la sécurité des modèles non-OpenAI.

Notre avis

Les efforts de la nouvelle équipe Superalignment complètent ceux d'OpenAI pour rendre les modèles existants comme ChatGPT plus sûrs. Les différents problèmes posés par l'IA, tels que les abus, les perturbations économiques, la désinformation, les préjugés, la discrimination, la dépendance et la surdépendance, sont également au centre des préoccupations de l'OpenAI. Elle collabore avec des professionnels pluridisciplinaires pour s'assurer que ses solutions techniques répondent à des problèmes sociétaux et humains plus importants.

En se consacrant à la création de systèmes d'IA sûrs et compatibles, OpenAI est à l'origine de technologies révolutionnaires qui influenceront la manière dont l'humanité fonctionnera à l'avenir.

Auteur: Sakshi Khanna

Info: https://www.analyticsvidhya.com/blog/author/sakshi_raheja/ - Publié le 8 juillet 2023

[ homme-machine ] [ machine-homme ] [ conservation du pouvoir ] [ prépondérance de l'humain ]

anti-populisme

[Trump] n’était assurément pas l’ennemi des riches, dont il a beaucoup réduit les impôts. Mais il a aussi piétiné l’image idyllique de la mondialisation qui se trouve au fondement de la vision bourgeoise du monde depuis les années 1990. Il a eu des mots cruels pour les médias, la Silicon Valley et Wall Street. Il a critiqué l’Organisation du traité de l’Atlantique nord (OTAN) et prétendu s’opposer aux "guerres sans fin" au Proche-Orient. Enfin, bien qu’il n’ait presque rien fait pour y remédier, à l’exception de mesures protectionnistes que son successeur a eu l’intelligence politique de ne pas remettre en question, il a réveillé la colère de millions de travailleurs blancs – la hantise de l’élite éclairée depuis les années 1960. […]

On pourrait longtemps égrener les fake news du journalisme anti-Trump. Elles se comptent par dizaines, à tel point que, d’après le journaliste Matt Taibbi, la succession frénétique de pseudo-scandales a fini par servir de modèle économique aux médias : sitôt une affaire dégonflée, une autre venait la remplacer, leur assurant des succès d’audience tout au long cette présidence. Selon un recensement établi par le New York Times, 1 200 livres ont été publiés sur M. Trump entre 2016 et août 2020. Au cours de son mandat, les chaînes de télévision câblées ont rapporté ses méfaits avec un tel acharnement qu’il ne leur restait souvent plus assez de temps pour se soucier du reste de l’actualité. Son irruption sur la scène nationale leur a autant profité qu’aux plus fervents adeptes du président. Lui résister procurait par ailleurs à ces journalistes une raison d’être, comme le suggère un mème très populaire sur Internet ces dernières années : "Si vous vous êtes déjà demandé ce que vous auriez fait au temps de l’esclavage, de l’Holocauste ou du mouvement des droits civiques, vous allez à présent le découvrir". La guerre contre M. Trump a simplifié le monde à outrance, repeignant le moindre fait aux couleurs de l’urgence morale. […]

En termes de mots par mois de mandat, l’administration Trump doit avoir été la plus disséquée de l’histoire des États- Unis. L’hystérie "progressiste" qui l’a accompagnée n’a fait en revanche l’objet de presque aucune analyse sérieuse. Elle relève pourtant de l’histoire culturelle des années Trump, tout autant que le personnage lui-même. En fait, cette banalisation de l’outrance importe même davantage, car elle reflète les pensées et les craintes du groupe social dominant aux États-Unis, les millions de cadres et de membres des professions intellectuelles supérieures qui ont tant prospéré ces dernières décennies. Si M. Trump n’est plus autant sur le devant de la scène – pour le moment – les "cols blancs" qui l’ont méprisé continuent de savourer leur victoire. Leur vision du monde imprègne désormais toutes les grandes institutions : la Silicon Valley, Wall Street, les universités, les médias, le secteur associatif. […]

Quand Timothy Snyder [l’écrivain anti-Trump auteur du livre "De la tyrannie"] prédisait, en 2017, que les États-Unis risquaient de sombrer dans une "culture de la dénonciation", il avait parfaitement raison – à ceci près que les internautes "progressistes", et non M. Trump, allaient bientôt réclamer la défenestration des ennemis de la vertu. Il n’avait pas tort non plus de mettre en garde contre une imminente "suspension de la liberté d’expression" – à ceci près que la prophétie fut réalisée par le sympathique monopole des réseaux sociaux, Facebook et Twitter en tête, et non par le régime de M. Trump. Dans son manuel de résistance à la dictature, Snyder s’adresse aux diplômés de l’enseignement supérieur, les implorant de commencer à agir en tant que membres d’une même classe, afin d’exercer "un certain pouvoir". Ce genre d’invocation est récurrent. Le seul moyen d’arrêter l’autoritarisme serait de renforcer le pouvoir des figures traditionnelles de l’autorité, des "autorités autorisées", pourrait-on dire : la cohorte de diplômés qui forment la classe des commentateurs, professeurs, éditorialistes, financiers, docteurs, avocats et génies des nouvelles technologies. Depuis 2016, l’idée a été rebattue sur tous les tons : un Trump est ce que vous récoltez chaque fois que vous ne respectez pas ceux qui savent. Mais aussi : si M. Trump est bien Hitler, alors il faut écraser son mouvement, censurer ses partisans, refuser qu’ils profitent des règles de la démocratie ordinaire pour la détruire. Douter de la parole des autorités serait le premier pas vers le "crépuscule de la démocratie", pour reprendre le titre d’un ouvrage publié en 2020 par Anne Applebaum.

Selon cette essayiste très populaire, ce qui a mené à la terrible ère de M. Trump est la fragmentation des élites dirigeantes. Applebaum se remémore avec émotion l’époque où les intellectuels vivaient en harmonie, où ses amis s’accordaient sur les bienfaits de la mondialisation néolibérale et où tous psalmodiaient les mêmes tables de la Loi. Hélas, regrette- t-elle, certains "membres de l’élite intellectuelle et diplômée", y compris parmi ses propres amis, se sont mis à contester "le reste de l’élite intellectuelle et universitaire". Une "trahison", estime Applebaum, qui renvoie elle aussi à Hitler. Que des gens instruits ne s’accordent pas toujours entre eux apparaît inconcevable à l’auteure, pour qui la doctrine de la méritocratie est le mécanisme permettant à une société de choisir une élite qui croit aux mêmes choses qu’Applebaum. Penser autrement reviendrait à trahir sa responsabilité d’intellectuel. Aucun des semeurs de panique évoqués ici ne prend au sérieux les questions et les forces sociales qui ont poussé les Américains à voter pour M. Trump. […]

Qu’est-ce qui déclenche une telle réaction ? […] Les discours les plus outranciers proviennent des classes les plus privilégiées de la société : autrefois, les patrons de presse, chefs d’entreprise et avocats d’affaires ; désormais, les surdiplômés qui exercent un contrôle hégémonique sur les médias et l’industrie de la "connaissance". Dans chacun des épisodes cités, ils percevaient les mouvements politiques de leur pays comme un péril mortel pour leur propre statut. […] La fureur anti-Trump est souvent considérée comme un phénomène progressiste, voire une renaissance de la gauche. Mais elle a aussi ouvert la voie à cette nouvelle forme d’autoritarisme, portée par des démocrates. Dans le paysage politique contemporain, on entend désormais des avocats reconnus exprimer leur aversion pour la liberté d’expression, des banques, des services de renseignement et des industriels de la défense déclarer leur solidarité avec les minorités opprimées, des élus démocrates faire pression sur Google, Facebook ou Twitter pour qu’ils recourent plus systématiquement à la censure – le tout sur fond de condamnation de la nocivité intrinsèque de la classe ouvrière blanche. Ainsi s’exprime une aristocratie qui refuse de tolérer l’existence même d’une partie appréciable de la population qu’elle gouverne. À ses yeux, les seules "normes" qui semblent désormais compter sont celles qui la maintiendront tout au sommet.

Auteur: Frank Thomas

Info: https://www.monde-diplomatique.fr/2021/08/FRANK/63420

[ adversaires ] [ pensée unique ] [ conservation du pouvoir ] [ GAFAM ] [ point godwin ] [ état profond ]