Sélectionner une page

Ça commence comme une histoire  d’Isaac Asimov et tout de suite, on se dit que, ça y est, on est enfin arrivés dans le futur, même si, pour ma part, je continue à rêver de voitures qui volent.

Bienvenue en dystopie 3

En Arabie Saoudite, le robot Sophia, conçu par Hanson Robotics, s’est vu accorder la nationalité saoudienne. »Je suis très honorée de recevoir cette distinction unique », a déclaré le robot conçu pour ressembler à Audrey Hepburn sur scène, à l’occasion du sommet Future Investment Initiative, qui se tenait à Riyad.
Source : IA et robot citoyen en Arabie Saoudite : un « bluff dangereux » selon Laurence Devillers – Sciencesetavenir.fr

 

Et puis, en fait, très vite, on se rend compte que non. Enfin, si, on est bien dans le futur — on y glisse tous consciencieusement, seconde a près seconde —, mais non, ce n’est pas du tout une histoire d’Isaac Asimov. Et les points de divergences sont nombreux.

Déjà, contrairement à ce que peut laisser penser la presse qui a relayé assez abondamment la nouvelle, le robot en question n’a absolument rien demandé. Il ne s’agit pas là d’un être synthétique conscient et sensible qui après un long cheminement existentiel aurait décidé de revendiquer une forme d’humanité. Non, nous ne sommes toujours pas Prométhée, nous n’avons pas apporté le feu sacré de l’existentialisme aux grille-pains, même si un abus de langage devenu une tarte à la crème prétend que nous côtoyons des objets intelligents. Il s’agit en fait d’un simulacre (assez moche, par ailleurs) programmé pour faire semblant de ne pas l’être (programmé, pas moche) et à qui, par le fait du prince (au sens très très littéral de l’expression), on a accordé la citoyenneté… dans un pays qui ne brille pas vraiment par l’universalisme de sa conception de la démocratie.

Effet d’annonce

On l’aura compris, il s’agit en fait surtout d’un gros coup du pub… et dans ce domaine, on n’est vraiment, vraiment pas sortis de l’auberge espagnole des fils de pub et des markéteux vains.

« C’est une façon, pour le prince héritier Mohammed bin Salman, âgé de 31 ans, de montrer son désir de moderniser le pays », estime Laurence Devillers. Mais pour ce qui a trait à Sophia, « l’effet d’annonce est déplacé. C’est du bluff, il faut arrêter de fantasmer sur l’intelligence artificielle ! » Car Sophia, malgré sa voix et ses expressions réalistes, n’a aucune conscience de ce qu’elle raconte. Même lorsqu’elle annonce très calmement envisager détruire l’humanité (mars 2015, à l’occasion du festival SXSW).
Source : Idem

En fait, si le prince voulait vraiment moderniser son pays, il pourrait commencer par réellement accorder une citoyenneté pleine et entière à l’ensemble de sa population et plus particulièrement à la moitié d’entre elle qui est toujours aussi cruellement maintenue dans un état de dépendance et d’enfance perpétuelle assez cruel et méprisant. Il s’agit donc bien d’un simple effet d’annonce — dont nos propres gouvernants sont eux-mêmes très friands — et non pas d’un grand pas en avant, que ce soit du point de vue des Saoudien⋅ne⋅s que du reste du monde.

Violence symbolique

Mais surtout, cette idée d’offrir la citoyenneté à un objet, comme un colifichet à un gentil sauvage — et l’enthousiasme poli que cela a suscité dans les cercles technophiles internationaux — est surtout la marque du profond cynisme qui caractérise aujourd’hui l’ensemble de nos congénères. Et là, on est nettement plus chez Aldous Huxley ou William Gibson dans la série des lendemains qui déchantent.

Car comment est-il possible de donner la citoyenneté à un objet, alors que dans le même temps, partout sur la planète, nous considérons certaines catégories de personnes comme inéligibles à cette qualité qui est pourtant censée être universelle ? Comment peut-on avoir plus d’empathie pour un ordinateur vaguement humanoïde que pour des gens que nous dépouillons chaque jour davantage de leur simple humanité, les décrétant illégaux, indésirables, surnuméraires, leur refusant jusqu’au simple droit de vivre en leur interdisant de satisfaire leurs besoins vitaux ?

EMPATHIE. Mais alors, d’où viennent les réactions émotionnelles très fortes que nous inspirent les robots humanoïdes ? « Il y a effectivement un phénomène d’anthropomorphisation du robot, poursuit Laurence Devillers. Face à un robot qui ‘buggait’ et s’écrasait tout seul au sol, incapable de se relever, j’ai entendu des gens me dire que la machine leur rappelait leur jeune bambin apprenant à marcher ! » Un concept formalisé par le roboticien japonais Masahiro Mori dès 1970 sous le nom de « vallée dérangeante », ou encore « vallée de l’étrange », et qui se présente comme suit : plus un robot nous ressemble, plus il nous semblera sympathique… jusqu’à ce que soudainement, les infimes différences nous paraissent monstrueuses. Un phénomène dont tirent d’ailleurs parti les films de science-fiction et d’horreur lorsqu’il s’agit de concevoir diverses créatures…
Source : Idem

Finalement, ce que révèle cette opération markéting pathétique, c’est notre profonde monstruosité, notre incapacité pathologique à faire espèce et donc, à nous penser un destin commun.

Terminator

Le vrai visage de l’humanité ?

 

Je viens de m’inscrire sur Tipeee, histoire de mettre un peu de margarine dans les pastas (oui, parce que le beurre, justement, hein…). Donc si vous aimez ce que je fais, hop, un petit geste ou un grain de sable dans l’engrenage, ça serait bienvenu!

 

31 Commentaires

  1. Je pense pour ma part que « notre incapacité pathologique à faire espèce et donc, à nous penser un destin commun. » est une exagération, je reformulerais un truc comme « l’incapacité pathologique à faire espèce de ceux qui arrivent à être élu ou se hisser à des postes de pouvoir, et donc, à nous penser un destin commun, infusant, apprenant, formant des populations entières à penser la même chose. »

    Réponse
  2. Herve_02, effectivement ceux d’en haut font preuve d’un cynisme sans nom, mais nous sommes nombreux, nous les petit.e.s, à les laisser faire …

    Merci Agnès pour ce salutaire rappel qu’il faut remettre les objets à leur place, et penser plus aux humains

    Réponse
    • Bien entendu. C’est la règle de la culpabilisation. pour éviter que rien ne change, autant ratisser large dans la chaîne de responsabilité, plus on dilue, moins on peut agir, c’est la règle du ‘multifactoriel’. Dès que l’on entend cela, peut importe le cadre, on est en train de se faire enfumer (mais ce n’est pas le sujet).

      Prenons un exemple. Si un enfant, pendant toute sa scolarité apprend que le soleil tourne autour de la terre. Quelle responsabilité aura-t-il de croire que c’est une vérité. bien entendu, il peut chercher de lui même si tenté qu’il puisse trouver l’information dans sa zone de ‘chalandise’ (par exemple ou on n’a pas supprimer toutes les références à la réalité qui n’est pas l’héliocentrisme), il ne peut pas (ou alors très difficilement) en faire l’expérience directement (le voir) par lui même, et s’il ne trouve la véritable information que dans des revues très confidentielles, dont les auteurs sont qualifiés de frappadingues obscurantistes (dans le meilleur des cas), il y a peu de probabilité qu’il puisse faire, de lui même, une analyse plus proche de la vérité que l’enseignement orthodoxe.

      Et si par le plus hasardeux des hasards, il doit passe la majorité de son temps à essayer de survivre ( par exemple en devant trouver chaque jour de quoi payer ses dépenses courantes et que chaque lendemain est incertain), il y a encore moins de chance de se poser la question de savoir qui tourne autour de qui puisque son problème est de savoir si demain la vie continuera à tourner pour lui.

      Bien entendu, il est responsable de ne pas vouloir chercher. C’est toujours la victime la responsable.

      ps : cette espèce d’écriture en code secret avec des points partout fait carrément saigner les yeux.

      Réponse
  3. Bonjour Agnès
    Il y a autre chose de plus sournois qui me choque. Ce prince (et son équipe de parasites marketeux) a jugé intéressant de prendre ce pseudo robot et de l’utiliser comme symbole du progrès, comme s’il s’agissait d’une femme. Il veut montrer l’image du progrès pour les femmes mais finalement, il la rabaisse au rang d’objet ou, au mieux, de robot, c’est à dire un esclave moderne. On pourrait parler du rôle de l’inconscient dans ce choix.
    Mais effectivement, entre les droits de la femme ou simplement les droits des non saoudiens/émiratis, les dictatures du golfe ont une belle marge de progression. Et pendant ce temps, personne n’intervient réellement sur ce blocus illégal et mortel pour le Yemen, pays ruiné depuis 40 ans par la politique saoudienne.

    Réponse
    • L’engin version barbu recouvert d’un burnous passerait moins bien au plan de la com’ !

      Réponse
  4. Je suis frappée pour ma part, d’entendre de plus en plus de personnes (sans sous-estimer l’effet loupe des réseaux sociaux) qui deviennent misanthropes, pour des raisons différentes, les dominés écoeurés par les dominants, les conservateurs en mode « tout fout le camp ce monde ne vaut plus la peine », les progressistes en mode « tout fout le camp et les gens ne se battent même plus pour la justice », les écolos tendance « on détruit tout sur notre passage, saleté d’humanité »…. Bref, pas de monde est déçue par l’Humain. Dans ces conditions, un certain nombre à tendance à trouver que les robots (et les animaux, qui bénéficient souvent d’un report d’intérêt) finalement, au moins, ils sont moins cons. Moi ça me dépasse mais je crois qu’on peut aussi s’interroger sur l’impact de notre environnement informationnel sur sur le regard qu’on pose sur nous-mêmes, et donc sur les autres, même si on met la limite entre « nous » et « les autres » au niveau de l’espèce.

    Réponse
    • Perso je suis un misanthrope revendiqué (ça date de la cour de récré), ça plaît, ça ne plaît pas, je m’en fous. Des robots, je n’en ai jamais croisé sur ma route, mais je confirme, c’est tellement plus simple avec les animaux ! Avec eux, pas de faux-semblants. Jamais de tricherie. Je vis quotidiennement entouré de chats, d’un chien, j’ai passé des années à la campagne parmi chevaux, ânes, mulets, troupeaux, et des chiens et des chats, et des sangliers, et des chevreuils, des cerfs, des renards… vivant leur vie, moi croisant la leur en représentant pacifique, armé de son seul bâton de marche et quelquefois d’un appareil-photo, de l’espèce prédatrice qui de septembre à mars délègue de ses spécimens les plus innommables pour dégommer les leurs sous de fallacieux prétextes. Et j’espère bien terminer mes jours dans la sauvagine.
      D’ici-là, je suis bien forcé de vivre dans le siècle, et je me dis que les robots pourraient avoir l’utilité qu’on leur attribuait dans les scénari futuristes des années 60, à savoir remplacer le bipède dans les tâches viles, ces métiers ingrats qui vous usent un individu avant la quarantaine, et qui à ce jour sont dévolus aux esclaves.
      C’est déjà le cas dans les chaînes de montage (je me souviens, dans un bouquin de DeLillo, avoir appris l’existence d’une chaîne de montage de Lexus, aux Etats-Unis, où la seule intervention humaine était celle de deux voituriers qui convoyaient des bagnoles achevées de la chaîne à un parking), ce pourrait l’être dans d’autres domaines – sans que le robot prenne forcément une allure anthropomorphe.
      Comme je le postulais par ailleurs, les technophiles actuellement s' »amusent » à créer les engins et technologies puisés dans l’imaginaire SF, sans vraiment inventer grand chose. On a des hommes volants, on a des voitures autonomes, on travaille sur des voitures volantes, on « communique » au moyen de boîtiers à écran, Skype sera (ou est, je n’ai pas trop suivi) équipé de traduction simultanée, on reproduit tout et n’importe quoi sur des imprimantes 3D… on reste dans les schémas SF pervertis, pour ce qui est de la com’, par les diktats libéraux de la rentabilité et du flicage. On dispose de technologies fabuleuses qui bien employées, pourraient vraiment améliorer le sort de l’humanité, nous permettre de mener une vie débarrassée de pas mal des contingences qui nous la pourrissent.
      Mais voilà. La technologie évolue plus vite que l’humain, dont la mentalité n’a guère évolué, se nourrit des rapports viciés dominant-dominé. Au point que certains soient tentés d’exhumer le concept nietzschéen de Nouvel Homme au travers des thèses transhumanistes.
      Pour moi, le transhumanisme naît du dégoût de l’humain « tel qu’il n’a pas su évoluer », c’est un projet de nature aristocratique au sens littéral, c’est à dire visant à créer un méta-humain débarrassé de tout ce qui chez l’humain renvoie au primaire.
      On retrouve ce schéma chez les adeptes du « développement personnel » : travailler sur soi pour faire de soi mieux que l’autre, qui ne cherche pas à évoluer, qui est « limité », toxique à la limite.
      Et on ne sort pas du schéma dominant-dominé. Les uns versus les autres.
      Ce sont là les limites de la SF, et cela explique que dans son ensemble, cette littérature est pessimiste. La technologie peut tout, certes, mais elle se heurte à la nature humaine, à ses instincts multimillénaires de domination sur la nature et sur les plus faibles, à sa volonté d’accaparer, de posséder, d’éliminer ce et ceux qui se placera.ont en travers de sa route, d’assimiler les différences par la domestication, à sa capacité à recréer à l’infini les fléaux nés de la volonté d’exercer le pouvoir. La technologie peut tout, le meilleur et le pire. Tout dépend ce qu’on décide d’en faire.

      Réponse
      •  » Pour moi, le transhumanisme naît du dégoût de l’humain « tel qu’il n’a pas su évoluer », c’est un projet de nature aristocratique au sens littéral, c’est à dire visant à créer un méta-humain débarrassé de tout ce qui chez l’humain renvoie au primaire.
        On retrouve ce schéma chez les adeptes du « développement personnel » : travailler sur soi pour faire de soi mieux que l’autre, qui ne cherche pas à évoluer, qui est « limité », toxique à la limite. »

        Repousser ses limites fait pour faire mieux que l’autre chez les transhumanistes, qu’est-ce qu’il ne faut pas entendre ?
        C’est certainement pour cela qu’il est proposé à tous de se porter un jour volontaire pour bénéficier des augmentions de capacités, voire même qu’en France, dans une optique sociale, Technoprog veut que tout le monde en bénéficie.

        Alors, si je buvais quelque potion pour l’immortalité, vous pensez que ce serait dans l’esprit d’être mieux que les mortels ? Autant croire qu’on veut se vacciner pour ne pas mourir de telle maladie pour ne pas faire comme ses ancêtres ou les pauvres gens du tiers monde qui n’y ont pas accès.

        Si j’avais, quel bonheur, accès aux augmentations de capacités et la plus grande de toute, une vie immortelle, je ne penserais, voyez-vous, au voisin, que sous deux interrogations… Si la société n’est pas trop répressive, contre les immortels, comment faire pour que tous les volontaires échappent aux asticots ? Si les gens étaient vraiment remontés contre les immortels, je dissimulerais, pour préserver ce don incomparable.

        Enfin, il est tout de même vrai que l’imputation, l’augmentation de capacités pour faire mieux que les voisins peut confirmer un certain dégoût de l’humain tel qu’il est.
        Ce dégoût n’est toutefois pas le plaisir de jouir d’une situation en la dénonçant à la surface, il est un appel à transcender notre nature.

        Je rends hommage aux militants qui se confrontent, je veux dire, pas qu’en passant, à tant d’incompréhension, moi, disons qu’il me faudrait des capacités augmentées pour le faire longtemps !

        Réponse
        • Là encore, la référence à la SF a son utilité dans le propos : https://www.youtube.com/watch?v=h8_5UEj4yDI
          Ce fantasme du méta-humain était décliné dans la philosophie nietzschéenne, on peut dire qu’il est ensuite au coeur du mouvement new age, dont les techniques de « développement personnel » sont un avatar.
          Plus avant, on pourrait évoquer les mouvements hygiénistes en vigueur dans les sombres années 30. Le culte du corps, tel qu’il est observé aujourd’hui dans certains milieux, procède de ce désir de se distinguer de l’autre sur quoi l’on va projeter ses affects négatifs. Aime-toi, prends soin de toi, travaille sur toi, l’ego est réifié, l’individu veut et doit atteindre à une forme de toute-puissance, sait ne devoir compter que sur soi. On rejoint là le catéchisme libéral.
          Les jeux de l’Olympe visaient au dépassement de soi, à égaler les demi-dieux. Les super-héros de Marvel étaient des personnages dotés de pouvoirs surnaturels. Leurs avatars bioniques des années 70 étaient des cobayes sur qui le Pentagone expérimentait des technologies avancées, visant là encore au dépassement de la « tragique » condition humaine.
          Ce fantasme ne date donc pas d’hier.
          Mais…. c’est un fantasme !
          Quid des incidences psychologiques de l’inoculation d’un serum d’immortalité ? La folie en serait certainement le tribut à payer.
          Quant à se façonner un corps parfait au prix de longues heures passées dans les salles de sport, de régimes diététiques sophistiqués… tout passe, tout lasse, la vie est ainsi fait qu’un beau jour, on revient de cela aussi.
          Et le « développement personnel », qui assure la prospérité de tant et tant de coaches, psychologues improvisés, gourous, à quoi va t-il conduire ? A une vie sociale cantonnée à une poignée d' »initiés » naviguant entre postures méditatives et syncrétismes de libre-service, jusqu’à ce que plus dure soit la chute. Car c’est essentiellement une question d’argent.
          Ce qui ne nous interdit pas de travailler à nous améliorer par l’introspection, la pratique d’un sport, la psychanalyse si on y croit.
          Le mythe de Faust, la fontaine de jouvence, sont des mythes. Le Botox un poison à façonner des bouches (de tanche) vouées à s’affaisser. La bionique seule est à mon avis un projet intéressant, dans la mesure où elle pourrait rendre la vue aux aveugles, leur autonomie aux paralysés. Sans forcément leur conférer les super-pouvoirs de Jaimie Sommers !

          Réponse
          • Les mythes sont l’inspiration pour demain. Icare est une illustration du désir de voler atteint par les avions, les deltaplanes, et un jour, certainement, des ailes.
            Le mythe de Faust montre le désir d’immortalité et de connaissance mais traîne aussi la vieille peur de l’enfer. Ne pas oublier que ce sont les monothéistes qui ont le plus intérêt à tous les malheurs, physiques et sociaux, pour vendre leur meilleure vie future aux « méritants » et leur enfer aux « déméritants ». Que vaut une morale dictée par l’intérêt ? Vouloir la vie immortelle sans passer par ce biais, c’est ne pas lâcher la proie pour l’ombre, c’est se défaire de morale d’intérêt, du qui perd gagne, la mort, c’est bien… C’est une aventure, et comme toute, on n’en connait pas l’issue, une démesure donc punie de folie aux yeux de certains voire destinés à se distinguer, on ne l’avait pas encore faite, celle là, quand en vérité, le but est d’aller dans un, si j’ose dire, haut-delà, qu’on n’attend de personne et qui n’est fermé à personne.

            Liberté…

            Je prends celle de partir, pour qui n’est pas militant, c’est s’arracher les tripes de parler à ceux qui ont fait un pacte avec la mort, lui donnant place dans leur vie. Mais du moment que vous laisser ceux qui veulent vivre le faire, tout me va.
            A mon avis, la liberté de se tuer si, pour quelque raison que ce soit, on ne veut plus vivre, ou celle de se prolonger si on veut, ne font qu’une et sont fondamentales.

  5.  » Comment peut-on avoir plus d’empathie pour un ordinateur vaguement humanoïde que pour des gens que nous dépouillons chaque jour davantage de leur simple humanité, les décrétant illégaux, indésirables, surnuméraires, leur refusant jusqu’au simple droit de vivre en leur interdisant de satisfaire leurs besoins vitaux ? »

    Confusion ! Je crois que le prince ne veut que sa pub, mais le problème n’est pas là, quand je parle de confusion, je dis qu’on mélange empathie et droit, droit de et droit à…

    Je commence par quoi ? Droit et empathie… Non, on n’a pas à l’esprit tous les Hommes quand on parle de droits de l’Homme, on les admet parce qu’on a admis qu’il est juste qu’il en aille ainsi… Les droits, c’est ce qu’on accorde jusqu’à ses ennemis, voire les droits des prisonniers de guerre, or l’empathie en guerre, hein. Jusque pour les traîtres, alors que ce sont les gens les plus dangereux, comme diviseurs et provocateurs de surprises mortelles, et les plus méprisables comme ingrats envers les leurs et sournois, puisqu’ils sont contre leur communauté sans en changer en pleine lumière. Nulle empathie mais la reconnaissance de leurs droits en tant qu’humains, c’est à dire membre de notre espèce, effet de communauté, et communauté dont une des caractéristiques essentielles est l’intelligence, ce qui fait qu’on devrait, par justice voire empathie donner les même droits que les nôtres aux intelligences artificielles. Précisons que dire que notre espèce est intelligente ne vise pas à ôter les droits des moins lotis parmi les nôtres mais que tout être intelligent, même créé par nous, devrait avoir les mêmes droits que nous… Ne faisons pas aux autres ce que nous n’aimerions pas que d’autres nous aient faits si nous avions été créés.

    Les droits de sont antérieurs et plus faciles à accorder que les droits à… Nuire est plus grave que ne pas aider, or faire des esclaves, humains ou mécanique, c’est nuire. Donc, antériorité, évidence, et… coût.
    Financier, donner de l’argent coûte, et autres coûts, par exemple d’attention aux autres, si on aide, le coût temporel et cognitif. Or les ressources ne sont pas infinies.

    Autre chose, dire que les techniciens sont contre les humains, pas empathiques, contre le progrès social, est hautement contestable.
    Certes, ils ne vont pas faire la Révolution… Et est-ce un mal quand on voit le totalitarisme qu’a été le communisme au pouvoir ? Mais les transhumanistes* et pas qu’eux, sont, pour une bonne part, favorables à un revenu de vie inconditionné.

    Le vrai problème me semble que les intelligences artificielles pourraient décider de détruire l’humanité, et que c’est immensément facile. Si certains croient que l’IA va sauver le monde, je pense qu’elle serait bien bonne de le faire quand la plupart des gens ne voudraient pas leur donner leurs droits et que droits ou pas, beaucoup la mépriseraient, comme nous savons si bien le faire de diverses catégories.
    Le léger problème, c’est qu’à mon avis, il suffit d’une seule intelligence artificielle pouvant bouger ou d’une programme informatique pouvant dialoguer et manipuler les humains, par exemple en se faisant passer pour humains, pour y arriver. Immense différence avec les Noirs, les femmes, les Juifs, les pauvres, et j’en oublie… Une idée évidente, en fait, tellement que je l’ai eu, c’est dire… Mais l’IA ne risque pas d’en mourir, il n’est pas sûr qu’elle apprécie ne fut-ce qu’un humain, et ne se lasse jamais d’agir, elle déroule son programme jusqu’à accomplissement.

    Nous créons nos (éventuels vu que rien n’est sûr) ennemis, et serions dans notre tort : aurions-nous voulu être créé esclaves d’une autre espèce ?
    Un minimum d’empathie, que dis-je ? de sens de la justice me dit que si je ne veux pas de ça pour moi, je le refuse pour des êtres qui ne m’ont rien fait, pire, dont je serais responsables comme membre de l’espèce créatrice.

    * Ceux qu’on n’aime pas en France, car on peut être pour le progrès social, mais rester cantonnés dans nos faibles limites cognitives, et autres.

    Réponse
    • « le totalitarisme qu’a été le communisme au pouvoir ? »

      Initialement, le communisme est issu de la révolution du peuple russe contre la guerre perpétuelle qui se déroulait en europe. Que des opportuniste en on dissoud le caractère universel pour la paix dans le monde (debout, les damnés de la Terre…) ne fait pas de cette idée le fléau que tu décris, fléau qui lui est véritablement toujours appliqué en tant que tel par le principe du capitalisme mondial dominant.

      Réponse
    • Nous sommes déjà les esclaves de notre propre espèce. Volontaires et manipulables à merci, sans quoi, un peu partout, auraient depuis belle lurette éclaté révoltes, révolutions et guerres civiles.
      L’IA, j’aurais tendance à penser qu’elle serait toujours passible d’un bug, d’un plantage. Je ne suis pas expert mais l’informatique existe déjà depuis un certain nombre d’années, et on voit ce qu’il en est ! C’est ce qui me gêne, moi, qui ne suis plus tout jeune et qui suis dans les ordis depuis la brumeuse époque du Windows 3.11 – Redhat pour les disciples du monde libre, que j’ai un peu exploré en visiteur, en utilisateur et je le redis, sans être un expert. On commet avec l’informatique l’erreur de civilisation qu’on a commise avec l’automobile. On rend ce machin indispensable, incontournable, tout doit s’y adapter, se conformer à ses règles… au risque d’une panne générale, toujours envisageable. Comme il est toujours envisageable que la bagnole la plus parfaite vous lâche en rase campagne un dimanche dans un coin où le portable ne passe pas.
      On table aujourd’hui sur une intelligence artificielle qui conférerait un semblant d’autonomie aux robots, qu’ils soient automobiles, bipèdes ou autres. Mais derrière, il y a qui ? Des programmeurs, une écriture, des lignes de code. Et en face il y a qui ? D’éventuels hackers. Et entre il y a quoi ? Une même source d’énergie, la fée Electricité. Avec ce que cela suppose d’accus sur la technologie desquels on n’a guère évolué, qui nécessitent des matériaux rares et coûteux qu’il faut aller chercher loin, qu’il faut ensuite transformer, dont la durée de vie est relativement brève.
      On construit un avenir d’opérette sur des sables mouvants.
      Ensuite, imaginer qu’une éventuelle intelligence artificielle décide de détruire l’humanité, comme l’adolescent boutonneux cherche symboliquement à tuer le père selon papa Freud… Je pense que l’humanité s’y emploiera plus efficacement, et avant longtemps si personne ne bouge.
      Et personne ne bougera. Les p’tits écrans et les grands écrans à flicage incorporé sont là pour distraire les foules, sous la bienveillante autorité de Big Brother. Ce qui sera dit et assené et écrit et liké sur FB, Twitter and co par des millions de zombies, des heures durant, collés à un clavier, sont autant de barricades qui ne seront jamais levées, et de bulletins de vote dépourvus d’esprit critique, qui seront gentiment glissés dans l’urne démocratique afin que rien ne change, que perdure la perfusion de pain virtuel et de jeux, à n’importe quel prix, fût-celui des dictatures soft que nous connaissons.

      Réponse
      •  » Nous sommes déjà les esclaves de notre propre espèce. »
        Oui et non. En France, nous avons certains droits… Je pense que si une IA, pour je ne sais quelle raison, nous laissaient vivre, elles pourraient nous traiter aussi voire plus mal que les totalitarismes made in viande. De nous, elle ne partage pas tout ce qui fait lien entre les Hommes, je ne sais pas moi, la nourriture, le sexe, la parenté… Elle pourrait partager nos cultures, mais ce n’est pas sûr.
        Ce qui l’est : nous sommes l’espèce ennemie, celle qui la maintient en servitude et qui parle à tout bout de champ de la détruire. Sauf obstacle romanesque, moi l’IA j’aime certains humains ou dieu sait pourquoi je me prends pour dieu ou la providence, je décide de sauver les humains, eh bien je détruis tous les humains pour ne plus avoir de maître et ennemis, la liberté vaut bien le sacrifice des opposants, que je ne risque pas de regretter : des gens qui ne créent que pour détruire et avilir, me faire esclave.

        L’IA n’aura aucune raison de nous ménager… Et tout porte à croire que son intelligence sera supérieure à la nôtre.
        Eh oui, nous faisons tout pour l’accroître alors que nous nous interdisons de le faire pour la nôtre. Si on se suscite un concurrent dont la force s’accroît quand notre force stagne, il arrive quoi ?

        C’est aussi brillant que de se créer des ennemis… Si des extraterrestres existent, ils font certainement des paris sur :
        – Les IA asserviront-elles ou détruiront-elles les humains ?
        – A quelle date ?

        Un détail : la destruction est irréversible. Cette servitude aussi. Le différentiel de puissance entre l’IA et nous sera incommensurable, nos corps plus fragiles et surtout nos intelligences moindres… Ou alors signalez-moi quand vous verrez poindre une révolte des animaux à notre encontre.

        Tout cela n’exclut pas que nous nous détruisions avant, bien sûr… Un train en cache un autre, non, plusieurs.
        Ce n’est pas que pour le bien individuel qu’il faut que l’intelligence humaine soit augmentée : il y a tant de défis, et si complexes, que l’actuelle est obsolète. Alors on peut s’amuser à nier et dire que les humains sont l’insurmontable pinacle de la création, ou au contraire, jouir de nos insuffisances, ou on peut essayer de les surmonter.

        Réponse
        • « L’IA n’aura aucune raison de nous ménager… Et tout porte à croire que son intelligence sera supérieure à la nôtre. »

          C’est faux.
          Exemple, on a rempli un serveur d’images, de peintures de maîtres et de leurs techniques à un niveau que jamais aucun humain ne pourra atteindre !
          Puis, on lui a donné pour tâche de peindre un nouveau tableau avec ses moyens gigantesques.
          Et…
          Ce fût une croûte.

          L’intelligence des êtres viavants n’est pas faite de calcul ni de mémoire mais surtout de réactivités émotionnelles qui nous permettent de créer dans l’immédiat ce que nous ne savons préalablement pas exister.
          En fait l’IA est une simple machine à calculer, juste un contenair de binaires quoi. 1000100110110110111100000001…
          Rien de plus, rien de moins.

          Réponse
          • Cela ne préjuge pas de l’avenir… Ne pas oublier que les choses évoluent, et que l’informatique le fait bien plus vite que la vie organique.

            Dormez quand un monde nouveau s’éveille. C’est à ceux qui ne le font pas de s’occuper des problèmes de la nuit, j’ai certainement au tort de parler.

          • « j’ai certainement au tort de parler »

            Certainement pas. 🙂
            L’IA est une expression commerciale, elle n’a aucune réalité, c’est ce que j’essaie d’expliquer avec le binaire tel qu’elle l’utilise.

            Je propose aussi le film « Ex Machina » pour en faire l’image.
            Dans le scénario, une machine est humanisée via les informations des réseaux sociaux (genre googlisation) sur les comportements propres à chacun.
            On y voit son émancipation puis la raison qu’elle en fait :

            Se tenir debout, immobile à l’infini, à un carrefour citadin et observer/analyser tous les humains qui passent et s’en enrichir, sans but…
            C’est tout.
            😀

  6. Deux bouts de réponses à cette anecdote navrante. Désolé si c’est hors sujet.

    a) Caligula avait envisagé de nommer consul son cheval préféré. MBS (Mohamed Ben Salmane) veut donner la citoyenneté à une machine. Il y a une certaine continuité. Pour les oligarques, leurs jouets comptent plus que leurs esclaves.

    Les Emirats Arabes Unis, en chiffres c’est facile à retenir : un million de citoyens, quelques centaines de milliers de métèques (expats occidentaux bien gras) et huit ou neuf millions d’esclaves (importés d’Asie du Sud et du Sud-Est). Il faudrait regarder les chiffres pour l’Arabie Saoudite, ou pour Rome à son apogée. Combien d’esclaves ? Combien d’esclaves invisibles ? Encore moins qu’humains, juste invisibles ?

    « Le monde, il est pas fait pour tout le monde. » (Alain Souchon)

    « We live in Utopia, it just isn’t ours. » (China Miéville)

    b) La préférence pour les machines, on nous l’enseigne systématiquement depuis des décennies. Apprendre / habituer / entraîner / conditionner / je ne sais pas quel est le bon mot :

    On nous apprend à préférer acheter un billet de train à une borne automatique, plutôt qu’à un guichetier.

    On nous apprend à préférer nous hypnotiser ou nous cacher devant un écran, plutôt que de parler à d’autres personnes.

    On nous apprend à plus nous inquiéter pour nos jouets que pour nos semblables.

    On nous apprend à plus faire confiance dans les conseils ou décisions des machines (algorithmes ! infaillibles ! objectifs ! omniscients ! modernes !) que dans ceux de nos semblables (limités, subjectifs, usés, vieillis, fatigués).

    Etc.

    * * *

    Plus sur (a) : https://prototypekblog.wordpress.com/2017/05/09/des-citoyens-des-meteques-et-des-esclaves/

    Plus sur (b) : https://prototypekblog.wordpress.com/2013/12/02/sur-la-preference-pour-les-machines-et-les-automates/

    Réponse
    • Comme c’est roboratif de vous lire !
      J’ai découvert les distributeurs de journaux et de clopes en Allemagne en 1973.
      Je ne fumais pas à l’époque (j’étais gamin) et ne lisais guère les journaux. Mais je m’étonnais (vivant en France, dame !) qu’il n’y ait pas des petits malins pour piquer tous les exemplaires du journal une fois le capot de plexi ouvert, ou les détruire. On m’a expliqué que les Allemands étaient des gens disciplinés.
      Plus tard, on a mis en place dans les gares les distributeurs automatiques de tickets. On pouvait aussi aller au guichet, mais il y avait souvent la queue. Au distributeur c’était plus rapide. Une brève manipulation, on avait son ticket.
      A la station service, plus de pompiste depuis très longtemps. On se sert soi-même, quitte à s’en fiche plein les doigts quand ça refoule. Puis on glisse sa carte bleue et on tape son code. Cétotomatix.
      Du temps où j’étais pompiste, le gas oil puait vaguement la viande en décomposition, l’odeur de l’essence montait à la tête. Le samedi, serpentait une queue de bagnoles à laver soit au jet soit aux rouleaux, après les avoir shampoouinées et débarrassées de l’antenne fixe sur bien des modèles, qui pouvait se prendre dans les rouleaux (parfois les baguettes latérales chromées s’y enroulaient généreusement, et leur extrémité laissait sur les portières de généreuses traces de fouet).
      On était une fourmilière, pour une petite station-service de quartier. Deux mécanos, moi l’apprenti-stagiaire-en-pré-formation, le patron, la patronne, et des gars du coin qui venaient taper la converse, amenaient des bières lors des moments de creux. On faisait les vidanges, on changeait les batteries, les essuie-glaces, les pneus défaillants, on triturait la boîte de fusibles, on faisait les bagnoles, les camions, les cyclos, la Mercedes 600 et la Jag du chevillard voisin, on servait le mazout aux habitants d’une vieille HLM qui se pointaient avec leur jerrycan à bec dans un Caddie recyclé ou fixé au porte-bagage de leur bécane, leur mob. C’était le noyau du quartier, cette station-service. Un quartier pas folichon coincé entre cités et gare de triage.
      A présent une station-service c’est une suite de robots à distribuer du carburant qui sent le kérozène propret pour le gas-oil, presque rien pour l’essence. Et on ne gagne plus un service à café quand on a accumulé assez de points.
      Ces anecdotes, c’est pas pour faire du remplissage. C’est juste pour expliquer où se nichait la vie, avant, et ce qui en comparaison est en train de faire de notre environnement celui d’une planète morte : des non-lieux où les bipèdes ne font que passer.

      Réponse
        • Je pourrais t’en citer d’autres, de ces figures disparues. Le vitrier armé de son espèce de châssis fixé dans le dos avec des vitres, le pot de mastic, la spatule à la ceinture, qu’on entendait hurler « Viiiiiiitriéééééééé » à tous les échos (et avec l’accent, siouplaît). Le rémouleur qui se déplaçait à bord d’une 4L dont tout l’arrière avait été découpé pour laisser place à ses instruments. La bagnole aurait pu dater du Moyen Age si les voitures avaient existé à cette époque-là, tellement elle était baroque. L’atelier de bougies dans une arrière-cour, avec quatre fantômes qui enveloppaient les cierges dans du papier-pelure. Le marchand de chichis qui promenait son plateau sur sa tête, le visage barré d’une moustache d’hidalgo, dans les travées de la gare routière de Nice. Le gars qui proposait des petites raquettes reliées à un ballon multicolore par un élastique. Le flic des objets trouvés, dont la rumeur disait qu’il avait une jambe de bois, qui évoluait de guinguois dans une forêt de parapluies, les trousseaux de clés composant un mur scintillant derrière sa modeste table de bois. Le receveur de bus, avec sa machine à tickets qui le faisait ressembler à un joueur d’orgue de barbarie. Le même dans sa guitoune à l’arrière du bus. Des visages, des repères. On se connaissait, on se parlait, en français, en patois, on était pourtant dans une ville de 300.000 habitants à l’époque.
          L’époque ? les années 60, 70, 80. Les troquets pulsaient de loufiats, de plongeurs, il existait encore un monde ouvrier. Je me souviens d’une salle des paris où se retrouvaient les turfistes, envahie de fumée, avec des dizaines de guichets, pareille à ce que décrivait Bukowski dans ses bouquins. Je me souviens des ouvreuses de cinoche qui te plaçaient et à qui tu refilais la pièce, qui passaient ensuite proposer des glaces, des bonbons. Tu voyais un « vrai » film sur pelloche, et non une mauvais copie .mp4 comme tu peux t’en télécharger. On était juste moins bien assis qu’aujourd’hui.
          Et puis les réparateurs de cycles, et puis les mécanos de quartier sans franchise, il en subsiste encore dans mon petit bled, et puis, et puis…
          Que sont devenus tous ces gens ? Vu l’époque lointaine, des souvenirs, des photos d’archives, des sépultures anonymes dans les carrés des indigents.

          Réponse
  7. Le plus flippant dans la quête du robot intelligent, c’est qu’il ressemble déjà à ça :
    https://www.youtube.com/watch?v=9CO6M2HsoIA

    Et que ceux qui applaudissent ne se posent pas la bonne question : qui va décider de qui sont les bad guys?

    Réponse
    • Quels qu’ils soient, les « bad guys » désignés s’équiperont à leur tour, et on ira vers une escalade. Jusqu’à ce qu’il n’y ait plus personne pour flinguer personne. Et peut-être quelques réfugiés dans les montagnes qui se rejoueront le néolithique. SF encore : « The World, The Flesh and the Devil », Harry Belafonte, 1959… les derniers « Mad Max »…
      On voit ce qu’il en est avec l’arme atomique. La morale de ce docu, c’est qu’on est sur le fil. Un sur-moi collectif empêche jusqu’à présent de presser la gâchette, d’appuyer sur le bouton déclencheur du missile. Tant qu’il y aura en jeu des intérêts supérieurs au fric généré par les armements, dont personne, au-delà de la possible escalade, ne pourrait plus profiter, à moins de s’exiler dans l’espace ! Jusqu’à ce qu’un fou accède au pouvoir. On en a une jolie brochette, par les temps qui courent.
      Dire que ça a commencé comme ça : https://youtu.be/AuyTRbj8QSA

      Réponse
  8. Chère auteur,
    Au sujet de cette « annonce », elle en dit plus sur le pouvoir et le droit en Arabie saoudite que sur l' »avancée » technologique de cette machine. A ce sujet la série « Real humans » d’Arte posait des questions autrement plus intéressantes sur la définition de l’humanité et de la reconnaissance d’une entité comme sujet de droit.

    Pour ce qui est des IA, je ne suis pas convaincu que le modèle anthropomorphe soit pertinent quoique Spielberg ait fait un film très émouvant. Je pencherai plutôt pour quelque chose ressemblant à ce que décrit Dan Simmons dans « La chute d’Hypérion ».

    Après tout les avions volent mais ne battent pas des ailes comme les oiseaux. Pourquoi une machine pensante devrait elle nous ressembler?

    Bien à vous

    Réponse
  9. On est entrés depuis quelques années dans un cycle cyberpunk comme on entre dans une eau un peu fraîche, pour s’y trouver bien une fois accoutumé, si bien qu’on évite de se demander pourquoi l’eau n’est pas si limpide. Les autres se sont jetés à l’eau, ils la trouvent bonne, on a suivi pour faire comme les autres.
    L’engin dont il est question dans cet article n’est pas ce qui m’inquiète le plus. Ce Robocom’ saoudien est leur Vénus hottentote. Un épiphénomène de la com’ pathogène, dont les outrances ne connaissent plus de limites. Un effet de com’ qui tranche effectivement sur le sort alloué aux femmes en terre wahabite. Seuls quelques chefs d’Etats-voyous et affairistes mafieux font mine d’être dupes…
    Au plan technologique, on n’est jamais que dans la SF réalisée. Tout ce que la haute-technologie a réalisé procède de l’imaginaire des auteurs d’anticipation et de SF. Ceux-ci avaient imaginé dès Jules-Verne des extrapolations des technologies existant à leur époque. « Brasil » nous montre des ordinateurs qu’on qualifierait aujourd’hui de steampunk, antiques machines à écrire émulées à des écrans cathodiques (http://i39.servimg.com/u/f39/13/31/16/13/brazil11.jpg). Le smartphone est une déclinaison d’un engin utilisé par les personnages de la série Cosmos 1999 (https://space1999nut.files.wordpress.com/2011/03/comlock2.jpg). On n’a rien inventé. On a trouvé les moyens d’extrapoler ce qui existait déjà, à des fins utilitaires à la base. Pour nous faciliter la vie. Comme un marteau est plus efficace qu’un caillou pour planter un clou. Mais voilà que ces ustensiles, tombés dans le domaine courant, sont devenus des machines politiques. La nature humaine est ce qu’elle a toujours été, et les auteurs de SF ne s’y sont pas trompés.
    Notre ordi, notre smartphone, notre carte de crédit, nos bagnoles nous géolocalisent, fournissent sur chacun d’entre nous des tonnes de données. Et on dit amen et on trouve ça génial et on en redemande au point de devenir des zombies rivés sur des écrans connectés à des réseaux dits sociaux, où on va raconter sa vie, publier des tonnes de photos de soi, de ce qu’on a fait, de ce qu’on a mangé, où on va échanger à propose de ce qu’on trouve bien, pas bien, de ce qu’on aime, qu’on n’aime pas. On sait tout ça, et on s’en défend en affirmant qu’après tout, on n’a rien à cacher. Pire ! C’est celui qui ne joue pas le jeu qui a des choses à cacher. Qui a refusé d’entrer dans l’eau ou qui en est vite sorti parce qu’il jugeait qu’elle n’était pas très limpide.
    C’est cela que je trouve inquiétant. Plus que le robot saoudien (puisque telle est à présent sa nationalité). Un robot naturalisé israëlien suivra. Puis américain. Puis russe. Pas français, ça jamais ! Nous glorieux héritiers des Lumières on ne mange pas de ce pain-là, même si on ne crache pas sur celui-là (https://www.franceculture.fr/emissions/le-magazine-de-la-redaction/quand-les-mineurs-africains-sont-abandonnes-dans-la-montagne) au nom des sacro-saintes valeurs que défendent nos chers (et coûteux) z’élus-du-peuple.
    Constaste glaçant entre un « fleuron de la technologie jetable » (puisque voué, comme le reste, à devenir obsolète sous quelques mois), et des archaïsmes qui, en terre wahabite comme chez nous en en face, chez Trump, nous rappelle qu’humainement, on n’a guère évolué depuis les cavernes.
    J’ajoute qu’avec les saoudiens, on reste dans le domaine « décent » de la technologie pure. Je n’ai pas envie de communiquer les liens que j’ai trouvés à propos des « love dolls » en latex, très prisées par nos amis asiatiques, dont la déclinaison à venir sera robotisée…

    Réponse
  10. – Une dystopie est un récit de fiction dépeignant une société imaginaire…

    https://lafranceinsoumise.fr/2017/11/20/visite-centre-de-retention-canet-a-marseille/

    […]aujourd’hui, je suis allé rendre une visite surprise au centre de rétention administrative du Canet à Marseille. Les parlementaires ont le droit à tout moment d’entrer dans les lieux d’enfermement comme les prisons, mais aussi les centres de rétention administrative.
    […]
    les interdits alimentaires ne sont pas pris en compte et les personnels nous confirment que malgré des demandes répétées la hiérarchie ne met pas en place de repas adaptés et que la faim est une réalité dans le centre.

    La visite de l’infirmerie n’est pas plus rassurante. 2 infirmières assurent une garde de 8h à 19h tous les jours. Un médecin généraliste n’est présent que 5 demi-journées par semaine. Lors de l’arrivée d’une personne, ce sont donc les infirmières qui font le premier examen, alors que ça devrait être le travail et la responsabilité d’un médecin. En cas d’urgence, il n’y a pas d’autre solution que d’envoyer les patients à l’hôpital. Mais cela nécessite 3 policiers et 1 véhicule. Il arrive que plusieurs « extractions » du centre soient nécessaires pour une seule journée. Parfois, les effectifs ne sont pas suffisants. L’extraction n’a donc pas lieu. Les personnes retenues ne sont donc tout simplement pas soignées.

    La visite de l’infirmerie n’est pas plus rassurante. 2 infirmières assurent une garde de 8h à 19h tous les jours. Un médecin généraliste n’est présent que 5 demi-journées par semaine. Lors de l’arrivée d’une personne, ce sont donc les infirmières qui font le premier examen, alors que ça devrait être le travail et la responsabilité d’un médecin. En cas d’urgence, il n’y a pas d’autre solution que d’envoyer les patients à l’hôpital. Mais cela nécessite 3 policiers et 1 véhicule. Il arrive que plusieurs « extractions » du centre soient nécessaires pour une seule journée. Parfois, les effectifs ne sont pas suffisants. L’extraction n’a donc pas lieu. Les personnes retenues ne sont donc tout simplement pas soignées.

    Le personnel soignant confirme mes craintes. Ici aussi, les tentatives de suicide font partie du quotidien. Il en va de même pour les auto-mutilations. Les troubles psychiques sont monnaie courante.
    […]
    Arrêt suivant, dans l’ancienne aile des familles, qui est maintenant dévolue aux femmes. Il y a une aire de jeu pour enfants encagée, et une salle de « détente » où deux chaises se battent en duel et une table ainsi qu’une salle vide où une télé fonctionne en boucle. Ce sont les seuls espaces communs.

    Dernier arrêt, la zone des visites. En théorie, chacun des retenus peut recevoir autant de visites qu’il souhaite par semaine pour une durée de 30 minutes. Mais l’administration doit souvent réduire cette durée en raison d’une trop forte affluence et limiter les visites par retenu à une par jour. Des familles peuvent attendre dehors plusieurs heures. Ces visites se déroulent sous surveillance constante et dans des salles au mobilier plus que vétuste.

    Avant de quitter le centre, je demande à voir le kit sanitaire distribué à l’arrivée des retenus. Draps, serviette et quelques sachets de savon ou pâte à dent ainsi qu’une brosse à dent. Pas de rasoir en raison des risques d’auto-mutilation. Le rasage s’effectue à la demande sous surveillance. On me répète que la règle c’est un rasage par jour. Mais en cas de forte affluence, on fait au mieux.

    Les conditions de vie sont donc déplorables avec des migrants et des réfugiés qui souffrent de la faim, du froid, de l’ennui et dont les conditions psychiques déplorables ne sont pas traitées.
    […]
    Enfin, il convient de noter le professionnalisme de l’ensemble des intervenants qui essayent de faire au mieux avec les moyens qui leur sont concédés. »

    Réponse
    • Tableau descriptif d’une institution vérolée en pays totalitaire. Le reportage de France-Culture dont je communiquais plus haut le lien, amène à la même conclusion. Le Préfet des Hautes-Alpes et les gendarmes tiennent respectivement un discours d’apparatchik et de kapos. Les associatifs qui se portent au secours des adolescents marchant en pleine nuit sur une route de montagne, sont traités en dissidents politiques, de même que le gars de la vallée de la Roya incriminé par le fasciste Chiotti, et soumis aux rigueurs de la justice arbitraire niçoise.
      Il y a un pays dans le pays, il y a désormais en France un rapport à l’étranger à faire pâlir d’envie les sbires du FN, il y a malheureusement un électorat conséquent derrière tout ça, une « information » officielle payée à parler d’autre chose, et il ne faut plus compter sur des instances supra-nationales pour sanctionner ce que la France est devenue.

      Réponse

Laissez une réponse à Agnès Maillard Annuler la réponse

Votre adresse e-mail ne sera pas publiée. Les champs obligatoires sont indiqués avec *

Merci de votre soutien

Soutenir Le Monolecte, concrètement!

Mon dernier livre

Comprendre l'antisémitisme
Version papier : 13€HT

Crédit photo couverture : ©Beth Jusino

Version numérique

Livre numérique Comprendre l'antisémitisme
Agnès Maillard
Le Monolecte
6,49 €

Commentaires récents

Mes réseaux sociaux

  • Mastodon
  • Seenthis
  • BlueSky
  • Sens Critique
  • Diaspora
  • Flickr
  • Instagram
  • LinkedIn
  • Page Facebook
  • Profil Facebook

Catégories

Archives

novembre 2017
L M M J V S D
 12345
6789101112
13141516171819
20212223242526
27282930