A la Saint Gularité, plantez le karité

		Gutboy : Un peu en marge de la Sainte Hilarité, dans les rapports entre les Umins et les Objetsdufutur, la nouvelle Paul Di Fillipo "And The Dish Ran Away With The Spoon" ici: http://www.scifi.com/scifiction/originals/originals_archive/difilippo3/difilippo31.html

Une histoire sans prétention mais très rigolote :)

		Citation : Je crois que son défaut est de ne pas argumenter beaucoup sur les progrès de l'IA, qui n'en est encore, quoi qu'on dise, qu'au rez-de-chaussée de son développement, et que personne ne donne grand espoir de décollage.

Kurzweil a des défauts, certes, mais pas ceux de ne pas argumenter, au contraire ! Je dirais que le plus gros défaut de Kurzweil c'est l'auto-référencement où il renvoie (trop) souvent à ses propres publications, et prend en exemple ses propres développements dans le domaine. Ceci dit, même s'il est un poil nombriliste, il cite quand même pas mal les autres intervenants du domaine (même ceux avec lesquels il n'est pas d'accord) et argumente solidement son propos.

		Citation : Yudkowsky prend le problème à la racine dans ses meilleurs écrits, ce qui est exceptionnel dans ce domaine, mais on est encore très loin d'un projet de construction.

Là tu m'intéresse ! T'as des titres ?

		Citation : C'est que c'est bigrement difficile à imaginer, la post-singularité... Même quand il existera des auteurs qui s'y attaquent vraiment, ils risquent de passer à côté de l'essentiel que nous n'envisageons pas.

Ca me parait évident. Mais plus généralement, en disant qu'aucun auteur n'a jamais abordé directement cela (à part Hypérion, je persiste) c'est dans le sens où les visions de la Singularité que j'ai lu à ce jour restent très restrictives et très Age d'Or, c'est à dire la super intelligence unique qui redesssine le monde.

Bon, je vais lire le dernier Kurzweil, alors, s'il est plus convaincant. Pour le Yudkowsky hard science, il y a Levels of organization in general intelligence. Il tourne un peu autour du pot, et ça démarre de manière rébarbative, mais il y a des perles à dénicher. Il aborde des choses vraiment fondamentales.

Joli post d’introduction ! ;D
Imaginez que les IA en congrès dans le cyberespace décident de modifier ce titre et le transforment en « A la Saint Gularité, plantez l’humanité ! » ;D
Bon sérieux, là, il faut que je réchléfisse avant de répondre…
De toute façon, je choisis A et c'est bien la première fois cette année que je réponds sincèrement à un sondage. ;D.

"...plantez l'humanité..."
Aucune pitié... :o)
Welcome back Zomver of the Monolith.
On attend ton point de vue sur la Singularité.

		Leo : On attend ton point de vue sur la Singularité.

M’enfin ! Mais je… Bon… Mon avis sur la Singularité n’a strictement aucune valeur : je suis ignare dans les domaines NBIC et je n’ai même pas lu le fameux bouquin de Kurzweil !
Ceci dit, je trouve ce concept séduisant même si j’ai tendance à penser (mais je me trompe peut-être) qu’il n’apporte rien d’autre que la simple formalisation de ce que beaucoup devaient sans doute intuiter.

Mon avis est surtout que cette approche qui pointe sur l’accélération possible/probable des progrès des nouvelles technologies devrait mettre en alerte les prospectivistes, lesquels sont parfois tentés de se contenter d’extrapoler notre présent...

Je ne sais si l’absence de possibilité d’une quelconque prévision de ce qui peut advenir au-delà du point de Singularité sera réellement inéluctable. C’est une vision prospectiviste comme une autre que cette affirmation, non ? Intègre t-on suffisamment le facteur Temps là-dedans ? Tout se passera t-il vraiment de façon si rapide que l’on ne pourra rien voir venir ?

Une difficulté de la prospective à long terme est bien d’estimer la vitesse des changements. On trouve sur ce point les positions les plus excessives…
Celle de Thierry Gaudin est plutôt pondérée : selon lui, les changements au cours du 21ème siècle ne se feront sentir que progressivement. Dans son étude prospective "2100 : Odyssée de l’Espèce – Prospectives et programmes du 21 ème siècle" , il n’hésite certes pas à affirmer que les sciences cognitives seront la discipline centrale des Sciences du 21ème siècle et à s’interroger (sans apporter de réponses) sur ces "êtres intermédiaires qui ne seront ni vivants ni inanimés" que l’homme aura générés, mais il n’évoque pas le phénomène de la Singularité (il est vrai que l’étude date, je crois - flemme de vérifier - de 1993, époque à laquelle on commence seulement (je crois) à évoquer la Singularité).
Il s’autorise, lui, quelques visions prospectives . Ma foi, c’est tout à son honneur d’oser cela et baisser les bras en se disant que de toute façon ça ne sert à rien de se triturer les neurones sur l’avenir puisque rien n’est prévisible me paraîtrait une attitude peu constructive. Des orientations/décisions même prises aujourd’hui peuvent avoir de gros impacts sur le long terme…

Et puis, quelques bémols ne sont pas forcément à exclure, il y a des gens, à priori pas crétins comme Robert B. Laughlin (prix Nobel de physique) qui en parlant du "bluff des nanobabioles"ne prêtent pas vraiment allégeance au Seigneur des nanos (*)

(*) Jeu de mots honteusement emprunté à Les utopies post-humaines de Rémi Sussan.

Ceci dit, Singularité, pas Singularité, ma foi, ce en quoi je crois farouchement, c’est surtout en la possibilité de l’homme augmenté et en celle de l’émergence d’une vie/intelligence artificielle. J’ai la conviction que c’est possible sans avoir la moindre idée du moment où cela le deviendra et je suis fascinée par le fait que cette nouvelle IA pourrait être de nature différente. Un saut qualitatif ne serait-il pas possible si, comme le dit, Yudkowsky, une IA s’avérait apte à reconcevoir sa propre architecture cognitive ?

Vertigineux, certes mais plausible, non ? Et là, c’est vrai que cela pourrait être l’innovation du feu de Dieu qui change tout…Que l’on ait alors du mal à savoir comment l’humanité évoluera après, c’est une évidence. Comment pourrait-il en être autrement alors qu’on ignore totalement quelle va être la nature de l’IA émergente ?
Que de monstrueux problèmes d’éthique se posent alors est également une certitude. Il ne faut pas se leurrer : toutes les possibilités offertes par les effets pervers des avancées qui seront faites seront largement exploitées. Il faudrait être un enfant de chœur pour ne pas en avoir l’intime conviction. Il n’empêche, il vaut mieux avancer du mieux que l’on peut plutôt que jouer l’obscurantisme.

Peut-être y aura-t-il d’ailleurs d’autres Singularités après cette Singularité si celle-ci advient…D’ailleurs, je me demande si l’humanité n’a pas déjà traversé des Singularités ?
La grande nouveauté est qu’on arrivera pour la première fois à une situation où l’ homme nouveau augmenté ne sera plus seulement un être issu d’une lente évolution darwiniste mais un hybride issu à la foi de cette évolution et du résultat d’ une sorte d’autocréationnisme rendu possible par les NBIC.
Si l’on va plus loin, l’homme sera également devenu démiurge puisqu’il sera parvenu à créer une vie artificielle. Les implications philosophiques et religieuses seront vertigineuses. Pas impossible que notre société ait à se repenser totalement.



Ah ! Ah ! Délire...

Quand je vois toutes les conneries rétropédalantes que véhiculent les druides de toutes confessions,
Quand je vois tout le temps que passe un chef de projet de recherche pour récolter les budgets qui pourront faire vivre son équipe pour l’année à venir,
Quand je vois des chercheurs présenter leurs objectifs comme des résultats pour ne pas perdre un financement,
Quand je vois qu’on promet aujourd’hui, dans certains domaines, des financements pour des recherches afin d’atteindre des objectifs qui sont parfois les mêmes que ceux dont on nous parlait il y a trente ans (je parle là de domaines qui n'ont rien à voir avec les NBIC),
Quand je constate la vue à court terme de nos politiques,
Quand je vois les erreurs de prospective qui ont été faites,
Quand je tente d’imaginer tout ce que je ne vois pas...

…j’ai des doutes non pas sur le progrès mais sur sa nature supposée galopante. Arf ! Je le reconnais, deux décennies de R&D m'ont appris à modérer un peu mon enthousiasme...

Toutefois, ma conviction demeure : toutes ces innovations seront possibles, ce n’est qu’une question de temps et quelques décennies de plus ne changeront rien au défi que l’humanité est en train de se préparer.

Faut-il avoir peur ? Un point de vue ici sur toutes ces idées étranges. Disons qu’il ne me paraît pas inutile de bien bien bien réfléchir. en méditant cette phrase de Bruce Sterling :

" Les idées étranges sont tolérables tant qu’elles restent à leur place d’idées étranges. Dès qu’elles commencent à vouloir changer le monde, on voit de la fumée dans l’air et du sang sur le sol. "

…

En attendant que les IA nouvelles arrivent, on s’organise déjà pour les défendre . Je crois que si de telles organisations s’avèrent un jour nécessaires, c’est bien que les IA concernées n’auront probablement pas encore fait le saut qualitatif dont on parle au-dessus. ;))))

Quand elles seront là, je me demande si elles envisageront de se syndiquer. ;D

En attendant il paraît que le plat préféré des robots, ce sont les écrouvis(ses). J’en stocke dans mon garage, on ne sait jamais… Je stocke aussi de l’huile bien sûr…

Arf! Comme d'hab', trop long ce post. TOUKO va encore m'enguirlander s'il passe par là mais bon, ça m’a déjà pris une bonne heure de pondre ce machin alors tant pis, je valide même si c’est bancal… parce que j’ai encore plein de posts à rattraper/découvrir… ;))

Un post très intéressant et très fouillé, Zomver, avec des liens excellents qui plus est. Et tu dis que tu n'y connais rien?!?!

Non, Leo, je n’y connais rien mais je m’intéresse à ce sujet et surfe donc volontiers sur le Net pour trouver des informations. J’espère savoir m’arrêter à celles qui sont pertinentes et ne pas trop gober du n’importe quoi. J’avoue que je parcours fréquemment le site "Automates intelligents". Ce site sait bien vulgariser des informations qui sinon me seraient totalement inaccessibles.

Aller, CSF manquait de débat, et j'ai du temps à moi ce matin, donc je vais tenter de répondre au post de zomver...

		zomver : Mon avis sur la Singularité n’a strictement aucune valeur : je suis ignare dans les domaines NBIC et je n’ai même pas lu le fameux bouquin de Kurzweil !

Bah ! Pourquoi ton avis n'aurait aucune valeur ? Sinon, pour la petite histoire, la révolution NBIC (pour Nucléaire, Bactériologie, Informatique, Chimie) est celle qui se termine lentement de nos jours. C'est la bombe A, Internet, le LSD & Co. Donc ce n'est en rien la révolution qui donnera la Singularité. En fait, cette révoluition qui a débuté depuis à peine une dizaine d'années, Kurzweil la nomme GNR (Génétique, Nanotechnologie, Robotique) et je dois dire que cet acronyme m'a séduit et je l'ai adopté. Après, c'est peut-être mon côté branchouille qui a parlé.

		"zomver" : Ceci dit, je trouve ce concept séduisant même si j’ai tendance à penser (mais je me trompe peut-être) qu’il n’apporte rien d’autre que la simple formalisation de ce que beaucoup devaient sans doute intuiter.

Je suis assez d'accord... d'ailleurs ce concept n'est pas sorti de nulle part même si maintenant il est employé à toutes les sauces. Ceci dit, cette formalisation est pour moi importante -- essentielle même -- tant elle permet de mieux apréhender ce qui sera probablement l'évènement majeur de ce début de XXIe siècle voir du siècle entier.

		"zomver" : Je ne sais si l’absence de possibilité d’une quelconque prévision de ce qui peut advenir au-delà du point de Singularité sera réellement inéluctable. C’est une vision prospectiviste comme une autre que cette affirmation, non ? Intègre t-on suffisamment le facteur Temps là-dedans ? Tout se passera t-il vraiment de façon si rapide que l’on ne pourra rien voir venir ?

Qui te dit qu'on ne verra rien venir ? Le simple fait de conceptualiser la Singularité prouve qu contraire qu'on la voit venir de très loin. Non, le seul fait, c'est qu'on sait ne pas pouvoir prévoir avec exactitude l'après Singularité tant les changements auront une forte amplitude qui dépasse nos capacités prévisionnelles actuelles.

		"zomver" : Une difficulté de la prospective à long terme est bien d’estimer la vitesse des changements. On trouve sur ce point les positions les plus excessives…

Le fait est qu'on observe une accélération de la vitesse des changements, de celle à laquelle une technologie est absorbée et intégrée à la société. Je n'ai plus les chiffres exacts en tête, mais Kurzweil montre bien cette accélération en prenant les exemples de la mise en place du téléphone, de la radio et de l'internet. Si je me souviens bien c'est de l'ordre de un demi siècle, quelques décennies et moins d'une decennie... Et si le phénomène continue en ce sens, il démontre que la Singularité est à prévoir vers 2040.

Ceci dit, je pense que la Singularité, comme tous les concepts prospectivistes, bien qu'annonçant une réalité, est aussi à la fois trop optimiste et aussi totalement négligeant sur certains aspects de la révolution GNR.

		"zomver" : J’ai la conviction que c’est possible sans avoir la moindre idée du moment où cela le deviendra et je suis fascinée par le fait que cette nouvelle IA pourrait être de nature différente. Un saut qualitatif ne serait-il pas possible si, comme le dit, Yudkowsky, une IA s’avérait apte à reconcevoir sa propre architecture cognitive ?

La base serait quand même de nature humaine, dans sa technologie. Certains aspects des IA de troisième ou quatrième génération (IA conçues par des IA, etc.) nous seront peut-être étrangers, mais la nature profonde desdites IA, reposant sur un substrat issu d'une techno humaine, restera compréhensible, j'en suis certain.

		"zomver" : Peut-être y aura-t-il d’ailleurs d’autres Singularités après cette Singularité si celle-ci advient…D’ailleurs, je me demande si l’humanité n’a pas déjà traversé des Singularités ?

Perso, j'en vois au moins une :

L'invention de la civilisation agraire. Je ne crois pas qu'un chasseur-cueilleur aurait pu prévoir des structures étatiques et l'histoire telle qu'elle s'est déroulé suite à la sédentarisation, l'agricultiure et l'élevage.

		"zomver" : Si l’on va plus loin, l’homme sera également devenu démiurge puisqu’il sera parvenu à créer une vie artificielle. Les implications philosophiques et religieuses seront vertigineuses. Pas impossible que notre société ait à se repenser totalement.

Tout à fait d'accord avec ça.

		"zomver" : Faut-il avoir peur ? Un point de vue ici sur toutes ces idées étranges. Disons qu’il ne me paraît pas inutile de bien bien bien réfléchir

Peur ? Pourquoi ? Comme toute techno nouvelles, celles gravitant autour de la Singularité apporteront certes leur Tchernobyl et leur Hiroshima qu'il faudra savoir gérer en temps voulu, mais aussi elles auront leur Apollo et permettront à la société de vivre mieux. Et au final, comme toutes les technos elles sauveront plus de vie qu'elles n'en n'auront détruite.

		Cyril : Sinon, pour la petite histoire, la révolution NBIC (pour Nucléaire, Bactériologie, Informatique, Chimie) est celle qui se termine lentement de nos jours. C'est la bombe A, Internet, le LSD & Co. Donc ce n'est en rien la révolution qui donnera la Singularité. En fait, cette révoluition qui a débuté depuis à peine une dizaine d'années, Kurzweil la nomme GNR (Génétique, Nanotechnologie, Robotique)

La convergence NBIC dont je parle n’a rien à voir avec la bombe A et le LSD. C’est l’équivalent du GNR dont tu parles.
Pour moi NBIC = Nanotechnology Biotechnology Information technology and Cognitive science comme ici par exemple . C’est donc ce qui donnera (peut-être) la Singularité.

		Cyril : Qui te dit qu'on ne verra rien venir ? Le simple fait de conceptualiser la Singularité prouve qu contraire qu'on la voit venir de très loin. Non, le seul fait, c'est qu'on sait ne pas pouvoir prévoir avec exactitude l'après Singularité tant les changements auront une forte amplitude qui dépasse nos capacités prévisionnelles actuelles

Je me suis effectivement mal exprimée : pour moi, "ne rien voir venir" voulait dire "ne rien voir venir de ce qui peut advenir dans l’après-Singularité" et non pas "ne pas voir venir" la Singularité. En réalité, je crois que nous sommes d’accord.

		Cyril : L'invention de la civilisation agraire. Je ne crois pas qu'un chasseur-cueilleur aurait pu prévoir des structures étatiques et l'histoire telle qu'elle s'est déroulé suite à la sédentarisation, l'agricultiure et l'élevage

C’est à cela que je pensais lorsque j’ai évoqué le fait que l’humanité avait peut-être déjà traversé une Singularité.

		Cyril : Peur ? Pourquoi ? Comme toute techno nouvelles, celles gravitant autour de la Singularité apporteront certes leur Tchernobyl et leur Hiroshima qu'il faudra savoir gérer en tem »ps voulu,

Dès le simple moment où l’on pense que les nouvelles technos pourront générer leur Equivalent-Tchernobyl/Hiroshima, il me semble que la peur n’est pas injustifiée. Le fait de savoir "gérer" de telles catastrophes n’enlèvera rien à leur horreur. Personnellement, je n’aimerais pas être de ceux qui gèreront cela, je préfèrerais arriver une fois que cela sera "géré"…

		Cyril : mais aussi elles auront leur Apollo

Oui, j’en suis sûre.

		Cyril : et permettront à la société de vivre mieux. Et au final, comme toutes les technos elles sauveront plus de vie qu'elles n'en n'auront détruite.

Je n’en sais rien et je n’arrive pas à me prononcer. J’ai juste la conviction qu’il faut quand même "avancer" parce qu’il vaut mieux accompagner des progrès que les entraver.

Pas d’obscurantisme mais une avancée réfléchie, voilà ce que je souhaite.

...

Facile à dire...

Quelles sont les voies à suivre pour faire une avancée réfléchie ?
Les comités d’éthiques ?
Je ne crois ni en leur réelle indépendance ni en leur efficacité.
Que ceux qui participent à de tels comités en essayant réellement de faire de leur mieux (et il y en a, je le sais) me pardonnent de dire cela. Pour moi, les comités d’éthique sont des pis-aller servant à faire taire les détracteurs et/ou se donner bonne conscience mais …

… oui, c’est vrai, c’est mieux que rien.