Je lance ce débat pour savoir si selon vous il est possible que notre propre création technologique prenne le pas sur nous les être humains dans le futur comme c'est souvent le cas dans les classiques de science fiction.

Une révolte des machines?

Si on s'en tient aux hypothèses de la science-fiction, cela dépendra de l'évolution de l'intelligence artificielle... Mais j'ai de la peine à concevoir qu'une machine puisse penser. Raisonner je veux bien, mais penser c'est un concept qui dépasse le matériel, donc auquel une machine n'a pas accès... Je pense qu'on va garder la main sur Skynet encore un moment...

Aujourd'hui la question n'est pas de savoir si la machine deviendra un être humain, mais si l'être humain va devenir une machine.
Son état d'être est une peau de chagrin qui bientôt disparaitra. L'âme, l'esprit, la conscience, soi, l'égo s'enfuit de plus en plus loin dans l'obscurité de notre corps. Mais demain, nous ne seront plus que des machines biologiques et notre égo une persistance mémorielle du cerveaux.

La SF veut humaniser les robots pour se convaincre qu'elle n'est pas encore une machine.

Ha bon?
Pourtant il me semble qu'on continue à progresser dans le domaine de l'intelligence artificielle, pour le reste je trouve tes propos un poil heu... "ésotériques" et gratuits sauf ton respect, Dellamorte.

Ha ? Et ça dépasse le matériel pour aller où ?

Les sujets de ce genre sont un nid à commentaires ésotériques et spirituels. Je les respecte, attention, mais je ne leur accorde aucune valeur philosophique. Lorsqu'on m'aura prouvé que la pensée dépasse le monde matériel, je l'admettrai volontiers. En attendant c'est une affirmation impossible à prouver ou à réfuter, et qui ne peut donc entrer en ligne de compte dans le cadre d'un raisonnement.

Mon avis, cela dit, est que nous sommes tous des machines; il faut en être conscient selon moi et cela ne diminue absolument pas notre valeur en tant qu'être humain. La valeur que nous nous accordons les uns aux autres dépend seule de notre morale, pas de ce que nous sommes réellement - je suis parfaitement conscient que tout un chacun est une machine biologique sophistiquée, pour autant je ne tue personne et je ne considère personne comme une chose.

Une éventuelle "révolte" des machines dépendra directement de cette conception. Si nous les traitons comme ce qu'elles seront si elles deviennent intelligentes (des êtres humains, qu'on le veuille ou non), je pense que nous ne risquons rien. Et si révolte il y a je doute fort que ça se passe à la Matrix où à la Skynet, car je ne conçois une intelligence artificielle que dotée d'une certaine sensibilité et tout le monde n'est pas un génocidaire fou.

Mais la science-fiction (celle d'Hollywood, au moins) oublie toujours un scénario à mon sens également probable : qu'au lieu d'être dépassés par notre technologie, nous intégrions notre technologie en nous. Pourquoi subir une révolte de la part d'une éventuelle forme de vie cybernétique si nous en devenions une ? Plus qu'une histoire simpliste de guerre et de domination qu'on a vue et revue des dizaines de fois, j'y verrais plus une histoire de transition de l'humanité vers une forme plus efficace et plus durable. Sans y forcer personne, bien entendu.

La technologie à toujours était pensé pour surpasser les performances purement humaines, au debut ce fut la mise en oeuvre d'outillage et d'armes qui ne faisaient que décupler la puissance propre de l'être humain ou de lui facilité l'existence, depuis peu l'homme a developpé de la technologie autonome, et encore plus recemment est intervenu l'idée du robot, de plus en plus sophistiqué et qui à terme devrait pouvoir surpasser les capaciter humaine dans tous les domaines, le seul parametre encore peu solutionné est celui de la pensée autonome qui réunirait toutes les capacités cognitives propres à l'être humain, sans les inconvenients qui font le blocage de celle ci chez nous autres, il n'est pas du tout improbable que l'on y arrive un jour vu les progrés, quand sera t-il dans ce cas?

A noter que dans matrix, tout a commencé le jour où on a inventé l'intelligence artificielle.

Si une intelligence artificielle se comporte comme nous (ce qui est le but je suppose) il faudrait faire attention à la manière dont on va "l'élever" (comme on élève un enfant) pour ne pas qu'elle devienne "mauvaise".

Ha bon, je pensais tous le contraire, bravo pour le petit texte dellamorte et je suis entièrement d'accord avec toi .

Tout à fait, ce qui implique la reconnaissance de droits et du statut d'être humain, n'en déplaise à tous ceux qui aimeraient la considérer comme une chose en prêtant à homo sapiens une sorte de monopole ésotérique de la pensée. Sous-tend ceci l'idée de l'existence de l'âme, que posséderaient les humains et non les machines et le monde animal. Ai-je besoin de longtemps argumenter à ce sujet pour qu'on voie les faiblesses de ce "raisonnement" ?



Nous améliorerons les capacités cognitives de l'être humain et abolirons leurs "blocages". Si l'on peut créer quelque chose de plus intelligent que nous, je ne vois pas pourquoi nous ne pourrions pas nous-mêmes le devenir. Comme d'habitude, c'est un faux problème.

Je me mets souvent à la place des générations passées en me disant qu'ils n'auraient pas pu imaginer une seule seconde ce à quoi nous sommes arrivé aujourd'hui et pour ma part je pense que l'évolution est plus ou moins illimitée reste à en faire bon usage, mais ça c'est une autre histoire

Je trouve le principe d'intelligence artificielle ridicule, un programme sera toujours conditionné par son créateur, il n'apprendra et ne réagira que par sa programmation de base.

De plus pour répondre au premier postulat, les machines ne prendront pas le pas sur l'humain pour la simple et bonne raison qu'elles dépendent de la prise de courant, il suffira de tirer le bon câble le moment venu.

Cependant il est clair qu'un danger est inhérent à l'informatisation de toutes les structures confère l'attaque massive de l'Estonie. Article du Figaro sur l'attaque
Le risque ne vient pas des machines mais de leurs utilisateurs ou de leurs créateurs.

Cf aussi Die Hard 4...

D'une part personne ici n'a prétendu qu'une IA serait un programme au sens où on l'entend actuellement, d'autre part, elle sera autant conditionnée par son créateur que des enfants par leurs parents. Pourtant, les humains sont intelligents, non ?

L'idée étant d'avoir un programme de base, qui puisse ensuite s'enrichir lui-même par l'apprentissage.

Ton raisonnement postule que nos esprits ne sont pas eux-mêmes des programmes sophistiqués. Postulat, encore une fois, purement métaphysique. Si le programme de base d'une IA détermine ses capacités d'apprentissage, il en va de même des capacités innées de nos cerveaux. Un enfant n'apprend que parce qu'il est doté des structures et des capacités suffisantes pour ce faire. Ces capacités ne lui tombent pas du ciel, il y a donc une part d'inné en chacun de nous, qui nous détermine en partie. La différence entre elle et ta "programmation de base" n'est que littérature.



Les humains dépendent de la nourriture. Tu viens de trouver la tactique militaire ultime ! Il suffit de brûler toute la bouffe de l'ennemi ! Comment ça, rien de neuf ...?

Campagne de Russie... donc c'est pas moi qui viens de le trouver.

D'une je ne comprends pas ta velléité je n'ai vraiment rien dit de mal.
Sauf si un tes amis est un programme informatique.
Ensuite je suis d'accord avec toi, je vois pas trop où est le problème. En fait je pense que l'IA n'en sera jamais une et qu'elle ne sera conditionnée que par le programmeur qui l'aura crée de telle ou telle façon. Tu as raison comme un enfant prendra exemple sur ses parents mais peut on reproduire la conscience. Cette petite voie qui dit c'est mal de tuer, voler...

Un exemple. Quelque peut être gentil sans être généreux. J'ai la conviction qu'une machine par exemple ne fera pas ce genre de nuance. Être bon codé 1, être mauvais codé 0. A partir de ce moment toutes les nuances ne seront qu'influencées que par ce codage de base.

Je ne suis sans doute pas assez confiant en la capacité de l'Homme a reproduire son propre raisonnement.

Beaucoup de 0 et de 1 en combinaisons variables forment une infinité de nuances et de possibilités. Ce que tu dis serait équivalent à dire : "avec le rouge, le vert et le bleu, on ne peut pas faire grand-chose". Du reste, on peut très bien concevoir des systèmes non basés sur le binaire (notamment avec des ordinateurs quantiques).

Ma vélléité était en réaction par rapport au mot "ridicule". Je n'aime pas ce genre de catégorisme (même si j'en fais parfois moi-même, je l'admets ).

C'est vrai que je n'ai pas non plus mesuré mon propos alors autant pour moi.

Je ne sais pas si tu es informaticien, mais j'ai moi même "pisser du code" il y a quelques années, je n'étais pas très bon mais j'ai vu la limite de nos langages de programmation, ils ne seront jamais assez fins pour exprimer autant de nuances que les émotions humaines peuvent en créer.
Je ne connais pas l'ordinateur quantique en fait je pense que c'est juste une miniaturisation, mais j'ai surement tord.


Il y a malheureusement une limite au codage et c'est le stockage.
Maintenant on peux se poser la question de savoir ce que représente notre "âme" en terme de stockage informatique?

Petit HS : Pour moi l'infini est aussi une idée catégorique (personne ne le met en question) qui ne signifie rien du tout, un truc inventé par quelques savants foireux qui voulaient faire coller la réalité à leurs théories mais maintenant on ne peux plus s'en défaire. Enfin je suis personne pour dire ça, mais c'est mon petit point de vue là dessus.

Une infinité, c'était une expression évidemment. Rien n'est infini (sauf peut-être l'univers, mais c'est un autre débat).

J'ai pris des cours de langage informatique, j'étais assez bon mais ça m'a saoûlé . J'ai donc abandonné l'idée de devenir informaticien.

Sinon, le fait que nos langages ne soient pas suffisants est également une affirmation assez gratuite. Mais je pense qu'une IA n'utiliserait pas un "langage". Il s'agirait juste d'une structure de base amenée à se développer, à émerger à une conscience supérieure, le programme et le hardware seraient intégrés d'une certaine façon. D'autant que les langages ne sont pas conçus pour pour exprimer des émotions à l'heure actuelle, donc il est assez difficile de les juger sur ce point.

L'ordinateur quantique est à la base une miniaturisation mais celle-ci a des conséquences, car, en gros, un qbit (bit quantique) peut avoir trois valeurs : 0, 1, ou les deux en même temps tandis qu'un bit ne peut être que 0 ou 1. Ne me demande pas pourquoi, c'est au-dessus de mes capacités. Toujours est-il qu'un ordinateur quantique mesurant la taille d'un grain de sable pourrait contenir toute la puissance des ordinateurs du monde, et qu'il est déjà théorisé par quelques scientifiques (des futuristes, d'accord...) qu'on dispose actuellement de superordinateurs plus puissants qu'un cerveau humain.

L'idée est là, le matos est là. Je suis convaincu qu'il ne reste plus qu'à "trouver le truc" et on aura des IAs aussi humaines que toi et moi.

Merci beaucoup sur ces précisions sur l'ordinateur quantique, je pense que je potasserais de mon côté pour en apprendre d'avantage.

Je pense qu'on ne se mettra pas d'accord sur les tenants et aboutissants de l'IA mais le débat reste enrichissant. Nous sommes d'accord pour dire que le langage de programmation n'est pas assez "puissant" pour traduire tout ce qui fait les nuances du raisonnement.
Mais ces langages sont à l'heure actuelle la seule interface que nous avons pour communiquer avec la machine, du premier le langage assembleur jusqu'à nos langages actuels plus répandus comme le C, Java et toute la clique.

Je ne suis pas complètement fermé à l'idée d'une intelligence artificielle mais elle sera surement froide et improductive tant que nous ne pourrons lui apprendre d'avantage que les mécanismes manichéens tels que oui/non, bien/pas bien...
Pour faire simple, plutôt que de créer l'intelligence, prenons le temps de créer les outils qui lui permettront de se développer, un outil à la mesure de notre cerveau.
Comme tu le dis plus haut l'Homme est une machine, c'est vrai, mais nos propres machines sont encore loin d'être humaine.

Ps: Pour ma remarque sur l'infini tu n'étais pas visé, je voulais juste donné mon point de vu dessus.

EDIT: Comme je le disais, j'ai approfondi le sujet de l'ordinateur quantique. En effet, tu as raison, l'idée fondamental de cette ordinateur repose sur le principe du "qubit". Le "qubit" est une sorte d'état dans lequel coexiste le 1 et le 0 du bit traditionnel et tout cela par la magie du Principe de superposition quantique. La puissance de calcul résulte donc pour un "processeur quantique" de traiter les bits, octects... non pas les uns derrière les autres mais simultanément. Ensuite ton idée rejoint la Thèse de Church-Turing qui prétend en gros que tout dans l'univers n'est que le résultat d'un calcul. Voilà la piste la plus probable de l'IA, des calculs faramineux couplés à une puissance de traitement tout aussi grande.

Je laisse soin aux gens que cela intéresse d'étudier le problème majeur de ce système qui est la décohérence quantique, si j'ai tout suivi le problème viendrait du fait qu'un état quantique confronté à un état physique traditionnel tombe lui même sous le joug de cette physique classique et perd ses propriétés quantique...

Bon j'avoue que tout ça me dépasse mais je comprend mieux le lien que tu faisais entre l'ia et ces ordinateurs... J'invite tout ceux que cela intéresse à faire des recherches eux même, car c'est vraiment très compliqué, enfin pour ma part.

Désolé mais je ne démords pas du fait que l'esprit humain doit être plus complexe qu'un petit calcul mathématique et désolé pour la longueur du post.

Intéressant. A première vue je dirais que c'est de l'orgueil, mais ce n'est pas le cas. Ce que tu dis pourrait se traduire comme : "Nous sommes trop complexes pour que notre propre science puisse nous définir facilement". Il y a donc une sorte de scepticisme vis-à-vis de nos capacités, mais une sur-évaluation de notre complexité. Puisque nous ne sommes pas les auteurs de cette complexité, je la traduis comme l'oeuvre de la "Nature" avec un grand N, qui nous ramène encore à des concepts métaphysiques fondamentalement creux. L'homme serait inaccessible, en quelque sorte, mais pas de son propre fait.

Il n'y a aucune raison concrète pour laquelle nous ne pourrions pas reproduire l'intelligence qui nous caractérise et, par extension, celle qui caractérise beaucoup d'espèces de notre planète (certes peut-être moins développée ou axée différemment, mais présente néanmoins). De plus, le mode de traitement des données du cerveau étant tout de même relativement peu efficace - un neurone ne transmet les données qu'à 1m/seconde, rappellons-le -, et son volume plutôt faible, je ne vois vraiment pas ce qu'il aurait de "spécial" ou "d'unique". Il a par exemple été calculé qu'un cerveau de la même taille utilisant du matériel électronique serait 50 millions de fois plus rapide (et en informatique, rapidité et puissance, c'est un peu kif-kif il me semble).

Après, c'est mon point de vue matérialiste. Rien n'empêche de croire qu'il y a quelque chose "en plus" au-delà du monde physique, mais ça ne changera rien à la dure réalité.

Je te rassure, je ne suis pas une sorte de créationniste. Vive l'Evolution

Je comprends ton point de vue et il est vrai que mon propos tient plus de la philosophie que des sciences dures, mais c'est aussi indéniable que par exemple chaque humains se soient demandés au moins une fois "qu'est ce que je fiche ici?". Donc c'est une part de l'intelligence humaine à ne pas occulter.

Mais je vais prendre un dernier exemple et après je crois que nous laisserons à d'autre le soin d'apporter leur contribution. Dans mon précédent post, je te parlais de la théorie de Church concernant la calculabilité de toutes choses. Mais alors comment calculer ce qui n'existe pas ou pas encore et qui est directement produit pas le cerveau de l'Homme: la peinture, la musique, la littérature...

Après tu as sans doute raison, c'est peut être juste de la vanité de croire que nous sommes "irréalisables" et c'est peut être aussi dû à toutes mes expériences, mes joies et mes peines qui me font me sentir unique.
Une partie de la thèse de Church est citée ainsi "Tout traitement réalisable mécaniquement peut être accompli par un ordinateur." La suite logique serait "tous les ordinateurs sont semblables donc un ordinateur peut en simuler un autre" mais moi, ça me ferait mal.

En fin de compte seul l'avenir nous dira si lequel d'entre nous avait raison.
Alors rendez-vous dans dix ans.

Rien n'est directement produit par le cerveau de l'homme. Pour avoir moi-même un peu écrit, j'ai le réalisme de dire que je n'ai rien inventé; tout ce que j'ai fait c'était remettre dans une configuration différente des données qui existaient déjà. Réinterpréter n'est pas créer. L'art, c'est de la réinterprétation, d'abord de la nature, puis de l'art lui-même, de l'homme, etc. On passe tout au mixer et on obtient un résultat. Bref, les tableaux ne naissent pas dans les choux.

Quand bien même tu inventerais, ce serait forcément via un processus matériel, physique, donc calculable.

J'ai pas besoin d'attendre pour voir qui a raison, je sais que c'est moi . Encore que ce sera assez satisfaisant, mais je doute que ça se passe aussi facilement. Même si on produit des IAs, il faudra des décennies de discriminations et de militantisme pour qu'on les reconnaisse comme nos égales. Le fait de savoir si les IAs ou non sont possibles n'est pas l'enjeu de cette discussion selon moi - puisqu'elles le sont -, l'enjeu est de savoir dans quel camp on se trouvera une fois cette lutte sociale entamée. Des progressistes, ou de ceux qui continueront à penser que c'est impossible alors qu'on en aura déjà créé ?

Je pense qu'on ne se mettra jamais d'accord.
Et modeste avec ça.

Personnellement j'ai beaucoup d'empathie pour les robots d'Assimov par exemple. Mon point de vue est purement technique, je dois avouer que si une intelligence synthétique était l'égale de la mienne ça ne me dérangerais pas du tout.
Je crois que j'ai été trop radical dans mes propos, parce que je serais ravi d'avoir un copain robot, je n'ai pas perdu mes rêves d'enfant. (Sortez les violons )

Quoique pour une fois je suis d'accord, le débat (si ils sont déjà crées) sera centré sur les droits des ces êtres synthétique. A mon avis, le problème ne viendra de leur pénétration dans nos vies, mais plutôt de la manière de les en faire sortir. A t-on le droit de débrancher une machine qui existe, de la mettre au placard...?

Non, Lumière Verte , nous sommes tellement intelligents, que bien avant que vous n'y pensiez, nous aurons introduit des contrôles tellement sophistiqués, que tu n'en a même pas idée.

Ce ne sera probablement pas aussi simple.

Pour moi, ce qu'il faut combattre, ce sont les philosophes de l'immobilisme. Ceux qui pensent actuellement qu'on ne peut créer une vraie intelligence à notre image - en prétextant que nous aurions quelque qualité métaphysique qui empêche cela, bref, une âme que les machines n'auraient pas - garderont cet avis même lorsque nous en aurons créé (un croyant, ça ne se convainc pas). Ils diront "Effectivement, il se comporte comme un être humain, ne peut pas être a priori distingué d'un être humain et pourtant, ce n'en n'est pas un, car créer une IA est impossible". Et comme l'IA ne sera pas humaine d'après leurs critères abstraits, ils pourront tout justifier à son égard.

C'est ça le vrai danger, pour moi.

EDIT : ça m'amène à une autre question. Si vous rencontrez une machine physiquement humaine, et que vous ne pouvez pas distinguer d'un être humain (qui a donc des avis, des émotions, etc), comment savoir si ce que vous voyez est une excellente imitation, ou pense vraiment par lui-même ?

Le fait est qu'on ne peut pas le savoir des êtres humains non plus : en ce qui me concerne, je suis la seule personne dont je suis sûr qu'elle pense et qu'elle est consciente, et il m'est impossible de fouiller la tête des autres pour savoir si c'est leur cas. En fait, la question (assez métaphysique d'ailleurs) est complètement inutile : ce qui montre des caractéristiques et un comportement humain doit être traité comme tel, et aucune autre considération non-basée sur le perceptible ne doit entrer en ligne de compte (et j'y ajouterais que l'humanité étant surtout définie par son mode de pensée plus que son fonctionnement, elle ne dépend pas du tout de l'apparence physique et qu'un micro-ondes de 2250 doté d'une IA émergente devrait, à toutes fins utiles, être considéré comme humain ).

Une sorte de Controverse de Valladolid pour les IA.

A quoi penses-tu ? Je te renvois à mon lien de la Controverse.

Moi je ne voie pas ca en terme de ressemblance humaine mais en terme de machines qui fonderaient leur propre physionomie et fonctionnement diffèrent du notre que justement nous humains ne pourrions plus comprendre et maitriser, ce que j'imagine ne cherche ou ne souhaite pas ressembler à un homme et penser comme lui, une technologie que ne pouvons pas encore concevoir et imaginer qui nous causerait du tord.

La technologie si elle devenait autonome chercherait à ne plus ressembler à un homme pour des raisons pratique malgré notre souhait de la créer à notre image ou pas.

Exactement aux choses qu'on a déjà justifiées par le passé : esclavage, expérimentations, etc. Par la suite, simples discriminations juridiques, puis sociales.



Une IA doit forcément être, au moins au départ, fondée sur une intelligence similaire à l'intelligence humaine pour la bonne et simple raison que nous n'avons aucune autre référence sur laquelle la baser. Donc, au moins au début, les IA penseront comme nous... Et si elles ont l'impulsion de s'améliorer et de s'éloigner de la forme humaine actuelle, nous pourrons également l'avoir.

Notez que je suis le premier à militer pour la médecine améliorative, qui vise "pour des raisons pratiques" à améliorer l'être humain (quitte, mais c'est une question de choix personnel, à adopter une forme qui ne lui ressemble plus physiquement). Et tout le monde est loin d'être d'accord avec moi sur ce point, je ne vois pas pourquoi des machines basées sur nous seraient fondamentalement plus progressistes.

Bref, si des machines conçues à l'image de l'homme peuvent décider de changer, on ne voit pas pourquoi l'homme ne le pourrait pas. Jusqu'à preuve du contraire nous ne sommes pas inaltérables. La question que tu poses en ce qui concerne notre technologie s'applique dès lors également à nous - rien de neuf sous le soleil.

Nous rentrons un peu dans le domaine de la science fiction là.
Je rejoins Wemerien car beaucoup de projets actuels sont des androïdes donc les premières machines auront surement apparence humaine. L'aube de l'androïde - Ubergizmo
Après prévoir le comportement d'un individu peut être mais d'une nouvelle espèce ça me parait chaud les haricots.
Enfin j'espère qu'on produira quelque chose d'un peu plus performant qu'un ado boutonneux en plastique qui fera "mes parents y me saoulent grave" <- de ce fait -> " j'mets des Converse trouées".

Ben... S'ils sont faits à l'image de l'homme je ne vois pas pourquoi ils seraient supérieurs.

Ils comprendront "la Ferme Célébrités" 50 millions de fois plus vite, quoi (encore que d'ici-là, on aura probablement remplacé nos cerveaux par des systèmes électroniques ).

Des paramètres technologiques sont déjà applicables aux hommes, Arté diffuse parfois un documentaire pas tout récent d'ailleurs et très intéressant ou un homme tétraplégique manipule mentalement la souris du PC grâce à un implant confectionné par des scientifiques, c'est le thème de l'émission d'ailleurs que j'aimerais beaucoup revoir à ce sujet, il y est également question de robochirurgie à la minutie parfaite, le chirurgien opérant à distance.

La ferme célébrité c'est comme un livre de Dan Brown, on cherche à comprendre mais tout est bidon.

Lumière Verte, voilà un lien du site Science Actualité qui traite de ce sujet, des applications techniques à des fins médicales. Mais de tel système existent même à l'heure actuel pour simplement jouer aux jeux video comme le casque EPOC sur 20 Minutes

EDIT: Eurêka, j'ai du me battre pour avoir ça (contre internet ) mais je crois que j'ai retrouvé ce fameux documentaire. Remercions aussi tout ces gens qui upload ces vidéos.
Partie 1
Partie 2
Partie 3