Les progrès de la robotique

46 réponses, 16303 vues

Citation :A voir quand un modèle capable d'identifier et éliminer une menace potentielle (ce qui est différent d'un assaillant effectif) sera déployé. Pour moi toute la question est là : comment la machine définira-t-elle que tel gars avec une arme c'est une menace (et pas un allié, un gamin avec un bout de bois ou que sais-je encore) ?

Oué parce que ça n'est jamais arrivé à un humain de "miss shoot" un innocent :x
Et puis bon les robots, même autonome, sont des outils. Rien n'empêche la programmation d'y mettre une dose de bon sens. Déjà vous vous efforcez d'y voir uniquement le côté "arme/guerre". Cependant l'IA se développera très certainement bien avant sur le commerce que sur la guerre. Récolter des données, les traiter, les utiliser. En fait hein ... c'est déjà plus ou moins le cas. Ce qu'il manque c'est une politique d'état de l'IA. Mais vouloir amorcer un mouvement "parfait" dans la gestion de l'économie, reviendrait à admettre l"inutilité du politicien en tant que tel et donc sa mise au rebus. Or actuellement c'est bien le politicien qui tire profit de son pouvoir pour son intérêt personnel (et non l'intérêt général) qui prend les décisions. Souvent les mauvaises d'ailleurs. 
Ce serait intéressant d'avoir un test à une échelle macroscopique limitée d'une gestion par une IA (genre une ville) sans contre-pouvoir limitatif humain.
(19-10-2018, 15:32)Lucius Forge a écrit :
Citation : Cependant l'IA se développera très certainement bien avant sur le commerce que sur la guerre. Récolter des données, les traiter, les utiliser. En fait hein ... c'est déjà plus ou moins le cas. 

Si tu causes des algo dans le monde de la finance... ben justement ce ne sont que des algorithmes.  Ultracomplexes et codés par des mecs avec des doctorat en math ou en physique on est d'accord (le mari d'un ex-collègue fait ce type de boulot, il est docteur en physique à la base).  Mais çà reste des algorithmes programmés pour gérer uniquement les données chiffrées qu'on lui fournit.

Si bidule monte et que machin descend alors qu'on est en aout et que le chiffre des prévisions de production de moules de zélande est sous les 800 tonnes, l'aglo va vendre (je caricature).  On ne parle finalement que d'opérations simples pour lesquelles il y a des montagnes de facteurs chiffrés prises en compte.  Je ne pense pas que parler d'IA soit juste quand on cause de ces machines là car on reste dans une pure application mathématique, comme pour les supercalculateurs utilisés en astronomie.   C'est juste une super-calculette de la mort qui effectue ses opérations outrageusement plus vite que nous, ce que font les machines depuis un moment déjà.  De plus on les a bien bridés les algo financiers tellement ils ont merdés au cours des dernières années (en 2008 notamment), preuve qu'il manque encore pas mal de capacités de "pensée" à ces programmes.
(Modification du message : 19-10-2018, 21:16 par Alias.)
Mon cher Lucius, on ne met pas en doute que l'humain est faillible, et justement parce qu'il est faillible je me pose des questions sur l'avenir des ces"IA". Parce qu''elles sont justement "programmées par des humains.
Bref déjà on a aucun levier (nous perso) pour modifier ce qui se trame actuellement, ça n''empêche pas de discuter pour voir les avis / inquiétudes de chacun. Et justement si mauvaise coompréhension du truc de discuter du pourquoi et comment ça ne pourra pas se produire.

Moi aujourd'hui quand je vois une Ia qui est "capable d'apprendre seul" ben je suis mitigé entre applaudir l'exploit des gars et avoir froid dans le dos pour les applications que certains pourraient en faire.
Et là dessus l'histoire me donnera raison !!
Je repousse ma réponse au dessus car à mon avis c'est passé entre deux tirs.
Allez lire l'article de wait but WHY ! Il y a la bà des tas de réponses informées et c'est vraiment bien expliqué!
Pour le reste je serais personnellement plutôt du côté des pessimistes car toutes les recherches sur l'ia ayant des moyens sont faites soit chez les gafa qui ne recherchent que le profit, soit en Chine où la notion d'éthique est au moins très différente de la nôtre.
(20-10-2018, 00:03)holi a écrit : Je repousse ma réponse au dessus car à mon avis c'est passé entre deux tirs.
Allez lire l'article de wait but WHY ! Il y a la bà des tas de réponses informées et c'est vraiment bien expliqué!
Pour le reste je serais personnellement plutôt du côté des pessimistes car toutes les recherches sur l'ia ayant des moyens sont faites soit chez les gafa qui ne recherchent que le profit, soit en Chine où la notion d'éthique est au moins très différente de la nôtre.

Ha mais là je te rejoins tout à fait.  Hawking n'était pas très optimiste sur les IA et je suis plutôt de son avis.  L'appât du gain et du pouvoir finira par pousser une nation ou une entreprise à aller "trop loin" avec les IA.  
Le seul point où je diverge est sur la Chine.  Ces dirigeants là sont bien trop obsédés par le contrôle pour ne pas être prudents sur le sujet.
Citation :Et là dessus l'histoire me donnera raison !!

Oh ben ça sert à rien de débattre alors, si tu es devin.
En même temps l'avis de Hawking sur un sujet qu'il ne maitrise pas ...