@ÉviDanse
Pour le respect, si le robot est programmé pour... à moins d'une défaillance comme d'un voyant moteur sur une voiture, il va faire ce pour quoi il a été programmé, non ?
Sur ce sujet, je vous invite à (re)lire le recueil de nouvelles "Les Robots" d'Isaac Asimov et en particulier les deux nouvelles "Menteurs !" où il expose les trois lois de la robotique et "Cercle vicieux" où il met en scène une situation où un robot soumis à la "double contrainte" sombre dans la folie... Il n'est en fait pas simple d'édicter un corpus de règles claires et sans ambiguïtés : par exemple, si on édicte une règle pour une IA qu'elle ne doit jamais tolérer la souffrance d'un être humain, face à une situation de souffrance, elle pourra tenter de soulager cette souffrance... par l'euthanasie de celui-ci ! Je vous recommande également de vous intéresser, par exemple, au fameux "dilemme du tramway", parmi d'autres...
Le consentement pareil que pour le respect, une question de programmation. Qui peut certes défaillir ou être modifiée.
Il y a trois risques majeurs dans ce domaine : celui d'une défaillance humaine ("errare humanum est"...), celui d'un détournement malveillant volontaire (criminalité, terrorsime, guerre...) et enfin celui d'un échappement technologique (par exemple lorsque les IAs sortent du cadre d'action autorisé et prennent des initiatives non prévues). Tout cela est très très très loin d'être maîtrisé à l'heure actuelle ! Mais je suis d'accord avec point de vue selon lequel toutes les technologies ont fait peur à leurs débuts, avant de faire consensus (l'électricité par exemple au départ était considérée comme une émanation du Diable en personne !).
Je précise aussi que si ça ne tenait qu'à moi on retournerait à l'âge de Pierre en ayant appris de nos erreurs.
Sur le sujet, (re)lire bien sûr le magnifique roman post-apocalyptique de Barjavel "Ravage" !
Pour le respect, si le robot est programmé pour... à moins d'une défaillance comme d'un voyant moteur sur une voiture, il va faire ce pour quoi il a été programmé, non ?
Sur ce sujet, je vous invite à (re)lire le recueil de nouvelles "Les Robots" d'Isaac Asimov et en particulier les deux nouvelles "Menteurs !" où il expose les trois lois de la robotique et "Cercle vicieux" où il met en scène une situation où un robot soumis à la "double contrainte" sombre dans la folie... Il n'est en fait pas simple d'édicter un corpus de règles claires et sans ambiguïtés : par exemple, si on édicte une règle pour une IA qu'elle ne doit jamais tolérer la souffrance d'un être humain, face à une situation de souffrance, elle pourra tenter de soulager cette souffrance... par l'euthanasie de celui-ci ! Je vous recommande également de vous intéresser, par exemple, au fameux "dilemme du tramway", parmi d'autres...
Le consentement pareil que pour le respect, une question de programmation. Qui peut certes défaillir ou être modifiée.
Il y a trois risques majeurs dans ce domaine : celui d'une défaillance humaine ("errare humanum est"...), celui d'un détournement malveillant volontaire (criminalité, terrorsime, guerre...) et enfin celui d'un échappement technologique (par exemple lorsque les IAs sortent du cadre d'action autorisé et prennent des initiatives non prévues). Tout cela est très très très loin d'être maîtrisé à l'heure actuelle ! Mais je suis d'accord avec point de vue selon lequel toutes les technologies ont fait peur à leurs débuts, avant de faire consensus (l'électricité par exemple au départ était considérée comme une émanation du Diable en personne !).
Je précise aussi que si ça ne tenait qu'à moi on retournerait à l'âge de Pierre en ayant appris de nos erreurs.
Sur le sujet, (re)lire bien sûr le magnifique roman post-apocalyptique de Barjavel "Ravage" !
Dernière modification le 24/10/2026 10:34:52 par ZarathoustraDom.
Soyez la première personne à aimer.
