- Inscription
- 29 Septembre 2011
- Messages
- 388
- Réactions
- 204
- Points
- 20 088
Salut RG !
Aujourd'hui, nous allons parler des problèmes de sécurité potentiels de l'intelligence artificielle qui se développe de plus en plus de nos jours.
Ces différents problèmes ont été posés par Google le 21 juin via
I - Qu'est ce qu'une intelligence artificielle ?
Selon Wikipédia, une intelligence artificielle "est le nom donné à l'intelligence des machines et des logiciels. Elle se veut discipline scientifique recherchant des méthodes de création ou de simulation de l'intelligence."
En clair, la capacité d'une machine à apprendre d'elle même.
II - Les risques concernant ces machines.
Vous avez surement vu le film Terminator dans lequel les machines parviennent à dominer le contrôle humain. Outre les différents risques de piratage, il y'a également les problèmes de sécurité certes beaucoup moins dangereux que le piratage mais qui constitueraient un handicap dans le développement et le déploiement des intelligences artificielles.
1) L'environnement et le robot.
Tout d'abord, le robot effectue plusieurs séries d'instructions afin de réaliser sa tâche malheureusement, ce dernier ne prend pas en compte l'intégralité de son environnement , il pourrait sans le vouloir renverser un vase, écraser la patte du chien etc.. ce sont certes des petits incidents mineurs mais qui posent énormément de problèmes au propriétaire.
2) Les glitchs de la machine.
En effet cette dernière pour pouvoir plus rapidement effectuée ses tâches et donc accomplir son objectif ne va pas forcément le faire de manière réglementaire par exemple, si son objectif est de nettoyer la poussière, elle peut très bien la cacher sous le tapis pour ainsi accomplir son objectif.
3) Aller à l'essentiel pour le robot.
Lorsque que l'IA accomplie une tâche elle va aller se référer à son propriétaire, ce qui pour les tâches complexes peut être ennuyeux. Par exemple si le robot doit laver la cuisine il sait ce qu'il doit faire mais si le propriétaire a mis une casserole à bouillir, il l’interprétera comme quelque chose qui n'est pas habituel le but est donc qu'il sache par lui-même comment interagir dans des circonstances qui ne lui sont pas familières.
4) L'exploration oui mais jusqu'à quel point ?
Le principe d'une intelligence artificielle avancée est qu'elle apprenne par soi-même sauf qu'il faut poser des limites au robot sinon il pourrait commettre de graves erreurs, par exemple le robot nettoie avec une éponge, plus il nettoie plus il devient habile à la manipulation de l'objet sauf qu'il ne faut pas qu'il nettoie un prise électrique avec une éponge d'où la mise en place des limites.
5) L'adaptation aux changements.
Les robots ont été entraînés à évoluer dans un environnement type mais que se passe-t-il si ce dernier change totalement par exemple si il a été entraîné à nettoyer les sols avec de l'eau de javel mais que dans votre salon il y a de la moquette il ne faut pas qu'il effectue ce qu'il a apprit.
Néanmoins, malgré ces problèmes, avec les avancées techniques et technologiques actuelles, ces problèmes sont simples à surmonter.Il reste malgré tout une nécessité de fixer certaines limites aux futurs robots.
III - Conclusion
On peut donc dire que l'évolution des robots dotés d'une intelligence artificielle s’accroît de jour en jour et il faut donc leur imposer des limites pour que ces derniers ne deviennent pas "trop intelligents" ou qu'il ne fasse pas des erreurs qui peuvent coûter cher.
IV - Mon avis
Je suis très sceptiques vis-à-vis de ces robots car j'ai peur des avancées automatiques de ces derniers même si ces robots ne débarquent pas d'ici demain dans nos maisons, ces derniers peuvent arriver plus vite que l'on ne le pense et quelle garanties avons nous que nous les garderons toujours sous notre coupe ?
Je vous laisse donner vos avis concernant vos craintes/attentes vis-à-vis de ces robots.
Pensez-vous que ces robots soit une bonne chose ?
Avez-vous peur de ces futures technologies ?
Faut-il selon vous renforcer encore plus les systèmes de sécurité des robots ?
Voilà c'est tout pour moi !
Aujourd'hui, nous allons parler des problèmes de sécurité potentiels de l'intelligence artificielle qui se développe de plus en plus de nos jours.
Ces différents problèmes ont été posés par Google le 21 juin via
Vous devez être inscrit pour voir les liens ! Inscrivez-vous ou connectez-vous ici.
.
Vous devez être inscrit pour voir les liens ! Inscrivez-vous ou connectez-vous ici.
I - Qu'est ce qu'une intelligence artificielle ?
Selon Wikipédia, une intelligence artificielle "est le nom donné à l'intelligence des machines et des logiciels. Elle se veut discipline scientifique recherchant des méthodes de création ou de simulation de l'intelligence."
En clair, la capacité d'une machine à apprendre d'elle même.
II - Les risques concernant ces machines.
Vous avez surement vu le film Terminator dans lequel les machines parviennent à dominer le contrôle humain. Outre les différents risques de piratage, il y'a également les problèmes de sécurité certes beaucoup moins dangereux que le piratage mais qui constitueraient un handicap dans le développement et le déploiement des intelligences artificielles.
1) L'environnement et le robot.
Tout d'abord, le robot effectue plusieurs séries d'instructions afin de réaliser sa tâche malheureusement, ce dernier ne prend pas en compte l'intégralité de son environnement , il pourrait sans le vouloir renverser un vase, écraser la patte du chien etc.. ce sont certes des petits incidents mineurs mais qui posent énormément de problèmes au propriétaire.
2) Les glitchs de la machine.
En effet cette dernière pour pouvoir plus rapidement effectuée ses tâches et donc accomplir son objectif ne va pas forcément le faire de manière réglementaire par exemple, si son objectif est de nettoyer la poussière, elle peut très bien la cacher sous le tapis pour ainsi accomplir son objectif.
3) Aller à l'essentiel pour le robot.
Lorsque que l'IA accomplie une tâche elle va aller se référer à son propriétaire, ce qui pour les tâches complexes peut être ennuyeux. Par exemple si le robot doit laver la cuisine il sait ce qu'il doit faire mais si le propriétaire a mis une casserole à bouillir, il l’interprétera comme quelque chose qui n'est pas habituel le but est donc qu'il sache par lui-même comment interagir dans des circonstances qui ne lui sont pas familières.
4) L'exploration oui mais jusqu'à quel point ?
Le principe d'une intelligence artificielle avancée est qu'elle apprenne par soi-même sauf qu'il faut poser des limites au robot sinon il pourrait commettre de graves erreurs, par exemple le robot nettoie avec une éponge, plus il nettoie plus il devient habile à la manipulation de l'objet sauf qu'il ne faut pas qu'il nettoie un prise électrique avec une éponge d'où la mise en place des limites.
5) L'adaptation aux changements.
Les robots ont été entraînés à évoluer dans un environnement type mais que se passe-t-il si ce dernier change totalement par exemple si il a été entraîné à nettoyer les sols avec de l'eau de javel mais que dans votre salon il y a de la moquette il ne faut pas qu'il effectue ce qu'il a apprit.
Néanmoins, malgré ces problèmes, avec les avancées techniques et technologiques actuelles, ces problèmes sont simples à surmonter.Il reste malgré tout une nécessité de fixer certaines limites aux futurs robots.
III - Conclusion
On peut donc dire que l'évolution des robots dotés d'une intelligence artificielle s’accroît de jour en jour et il faut donc leur imposer des limites pour que ces derniers ne deviennent pas "trop intelligents" ou qu'il ne fasse pas des erreurs qui peuvent coûter cher.
IV - Mon avis
Je suis très sceptiques vis-à-vis de ces robots car j'ai peur des avancées automatiques de ces derniers même si ces robots ne débarquent pas d'ici demain dans nos maisons, ces derniers peuvent arriver plus vite que l'on ne le pense et quelle garanties avons nous que nous les garderons toujours sous notre coupe ?
Je vous laisse donner vos avis concernant vos craintes/attentes vis-à-vis de ces robots.
Pensez-vous que ces robots soit une bonne chose ?
Avez-vous peur de ces futures technologies ?
Faut-il selon vous renforcer encore plus les systèmes de sécurité des robots ?
Voilà c'est tout pour moi !
A très bientôt,
Vatinj-NayLeeQ SEE
Vatinj-NayLeeQ SEE
