Les 5 problèmes de sécurité potentiels d'une IA selon Google.

Vatinj-NayLeeQ SEE

☼ [GFX 2D] ☼
Contributeur
Inscription
29 Septembre 2011
Messages
378
Réactions
197
Points
11 838
    Réponse de Vatinj-NayLeeQ SEE Forums généraux Discussions générales : Les 5 problèmes de sécurité potentiels d'une IA selon Google.
  • #1
Salut RG !



Aujourd'hui, nous allons parler des problèmes de sécurité potentiels de l'intelligence artificielle qui se développe de plus en plus de nos jours.

Ces différents problèmes ont été posés par Google le 21 juin via
.






I - Qu'est ce qu'une intelligence artificielle ?

Selon Wikipédia, une intelligence artificielle "est le nom donné à l'intelligence des machines et des logiciels. Elle se veut discipline scientifique recherchant des méthodes de création ou de simulation de l'intelligence."


En clair, la capacité d'une machine à apprendre d'elle même.



II - Les risques concernant ces machines.

Vous avez surement vu le film Terminator dans lequel les machines parviennent à dominer le contrôle humain. Outre les différents risques de piratage, il y'a également les problèmes de sécurité certes beaucoup moins dangereux que le piratage mais qui constitueraient un handicap dans le développement et le déploiement des intelligences artificielles.


1) L'environnement et le robot.

Tout d'abord, le robot effectue plusieurs séries d'instructions afin de réaliser sa tâche malheureusement, ce dernier ne prend pas en compte l'intégralité de son environnement , il pourrait sans le vouloir renverser un vase, écraser la patte du chien etc.. ce sont certes des petits incidents mineurs mais qui posent énormément de problèmes au propriétaire.

2) Les glitchs de la machine.


En effet cette dernière pour pouvoir plus rapidement effectuée ses tâches et donc accomplir son objectif ne va pas forcément le faire de manière réglementaire par exemple, si son objectif est de nettoyer la poussière, elle peut très bien la cacher sous le tapis pour ainsi accomplir son objectif.

3) Aller à l'essentiel pour le robot.

Lorsque que l'IA accomplie une tâche elle va aller se référer à son propriétaire, ce qui pour les tâches complexes peut être ennuyeux. Par exemple si le robot doit laver la cuisine il sait ce qu'il doit faire mais si le propriétaire a mis une casserole à bouillir, il l’interprétera comme quelque chose qui n'est pas habituel le but est donc qu'il sache par lui-même comment interagir dans des circonstances qui ne lui sont pas familières.

4) L'exploration oui mais jusqu'à quel point ?

Le principe d'une intelligence artificielle avancée est qu'elle apprenne par soi-même sauf qu'il faut poser des limites au robot sinon il pourrait commettre de graves erreurs, par exemple le robot nettoie avec une éponge, plus il nettoie plus il devient habile à la manipulation de l'objet sauf qu'il ne faut pas qu'il nettoie un prise électrique avec une éponge d'où la mise en place des limites.

5) L'adaptation aux changements.

Les robots ont été entraînés à évoluer dans un environnement type mais que se passe-t-il si ce dernier change totalement par exemple si il a été entraîné à nettoyer les sols avec de l'eau de javel mais que dans votre salon il y a de la moquette il ne faut pas qu'il effectue ce qu'il a apprit.

Néanmoins, malgré ces problèmes, avec les avancées techniques et technologiques actuelles, ces problèmes sont simples à surmonter.Il reste malgré tout une nécessité de fixer certaines limites aux futurs robots.



III - Conclusion


On peut donc dire que l'évolution des robots dotés d'une intelligence artificielle s’accroît de jour en jour et il faut donc leur imposer des limites pour que ces derniers ne deviennent pas "trop intelligents" ou qu'il ne fasse pas des erreurs qui peuvent coûter cher.



IV - Mon avis

Je suis très sceptiques vis-à-vis de ces robots car j'ai peur des avancées automatiques de ces derniers même si ces robots ne débarquent pas d'ici demain dans nos maisons, ces derniers peuvent arriver plus vite que l'on ne le pense et quelle garanties avons nous que nous les garderons toujours sous notre coupe ?



Je vous laisse donner vos avis concernant vos craintes/attentes vis-à-vis de ces robots.

Pensez-vous que ces robots soit une bonne chose ?
Avez-vous peur de ces futures technologies ?
Faut-il selon vous renforcer encore plus les systèmes de sécurité des robots ?

Voilà c'est tout pour moi !
A très bientôt,
Vatinj-NayLeeQ SEE

 

WhiiTe'

Ancien staff RG
Inscription
22 Octobre 2011
Messages
14 245
Réactions
7 976
Points
22 675
    Réponse de WhiiTe' Forums généraux Discussions générales : Les 5 problèmes de sécurité potentiels d'une IA selon Google.
  • #2
par exemple, si son objectif est de nettoyer la poussière, elle peut très bien la cacher sous le tapis pour ainsi accomplir son objectif.
Y'a pas que les IA qui le font :trollface:

Sinon très beau topic ! :D
 

Haut Bas