Connexion
S'inscrire
Actualités
Quoi de neuf
Activités générales
Auteurs
Forums
Nouveaux messages
Rechercher un forum
Quoi de neuf
Nouveaux messages
Nouveaux messages de profil
Activités générales
Membres
Membres inscrits
Visiteurs actuels
Nouveaux messages de profil
Rechercher dans les messages des profils
Teams
Créé ton équipe
Quoi de neuf ?
Nouveaux messages
Rechercher un forum
Menu
Connexion
S'inscrire
Install the app
Install
Forums
Forums généraux
RealityGaming
Les 5 problèmes de sécurité potentiels d'une IA selon Google.
JavaScript is disabled. For a better experience, please enable JavaScript in your browser before proceeding.
Vous utilisez un navigateur non à jour ou ancien. Il ne peut pas afficher ce site ou d'autres sites correctement.
Vous devez le mettre à jour ou utiliser un
navigateur alternatif
.
Répondre à la discussion
Message
<blockquote data-quote="Vatinj-NayLeeQ SEE" data-source="post: 6634529" data-attributes="member: 6150"><p style="text-align: center"><span style="font-family: 'Convergence'"><span style="color: #ff8000">S</span>alut RG ! <span style="color: #ff8000">[FA]fa-child[/FA]</span></span></p> <p style="text-align: center"><span style="font-family: 'Convergence'"><span style="color: #ff8000"></span></span></p> <p style="text-align: center"><img src="http://img110.xooimage.com/files/0/f/2/ban-4fc00f8.png" alt="" class="fr-fic fr-dii fr-draggable " style="" /></p> <p style="text-align: center"></p> <p style="text-align: center"><span style="font-family: 'Convergence'"><span style="color: #ff8000">A</span>ujourd'hui, nous allons parler des problèmes de sécurité potentiels de l'intelligence artificielle qui se développe de plus en plus de nos jours. <span style="color: #ff8000">[FA]fa-reply[/FA]</span></span></p> <p style="text-align: center"><span style="font-family: 'Convergence'"></span></p> <p style="text-align: center"><span style="font-family: 'Convergence'"><span style="color: #ff8000">C</span>es différents problèmes ont été posés par Google le 21 juin via</span></p> <p style="text-align: center"><span style="font-family: 'Convergence'"><a href="https://arxiv.org/abs/1606.06565" target="_blank">ce site</a>. <span style="color: #ff8000">[FA]fa-newspaper-o[/FA]</span></span></p> <p style="text-align: center"></p> <p style="text-align: center"><img src="http://img110.xooimage.com/files/0/f/2/ban-4fc00f8.png" alt="" class="fr-fic fr-dii fr-draggable " style="" /></p> <p style="text-align: center"><a href="http://img110.xooimage.com/views/8/b/6/000010180_imagear...alelarge-4fca02e.jpg/" target="_blank"><img src="http://img110.xooimage.com/files/8/b/6/000010180_imagear...alelarge-4fca02e.jpg" alt="" class="fr-fic fr-dii fr-draggable " style="" /></a></p> <p style="text-align: center"></p> <p style="text-align: center"></p> <p style="text-align: center"><span style="font-family: 'Convergence'"><span style="color: #ff8000">I </span>- <span style="color: #ff8000">Q</span>u'est ce qu'une intelligence artificielle ?</span></p> <p style="text-align: center"><span style="font-family: 'Convergence'"></span></p> <p style="text-align: center"><span style="font-family: 'Convergence'"><span style="color: #ff8000">S</span>elon Wikipédia, une intelligence artificielle <em>"est le nom donné à l'<strong>intelligence</strong> des machines et des logiciels. Elle se veut discipline scientifique recherchant des méthodes de création ou de simulation de l'<strong>intelligence</strong>."</em></span></p> <p style="text-align: center"></p> <p style="text-align: center"><span style="font-family: 'Convergence'"><span style="color: #ff8000">E</span>n clair, la capacité d'une machine à apprendre d'elle même. <span style="color: #ff8000">[FA]fa-pencil-square-o[/FA]</span></span></p> <p style="text-align: center"><span style="font-family: 'Convergence'"></span></p> <p style="text-align: center"><span style="font-family: 'Convergence'"><img src="http://img110.xooimage.com/files/0/f/2/ban-4fc00f8.png" alt="" class="fr-fic fr-dii fr-draggable " style="" /></span></p> <p style="text-align: center"><span style="font-family: 'Convergence'"></span></p> <p style="text-align: center"><span style="font-family: 'Convergence'"><span style="color: #ff8000">II</span> - <span style="color: #ff8000">L</span>es risques concernant ces machines. <span style="color: #ff8000">[FA]fa-exclamation-circle[/FA]</span></span></p> <p style="text-align: center"><span style="font-family: 'Convergence'"></span></p> <p style="text-align: center"><span style="font-family: 'Convergence'"><span style="color: #ff8000">V</span>ous avez surement vu le film Terminator dans lequel les machines parviennent à <strong>dominer</strong> le contrôle humain. Outre les différents risques de piratage, il y'a également les <strong>problèmes de sécurité</strong> certes beaucoup moins dangereux que le piratage mais qui constitueraient un <strong>handicap</strong> dans le développement et le déploiement des <strong>intelligences artificielles</strong>.</span></p> <p style="text-align: center"></p> <p style="text-align: center"><span style="font-family: 'Convergence'">1) <u><span style="color: #ff8000">L</span>'environnement et le robot.</u> <span style="color: #ff8000">[FA]fa-globe[/FA]</span></span></p> <p style="text-align: center"><span style="font-family: 'Convergence'"></span></p> <p style="text-align: center"><span style="font-family: 'Convergence'"><span style="color: #ff8000">T</span>out d'abord, le robot effectue plusieurs séries d'instructions afin de <strong>réaliser sa tâche</strong> malheureusement, ce dernier ne prend pas en compte <strong>l'intégralité</strong> de son environnement , il pourrait sans le vouloir <strong>renverser un vase</strong>, écraser la patte du chien etc.. ce sont certes des petits <strong>incidents</strong> mineurs mais qui posent énormément de <strong>problèmes</strong> au propriétaire.</span></p> <p style="text-align: center"><span style="font-family: 'Convergence'"></span></p> <p style="text-align: center"><span style="font-family: 'Convergence'">2) <u><span style="color: #ff8000">L</span>es glitchs de la machine.</u> <span style="color: #ff8000">[FA]fa-gears[/FA]</span></span></p> <p style="text-align: center"></p> <p style="text-align: center"><span style="font-family: 'Convergence'"><span style="color: #ff8000">E</span>n effet cette dernière pour pouvoir <strong>plus rapidement</strong> effectuée ses tâches et donc accomplir son objectif ne va pas forcément le faire de manière <strong>réglementaire</strong> par exemple, si son objectif est de nettoyer la poussière, elle peut très bien la <strong>cacher</strong> sous le tapis pour ainsi accomplir son <strong>objectif</strong>.</span></p> <p style="text-align: center"><span style="font-family: 'Convergence'"></span></p> <p style="text-align: center"><span style="font-family: 'Convergence'">3) <u><span style="color: #ff8000">A</span>ller à l'essentiel pour le robot.</u> <span style="color: #ff8000">[FA]fa-forward[/FA]</span></span></p> <p style="text-align: center"><span style="font-family: 'Convergence'"></span></p> <p style="text-align: center"><span style="font-family: 'Convergence'"><span style="color: #ff8000">L</span>orsque que l'IA accomplie une tâche elle va aller se <strong>référer</strong> à son propriétaire, ce qui pour les tâches <strong>complexes</strong> peut être <strong>ennuyeux</strong>. Par exemple si le robot doit laver la cuisine il sait ce qu'il doit faire mais si le propriétaire a mis une casserole à bouillir, il <strong>l’interprétera</strong> comme quelque chose qui n'est <strong>pas habituel</strong> le but est donc qu'il sache par lui-même comment interagir dans des <strong>circonstances</strong> qui ne lui sont <strong>pas familières</strong>.</span></p> <p style="text-align: center"><span style="font-family: 'Convergence'"></span></p> <p style="text-align: center"><span style="font-family: 'Convergence'">4) <u><span style="color: #ff8000">L'</span>exploration oui mais jusqu'à quel point ?</u> <span style="color: #ff8000">[FA]fa-crosshairs[/FA]</span></span></p> <p style="text-align: center"><span style="font-family: 'Convergence'"></span></p> <p style="text-align: center"><span style="font-family: 'Convergence'"><span style="color: #ff8000">L</span>e principe d'une intelligence artificielle avancée est qu'elle <strong>apprenne par soi-même</strong> sauf qu'il faut poser des <strong>limites</strong> au robot sinon il pourrait commettre de <strong>graves erreurs</strong>, par exemple le robot nettoie avec une éponge, plus il nettoie plus il devient habile à la manipulation de l'objet sauf qu'il ne faut pas qu'il nettoie un prise électrique avec une éponge d'où la mise en place des limites.</span></p> <p style="text-align: center"><span style="font-family: 'Convergence'"></span></p> <p style="text-align: center"><span style="font-family: 'Convergence'">5) <u><span style="color: #ff8000">L</span>'adaptation aux changements.</u> <span style="color: #ff8000">[FA]fa-edit[/FA]</span></span></p> <p style="text-align: center"><span style="font-family: 'Convergence'"></span></p> <p style="text-align: center"><span style="font-family: 'Convergence'"><span style="color: #ff8000">L</span>es robots ont été entraînés à <strong>évoluer</strong> dans un environnement type mais que se passe-t-il si ce dernier change totalement par exemple si il a été entraîné à nettoyer les sols avec de l'eau de javel mais que dans votre salon il y a de la moquette <strong>il ne faut pas qu'il effectue ce qu'il a appri</strong>t.</span></p> <p style="text-align: center"><span style="font-family: 'Convergence'"></span></p> <p style="text-align: center"><span style="font-family: 'Convergence'"><span style="color: #ff8000">N</span>éanmoins, malgré ces problèmes, avec les <strong>avancées techniques et technologiques</strong> actuelles, ces problèmes sont <strong>simples à surmonter</strong>.Il reste malgré tout une nécessité de fixer certaines <strong>limites</strong> aux futurs robots.</span></p> <p style="text-align: center"><span style="font-family: 'Convergence'"></span></p> <p style="text-align: center"><span style="font-family: 'Convergence'"><img src="http://img110.xooimage.com/files/0/f/2/ban-4fc00f8.png" alt="" class="fr-fic fr-dii fr-draggable " style="" /></span></p> <p style="text-align: center"><span style="font-family: 'Convergence'"></span></p> <p style="text-align: center"><span style="font-family: 'Convergence'"><span style="color: #ff8000">III</span> -<span style="color: #ff8000"> <u>C</u></span><u>onclusion</u> <span style="color: #ff8000">[FA]fa-list-alt[/FA]</span></span></p> <p style="text-align: center"></p> <p style="text-align: center"><span style="font-family: 'Convergence'"><span style="color: #ff8000">O</span>n peut donc dire que l'évolution des robots dotés d'une intelligence artificielle <strong>s’accroît</strong> de jour en jour et il faut donc leur imposer des limites pour que ces derniers ne deviennent pas <strong>"trop intelligents" </strong>ou qu'il ne fasse pas des erreurs qui peuvent coûter cher.</span></p> <p style="text-align: center"></p> <p style="text-align: center"><img src="http://img110.xooimage.com/files/0/f/2/ban-4fc00f8.png" alt="" class="fr-fic fr-dii fr-draggable " style="" /></p> <p style="text-align: center"></p> <p style="text-align: center"><span style="font-family: 'Convergence'"><span style="color: #ff8000">IV</span> - <u><span style="color: #ff8000">M</span>on avis</u> <span style="color: #ff8000">[FA]fa-eye[/FA]</span></span></p> <p style="text-align: center"><span style="font-family: 'Convergence'"></span></p> <p style="text-align: center"><span style="font-family: 'Convergence'"><span style="color: #ff8000">J</span>e suis très <strong>sceptiques</strong> vis-à-vis de ces robots car j'ai peur des avancées automatiques de ces derniers même si ces robots ne débarquent pas d'ici demain dans nos maisons, ces derniers peuvent arriver plus vite que l'on ne le pense et quelle <strong>garanties</strong> avons nous que nous les garderons toujours <strong>sous notre coupe</strong> ?</span></p> <p style="text-align: center"><span style="font-family: 'Convergence'"></span></p> <p style="text-align: center"><span style="font-family: 'Convergence'"><img src="http://img110.xooimage.com/files/0/f/2/ban-4fc00f8.png" alt="" class="fr-fic fr-dii fr-draggable " style="" /></span></p> <p style="text-align: center"><span style="font-family: 'Convergence'"></span></p> <p style="text-align: center"><span style="font-family: 'Convergence'"><span style="color: #ff8000">J</span>e vous laisse donner vos avis concernant vos craintes/attentes vis-à-vis de ces robots.</span></p> <p style="text-align: center"><span style="font-family: 'Convergence'"></span></p> <p style="text-align: center"><span style="font-family: 'Convergence'"><strong><span style="color: #ff8000">P</span>ensez-vous</strong> que ces robots soit une bonne chose ?</span></p> <p style="text-align: center"><span style="font-family: 'Convergence'"><strong><span style="color: #ff8000">A</span>vez-vous</strong> peur de ces futures technologies ?</span></p> <p style="text-align: center"><span style="font-family: 'Convergence'"><strong><span style="color: #ff8000">F</span>aut-il</strong> selon vous renforcer encore plus les systèmes de sécurité des robots ? </span></p> <p style="text-align: center"><span style="font-family: 'Convergence'"></span></p> <p style="text-align: center"><span style="font-family: 'Convergence'"><span style="color: #ff8000">V</span>oilà c'est tout pour moi ! </span></p> <p style="text-align: center"><span style="font-family: 'Convergence'"></span></p> <p style="text-align: right"><span style="font-family: 'Convergence'">A très bientôt,</span></p> <p style="text-align: right"><span style="font-family: 'Convergence'"><em>Vatinj-NayLeeQ SEE</em></span></p> <p style="text-align: center"><span style="font-family: 'Convergence'"></span></p> <p style="text-align: center"><span style="font-family: 'Convergence'"></span></p></blockquote><p></p>
[QUOTE="Vatinj-NayLeeQ SEE, post: 6634529, member: 6150"] [CENTER][FONT=Convergence][COLOR=#ff8000]S[/COLOR]alut RG ! [COLOR=#ff8000][FA]fa-child[/FA] [/COLOR][/FONT] [IMG]http://img110.xooimage.com/files/0/f/2/ban-4fc00f8.png[/IMG] [FONT=Convergence][COLOR=#ff8000]A[/COLOR]ujourd'hui, nous allons parler des problèmes de sécurité potentiels de l'intelligence artificielle qui se développe de plus en plus de nos jours. [COLOR=#ff8000][FA]fa-reply[/FA][/COLOR] [COLOR=#ff8000]C[/COLOR]es différents problèmes ont été posés par Google le 21 juin via [URL='https://arxiv.org/abs/1606.06565']ce site[/URL]. [COLOR=#ff8000][FA]fa-newspaper-o[/FA][/COLOR][/FONT] [IMG]http://img110.xooimage.com/files/0/f/2/ban-4fc00f8.png[/IMG] [URL='http://img110.xooimage.com/views/8/b/6/000010180_imagear...alelarge-4fca02e.jpg/'][IMG]http://img110.xooimage.com/files/8/b/6/000010180_imagear...alelarge-4fca02e.jpg[/IMG][/URL] [FONT=Convergence][COLOR=#ff8000]I [/COLOR]- [COLOR=#ff8000]Q[/COLOR]u'est ce qu'une intelligence artificielle ? [COLOR=#ff8000]S[/COLOR]elon Wikipédia, une intelligence artificielle [I]"est le nom donné à l'[B]intelligence[/B] des machines et des logiciels. Elle se veut discipline scientifique recherchant des méthodes de création ou de simulation de l'[B]intelligence[/B]."[/I][/FONT] [FONT=Convergence][COLOR=#ff8000]E[/COLOR]n clair, la capacité d'une machine à apprendre d'elle même. [COLOR=#ff8000][FA]fa-pencil-square-o[/FA][/COLOR] [IMG]http://img110.xooimage.com/files/0/f/2/ban-4fc00f8.png[/IMG] [COLOR=#ff8000]II[/COLOR] - [COLOR=#ff8000]L[/COLOR]es risques concernant ces machines. [COLOR=#ff8000][FA]fa-exclamation-circle[/FA][/COLOR] [COLOR=#ff8000]V[/COLOR]ous avez surement vu le film Terminator dans lequel les machines parviennent à [B]dominer[/B] le contrôle humain. Outre les différents risques de piratage, il y'a également les [B]problèmes de sécurité[/B] certes beaucoup moins dangereux que le piratage mais qui constitueraient un [B]handicap[/B] dans le développement et le déploiement des [B]intelligences artificielles[/B].[/FONT] [FONT=Convergence]1) [U][COLOR=#ff8000]L[/COLOR]'environnement et le robot.[/U] [COLOR=#ff8000][FA]fa-globe[/FA][/COLOR] [COLOR=#ff8000]T[/COLOR]out d'abord, le robot effectue plusieurs séries d'instructions afin de [B]réaliser sa tâche[/B] malheureusement, ce dernier ne prend pas en compte [B]l'intégralité[/B] de son environnement , il pourrait sans le vouloir [B]renverser un vase[/B], écraser la patte du chien etc.. ce sont certes des petits [B]incidents[/B] mineurs mais qui posent énormément de [B]problèmes[/B] au propriétaire. 2) [U][COLOR=#ff8000]L[/COLOR]es glitchs de la machine.[/U] [COLOR=#ff8000][FA]fa-gears[/FA][/COLOR][/FONT] [FONT=Convergence][COLOR=#ff8000]E[/COLOR]n effet cette dernière pour pouvoir [B]plus rapidement[/B] effectuée ses tâches et donc accomplir son objectif ne va pas forcément le faire de manière [B]réglementaire[/B] par exemple, si son objectif est de nettoyer la poussière, elle peut très bien la [B]cacher[/B] sous le tapis pour ainsi accomplir son [B]objectif[/B]. 3) [U][COLOR=#ff8000]A[/COLOR]ller à l'essentiel pour le robot.[/U] [COLOR=#ff8000][FA]fa-forward[/FA][/COLOR] [COLOR=#ff8000]L[/COLOR]orsque que l'IA accomplie une tâche elle va aller se [B]référer[/B] à son propriétaire, ce qui pour les tâches [B]complexes[/B] peut être [B]ennuyeux[/B]. Par exemple si le robot doit laver la cuisine il sait ce qu'il doit faire mais si le propriétaire a mis une casserole à bouillir, il [B]l’interprétera[/B] comme quelque chose qui n'est [B]pas habituel[/B] le but est donc qu'il sache par lui-même comment interagir dans des [B]circonstances[/B] qui ne lui sont [B]pas familières[/B]. 4) [U][COLOR=#ff8000]L'[/COLOR]exploration oui mais jusqu'à quel point ?[/U] [COLOR=#ff8000][FA]fa-crosshairs[/FA][/COLOR] [COLOR=#ff8000]L[/COLOR]e principe d'une intelligence artificielle avancée est qu'elle [B]apprenne par soi-même[/B] sauf qu'il faut poser des [B]limites[/B] au robot sinon il pourrait commettre de [B]graves erreurs[/B], par exemple le robot nettoie avec une éponge, plus il nettoie plus il devient habile à la manipulation de l'objet sauf qu'il ne faut pas qu'il nettoie un prise électrique avec une éponge d'où la mise en place des limites. 5) [U][COLOR=#ff8000]L[/COLOR]'adaptation aux changements.[/U] [COLOR=#ff8000][FA]fa-edit[/FA][/COLOR] [COLOR=#ff8000]L[/COLOR]es robots ont été entraînés à [B]évoluer[/B] dans un environnement type mais que se passe-t-il si ce dernier change totalement par exemple si il a été entraîné à nettoyer les sols avec de l'eau de javel mais que dans votre salon il y a de la moquette [B]il ne faut pas qu'il effectue ce qu'il a appri[/B]t. [COLOR=#ff8000]N[/COLOR]éanmoins, malgré ces problèmes, avec les [B]avancées techniques et technologiques[/B] actuelles, ces problèmes sont [B]simples à surmonter[/B].Il reste malgré tout une nécessité de fixer certaines [B]limites[/B] aux futurs robots. [IMG]http://img110.xooimage.com/files/0/f/2/ban-4fc00f8.png[/IMG] [COLOR=#ff8000]III[/COLOR] -[COLOR=#ff8000] [U]C[/U][/COLOR][U]onclusion[/U] [COLOR=#ff8000][FA]fa-list-alt[/FA][/COLOR][/FONT] [FONT=Convergence][COLOR=#ff8000]O[/COLOR]n peut donc dire que l'évolution des robots dotés d'une intelligence artificielle [B]s’accroît[/B] de jour en jour et il faut donc leur imposer des limites pour que ces derniers ne deviennent pas [B]"trop intelligents" [/B]ou qu'il ne fasse pas des erreurs qui peuvent coûter cher.[/FONT] [IMG]http://img110.xooimage.com/files/0/f/2/ban-4fc00f8.png[/IMG] [FONT=Convergence][COLOR=#ff8000]IV[/COLOR] - [U][COLOR=#ff8000]M[/COLOR]on avis[/U] [COLOR=#ff8000][FA]fa-eye[/FA][/COLOR] [COLOR=#ff8000]J[/COLOR]e suis très [B]sceptiques[/B] vis-à-vis de ces robots car j'ai peur des avancées automatiques de ces derniers même si ces robots ne débarquent pas d'ici demain dans nos maisons, ces derniers peuvent arriver plus vite que l'on ne le pense et quelle [B]garanties[/B] avons nous que nous les garderons toujours [B]sous notre coupe[/B] ? [IMG]http://img110.xooimage.com/files/0/f/2/ban-4fc00f8.png[/IMG] [COLOR=#ff8000]J[/COLOR]e vous laisse donner vos avis concernant vos craintes/attentes vis-à-vis de ces robots. [B][COLOR=#ff8000]P[/COLOR]ensez-vous[/B] que ces robots soit une bonne chose ? [B][COLOR=#ff8000]A[/COLOR]vez-vous[/B] peur de ces futures technologies ? [B][COLOR=#ff8000]F[/COLOR]aut-il[/B] selon vous renforcer encore plus les systèmes de sécurité des robots ? [COLOR=#ff8000]V[/COLOR]oilà c'est tout pour moi ! [/FONT][/CENTER] [RIGHT][FONT=Convergence]A très bientôt, [I]Vatinj-NayLeeQ SEE[/I][/FONT][/RIGHT] [CENTER][FONT=Convergence] [/FONT][/CENTER] [/QUOTE]
Insérer les citations…
Vérification
Publier la réponse
Forums
Forums généraux
RealityGaming
Les 5 problèmes de sécurité potentiels d'une IA selon Google.
Ce site utilise des cookies. En continuant à utiliser ce site, vous acceptez l'utilisation des cookies.
Acceptez
En savoir plus.…
Haut