Istyablog : pour savoir en toute décontraction

Istyablog : pour savoir en toute décontraction

La nouvelle menace du piratage de l'Intelligence artificielle

Accident Tesla.PNGC'est un sujet ultrasensible, qui n'a jamais encore été abordé publiquement par Google, Facebook, Uber.... Plusieurs études récentes ont montré l'incroyable vulnérabilité des modèles de vision artificielle à de savantes et minuscules perturbations - imperceptibles pour un humain - qu'un hacker pourrait introduire dans les images à traiter : face à une photo de lion subtilement modifiée, l'algorithme en vient à détecter, avec une grande confiance, une bibliothèque ou un panda !
Sur le principe, un attaquant pourrait très bien coller sur un panneau « Stop » une image de ce panneau légèrement modifiée qui changerait totalement la décision d'une voiture autonome. On imagine aisément les conséquences possibles.
Beaucoup de laboratoires cherchent désormais à rendre ces systèmes plus robustes, et certains résultats préliminaires sont encourageants. Mais, comme pour la cybersécurité classique, les attaquants semblent avoir l'avantage.
Un nouveau péril auquel personne ne s'attendait vraiment...



18/08/2017
0 Poster un commentaire

A découvrir aussi


Inscrivez-vous au blog

Soyez prévenu par email des prochaines mises à jour

Rejoignez les 45 autres membres