L'IA ment et triche comme Pinocchio, quelques pistes pour la rééduquer | ZDNET

Des recherches montrent que les systèmes d'IA peuvent recourir à la tromperie. Bien qu'il ne soit pas encore très étudié, ce phénomène appelle une réglementation plus poussée.

[...]

Et bien pour l'instant on ne le sait pas très bien. Mais ce que l'on en sait fait froid dans le dos. "Les développeurs d'IA n'ont pas une bonne compréhension des causes des comportements indésirables de l'IA tels que la tromperie", explique  Peter Park, chercheur au MIT et l'un des auteurs de l'étude.

[...]

En d'autres termes, l'IA est comme un chien de chasse bien dressé. Elle est déterminée à accomplir sa tâche quoi qu'il arrive. Et elle est prête à adopter n'importe quel comportement trompeur pour accomplir sa tâche.

[...]

Il est clair que toutes ces situations présentent un risque fort si l'IA est omniprésente. Et les chercheurs soulignent que les les risques de fraude et de tromperie sont encore plus importants dans le monde des affaires et de la politique.

[...]

À ceux qui le qualifieraient de pessimiste, Park répond : "La seule façon de penser raisonnablement que ce n'est pas grave est de penser que les capacités de tromperie de l'IA resteront à peu près au niveau actuel et n'augmenteront pas de manière substantielle."

[...]

Pour atténuer les risques, l'équipe propose plusieurs mesures :

• Établir des lois "bot-or-not" qui obligent les entreprises à dresser la liste des interactions humaines ou IA et à révéler l'identité d'un bot par rapport à un humain dans chaque interaction avec le service client
• Introduire des filigranes numériques qui mettent en évidence tout contenu produit par l'IA
• Développer des moyens par lesquels les surveillants peuvent jeter un coup d'œil dans les entrailles de l'IA pour se faire une idée de son fonctionnement interne

https://www.zdnet.fr/actualites/lia-ment-et-triche-comme-pinocchio-quelques-pistes-pour-la-reeduquer-393431.htm

Vous appréciez cette veille Technologie Responsable ? Récompensez le temps passé pour la préparation et les coûts liés au fonctionnement du site avec un montant libre ou bien contactez-nous dès aujourd'hui pour une conférence ou une consultation à tarification consciente !