[Débat] Quelle place devons-nous accorder aux algorithmes dans notre société ?

Bonjour à tous.

Très récemment, la CNIL a lancé un vaste programme de débats, d'interventions et de conférences autour de la question des algorithmes dans notre vie courante. Bien qu'invisibles, ce sont eux qui dirigent nos recherches et qui passent leur temps à nous suggérer de nouveaux centres d'intérêt. Depuis les primaires des Républicains puis d'une partie de la gauche, la partialité et l'influence des algorithmes sont au coeur de nombreuses interrogations.

Voici un extrait de l'article publié par la CNIL à ce sujet:

Les algorithmes, un thème nécessaire…

En 2017, cette réflexion portera sur les algorithmes à l’heure de l’intelligence artificielle. En effet, ceux-ci occupent dans nos vies une place importante, bien qu’invisible. Résultats de requêtes sur un moteur de recherche, ordres financiers passés par des robots sur les marchés, diagnostics médicaux automatiques, affectation des étudiants à l’Université : dans tous ces domaines, des algorithmes sont à l’œuvre. Ces derniers mois, le sujet des algorithmes s’est invité dans le débat public et a suscité une forte attention médiatique.

… et des questions complexes

S’agit-il d’une nouvelle révolution industrielle, ou d’un simple moyen d’améliorer la productivité ?
Les algorithmes sont-ils les nouveaux décideurs ?
Ont-ils pour effet de nous enfermer dans une bulle informationnelle, mettant en danger ouverture culturelle et pluralisme démocratique ?
Sont-ils au contraire un moyen d’accéder à des idées, contenus, données ou personnes inaccessibles ou invisibles jusqu’alors ?
Quelle transparence à l’ère des algorithmes : comment concilier transparence et propriété intellectuelle ?
Faut-il repenser, face aux progrès de l’intelligence artificielle, la responsabilité des acteurs publics et privés ?
Comment construire le libre-arbitre dans un monde « algorithmé » ?
Face à ces interrogations, des réactions diverses et souvent passionnées, entre enthousiasme, fascination, inquiétude et contestations se font jour. Les progrès récents de l’intelligence artificielle et du machine learning renforcent encore l’ampleur des défis posés. Faire des algorithmes l’objet d’un vaste débat public pour faire progresser la connaissance et la réflexion par la société civile s’impose donc comme une nécessité.

Les Français et les algorithmes : notoriété et perception

D’après un sondage mené par l’IFOP pour la CNIL en janvier 2017, les algorithmes sont présents dans l’esprit des Français mais de façon assez confuse. Si 83 % des Français ont déjà entendu parler des algorithmes, ils sont plus de la moitié à ne pas savoir précisément de quoi il s’agit (52%). Leur présence est déjà jugée massive dans la vie de tous les jours par 80% des Français qui considèrent, à 65% que cette dynamique va encore s’accentuer dans les années qui viennent.

Concernant l’opinion sur les algorithmes, une courte majorité (53%) estime qu’ils sont plutôt sources d’erreur contre 47 % qui pensent qu’ils sont fiables. Mais, la confiance s’élève à mesure que le niveau de connaissance sur les algorithmes progresse. Un effort de pédagogie et de transparence peut donc contribuer à renforcer la confiance.

Sous un angle marketing, 57% des Français pensent que les algorithmes limitent l’étendue des choix proposés. Chez les plus jeunes, la tendance s’inverse, puisque 53% des moins de 35 et 56% des 18-24 ans mettent plutôt en avant le fait que les algorithmes proposent plus de choix.

Enfin, c’est sous l’angle de la perception citoyenne que l’opinion est la plus tranchée en fonction de l’âge. Si 2/3 des Français (64%) considèrent que les algorithmes représentent plutôt une menace en raison de l’accumulation de données personnelles sur les choix, les goûts et les comportements, les 18-24 ans inversent cette tendance nettement affirmée puisque 51% estiment au contraire que les algorithmes représentent une opportunité.

Un débat public décentralisé, initié par la CNIL

Le rôle de la CNIL consiste à initier un processus de discussion collectif que feront vivre tous ceux – institutions publiques, société civile, entreprises – qui souhaitent y prendre part en organisant des débats et manifestations multiformes. La CNIL  assurera la coordination et la cohérence de ces diverses manifestations.

Lien de l'article complet: https://www.cnil.fr/fr/ethique-et-numerique-les-algorithmes-en-debat-0

Beaucoup de questions. C'est difficile de focaliser sa réponse sur un sujet donné tant les questions sont nombreuses. x)
Je vais juste me contenter de répondre aux dernières interrogations. Sinon ça prendrait des heures et des heures.

Devons-nous leur faire confiance ?

J'ai envie de répondre un peu bêtement "Peut-on faire confiance à des humains ?". Ça peut paraître un peu trollesque dit comme ça mais la probabilité qu'un algorithme se plante est quand même moins élevé que pour un être fait de chair et de sang.
Récemment, nous avons expérimenté un prototype de robot-chirurgien. Pour des réactionnaires comme nous, nés dans le millénaire précédent, ça peut effrayer soyons honnête. Mais peut-être que d'ici cinquante ans, nos petits enfants seront interloqués d'apprendre que nous étions opérés par des humains (et là, on prendra un coup de vieux).
Bien sûr, les algorithmes ne sont pas totalement infaillibles non plus. Je suppose qu'ils peuvent être piratés par exemple. Ça va sans doute faire l'objet de prochains débats dans la mesure où la Google Car risque de remplacer nos voitures actuelles dans les décennies à venir.

Doivent-ils eux aussi être encadrés par la loi ? Dans quelle mesure ?

Difficile de répondre par oui ou par non. Pour être tout à fait honnête, je me demande surtout qu'est-ce que la loi peut faire ? Qui sont à l'origine des algorithmes ? Pour les plus importants, ce sont des multinationales qui transcendent les situations juridiques des différents pays. L'Union Européenne cherche à montrer ses muscles en condamnant à des amendes. Mais qu'est-ce que représente une somme d'argent quand on s'appelle Google et que l'on dirige pratiquement le monde ?
Dans l'absolu, je considère depuis longtemps qu'une gouvernance mondiale avec un cadre juridique plus ou moins unifiée sera nécessaire pour répondre aux nouveaux enjeux technologiques et écologiques. Mais je m'éloigne un peu du débat.

En effet le sujet est très complexe.

Mais pour rebondir sur ce que tu dis, les algorithmes sont justement créés par des humains, pour des humains. En dehors de la fiabilité, rien n'empêche à l'ingénieur de chez Google de mettre en avant les articles négatifs sur le candidat PS et des avis positifs sur le candidat LR sachant qu'aucune législation n'existe.

Je suis ceci dit tout à fait d'accord avec toi sur la nécessité d'un gouvernement mondial. Mais en attendant, les résultats d'un moteur de recherche ou d'un algorithme ne sont pas du tout encadrés, dans aucun pays il me semble. Il est urgent de prendre en considération ces problématiques actuelles afin de faire évoluer la loi. Ceci dit, nous attendons toujours d'autres choses, comme un encadrement plus rigoureux des journalistes.

                            

Je pense que tu as mal compris mon message. Il ne s'agissait que d'un exemple non pas destiné à dénoncer un cas précis comme tu as pu le croire, mais plutôt montrer quelles dérives pourraient arriver — j'ai cru bon de considérer que quiconque devant autant de grossièreté et de manque de subtilité se figurerait aisément qu'il ne s'agissait nullement d'une dénonciation ou d'un fait réel. (:
Pour le reste, je suis sans doute bien moins convaincu que toi de la déontologie et de l'éthique des personnes : il ne me semble pas exclu q'un « petit chèque » fasse changer beaucoup de monde d'avis. Dès qu'il s'agit d'intérêt, les gens ont la fâcheuse tendance à oublier leur intégrité.

De plus, il ne s'agit en aucun cas de vouloir « noircir » de quelque sorte une « image » de l'algorithme : la présence des algorithmes est une réalité sociale que nous devons interroger. Les deux principaux problèmes qui y sont liés sont l'opacité des modes de calcul et des résultats et d'un autre côté la confiance que nous devons placer dans un processus automatisé. Il me semble que ces problématiques sont légitimes, et non pas le fruit d'une pure volonté de nuire à l'image des algorithmes.

Il est vrai que les algorithmes sont devenus pratiquement essentiel, d'une part pour l'évolution technologique sans cesse renouvelée, d'autre part pour mieux comprendre des évènements plus ou moins complexe.

Mais comme l'a dit Gobou, Il reste néanmoins difficile de focaliser une réponse, que ce soit dans la confiance que sa régulation par la loi. Certes, Il y a moins d'erreur grâce à eux, explicable au fait que ces calculs théorique sont parfois 10 fois plus précis en tout point. Toutefois, ces algorithmes sont tous à l’origine élaboré par l’homme, parfois à l’aide de plusieurs individus. Il devient alors difficile d'avoir un ratio de fiabilité égal à 100%. D'où la nécessité d'avoir, tout de même, des personnes humaines afin d'éviter tout problème.

Quant à la régulation dans la loi, même histoire. Il est impossible réellement de le faire, car tout ceci n’est concrètement pas bien unifié par tous. La limite de l’excès n'est donc pas véritablement définie, malgré la limitation souhaitée par les états. C'est par ailleurs l'un des problèmes du nationalisme, que je ne peux, sans trop me tromper, dire qu’il fait partie en intégralité à la société actuelle.