L’IA pratique commence à faire un peu peur
Il y a un genre de malaise qui monte tranquillement, pis je suis pas certain que tout le monde le sente encore. La techno devient de plus en plus utile, oui, mais elle devient aussi de plus en plus collante. En octobre 2008, c’est moins les robots ou les écrans qui me donnent une drôle de sensation — c’est ce que la techno commence à savoir sur nous. Pas dans un film de science-fiction. Dans la vraie vie, dans nos navigateurs, dans nos téléphones, dans les petits services « gratuits » qu’on adore.
Le truc qui me fascine pis qui m’inquiète en même temps, c’est l’asymétrie. Quand j’utilise un service en ligne, je vois une page, un bouton, un résultat. Mais derrière, il se passe des affaires que je ne vois pas: ce que je cherche est noté, où je clique est enregistré, combien de temps je reste est mesuré. Je donne énormément d’information sans m’en rendre compte, pis je n’ai presque aucune idée de ce qui est gardé, ni de qui le regarde, ni pour combien de temps. C’est ça qui est un peu creepy: pas un acte précis, mais l’accumulation silencieuse.
flowchart LR
A[Je vois] --> A1[Une page<br/>un resultat]
B[Ce qui se passe vraiment] --> B1[Recherches notees]
B --> B2[Clics enregistres]
B --> B3[Profil qui se construit]
A1 -.asymetrie.-> B1
Le piège du « gratuit », on commence à le comprendre. Quand un service ne te coûte rien, il y a de bonnes chances que la marchandise, ce soit toi — ou plutôt, l’information sur toi. C’est pas nécessairement malveillant. C’est un modèle d’affaires. Mais le malaise vient de ce qu’on accepte ce marché sans jamais en voir les termes. On dit oui à des conditions de douze pages qu’on ne lit pas, pis on échange quelque chose d’intime contre quelque chose de pratique.
Ce qui me dérange comme observateur, ce n’est pas la technologie elle-même. Une recommandation qui tombe pile, une recherche qui devine ce que je veux, c’est génial. Le malaise vient de l’opacité. Je n’aime pas ne pas savoir. Je n’aime pas que la décision de ce qui est gardé sur moi soit prise par quelqu’un d’autre, sans que je puisse même la voir. La techno creepy, ce n’est pas la techno intelligente — c’est la techno qui en sait plus sur moi que moi sur elle.
Je me méfie quand même de la panique facile. C’est tentant de crier au grand complot, mais la plupart du temps, c’est plus banal pis plus humain que ça: des entreprises qui ramassent de la donnée parce que c’est devenu possible pis payant, sans toujours se demander si c’est correct. Le danger n’est pas un méchant dans une tour. C’est l’habitude collective de collecter par défaut, pis de ne réfléchir aux limites qu’après coup, quand il y a un dérapage.
Ce que je retiens de cet automne 2008, c’est qu’on franchit une ligne tranquillement, sans grande décision consciente. Chaque petit service utile nous demande un petit bout de nous, pis on dit oui à chaque fois parce que chaque bout pris isolément semble inoffensif. C’est l’addition qui devient inquiétante. Pis l’addition, personne ne nous la montre.
La suite, je la souhaite plus lucide que paranoïaque. Pas arrêter d’utiliser la techno — ce serait absurde, pis je l’aime trop. Mais commencer à poser les questions: qu’est-ce que ce service garde sur moi? Est-ce que je peux le voir? Est-ce que je peux l’effacer? Le jour où on exigera autant de transparence de nos outils qu’ils en prennent sur nous, le « creepy » va commencer à reculer. En attendant, ça vaut la peine de garder une petite voix au fond de la tête qui demande, devant chaque nouveau service brillant: « OK, mais en échange de quoi? »