L’intelligence artificielle nous effraie par sa nature mécanique, mais révèle en même temps comment des mécanismes simples nous affectent, déclare la philosophe et experte en intelligence artificielle Dita Malečková.

Il pensait qu’une fois l’enthousiasme initial retombé, l’humanité devrait trouver un moyen de contrôler la nouvelle technologie.

N’excluant pas que l’intelligence artificielle puisse menacer la liberté individuelle, mais en même temps, elle permet un aperçu unique du fonctionnement de la société.

Dans une interview pour Seznam Zprávy, il explique les origines des inquiétudes concernant les nouvelles technologies, les défis qu’elles posent et ce qu’elles peuvent nous dire sur nous-mêmes.

L’intérêt pour l’intelligence artificielle a récemment inondé les réseaux sociaux, les utilisateurs partageant largement ce que la nouvelle technologie peut faire. Cependant, dans certains endroits, cela a suscité des inquiétudes, par exemple au sujet des pertes d’emplois ou de la propagation de fausses informations. Qu’y a-t-il derrière ces soucis ?

La chose de base est une sorte de ressemblance à une machine, un faux, qui est en fait le contraire de l’humanité.

Cependant, il est nécessaire de réaliser que ces machines sont bien sûr liées aux humains – l’intelligence artificielle est un produit des systèmes humains ou une partie de ceux-ci. Et nous voulions en fait un système aussi efficace que possible.

À l’origine de la plupart de ces peurs se trouve la peur que nous, les humains, devenions nous aussi des machines, une partie qui maintiendrait le système entier en marche. Et quelque chose que nous avions l’habitude d’associer principalement au thème de la liberté personnelle ou de la créativité sera perdu.

Pouvez-vous donner un exemple précis? Comment l’intelligence artificielle peut-elle menacer la liberté individuelle ?

Aujourd’hui, lorsque nous parlons d’intelligence artificielle, la plupart des gens font référence à des systèmes génératifs qui créent du texte ou des images. Mais ce n’est vraiment qu’une blague.

L’intelligence artificielle est également liée à la gestion dite algorithmique de la société. Une gestion soumise à une sorte de logique machine – par exemple, les systèmes de reconnaissance faciale ou l’évaluation des personnes dans les espaces publics. Nous aimons l’associer à la Chine, en tant que pays qui affirme un contrôle absolu sur ses citoyens, mais qui est certainement loin d’être uniquement la Chine.

Ceci, par exemple, est également un prêt bancaire ou un système d’assurance maladie. Simplement un domaine où quelqu’un ou quelque chose a évalué quelqu’un aujourd’hui. Dans une situation où ce serait automatisé et où les décisions seraient prises par des machines, il n’y aurait en quelque sorte pas d’appel.

Cependant, l’introduction de l’intelligence artificielle dans ce domaine vise à rendre le travail plus efficace. Peut-on l’empêcher complètement ?

C’est une situation que nous n’avons jamais connue auparavant. Nous sommes assez habitués au fait que les États maintiennent une sorte de règles, qu’il existe des obligations internationales, etc. Mais ce qui prend actuellement le relais, ce sont plusieurs multinationales telles que Google, Amazon, Facebook qui développent l’intelligence artificielle.

Et ces entreprises ne sont pas soumises à un contrôle. Bien sûr, ils sont soumis à une sorte de contrôle, mais les règles varient selon les pays ou les groupes comme l’Union européenne.

Je pense que nous devrions être assez catégoriques sur le fait que même ces commandes de machines, bien que certainement plus précises que les humains dans la plupart des cas, continuent d’être soumises à une sorte de contrôle humain ou de rétroaction humaine.

On peut voir que ces entreprises, à tout le moins, se soucient d’une bonne réputation. Des concessions et des changements d’arrangements ont eu lieu. C’est une sorte d’évolution.

Ce moment place donc la responsabilité sur ceux qui comprennent l’intelligence artificielle au moins d’une certaine manière – universitaires, scientifiques, journalistes. S’intéresser le plus possible au fonctionnement de ces systèmes de machines, où ils sont appliqués. Et si nous constatons une injustice flagrante du système moteur, pour que cette voix soit entendue.

Les attitudes envers l’intelligence artificielle divisent les gens en partisans et en opposants. Pouvez-vous dire quels sont ces groupes ?

Des recherches sont nécessaires de toute urgence pour identifier cette répartition des fans et des détracteurs.

Les supporters sont probablement des gens très flexibles à ce stade. Il s’agissait, par exemple, des habitants des grandes villes et de la plus jeune génération de travailleurs. Notez que leur travail est souvent non engagé et se compose de nombreuses choses différentes. Et comme un réseau de neurones (modèles de calcul permettant des fonctions d’intelligence artificielle, ndlr)en fait, ces personnes ont la capacité d’apprendre presque n’importe quoi.

De la même manière, ils tendent à devenir la cible des critiques de l’ancienne génération, car jugés incompréhensibles. Ils pensent que les jeunes sont paresseux et qu’ils ne savent pas comment voter. De la même manière, la génération plus âgée a peur de l’intelligence artificielle, et peut-être que cela leur enlèvera leur emploi, car même dans ce cas, toute la situation est fluide.

La génération plus âgée se sentira menacée, mais elle peut se sentir menacée par des innovations aussi radicales.

Vous affirmez que l’attitude des gens envers l’intelligence artificielle en dit long sur eux-mêmes. Qu’est-ce que l’intelligence artificielle peut nous dire d’autre sur les humains ?

Cela révèle beaucoup de choses. L’intelligence artificielle est en fait un modèle statistique qui fonctionne avec de grandes quantités de données. Et ces données proviennent de personnes. Soudain, nous avons eu des outils capables de trouver des modèles dans de grandes quantités de données, y compris les populations humaines.

Par conséquent, il peut rechercher ou prédire un comportement typique. On le voit très bien, par exemple dans la publicité ciblée. Tout le monde sait déjà que les algorithmes, en quelque sorte, nous connaissent mieux que nous-mêmes.

Mais en même temps, je pense qu’il est bon de laisser tomber la peur et de voir l’IA comme quelque chose qui se reflète sur nous d’une manière merveilleuse et amusante.

Et que voit-on exactement dans le miroir ?

Un exemple que j’aime bien, c’est les séries Netflix qui sont produites par des bots (pour Internet robot, ndlr). Seuls les algorithmes sont généralement chargés de trier et de prédire quelles séries vous pourriez aimer.

Ils étaient censés faire des films de genre typiques – histoires d’amour, d’horreur, etc. Et tous les clichés associés à un certain genre sont montrés, qui se répètent constamment. C’était vraiment bien de nous montrer comment les choses simples fonctionnent pour nous.

Bien sûr, tout le monde a également entendu parler de cas comme Cambridge Analytica. Il s’agissait en fait d’une analyse des émotions et d’expérimentations de leur diffusion sur les réseaux sociaux.

Lorsque vous combinez cela avec une analyse psychologique très simple, il s’avère que la peur et la colère se propagent beaucoup plus que des émotions plus complexes et complexes.

Mais c’est le genre de mécanisme que les machines n’ont probablement pas besoin de détecter. Cependant, ils peuvent reproduire tout cela avec une vitesse incroyable. Il s’agit d’une sorte de transformation radicale, selon laquelle les personnes habituées à réagir avec souplesse aujourd’hui apprendront à travailler. Mais pour d’autres ce sera difficile, ils ne peuvent pas tout assimiler et leur réaction sera juste la panique.

Est-il possible de prédire comment la relation entre l’homme et l’intelligence artificielle va évoluer aujourd’hui ?

Ces applications système sont encore émergentes et en développement. En fait, un tout nouvel écosystème est en train d’émerger. Et lorsque nous parlons d’un écosystème, une sorte d’autogestion en fera également partie.

L’intelligence artificielle ne fait que susciter l’intérêt du public maintenant, et dans une version si simplifiée. Tout le monde l’apprécie, tout le monde le partage. Et tout le monde prend position contre, ce qui est en quelque sorte la première réaction. La position est soit je l’accepte, soit je la rejette, ce qui peut être prédit avec un haut degré de probabilité.

Mais le plus drôle, c’est que la logique de votre réflexion sur le monde commence à s’adapter à vous avec ces outils – parfois je me retrouve à penser comme un réseau de neurones.

Mais c’est en fait logique. La numérisation nous a donné d’énormes quantités de données, et c’est quelque chose qui nous aide à les gérer. Faire face à quelque chose pour lequel notre système cognitif naturel n’est plus adéquat. Nous avons donc construit un outil pour cela, nous devons juste faire attention à l’utiliser tel quel.