Une machine simulant des humains et répandant des canulars se dispute avec vous sur Internet, préviennent des scientifiques

« J’ai été amené à Oxford en pensant à où finissent vraiment les affaires et où commence la responsabilité envers la société », explique un jeune chercheur et fondateur de l’Institut Internet, qui a quitté sa carrière chez Google et est retourné en République tchèque après avoir étudié en Occident. Il veut faire prendre conscience de l’impact des technologies numériques sur la société et aider à définir leurs limites – afin qu’elles ne nuisent pas aux gens, mais les servent.

Tereza Bartoníčková, une scientifique de 27 ans et lieutenant de la Cyber ​​​​Force de réserve active de l’armée, a décidé de quitter sa carrière dans la communauté mondiale pour passer « de l’autre côté » et aider à définir les limites de la technologie numérique. Selon lui, la relation entre le domaine universitaire et l’État et les entreprises fait fondamentalement défaut en République tchèque. À cette fin, en 2018, il a fondé le groupe de réflexion Internet Institute. « La République tchèque a fait beaucoup d’efforts, mais il s’agissait de fixer les objectifs que notre équipe voulait atteindre », a-t-il résumé son expérience.

Avez-vous vu le documentaire netflix The Social Dilemma ? Beaucoup de gens ont probablement ouvert les yeux sur la façon dont les géants de la technologie comme Facebook utilisent des algorithmes et l’intelligence artificielle (IA en abrégé) pour avoir un impact direct sur nos vies.

Il voit, mais je ne l’aime pas. Les documents sur ce sujet tirent des conclusions exagérées. La façon dont ils traitent le sujet me semble agressive et inutilement intimidante, ce qui, je pense, est le contraire de ce que nous essayons de réaliser, à savoir que les gens ne devraient pas avoir peur de la technologie, ils sont juste conscients de ce qu’ils ‘ fais.

Mais je pense qu’il a été bien démontré dans ce documentaire que l’intelligence artificielle n’est pas un robot qui nous remplacera un jour, mais c’est quelque chose qui affecte nos vies ici et maintenant.

C’est vrai, l’IA est partout. La plupart des programmes fonctionnant sur Internet sont alimentés par l’intelligence artificielle. Le problème est que l’IA ne se limite pas aux plates-formes et aux moteurs de recherche. Il se déplace dans nos voitures, nos réfrigérateurs, nos salons – c’est ce qu’on appelle l’Internet des objets. Par conséquent, les principes d’adressage de l’IA, et non la technologie, doivent être réglementés. Les réglementations spécifiques à la plate-forme ne régiront plus votre machine à café.

Tereza Bartoníčková. | Photo: Jakub Plihal

Vous étudiez à l’Université d’Oxford Internet Sciences sociales. Mais avant cela, vous avez obtenu un baccalauréat en marketing et travaillé chez Google. Donc, vous commencez de « l’autre côté ».

En marketing, j’étudie les principes d’une économie capitaliste, c’est-à-dire toute notre société. L’internet basé sur ces principes capitalistes est incompatible avec les valeurs humaines. Il est donc difficile d’obtenir des financements pour la recherche et la réglementation. Chez Google, je pense à ce que je fais, à tout ce que fait Google. Je me demande à quel point la technologie interfère avec notre façon de penser.

À Oxford, j’ai été amené à réfléchir à la fin des affaires et à la responsabilité communautaire. Je pensais en savoir beaucoup quand je travaillais dans cet environnement, mais en gros, j’ai vu une grosse balle à travers le trou de la serrure, et une fois que je me suis retrouvé dans la balle, ça a été un énorme choc. La profondeur de cette question est discutée – l’impact de la technologie sur l’humanité, le besoin de réglementation – est énorme.

Quelle a été la partie la plus difficile de cette recherche ?

Financement assurément. Les Tchèques ont peu d’élèves dans ces écoles en raison du manque de soutien. Par exemple, la Slovaquie et d’autres pays ont mis en place des bourses, l’étudiant déclarant qu’il travaillera pour le gouvernement pendant un certain temps après l’obtention de son diplôme. Ceci est incroyable; il restitue à l’État ce qu’il a appris au dehors, et l’État lui retire le talent. Les gens ne reviennent pas ici. Tous ceux qui me connaissaient se tapaient à nouveau le front.

Vous traitez donc aujourd’hui des enjeux éthiques et juridiques de l’intelligence artificielle et de l’éventuelle régulation du numérique. Mais qu’est-ce que cela signifie vraiment ? Comment l’expliquerais-tu à tes grands-parents ?

Pour faire simple : je m’assure que le fait que nous évoluions de plus en plus dans le monde numérique n’ait pas d’impact négatif sur nous et que cela soit inscrit dans la loi. C’est pourquoi j’ai fait mon doctorat à la faculté de droit.

C’est la première étape pour accepter le gouvernement Stratégie nationale d’intelligence artificielle à partir de 2019 ?

Il s’agit essentiellement d’une reprise de la stratégie d’intelligence artificielle de l’Union européenne. Il dispose de moyens et rassemble des scientifiques qualifiés dans ce domaine. La République tchèque essaie de le remplir (document de stratégie – note rouge.), quelle est l’efficacité, c’est le débat sur la répartition de l’argent pour la science et la recherche.

Donc le problème est jsuis-je financier?

Le problème est la répartition des fonds et l’établissement d’objectifs. La fixation d’objectifs est une grande pierre d’achoppement en République tchèque en général. Les Tchèques ont fourni beaucoup d’efforts, mais il s’agissait de fixer les objectifs que notre équipe visait.

Est-il vrai que des réglementations inutiles entravent le développement de la technologie au point de réduire notre compétitivité ?

Oui, les mauvaises réglementations nous ralentissent. Par exemple, les opinions nationales sur les raisons pour lesquelles elles devraient être complètement déplacées, non basées sur des données réelles, des situations réelles, ne pensant pas à l’impact, car les créateurs ne pouvaient pas les traduire dans la langue. La technologie. Cela a l’air magnifique lors de l’interrogatoire de Mark Zuckerberg (Fondateur de Facebook – note rouge.) au Congrès. Certains posent de bonnes questions, mais il peut zigzaguer de manière totalement neutre, car il parle avec des mots qui veulent dire autre chose en technologie.

Il est impossible de désactiver un seul composant, une seule ligne de code, dans la technologie. Il existe un concept de « réglementation à l’épreuve du temps », mais il est difficile de le réglementer car nous n’avons pas l’habitude de prendre des données, de voir et de prédire ce qui va se passer.

Cela aiderait-il si un domaine similaire à celui que vous avez étudié à Oxford était créé en République tchèque ?

Ceci n’est pas un champ. Nous avons d’excellents experts en informatique, mais ils sont sous-financés. Il y a un besoin en particulier pour les gestionnaires de la qualité qui sont capables d’identifier les problèmes et de se battre pour leurs solutions avec des angles vifs. Je citerai l’exemple de la Slovaquie, où nous avons réussi à attirer des gens des plus grandes entreprises au gouvernement. Un autre problème est que la majeure partie de l’argent est dépensée pour le développement technologique et l’enseignement technique, et non pour le développement de la réglementation.

Le pourcentage consacré à la science et à la recherche est faible et n’augmente pas malgré les initiatives de l’UE. Nous n’avons même pas encore contacté pour stocker des données en République tchèque. Et c’est impossible sans eux : si nous ne connaissons pas les données, nous ne pouvons pas planifier l’avenir. C’est comme si vous ne savez pas combien vous gagnez et ne planifiez pas comment vous allez vivre.

Et qui devrait faire la collecte ?

L’administration publique sait quelles données sont nécessaires, l’Office tchèque des statistiques en conserve certaines. Ne pas travailler avec eux est une autre affaire. Les entreprises disposent de nombreuses données, mais elles doivent être auditées ou étudiées par des universitaires pour que les résultats qu’elles obtiennent soient pertinents. Il y a un manque de coopération entre l’État, les universités et les entreprises.

C’est pourquoi vous avez fondé le groupe de réflexion en 2018 Institut Internet?

Approprié. Malheureusement, pendant les deux premières années, nous n’avons fait qu’expliquer aux législateurs qu’ils doivent composer avec le droit dans la technologie, car seul le droit peut protéger les citoyens. A l’étranger, des initiatives similaires sont fortement financées par l’Etat ou les universités. L’un de nos objectifs est de créer au moins une base de base pour la recherche dans ce domaine. Nous avons également préparé une formation pour la communauté en collaboration avec Livesport.

Passons au rôle des militaires dans tout cela. Début 2020, vous entrez en réserve active Opérations de commandement et d’information de la Cyber ​​​​Force. Qu’est-ce que tu penses?

Ce n’était pas mon idée, ils m’ont appelé eux-mêmes. J’enseigne pour NUKIB, ils me surveillent là-bas. Je pense que l’avancement actif est une excellente initiative pour engager des experts qui auraient du mal à obtenir un salaire militaire.

Des forces cyber de cette forme ont été formées récemment, respectivement en 2019 et 2020. À quoi s’attaque-t-on maintenant ?

Oui, ils sont une nouvelle force qui répond aux besoins et aux protections de la société d’aujourd’hui. Maintenant que le scénario principal est défini, que peut-il arriver et comment y réagir. Nous, les experts, apportons les dernières informations de notre domaine, nous prêtons attention aux menaces futures et actuelles.

Par exemple, quelles menaces ?

Je dirai cela en termes généraux, comment cela se passe dans le monde. Plusieurs pays organisent des campagnes de désinformation de manière organisée, pas seulement la Chine, mais de nombreux pays. Certains le cachent mieux et d’autres pire. A cela s’ajoutent les cyberattaques sur les « câbles », les fuites ou l’engorgement des infrastructures, qui peuvent rendre impossible la mobilisation de certains types de forces.

Je discute de la tendance actuelle à influencer les citoyens par la désinformation. La désinformation est en fait une opération psychologique classique qui a toujours existé. En Allemagne, par exemple, pendant la Seconde Guerre mondiale, l’Amérique a distribué des préservatifs de taille XL, mais avec des marquages ​​moyens, pour démoraliser les soldats allemands. Je traite donc de la chirurgie psychologique classique, qui s’est déplacée vers l’environnement en ligne.

Quel est le rôle de l’intelligence artificielle ou IA dans la désinformation ?

Gros! Les bottes jouent un rôle important dans la diffusion de fausses informations. Les bots sont de simples programmes basés sur l’IA conçus pour simuler le comportement humain sur Internet. Ils sont programmés pour diffuser des informations erronées et convaincre les autres utilisateurs de leur vérité.

Puis-je savoir que je me dispute avec un bot dans une discussion sur Internet ?

Vous pouvez essayer cela en posant des questions très contextuelles, mais en même temps, parfois, la chaussure ne se rend pas compte qu’elle se dispute avec l’autre chaussure, alors elle s’implique et doit être éteinte.

Mais l’armée doit-elle intervenir contre la désinformation ?

Je pense que le gouvernement devrait lutter contre la désinformation en coopérant avec les militaires. La solution est d’avoir un centre qui y correspond.

Un tel centre existe déjà au sein du ministère de l’Intérieur, le Centre de lutte contre le terrorisme et les menaces hybrides.

Et qu’a-t-il fait ?

Je ne sais pas. Aucune sortie visible.

Eh bien c’est ça. Nous devons unifier la lutte contre la désinformation en un seul centre efficace, fournir des objectifs clairs, consacrer des budgets, utiliser des experts. Nous avons ici des personnes talentueuses qui peuvent le faire au niveau mondial, comme Semantic Visions, nous devons en tirer parti.

VIDÉO : Le gouvernement ne parle pas d’une seule voix, ne comprend pas la désinformation et ne leur donne pas de poids, déclare František Vrabel.

Le ministre n’a jamais été dans une situation comme la pandémie de coronavirus. Il n’y a pas de communication stratégique, le ministère ne comprend pas la désinformation. | Vidéo : Daniela Drtinova

Narcisse Berger

"Introverti certifié. Fanatique d'Internet dévoué. Troublemaker subtilement charmant. Penseur."

Laisser un commentaire

Votre adresse e-mail ne sera pas publiée.