Menu
IA dans le traitement de l’information : un procédé à double tranchant
C’est un procédé qui, s’il peut s’avérer efficace, n’en reste pas moins controversé. Les outils de l’IA sont capables de récolter, classer et hiérarchiser les informations de façon plus rapide qu’un être humain. Ils peuvent traduire et transcrire un texte d’un clic, « personnaliser » les informations et les adapter à chaque individu. Une méthode qui n’est pas sans conséquence.
Le fait d’adapter une réponse en fonction de la demande de la personne risque de la maintenir dans ses certitudes en réduisant le champ des résultats possibles, et parmi eux, l’information juste et vérifiée.
La faculté de l’IA à exercer certaines tâches inquiète de nombreuses personnes, craignant que la machine ne remplace les humains à certains postes. Il convient d’utiliser l’IA comme « assistant » et non comme « remplaçant ». D’autre part, l’utilisation de l’IA dans le traitement de l’information entraîne un choix éthique.
Malgré le gain de temps, la délégation de certaines tâches pousse vers la facilité et le risque de ne plus réfléchir par soi-même. Les outils de l’IA ne sont pas fiables à 100 %, ils fonctionnent grâce aux algorithmes. Les infos ne sont pas toujours exactes et peuvent même être fausses en apparaissant très convaincantes.
Du pain béni pour ceux qui préfèrent se servir de l’IA pour manipuler l’information. Il est très simple de basculer vers la génération de faits erronés, même involontairement. C’est pourquoi, les outils d’IA sont aussi utilisés pour traquer la désinformation.
IA VS IA : des outils de l’IA pour lutter contre la désinformation causée par l’IA
En utilisant un outil d’IA générative, comme ChatGPT par exemple, il est possible de rédiger un contenu avec les infos de son choix, dont des fausses, et le tour est joué. C’est à la portée de chacun désormais de faire croire n’importe quoi, concernant n’importe qui, y compris des personnalités politiques.
À terme, cela représente un réel danger pour un pays. En Slovaquie, lors des législatives de 2023, un candidat a perdu les élections à cause d’une vidéo truquée, abondamment visionnée. Avec le temps, reconnaître les deep-fakes (technique d’hyper-trucage ou superposition d’image et de son) et les fake-news devient difficile.
Les outils de désinformation sont plus performants. Pour contrer l’IA, il faut souvent faire appel à l’IA. Certains indices (fautes d’orthographe, texte indigeste, répétitions, défauts de l’image, décalage du son), permettent de débusquer les fausses infos. Des outils d’IA sont aussi mis en place, comme les logiciels Deepware ou Illuminarty.
L’IA « ignore » ce qui est moral ou non, vrai ou non, elle ne fait que reprendre des propos et peut « se tromper » de façon très pertinente. C’est pourquoi il faut en permanence effectuer des vérifications. Sans oublier les bonnes vieilles méthodes de croisement des sources. L’Intelligence artificielle n’est pas un outil de vérification.
La génération de plusieurs faux articles augmente l’utilisation de ces derniers comme références par l’IA, risquant d’écraser les vrais. Bien que performants, les outils de l’Intelligence artificielle nécessiteront toujours une surveillance humaine.
Le fait d’adapter une réponse en fonction de la demande de la personne risque de la maintenir dans ses certitudes en réduisant le champ des résultats possibles, et parmi eux, l’information juste et vérifiée.
La faculté de l’IA à exercer certaines tâches inquiète de nombreuses personnes, craignant que la machine ne remplace les humains à certains postes. Il convient d’utiliser l’IA comme « assistant » et non comme « remplaçant ». D’autre part, l’utilisation de l’IA dans le traitement de l’information entraîne un choix éthique.
Malgré le gain de temps, la délégation de certaines tâches pousse vers la facilité et le risque de ne plus réfléchir par soi-même. Les outils de l’IA ne sont pas fiables à 100 %, ils fonctionnent grâce aux algorithmes. Les infos ne sont pas toujours exactes et peuvent même être fausses en apparaissant très convaincantes.
Du pain béni pour ceux qui préfèrent se servir de l’IA pour manipuler l’information. Il est très simple de basculer vers la génération de faits erronés, même involontairement. C’est pourquoi, les outils d’IA sont aussi utilisés pour traquer la désinformation.
IA VS IA : des outils de l’IA pour lutter contre la désinformation causée par l’IA
En utilisant un outil d’IA générative, comme ChatGPT par exemple, il est possible de rédiger un contenu avec les infos de son choix, dont des fausses, et le tour est joué. C’est à la portée de chacun désormais de faire croire n’importe quoi, concernant n’importe qui, y compris des personnalités politiques.
À terme, cela représente un réel danger pour un pays. En Slovaquie, lors des législatives de 2023, un candidat a perdu les élections à cause d’une vidéo truquée, abondamment visionnée. Avec le temps, reconnaître les deep-fakes (technique d’hyper-trucage ou superposition d’image et de son) et les fake-news devient difficile.
Les outils de désinformation sont plus performants. Pour contrer l’IA, il faut souvent faire appel à l’IA. Certains indices (fautes d’orthographe, texte indigeste, répétitions, défauts de l’image, décalage du son), permettent de débusquer les fausses infos. Des outils d’IA sont aussi mis en place, comme les logiciels Deepware ou Illuminarty.
L’IA « ignore » ce qui est moral ou non, vrai ou non, elle ne fait que reprendre des propos et peut « se tromper » de façon très pertinente. C’est pourquoi il faut en permanence effectuer des vérifications. Sans oublier les bonnes vieilles méthodes de croisement des sources. L’Intelligence artificielle n’est pas un outil de vérification.
La génération de plusieurs faux articles augmente l’utilisation de ces derniers comme références par l’IA, risquant d’écraser les vrais. Bien que performants, les outils de l’Intelligence artificielle nécessiteront toujours une surveillance humaine.
